Jacob N. Shapiro
Chris Mattmann
New York Times
Geleceğin güvenli olabileceğine inanmak için nedenlerimiz olsa da geçmişin güvenli olmadığından endişeleniyoruz.
Deepfake’in politikacıların seslerini bu kadar inandırıcı şekilde taklit ederek seçimleri etkileyebilecek skandallar ortaya çıkarmak için kullanılabileceği bir dünya hayal etmemize gerek yok. Zaten içinde yaşıyoruz. Neyse ki toplumun sahte medyayı tespit etme ve güncel olaylara ilişkin ortak bir anlayışı sürdürme becerisi konusunda iyimser olmak için çok sayıda neden var.
Geleceğin güvenli olabileceğine inanmak için nedenlerimiz olsa da geçmişin güvenli olmadığından endişeleniyoruz.
Tarih, manipülasyon ve suiistimal için güçlü bir araç olabilir. Güncel olayları taklit edebilen aynı üretken yapay zekâ, geçmiş olayları da taklit edebilir. Yeni içerikler yerleşik sistemler aracılığıyla güvence altına alınabilse de, filigranlanmamış dünya dolusu içerik var; kaynağın izlenebilmesini sağlayan filigranlama, dijital bir dosyaya fark edilemez bir enformasyon eklenerek yapılıyor. Dosya yaratılırken filigranlama yapmak yaygınlaştığında ve insanlar filigransız içeriğe güvenmemeye başladığında, o noktadan önce üretilen her şey çok daha kolay sorgulanabilir.
Ve bu, tarihi figürleri tehlikeli durumlara yerleştiren fotoğraflardan tarihi gazetelerdeki bireysel hikâyeleri değiştirmeye, tapu senetlerindeki isimleri tahrif etmeye kadar yapay belgelerle üretilen yanlış iddiaları durdurmaya yönelik bir fırsatlar hazinesi ortaya çıkaracaktır. Bu tekniklerin tümü daha önce kullanılmış olsa da, mükemmele yakın sahte ürünler yaratmanın maliyeti radikal şekilde azaldığında bunlara karşı koymak çok daha zor.
Tarihi yeniden yazmak
Bu saptama tarihe dayanmaktadır. Ekonomik ve siyasi güçlerin tarihi kayıtları kendi amaçları doğrultusunda nasıl manipüle ettiğine dair pek çok örnek var. Stalin, kendisine sadık olmayan yoldaşları idam ettikten sonra fotoğraf kayıtlarında değişiklik yapıp onları sanki hiç var olmamış gibi göstererek tarihten temizledi. Slovenya, 1992’de bağımsız bir ülke haline geldiğinde, çoğunluğu Roman azınlık ve diğer etnik Sloven olmayanlar olmak üzere 18.000’den fazla kişiyi ikamet kayıtlarından sildi. Avrupa Konseyi İnsan Hakları Komiserinin 2003 tarihli bir raporuna göre, birçok durumda hükümet bu insanların fiziksel kayıtlarını yok ederek evlerini, emekli maaşlarını ve diğer hizmetlere erişimlerini kaybetmelerine yol açtı.
Sahte belgeler, tarihi kayıtları yeniden yazmaya yönelik birçok çabanın önemli bir parçasıdır. İlk kez 1903’te bir Rus gazetesinde yayınlanan “Siyon Büyüklerinin Protokolleri” adlı kötü ünlü belgenin, dünyayı kontrol etmeye yönelik bir Yahudi komplosunun toplantı tutanakları olduğu iddia edilmişti. İlk kez Ağustos 1921’de birçok ilgisiz kaynaktan intihal yoluyla derlenmiş sahte belgeler olarak ipliği pazar çıkarılan Protokoller, Nazi propagandasının belirgin bir unsuruydu ve Hamas’ın 1988’deki kuruluş sözleşmesinin 32. maddesinde yer alan bir alıntı da dahil olmak üzere, uzun süre antisemitist şiddeti meşrulaştırmak için kullanıldı.
1924’te, Moskova’daki Komünist Enternasyonalin başkanının Büyük Britanya Komünist Partisi’ne gönderdiği Sovyetler Birliği ile ilişkilerin normalleştirilmesinin desteklenmesine yönelik gizli bir bildiri olduğu iddia edilen Zinovyev Mektubu, genel seçimlerden dört gün önce The Daily Mail’de yayınlanmıştı. Ortaya çıkan skandal, İşçi Partisi’nin seçimleri kaybetmesine mal olmuş olabilir. Mektubun kökeni hiçbir zaman kanıtlanamadı, ancak gerçekliği o zamandan beri sorgulandı ve 1990’larda yapılan resmi bir soruşturma bunun büyük olasılıkla o zamanlar Komünist hükümete karşı çıkan muhafazakâr bir siyasi grup olan Beyaz Rusların işi olduğu sonucuna vardı.
Onlarca yıl sonra , bir Sovyet dezenformasyon kampanyası olan Enfeksiyon Operasyonu, ABD’nin AIDS’e neden HIV virüsünü biyolojik bir silah olarak icat ettiği fikrini yaymak için sahte belgeler kullandı. Ve 2004’te CBS News belgelerin doğruluğunu kanıtlayamadığı tartışmalı bir haberi geri çekmişti, çünkü daha sonra o zamanki başkan George W. Bush’un Teksas Hava Ulusal Muhafızlarındaki önceki hizmetini sorgulayan bu belgelerin sahte olduğu ortaya çıktı. Tarihsel dezenformasyon üretmek kolaylaştıkça ve dijital sahtekârlıkların hacmi arttıkça, tarihi yeniden şekillendirmek veya en azından ona dair mevcut anlayışımızı sorgulamak için fırsatlar ortaya çıkacak.
Siyasi aktörlerin, tarihi etkili şekilde yeniden şekillendirmek için üretken yapay zekâyı kullanma olasılıkları (sahte yasal belgeler ve işlem kayıtları oluşturan dolandırıcılardan bahsetmiyorum bile) korkutucu. Neyse ki, riski yaratan aynı şirketler tarafından ileriye yönelik bir yol açıldı.
Fikri mülkiyet ne olacak?
Yapay zekâ şirketleri, modellerini eğitmek için dünyadaki dijital medyanın büyük bir kısmını endekslerken yakında insanlığın dijital olarak kaydedilen içeriğinin tamamını veya en azından anlamlı bir yakınlaştırmasını içerecek sistemler ve veri tabanlarını da etkili şekilde yaratmış oldular. Şimdi gazete arşivlerini ve çok çeşitli diğer kaynakları içeren bu birincil belgelerin filigranlı versiyonlarını kaydetmek için çalışmaya başlayabilirler, böylece bundan sonra yapılacak sahtecilikler anında tespit edilebilir.
Bu tür çalışmalar bazı engellerle karşı karşıyadır. Google’ın dijital kütüphanelerinin dünyadaki milyonlarca kütüphane kitabını tarama ve bunları çevrimiçi olarak kolayca erişilebilir hale getirme çabası, fikri mülkiyet sınırlarına takıldı ve bu metinleri internet bağlantısı olan herkes tarafından aranabilir kılma amacına yönelik olan tarihi arşivi kullanılamaz hale getirdi. Aynı fikri mülkiyet kaygıları, içerik oluşturucuların ve şirketlerin üretken yapay zekâya eğitim verileri sağlamak ve içerik oluşturmak konularında endişelenmesine neden oluyor.
Google’ın dijital kütüphaneler projesine yaptığı başarısız yatırım da dahil olmak üzere bu problemli geçmiş göz önüne alındığında, tarihsel verilerin değişmez versiyonlarını yaratacak benzer büyük bir çabanın bedelini kim ödeyecek? Hem hükümet hem de endüstri bunu yapmak için güçlü teşviklere sahiptir ve erişilebilir bir çevrimiçi arşiv sağlamaya ilişkin fikri mülkiyet kaygılarının çoğu, belgelerin filigranlı ve zaman damgalı versiyonlarının oluşturulması açısından geçerli değildir. Çünkü bu versiyonların, kendi amaçlarına hizmet etmek için kamuya açık hale getirilmesine gerek yoktur. Talep edilen bir belge, belgenin hash olarak bilinen matematiksel bir dönüşümü kullanılarak kayıtlı arşivle karşılaştırılabilir; bu, Küresel Terörle Mücadele İnternet Forumunun şirketlerin bilinen terörist içerikler için tarama yapmasına yardımcı olmak için kullandığı tekniğin aynısıdır.
Önemli bir kamu yararı yaratmanın ve vatandaşları tarihi anlatıların manipülasyonunun yol açtığı tehlikelerden korumanın yanı sıra, tarihi belgelerin doğrulanmış kayıtlarını oluşturmak büyük yapay zekâ şirketleri için değerli olabilir. Yeni araştırmalar, yapay zekâ modellerinin yapay zekâ tarafından oluşturulan veriler üzerinde eğitildiğinde performanslarının hızla düştüğünü gösteriyor. Bu nedenle, gerçekte tarihsel kayıtların bir parçası olan şeyleri yeni yaratılan “olgulardan” ayırmak kritik olabilir.
Dijital parşömen
Geçmişi korumak aynı zamanda eğitim verilerinin, üzerinde çalışan ilgili araçların ve hatta araçların çalıştırıldığı ortamın da korunması anlamına gelecektir. İnternetin ilk öncülerinden Vint Cerf, bu tür kayıtlara “dijital parşömen” adını verdi ve bizim de enformasyon ortamını güvence altına almak için buna ihtiyacımız var.
Böyle bir parşömen güçlü bir araç olacaktır. Şirketlerin, en iyi içeriği elde etmek için hangi verileri dahil etmeleri gerektiğini analiz etmelerini sağlayarak daha iyi modeller oluşturmalarına ve düzenleyicilerin modellerdeki önyargıları ve zararlı içerikleri denetlemesine yardımcı olabilir. Teknoloji devleri, kendi modellerinin oluşturduğu yeni içeriği kaydetmek için zaten benzer çabalar yürütüyorlar; bunun nedeni kısmen, modellerini insanlar tarafından oluşturulan metinler üzerinde eğitmelerinin gerekli olmasıdır, çünkü büyük dil modellerinin benimsenmesinden sonra üretilen veriler, oluşturulmuş içerikle lekelenebilmektedir.
Politik hayatımızın üretilen tarih tarafından ciddi şekilde çarpıtılması daha gündeme gelmeden, bu çabayı geçmişe doğru da genişletmemizin zamanı geldi.
Yorum yaz