Bugüne kadar yapay zekanın sadece “içerik üreten” bir araç olduğunu sandık ve büyük resmi kaçırdık. Asıl büyük oyun, bilginin doğruluğunu kontrol eden mekanizmaların ele geçirilmesiyle başladı.
Bir fotoğrafın gerçekliğini test etmek için güvendiğimiz o koskoca analiz siteleri, artık yalanın en büyük ortağı haline gelmiş durumda.
Sistem öyle bir noktaya geldi ki, yapay zekanın söylediği bir yalana, onu denetlemesi gereken başka bir yapay zeka körü körüne onay veriyor.
Dijital dünyanın doğruluk kaleleri tek tek çökerken, insanlık olarak mutlak bir inançsızlık girdabına sürükleniyoruz.
Gözümüzün gördüğü her şeyin yalan olabileceği, doğrulayıcıların bile bu yalana hizmet edeceği o manipülasyon çağı artık bir teori değil, tam karşımızda duran bir gerçek…
Her şey, Twitter’da (X) hızla yayılan ve milyonlarca izlenme alan absürt bir Donald Trump fotoğrafıyla başladı.
https://x.com/i/status/2065455793059598646
Fotoğrafta Donald Trump, Beyaz Saray’ın bahçesinde gizli bir kamera açısıyla, Game of Thrones evreninden fırlamış gibi duran bembeyaz saçlı, kırmızı kadife ceketli fantastik figürlerle (Targaryen meclisiyle) sözde gizli bir toplantı yapıyordu.
Mizah amaçlı üretilen bu görsele binlerce insan gerçek muamelesi yaptı. İşin daha da garibi, insanlara bunun yapay zeka olduğunu kanıtlamaya çalıştığımızda başvurduğumuz o popüler “yapay zeka tespit siteleri” (AI detectors) çaresiz kaldı, resmen cortladılar.
İşte bu çaresizlik, dijital dezenformasyonun ve analiz sitelerinin zavallılığını kanıtlayan dehşet verici bir deneyin fitilini ateşledi:
Sistemleri Nasıl Kör Ettim? (Hitler Fotoğrafı Deneyi)
Yapay zeka tespit sitelerinin sadece basit hilelerle nasıl ters köşe yapılabileceğini canlı canlı test etmek için süreci bir adım daha ileri taşıdım:
Üretim Aşaması: ChatGPT (DALL-E 3) üzerindeki güvenlik filtrelerini aşarak, bu kez Adolf Hitler’i aynı fantastik dizi karakterleriyle yan yana gösteren tamamen imkansız bir görsel ürettim.
Manipülasyon: Görselin yapay zeka izlerini silmek ve sistemleri yanıltmak için çok basit bir hile uyguladım: Fotoğrafı sadece siyah-beyaz hale getirip, orijinal fotoğraftan ekran görüntüsü (screenshot) alarak arkasındaki tüm teknik verileri sıfırladım.
Sistemin Çöküşü: Daha sonra bu tamamen sahte, tarihsel olarak imkansız görseli dünyanın en güvenilir yapay zeka tespit sistemlerinden biri olan Hive Moderation’a yükledim.
Sonuç tam bir fiyasko: Sistem, piksellerin arkasındaki renk manipülasyonunu ve gizli yapay zeka imza verilerini kaybedince tamamen kör oldu. Ayrıca fotoğrafta belirgin tutarsızlıklar olmaması da, doğrulama aracının bu imkansız görsele “%0.3 Yapay Zeka”, yani “%99.7 KESİNLİKLE GERÇEK” raporu vermesine sebep oldu!
Bu Neden Dehşet Verici?
Buradaki tehlike, sadece birilerinin sahte fotoğraf üretmesi değil. Asıl tehlike, doğrulama sitelerinin yalana meşruiyet kazandırması.
Yarın kötü niyetli bir aktör, toplumsal infial yaratacak sahte bir siyasi skandalı veya askeri bir sızıntıyı Twitter’a servis etmeden önce bu sitelerde test edecek ve “%100 Gerçek” onayını aldığı an piyasaya sürecek.
Karşı çıkanlara da şu savunmayı yapacaklar: “Bakın, koskoca analiz siteleri bile gerçek diyor!”
Gerçeğin İki Başlı Ölümü
Bu yeni inançsızlık çağında bizleri iki korkunç senaryo bekliyor:
Birincisi; kitleler, arkasına bu tarz “sahte teknolojik onayları” almış devasa yalanlara körü körüne inanacak.
İkincisi ve en tehlikelisi; yarın gerçekten tarihi bir skandal, gerçek bir kanıt ortaya çıktığında, suçlular çok rahat bir şekilde “Bu yapay zeka, zaten doğrulama siteleri de düzgün çalışmıyor” diyerek gerçeği tamamen inkâr edebilecek.
Sistemlerin sadece piksellere bakıp mantığı unuttuğu, yapay zekanın yalanına yine bir yapay zekanın onay bastığı bu çağda; artık sadece gördüklerimizden değil, “altına imzamı atıyorum” diyen teknolojilerden de şüphe etmek zorundayız.
Gerçeğimiz ve yalanımız artık dijital bir veriden ibaret ve o veri saniyeler içinde manipüle edilebiliyor.
Mutlak inançsızlık çağına hoşgeldiniz.