Bir çocuğun karanlık odadaki ceketi canavar sanmasıyla yapay zekânın gerçekte var olmayan bir bilgi üretmesi, ilk bakışta birbirinden tamamen farklı olaylar gibi görünür. Oysa yapay zekâ halüsinasyonu ile insan zihninin karanlıktaki boşluğu doldurması arasında önemli bir benzerlik vardır. İnsan beyni eksik görüntüyü anıları ve beklentileriyle, yapay zekâ ise eğitim sırasında öğrendiği dilsel ilişkilerle tamamlar.

Gece karanlık bir odada duran sandalye, kapının arkasına asılmış bir palto veya duvara vuran bir gölge kolaylıkla insana benzeyebilir. Bir çocuk bu belirsiz şekli canavar, yetişkin biri ise eve girmiş bir yabancı sanabilir. Işık yakıldığında gördüğümüz şeyin sıradan bir eşya olduğunu anlarız. Ancak ışık yanana kadar zihnimiz eksik görüntüyü kendi tahminleriyle tamamlamıştır.

Yapay zekâ halüsinasyonu da buna benzeyen bir sonuç üretir. Yapay zekâ bir sorunun cevabını yeterince bilmiyorsa bazen “Bilmiyorum” demek yerine kulağa son derece mantıklı gelen fakat gerçekte var olmayan bir isim, kitap, araştırma, tarih veya olay oluşturabilir. Üstelik bunu çoğu zaman tereddüt etmeden, son derece düzgün bir dille anlatır.

İnsan beyninin karanlıkta canavar görmesiyle yapay zekânın yanlış bilgi üretmesi aynı mekanizma değildir. Fakat iki durumda da belirsizliğin boş bırakılmaması ve eldeki örüntülerle anlamlı bir bütüne dönüştürülmesi söz konusudur.

İnsan beyni belirsizliği neden sevmez?

İnsan beyni, çevreden gelen bilgileri yalnızca kaydeden pasif bir kamera değildir. Gözlerden, kulaklardan ve diğer duyulardan gelen verileri sürekli yorumlar; geçmiş deneyimlerden, beklentilerden ve içinde bulunulan koşullardan yararlanarak gördüğü dünyanın anlamını kurar.

Karanlıkta görsel veri azaldığında beynin işi zorlaşır. Bir nesnenin yalnızca dış hatları seçiliyor, rengi ve ayrıntıları görülemiyorsa zihin eksik parçaları tamamlamaya çalışır. Çünkü evrimsel açıdan belirsiz bir şekli tehlike sanarak kaçmak, gerçek bir tehlikeyi önemsiz bir gölge sanmaktan daha güvenlidir.

Çalılıktaki hareketi yırtıcı hayvan zannedip kaçan insan gereksiz yere yorulmuş olabilir. Fakat gerçekten bir yırtıcı hayvanı rüzgârın hareketi sanan insanın ikinci bir tahmin yapma şansı kalmayabilir. Bu nedenle beynimiz kimi durumlarda yanlış alarm vermeye yatkındır.

Karanlıktaki ceketin insana benzetilmesinde yalnızca görsel eksiklik değil, beklenti ve korku da rol oynar. Korku filmi izledikten sonra odadaki gölgelerin daha tehditkâr görünmesi boşuna değildir. Beyin, gördüğünü yalnızca gözden gelen bilgilerle değil, o sırada ne görmeyi beklediğiyle de yorumlar.

Pareidolia nedir?

Belirsiz veya rastgele görüntülerde tanıdık şekiller görme eğilimine pareidolia denir. Bulutlarda hayvanlar görmek, Ay’ın yüzeyinde insan yüzü seçmek veya bir otomobilin farlarıyla ön ızgarasını yüze benzetmek bunun yaygın örnekleridir.

Pareidolia genellikle bir hastalık veya algı bozukluğu değildir. İnsan beyninin örüntü tanıma yeteneğinin doğal bir sonucudur. Özellikle yüzleri çok hızlı tanımaya eğilimliyiz; çünkü başka insanların kimliğini, duygusunu ve niyetini anlayabilmek sosyal yaşam açısından büyük önem taşır.

Gestalt psikolojisindeki tamamlama ilkesi de bu durumu anlamaya yardımcı olur. Zihin, eksik çizgileri ve parçalanmış şekilleri bağımsız parçalar olarak bırakmak yerine anlamlı bir bütün hâlinde görmeye çalışır. Bir çemberin bazı bölümleri eksik olsa bile onu çember olarak algılamamız bundandır.

Karanlık odadaki canavar, pareidolia, beklenti, korku ve eksik duyusal verinin birlikte oluşturduğu bir tahmindir. Beyin görüntüyü bütünüyle uydurmaz; gerçekten gördüğü belirsiz şekli, daha önce öğrendiği anlamlı kalıplardan birine yerleştirir.

Yapay zekâ halüsinasyonu nasıl oluşur?

Büyük dil modelleri ne kusursuz bir bilgi bankası ne de gerektiğinde doğru sayfayı açan bir ansiklopedidir. Eğitimleri sırasında çok büyük miktarda metindeki dilsel ve kavramsal ilişkileri öğrenirler. Kullanıcı bir soru sorduğunda cevap, bu öğrenilmiş ilişkilerden hareketle oluşturulur.

Dil modeli cümleyi tek seferde hazır hâlde bulmaz. Metni, “token” adı verilen kelime veya kelime parçalarını sırayla seçerek üretir. Her aşamada bağlama uygun gelecek sonraki token için olasılıklar hesaplanır. Bu süreç sonunda dilbilgisi düzgün, tutarlı ve çoğu zaman bilgi bakımından doğru cevaplar ortaya çıkabilir.

Fakat modelin belirli bir konu hakkında yeterli veya güvenilir örüntüsü bulunmadığında sorun başlar. Sistem yine de dilsel olarak tutarlı bir cevap üretmeye çalışabilir. Gerçekte yayımlanmamış bir akademik makaleye inandırıcı bir başlık verebilir, yaşamamış bir araştırmacının adını söyleyebilir veya gerçek olayların parçalarını birleştirerek hiç yaşanmamış bir tarihsel olay oluşturabilir.

Buna yapay zekâ halüsinasyonu denir. Buradaki “halüsinasyon” sözcüğü mecazidir. Yapay zekâ gerçekte bir şey görmez, duymaz veya gördüğünü sanmaz. Yanlış bilgi, modelin bilinçli biçimde yalan söylemesinden de kaynaklanmaz. Sistem, doğru olup olmadığını insan gibi kavramadan, bağlama en uygun görünen metni üretir.

Yapay zekâ neden “Bilmiyorum” demez?

Bir dil modelinin temel yeteneği, verilen bağlama uygun bir yanıt üretmektir. Kullanıcı bir kitap, kişi veya olay hakkında soru sorduğunda model çoğu zaman bir cevap beklendiğini varsayar. Elindeki bilgi yetersiz olsa bile dilsel örüntülerden hareketle boşluğu doldurabilir.

Sorun şudur: Dil bakımından olası olanla gerçek dünyada doğru olan aynı şey değildir.

“Profesör Jonathan Mercer’ın 2018 yılında yayımlanan Digital Memory and Society adlı kitabında…” biçimindeki bir cümle akademik yazı kalıplarına son derece uygundur. İsim, tarih ve kitap başlığı birbirleriyle uyumlu görünebilir. Fakat ne profesörün ne de kitabın gerçekten var olması gerekir. Model, akademik kaynakların nasıl ifade edildiğini doğru öğrenmiş ama bu örnekte gerçek bir kaynağı aktarmak yerine o kalıba benzeyen yeni bir kaynak üretmiş olabilir.

Karanlıktaki şeklin insana benzemesi de benzer biçimde makuldür. Şeklin başı, omuzları ve gövdesi varmış gibi görünür. Görüntü anlamlıdır; yalnızca doğru değildir.

İnsan algısıyla yapay zekâ halüsinasyonunun ortak noktası

İki sistem arasındaki ilk benzerlik, eksik veriyi tamamlamalarıdır. İnsan beyni belirsiz görüntüyü hafıza, beklenti ve çevresel ipuçlarıyla yorumlar. Yapay zekâ ise eksik bilgiyi öğrendiği dil ve kavram ilişkileriyle tamamlar.

İkinci benzerlik, tutarlılığın gerçeklikle karıştırılabilmesidir. Karanlıktaki karaltının insan biçiminde görünmesi onun gerçekten insan olduğunu kanıtlamaz. Yapay zekâ tarafından üretilen düzgün bir paragraf da içindeki bilgilerin doğru olduğunu garanti etmez.

Üçüncü benzerlik, girdinin niteliğinin sonucu etkilemesidir. Karanlık odada ışığın yakılması beyne daha fazla görsel veri sağlar. Yapay zekâya açık bir bağlam, güvenilir belgeler ve sınırları belirlenmiş bir soru verilmesi de modelin daha sağlam bir cevap üretmesine yardımcı olabilir.

Ancak burada önemli bir uyarı gerekir: Ayrıntılı bir komut yapay zekâ halüsinasyonunu azaltabilir ama bütünüyle ortadan kaldırmaz. Yanlış bilgi bazen çok açık sorularda da üretilebilir. Bu nedenle özellikle tarih, hukuk, sağlık, akademik kaynaklar ve güncel olaylar söz konusu olduğunda cevapların bağımsız kaynaklardan doğrulanması gerekir.

Temel fark: Biri algılıyor, diğeri metin üretiyor

İnsan beyninin karanlıkta canavar görmesiyle yapay zekânın yanlış kaynak üretmesi arasında güçlü bir benzetme kurulabilir. Fakat bunların aynı mimariye veya aynı zihinsel sürece dayandığını söylemek doğru değildir.

İnsan beyni yaşayan bir organizmanın parçasıdır. Korku, dikkat, hafıza, duyusal algı ve hayatta kalma güdüsü birlikte çalışır. Karanlıktaki şekil yeni duyusal bilgiler geldiğinde yeniden değerlendirilir. Işığı açtığımızda beynimiz tahminini ceketin gerçek görüntüsüyle karşılaştırabilir.

Dil modelinin korkusu, niyeti veya hayatta kalma güdüsü yoktur. Model, kendisine verilen girdiye karşılık metin üretir. Ürettiği cümlenin gerçek dünyadaki bir olguyla uyuşup uyuşmadığını kendiliğinden ve sürekli biçimde gözlemlemez. Güvenilir kaynaklara erişim, arama veya doğrulama araçları verilmediğinde kendi cevabını dış dünyayla sınama imkânı sınırlıdır.

İnsan yanlış bir gölge gördüğünde korkabilir. Yapay zekâ ise yanlış bir bilgi yazdığında o bilginin yanlışlığından utanmaz, endişelenmez veya şüphe duymaz. Çünkü bunları hissedecek bir öznel deneyime sahip değildir.

Yapay zekâ halüsinasyonu nasıl azaltılır?

Yapay zekâdan alınan cevaplarda yalnızca anlatımın düzgünlüğüne güvenmemek gerekir. Modelden kaynak göstermesi istenebilir; ancak verilen kaynakların gerçekten var olup olmadığı ayrıca kontrol edilmelidir. “Emin olmadığın noktaları belirt”, “bilmediğin bilgiyi uydurma” veya “yalnızca verdiğim belgeyi kullan” gibi sınırlar yararlı olabilir, fakat bunlar da mutlak güvence sağlamaz.

En etkili yöntem, yapay zekâya doğrulanabilir veri sağlamak ve önemli bilgileri bağımsız kaynaklarla karşılaştırmaktır. Bir belge özetleniyorsa belgenin kendisi modele verilmelidir. Güncel bir bilgi soruluyorsa güvenilir kaynaklarda arama yapılmalıdır. Akademik makale, mahkeme kararı, istatistik veya doğrudan alıntı isteniyorsa kaynak açılıp kontrol edilmelidir. Bu işlem için hazırlanan bilgi doğrulama araçları, iddiaların kaynağını ve gerçekliğini araştırmayı kolaylaştırabilir.

Bir yapay zekâ sistemini değerlendirirken yalnızca ne kadar düzgün konuştuğuna değil, belirsizlik karşısında nasıl davrandığına da bakmak gerekir. Bu açıdan farklı sistemleri sınayan yapay zekânın hasını anlama testi de akıcı cevapla güvenilir cevap arasındaki ayrımı düşünmek için yararlı bir başlangıç sunar.

Başka bir ifadeyle, yapay zekânın bulunduğu odada ışığı yakmak gerekir.

Karanlıktaki ceket ile uydurulmuş kaynak arasındaki bağ

Karanlıkta gördüğümüz cekete canavar anlamı yükleyen zihinle var olmayan bir akademik kaynağı inandırıcı biçimde anlatan yapay zekâ aynı yapıya sahip değildir. Ancak ikisi de eksik verinin bulunduğu bir ortamda, eldeki örüntülerden hareketle makul bir bütün oluşturabilir.

İnsan beyninin tahmini korkularından, deneyimlerinden ve hayatta kalma mekanizmalarından etkilenir. Yapay zekânın tahmini ise eğitim sırasında öğrendiği istatistiksel ilişkilerden ve kendisine verilen bağlamdan doğar.

Sonuç bazen şaşırtıcı derecede benzerdir: Ortaya çıkan şey mantıklı görünür fakat gerçek değildir.

Bu nedenle gerek karanlıkta gördüğümüz bir gölgeyle gerek yapay zekânın kendinden emin biçimde verdiği bir cevapla karşılaştığımızda aynı temel soruyu sormak gerekir:

Gördüğümüz şey gerçekten orada mı, yoksa eksik bilgiyi biz mi tamamlıyoruz?