Gece karanlık bir odada asılı ceketi bir anlığına canavar sanabiliriz. Birkaç gölge, beynin saniyeler içinde tehditkâr bir varlık kurmasına yeter. Yapay zekâ halüsinasyonu da buna benzeyen bir şaşkınlık yaratır. Sistem, gerçekte bulunmayan bir mahkeme kararını kusursuz bir dille anlatabilir. İnsan beyniyle yapay zekâ aynı mekanizmayı kullanmaz. Ancak ikisi de eksik veriyi tanıdık örüntülerle tamamlar.

Kritik benzerlik, ortaya çıkan sonucun makul görünmesidir. Karanlıktaki şekil gerçekten insana benzer. Hayalî mahkeme kararında da isim, tarih ve hukuk dili bulunur. İlk bakışta bütün parçalar doğru yerde durur. Fakat bu anlamlı bütünün gerçek dünyada hiçbir karşılığı olmayabilir.

Bu yüzden yalnızca bilgisayarların çalışma biçimine bakmak yetmez. İnsan zihninin düzgün anlatımlara neden güvendiğini de anlamak gerekir. Çünkü yapay zekâ hatayı üretirken insan zihni ona inanabilir.

İnsan beyni gördüğünü kaydetmez, yorumlar

Beyin dış dünyayı kaydeden pasif bir kamera değildir. Gözlerden gelen veriyi anılar, beklentiler ve korkularla birleştirir. Görme deneyimi, dışarıdaki ışıkla beynin tahminini birlikte taşır.

Gün ışığında ceketin kumaşını, rengini ve düğmelerini seçeriz. Karanlıkta bu ayrıntıların çoğunu göremeyiz. Beyne yalnızca belirsiz bir dış hat ulaşır. Duyusal veri azalınca geçmiş deneyimlerin etkisi artar. Bir korku filmi de zihnin tehdit beklentisini güçlendirebilir.

Bu eğilim bütünüyle kusur sayılmaz. Atalarımız çalılıktaki hareketi yırtıcı sanınca yalnızca gereksiz yere kaçardı. Ancak gerçek yırtıcıyı rüzgâr sanmak ölümcül bir sonuç doğurabilirdi. Bu nedenle beyin bazı belirsizliklerde yanlış alarm vermeye yatkındır.

Beyin bütün kanıtları bekleyen ağırkanlı bir mahkeme gibi davranmaz. Birkaç ipucuyla hızlı karar verir. Daha sonra yeni verilerle ilk kararını düzeltir. Işığı açınca canavarın ceket olduğunu bu sayede anlarız.

Pareidolia: Gürültünün içindeki tanıdık yüz

Bulutlarda hayvanlar veya otomobil farlarında kızgın gözler görebiliriz. Bilim insanları bu eğilimi pareidolia diye adlandırır. Zihin, belirsiz görüntüyü bildiği bir kalıba yerleştirir. Özellikle yüzleri tanımakta çok aceleci davranırız. Çünkü yüzler, başka insanların duyguları ve niyetleri hakkında bilgi taşır.

Pareidolia çoğu durumda bir hastalık değildir. Güçlü örüntü tanıma yeteneğimizin doğal bir yan ürünüdür. Aynı yetenek kalabalıkta arkadaşımızı seçmemizi sağlar. Fakat bazen ortada gerçek bir örüntü yokken de “buldum” deriz.

Beyin görüntüyü bütünüyle sıfırdan kurmaz. Gerçek bir gölge veya karaltı vardır. Beyin, yetersiz veriye en olası anlamı verirken yanılır. Yapay zekâ halüsinasyonu ile benzetme tam bu noktada başlar.

Yapay zekâ halüsinasyonu nasıl oluşur?

Büyük dil modelleri birer ansiklopedi gibi çalışmaz. İçlerinde her sorunun hazır ve doğru cevabı bulunmaz. Eğitim sırasında metinlerdeki sözcük ve kavram ilişkilerini öğrenirler. Ardından kelimeleri veya kelime parçalarını sırayla seçerek cevap kurarlar.

Model her aşamada bağlama uygun gelecek devamı hesaplar. Hukuk sorusunda mahkeme adlarını ve resmî ifadeleri öne çıkarır. Akademik soruda yazar, dergi, yıl ve makale başlığı kalıplarını kullanır. Sonuç kusursuz görünebilir ama bütünüyle yanlış olabilir.

Kullanıcı doğru cevap ister. Dil modeli ise öncelikle uygun bir devam üretir. Geliştiriciler doğruluğu çeşitli eğitim ve denetim yöntemleriyle güçlendirir. Yine de akıcı cümle ile doğrulanmış olgu aynı şey değildir.

Bazı değerlendirme yöntemleri tahmini, sessiz kalmaktan daha fazla ödüllendirir. Doğru tahmin puan getirir. “Bilmiyorum” cevabı ise çoğu zaman puan kazandırmaz. Bu düzen, belirsizlik karşısında cevap verme eğilimini güçlendirebilir.

Yapay zekâ burada bilinçli biçimde yalan söylemez. Gerçeği bildiği hâlde saklayan bir özne yoktur. “Halüsinasyon” sözcüğü bu nedenle yalnızca teknik bir benzetmedir. Model görmez, işitmez veya kendi cevabına inanmaz. Sadece gerçeğe benzeyen yanlış bir çıktı üretebilir.

Mahkeme salonuna giren hayalî kararlar

2023 yılındaki Mata–Avianca davası bu sorunu dünyaya gösterdi. Davacı tarafın avukatları ChatGPT’den hukuk araştırması için yardım aldı. Ardından modelin ürettiği hayalî mahkeme kararlarını dosyaya eklediler.

Bu kararların isimleri, alıntıları ve hukuki künyeleri vardı. Metinler rastgele harf yığınlarına benzemiyordu. Tam tersine, gerçek bir içtihat metninin görünüşünü başarıyla taklit ediyordu.

Mahkeme altı sahte karar buldu. Avukatlar daha sonra modelden kararların gerçekliğini doğrulamasını istedi. Model ilk uydurmasını yeni cevaplarla destekledi. Mahkeme avukatlara ve hukuk bürosuna toplam 5 bin dolar yaptırım uyguladı.

Bu olay yalnızca makinenin boşluk doldurmasını göstermiyor. İnsan zihni de tanıdık biçime kolayca güveniyor. Mahkeme adı, dosya numarası ve resmî üslup güçlü bir gerçeklik hissi yaratıyor.

Ceketin çıkıntıları canavarın omuzlarına dönüşür. Hukuk terimleri de hayalî kararı gerçek bir içtihada dönüştürür. Biçim, bir anda gerçeğin yerini alır. Oysa resmî kayıtta yapılacak basit bir arama ışığı yakabilirdi.

Türkiye’de uydurma Yargıtay künyeleri

Türkiye de benzer bir olayı Haziran 2026’da tartıştı. Olay, Ankara’nın Kızılcahamam ilçesindeki bir davada yaşandı. Yirmi beş yıllık bir avukat dilekçesini Yargıtay kararlarıyla güçlendirmek istedi. Bu amaçla yapay zekâdan yardım aldı.

Karşı tarafın avukatı duruşmada karar künyelerine itiraz etti. Mahkeme UYAP üzerinde arama yaptı. Sistem, dilekçedeki esas ve karar numaralarını belirtilen biçimleriyle bulamadı. Bunun üzerine mahkeme savcılığa ve Ankara Barosu’na bildirim gönderdi.

Avukat daha sonra kendi açıklamasını yaptı. Ona göre model, gerçek bir kararın içeriğine uydurma künyeler eklemişti. Ayrıca aynı kararı üç farklı kararmış gibi göstermişti. Haber yayımlandığı sırada soruşturmalar henüz sonuçlanmamıştı.

Bu örnek önemli bir ayrıntıyı açığa çıkarıyor. Yapay zekâ her zaman baştan sona hayalî bir hikâye kurmuyor. Bazen gerçek parçaları yanlış biçimde birleştiriyor.

Karanlıktaki ceket gerçektir. Kapının gölgesi ve korku hissi de gerçektir. Yanlışlık, bu parçaların “odada biri var” sonucunda birleşmesidir. Model de gerçek hukuk dilini uydurma dosya numarasıyla birleştirebilir.

Akademik görünmek ile akademik olmak arasındaki fark

Deloitte, 2025 yılında Avustralya hükümeti için kapsamlı bir rapor hazırladı. Rapor 237 sayfadan oluşuyordu. Sözleşmenin değeri yaklaşık 440 bin Avustralya dolarıydı.

Bir araştırmacı rapordaki kaynakları kontrol etti. Bazı akademik çalışmaların gerçekte bulunmadığını fark etti. Raporda bir Federal Mahkeme kararına aitmiş gibi duran hayalî bir ifade de vardı.

Bakanlık daha sonra düzeltilmiş raporu yeniden yayımladı. Deloitte üretken yapay zekâ kullandığını açıkladı. Şirket ayrıca sözleşmenin son ödemesini geri vermeyi kabul etti.

Dil modelleri akademik kaynak görünümünü kolayca taklit edebilir. Bir isim, makale başlığı, dergi ve yayın yılı yeterlidir. Bu parçalar doğru sıraya girince kusursuz bir künye ortaya çıkar.

İnsan zihni de bu düzeni güven işareti olarak okuyabilir. Uzun raporlar ve numaralı dipnotlar denetim hissi yaratır. Böylece kaynakça, kanıt yerine doğruluk dekoruna dönüşür.

Karanlık odadaki çizgiler zihnimizde bir yüz oluşturur. Kaynakçanın parçaları da “bilimsel kaynak” görüntüsü yaratır. Ancak görüntü ile gerçek yine aynı şey değildir.

Yapay zekâ haberi özetlerken yeni haber yazarsa

Apple’ın bildirim özetleri de benzer bir sorun yaşadı. Sistem, 2024 sonlarında BBC haberlerini yapay zekâyla kısaltmaya başladı. Bazı özetler haberlerde bulunmayan sonuçlar ekledi.

Bir bildirim, Luigi Mangione’nin kendisini vurduğunu ileri sürdü. Oysa BBC böyle bir haber yayımlamamıştı. Başka bir özet, Luke Littler’ın şampiyonluğunu finalden önce ilan etti. Bir diğer özet ise Rafael Nadal hakkında yanlış bir sonuç çıkardı.

Apple, 2025 başında haber ve eğlence özetlerini geçici olarak durdurdu. Şirket böylece hataları azaltacak yeni düzenlemeler için zaman kazandı.

Bu örnek beynin eksik görüntüyü tamamlamasına oldukça yakındır. Sistem, uzun bildirimleri birkaç kelimeye indirmek istedi. Ardından boşlukları bağlama uygun görünen sonuçlarla kapattı.

Şüpheli, silahlı saldırı ve soruşturma kelimeleri dramatik bir sonuca dönüştü. Sporcu, final ve şampiyonluk kelimeleri de erken bir zafer haberi yarattı.

İnsan okur ayrıca güçlü bir güven işareti gördü. Yanlış özetler telefon ekranında BBC adıyla görünüyordu. Kaynak logosu ve kesin dil, zihnin doğruluk denetimini gevşetebiliyordu.

Yanlış haber cevabı istisna değilse

Tekil örnekler bize yalnızca olağan dışı kazalar gibi görünebilir. Ancak 2025 tarihli geniş bir araştırma farklı bir tablo çizdi. Avrupa Yayın Birliği çalışmayı BBC öncülüğünde koordine etti.

On sekiz ülkeden 22 kamu yayıncısı araştırmaya katıldı. Gazeteciler dört büyük yapay zekâ aracının 3 binden fazla cevabını inceledi. Araştırma ChatGPT, Copilot, Gemini ve Perplexity cevaplarına odaklandı.

Uzmanlar cevapların yüzde 45’inde en az bir önemli sorun buldu. Yüzde 31 oranında ciddi kaynaklandırma problemi gördüler. Cevapların yüzde 20’si önemli doğruluk sorunları taşıyordu.

Bu oranlar, sistemlerin her cevabı bütünüyle uydurduğunu göstermiyor. Bir cevap genel olarak doğru olabilir. Fakat yanlış bir tarih veya isim bütün anlamı değiştirebilir.

Tamamen saçma bir metni kolayca fark ederiz. Büyük ölçüde doğru bir metindeki tek hata daha tehlikelidir. Çünkü beyin tutarlı hikâyeyi çoğu zaman bütün olarak kabul eder.

İlk cümleler doğruysa sonraki ayrıntılara da güvenebiliriz. Böylece makinenin hatası insanın güven eğilimiyle birleşir. Yapay zekâ halüsinasyonu ortak bir yanılgıya dönüşür.

İnsan beyniyle dil modelinin temel farkı

Bütün benzerliklere rağmen iki sistemi aynı sayamayız. İnsan beyni canlı bir organizmanın parçasıdır. Görme, işitme, dikkat, korku ve hafıza birlikte çalışır. Beyin dış dünyadan sürekli yeni veri alır.

Dil modelinin bedeni veya öznel deneyimi yoktur. Model, ürettiği kararın gerçekliğini kendiliğinden gözlemleyemez. Bunun için arama araçlarına veya güvenilir belgelere ihtiyaç duyar.

İnsan karanlıktaki canavardan korkar. Yapay zekâ ise uydurma karardan kuşku duymaz. Çünkü kuşku duyacak bir bilince sahip değildir. Güvenli tonu yalnızca dil üretme biçiminden kaynaklanır.

Ortak nokta mekanizma değildir. Ortak nokta ortaya çıkan yapıdır. Eksik veri ve tanıdık örüntü, makul fakat yanlış bir bütün yaratır.

Yapay zekâ halüsinasyonu nasıl azaltılır?

Öncelikle akıcı anlatımla doğru bilgiyi birbirinden ayırmak gerekir. Düzgün bir cevap her zaman doğru bir cevap değildir. Tarihler ve kaynak adları da tek başına güvence sağlamaz.

Kullanıcı özellikle mahkeme kararlarını ve akademik yayınları asıl kayıttan kontrol etmeli. Aynı kural istatistikler, alıntılar ve güncel haberler için de geçerlidir.

Modele “uydurma” komutu vermek yarar sağlayabilir. Ancak bu komut kesin güvence sunmaz. Kullanıcı soruyu güvenilir belgelerle sınırlayınca daha sağlam sonuç alır.

Bir makale için makalenin kendisini modele vermek gerekir. Mahkeme kararı için resmî metni açmak gerekir. Güncel haber için özgün yayına bakmak gerekir.

Kaynak adı görmek de tek başına yetmez. Kaynak gerçekten var mı? Başlık ve bağlantı doğru mu? Kaynak, ileri sürülen iddiayı gerçekten destekliyor mu?

Bilgi doğrulama araçları, kuşkulu iddiaların izini sürmeyi kolaylaştırabilir. Bu araçlar görseller ve eski haberler için de yarar sağlar.

Bir yapay zekâyı yalnızca zor sorulara verdiği cevaplarla değerlendirmemek gerekir. Sistem, bilmediği noktada nasıl davranıyor? Yanlış kesinlik yerine belirsizliğini açıklayabiliyor mu?

Bu ayrımı yapay zekânın hasını anlama testi üzerinden de inceleyebilirsiniz. Çünkü etkileyici cevap ile güvenilir cevap aynı anlama gelmez.

Yapay zekânın bulunduğu odada ışığı yakmak

Karanlıktaki ceketi canavar sanan beyin ile dil modeli aynı değildir. Biri dünyayı yorumlayan biyolojik bir sistemdir. Diğeri metnin olası devamını hesaplayan matematiksel bir sistemdir.

Yine de yanılgıları aynı zayıf noktada buluşur. İki sistem de belirsizliği makul bir bütünle tamamlayabilir. Sonuç bazen o kadar düzgün görünür ki doğruluk sorusunu unuturuz.

Mahkeme numarası ve akademik makale adı bize güçlü örüntüler sunar. Telefon ekranındaki haber özeti de aynı etkiyi yaratır. Hepsi zihnimize “aradığın gerçek burada” diyebilir.

Yapay zekâ çağında ışığı yakmak basit bir eylemdir. Cevabın güzelliğine değil, gerçek dünyadaki karşılığına bakmak gerekir.