Yapay zekâ halüsinasyonu nedir? Şirket botlarında örnekler, nedenler ve test

VOGENTRA Danışmanlık · Yayın: 5 Ekim 2026 · 7 dk okuma

Kısa cevap: Yapay zekâ halüsinasyonu, bir dil modelinin bilmediği ya da elinde olmayan bir bilgiyi, doğruymuş gibi akıcı ve kendinden emin bir dille üretmesidir. Şirket botlarında bu; var olmayan bir kampanya, yanlış bir iade süresi ya da hiç verilmemiş bir söz olarak müşteriye ulaşır. Tamamen sıfırlanamaz; ama ölçülebilir, azaltılabilir ve yayından önce yakalanabilir.

Halüsinasyon neden olur?

Dil modelleri bir bilgi bankası gibi çalışmaz; bir sonraki kelimenin ne olacağını olasılıkla tahmin eder. Doğru bilgi elindeyse tahmin çoğu zaman doğrudur. Bilgi eksik, eski ya da çelişkiliyse model susmak yerine en olası görünen cevabı kurar. Sorun, uydurulan cevabın doğru cevapla aynı güvenle söylenmesidir.

Şirket botlarında halüsinasyonu en çok besleyen durumlar:

• Bilgi tabanı güncel değil: fiyat, kampanya ya da prosedür değişmiş, bot eski metni okuyor
• Botun "bilmiyorum" demesine izin verilmemiş; her soruya cevap vermesi beklenmiş
• Belge arama adımı (RAG) yanlış ya da ilgisiz belgeyi getiriyor, model onu yorumluyor
• Soru belirsiz; bot netleştirmek yerine bir varsayım seçip devam ediyor
• Yüksek riskli konular (fiyat, iade, sağlık, hukuk) serbest metinle cevaplanıyor

Şirket botlarında halüsinasyon nasıl görünür?

Sahada en sık karşılaşılan biçimler bunlardır. Hiçbiri teknik bir hata mesajı gibi görünmez; hepsi kibar ve ikna edici bir cevap kılığındadır:

1. Olmayan kampanya"Bu ay ikinci üründe yüzde 50 indirim var" — böyle bir kampanya yoktur.
2. Yanlış koşulİade süresini 14 gün yerine 30 gün, kargo ücretini ücretsiz olarak söyler.
3. Uydurma bilgiVar olmayan bir şube adresi, çalışma saati ya da ürün özelliği verir.
4. Verilmemiş söz"Talebiniz onaylandı, yarın aranacaksınız" der; arka planda hiçbir kayıt açılmamıştır.
5. Yetki dışı yorumSözleşme, mevzuat ya da sağlık konusunda kesin hüküm verir.

Gerçek örnekler

Air Canada (2024). Havayolunun web sitesindeki sohbet botu, bir yolcuya yas indirimi için bilet aldıktan sonra da başvurabileceğini söyledi; şirketin gerçek politikası farklıydı. Kanada'nın British Columbia eyaletindeki uyuşmazlık mahkemesi, şirketin botun ayrı bir varlık olduğu savunmasını kabul etmedi ve yolcuya fark ödenmesine hükmetti. Ders açık: botun söylediği, şirketin söylediğidir.

ChatGPT ile hazırlanan dilekçe (ABD, 2023). New York'ta bir davada avukatlar, ChatGPT'nin ürettiği ve gerçekte var olmayan mahkeme kararlarını dilekçeye ekledi. Mahkeme avukatlara para cezası verdi. Model, olmayan kararları künyeleriyle birlikte, gerçeğinden ayırt edilemeyecek biçimde üretmişti.

Riski ne?

Halüsinasyon bir kalite sorunu olarak başlar, bir şirket sorununa dönüşür. Müşteriye verilen yanlış fiyat ya da koşul ticari bir anlaşmazlığa, uydurulan bir söz şikâyete, tekrar eden hatalar da güven kaybına döner. Botun yapay zekâ olduğunu açıkça söylemesi de artık bir yükümlülük: AB Yapay Zekâ Yasası'nın 50. maddesi bunu AB'deki müşterilere hizmet veren şirketler için zorunlu kılıyor. Ama şeffaflık, yanlış bilginin sorumluluğunu ortadan kaldırmaz.

Halüsinasyon sıfırlanabilir mi?

Hayır. Bugünkü dil modellerinde halüsinasyon tamamen ortadan kaldırılamaz; ancak ciddi biçimde azaltılabilir ve en riskli konularda neredeyse kapatılabilir:

• Bilgi tabanı tek bir resmî kaynaktan beslenir ve her değişiklikte güncellenir
• Bot, cevabını dayandırdığı kaynağa bağlar; kaynak yoksa cevap vermez
• "Bilmiyorum, sizi bir temsilciye bağlıyorum" davranışı açıkça tanımlanır
• Fiyat, iade, sözleşme ve sağlık gibi konularda serbest üretim yerine onaylı sabit cevaplar kullanılır
• Her model, içerik ya da kampanya değişikliğinden sonra aynı testler yeniden çalıştırılır

Yayından önce nasıl test edilir?

Halüsinasyon, botun bildiği sorularla değil, bilmediği sorularla ortaya çıkar. Bu yüzden test, kurulum ekibinin hazırladığı senaryolarla sınırlı kalmamalı; müşterinin gerçekten soracağı, kayıtta olmayan, belirsiz ve sınırda sorularla yapılmalıdır. Aynı soruyu farklı kelimelerle sormak, botun söylediğini web sitesindeki resmî bilgiyle karşılaştırmak ve "olmayan" bir şeyi sormak, ilk adımlardır. Ayrıntılı liste: Chatbot nasıl test edilir? 12 maddelik kontrol listesi.

Sık sorulan sorular

Ücretsiz ön denetim isteyin · Yapay zekâ denetimi

VOGENTRA DanışmanlıkYapay zekâ danışmanlığı ve denetimi · Ankara.