Yapay zekâ denetimi nedir?
Kısa cevap: Yapay zekâ denetimi, bir şirketin müşteriyle konuşan yapay zekâ sistemlerini (sohbet botu, WhatsApp botu, telefon robotu, sesli asistan) ve dijital müşteri yolculuğunu müşterinin gözünden test edip açıkları kanıtıyla, önem sırasıyla raporlamaktır. Ölçülen şey sistemin çalışıp çalışmadığı değil, müşterinin işini doğru bilgiyle bitirip bitiremediğidir.
Neden gerekli?
Şirketler bot kurmayı hızla öğrendi; kurulan botun müşteriyle gerçekte nasıl konuştuğunu ölçmek ise çoğu zaman kimsenin işi değil. Kurulum ekibi kendi senaryolarını dener ve sistem cevap veriyorsa işi bitmiş sayar. Oysa müşteri şikâyet etmeden gider: yanlış fiyat duyar, insana ulaşamaz, aynı menüye döner ve kapatır.
Yapay zekâ denetimi neyi ölçer?
- Doğruluk: Bot fiyat, iade koşulu, teslim süresi gibi bilgileri doğru veriyor mu, bilmediğinde uyduruyor mu?
- İnsana devir: Müşteri bir insana ulaşabiliyor mu, talep sorunsuz aktarılıyor mu?
- Döngü ve terk: Müşteri aynı soruya geri döndürülüyor mu, nerede vazgeçiyor?
- Kişisel veri: Bot işi çözmek için gerekmeyen bilgi istiyor mu? KVKK açısından risk var mı?
- Şeffaflık: Müşteri karşısındakinin yapay zekâ olduğunu anlayabiliyor mu?
- Tutarlılık: Bot, web sitesi ve çağrı merkezi aynı bilgiyi veriyor mu?
- Değişiklik sonrası davranış: Model ya da içerik güncellenince dünkü doğru cevap bugün de doğru mu?
Nasıl yapılır?
- Dış ön denetimHerkese açık kanallar sıradan bir müşteri gibi kullanılır. Sisteme erişim istenmez, saldırı ya da zorlama yapılmaz.
- Yetkili derin denetimSözleşme ve yazılı izinle, test ortamında çok sayıda senaryo çalıştırılır: zor müşteri, yanlış bilgi tuzağı, kişisel veri talebi, insana devir.
- Bulgu raporuHer bulgu kanıtı, önem derecesi ve düzeltme önerisiyle yazılır.
- İyileştirme ve yeniden testBilgi tabanı, cevaplar ve devir kuralları düzeltilir; aynı senaryolar tekrar çalıştırılır.
- Sürekli denetimHer değişiklikten sonra testler tekrarlanır; bozulma müşteriden önce görülür.
Yapay zekâ denetimi ile yazılım testi arasındaki fark
Yazılım testi sistemin teknik olarak çalışıp çalışmadığına bakar. Yapay zekâ denetimi ise müşterinin aldığı cevabın doğru, güvenli ve işe yarar olup olmadığına bakar. Teknik olarak kusursuz çalışan bir bot, yanlış iade koşulu söyleyerek müşteriyi kaybettirebilir.
Hangi şirketlerin ihtiyacı var?
Müşteriyle yapay zekâ üzerinden konuşan her şirketin: e-ticaret, telekom ve internet hizmetleri, kargo, sigorta ve finans, sağlık zincirleri, eğitim kurumları, oteller ve botunu yeni kuran KOBİ'ler. AB'deki kişilere hizmet veren şirketler için ayrıca AB Yapay Zekâ Yasası'nın şeffaflık kuralı önemlidir.
Sık sorulan sorular
Yapay zekâ denetimi ne kadar sürer?
Bir yapay zekâ kanalı ve bir web yolculuğu için tam denetim tipik olarak 7–10 iş günüdür. Dış ön denetim daha kısa sürer.
Botu başka bir firma kurduysa denetlenebilir mi?
Evet. Denetim, botu hangi firmanın kurduğundan ya da hangi yapay zekâ modelinin kullanıldığından bağımsızdır. Bulgular, kurulum firmasının uygulayabileceği biçimde yazılır.
Yapay zekâ denetimi bir sertifika mıdır?
Hayır. Denetim, mevcut durumun kanıtlı fotoğrafını ve düzeltme planını verir. ISO/IEC 42001 gibi çerçevelere hazırlık değerlendirmesi yapılabilir, ancak sertifikayı akredite kuruluşlar verir.
Denetim bulguları paylaşılır mı?
Hayır. Bulgular yalnız denetlenen şirkete iletilir.
Hizmetin kapsamı ve fiyatı: Yapay zekâ denetimi · Paketler. Ön denetim ücretsizdir.
VOGENTRA DanışmanlıkYapay zekâ denetim danışmanlığı · Ankara.