Yılın kelimesi: Halüsinasyon

Dictionary.com, 2023 biterken “Halüsinasyon” u yılın kelimesi olarak seçmişti. Kelime bir yıl önceye göre yüzde 46 daha fazla aranmış, dijital medyada kullanımı ise yüzde 85 yükselmiş. Pek çok güçlü rakibinin arasından sıyrılan kelime popülerliğini artırarak koruyor. Çoğunuzun doğru tahmin ettiği üzere kelime klasik anlamı yüzünden değil, üretken yapay zekayla (GenYZ) tetiklenen yeni anlamı nedeniyle popüler. Evet, zaman zaman YZ algoritmaları, eğitim verilerine dayanmayan ya da herhangi bir tanımlanabilir kalıba uymayan çıktılar üretebiliyor. Halüsinasyon terimi insan veya hayvan beyniyle ilişkilendirilse de YZ’nın bu tip çıktıları metaforik olarak halüsinasyon olarak tanımlanıyor. Halüsinasyonla hemen her GenYZ sisteminde karşılaşıyoruz. Hatta öyle ki ChatGPT diyalog satırının altında ilk günden bu yana “ChatGPT hata yapabilir. Önemli bilgileri kontrol ediniz” ibaresi yer alıyor. Galileo isimli YZ alanında faaliyet gösteren şirket, düzenli olarak LLM Halüsinasyon Endeksi yayınlıyor. Popüler GenYZ modelleri kısa, orta ve uzun testlerle sınanıyor. Son endekste 10 kapalı, 12 açık kaynaklı model karşılaştırılmış. Sonuçlar ilginç. Açık kaynaklı (Gemini, LLama vb) modeller, pahalı ve devasa öğrenme verisine sahip kapalı kaynaklı (OpenAI, Anthropic vb) modellerle arayı hızla kapatıyor. Ligin tepesindeki iddialı mücadelede Anthropic’e ait Claude modelleri OpenAI’ya ait GPT-4o’a göre çok daha iyi performans gösteriyor. Daha basit ifadeyle Claude daha az halüsinasyon kuruyor. NEDEN OLUYOR? Biyolojik düzeyde oluşan istemsiz halüsinasyonlar, beyin sinyallerinin yanlış yorumlanması sonucu ortaya çıkıyor. İnsanlarda görülen halüsinasyonlar genellikle stres, uykusuzluk, travma gibi durumlarla ilişkili... Hayvanlar da özellikle evcil hayvanlar, benzer şekilde çevresel uyaranlara tepki verirken halüsinasyon deneyimleyebiliyor. GenYZ sistemleri ise çok daha farklı bir tür halüsinasyon üretiyor. Bu sistemler, kendilerine verilen veri setlerinden mantıklı yanıtlar üretmeye çalışırken bazen gerçek olmayan bilgileri “uyduruyor”. Bu, GenYZ’nin yapısal özelliklerinden kaynaklanıyor: Sistem, eksik veya çelişkili komutlarla karşılaştığında, bağlamı korumak adına boşlukları dolduruyor ve bu, halüsinasyonla sonuçlanıyor. Halüsinasyon sadece boşluk doldurmaktan ya da çelişkili komutlardan ibaret değil tabii. Eksik veri, yanlı veri, yanlış eğitim, kompleks model veya modelin kendisindeki hatalar gibi faktörler, GenAI sistemlerinde halüsinasyonlara yol açabiliyor. Kurumsal düzeyde ileri teknolojiler devreye giriyor. Geçen ay bu sayfalarda detaylarına indiğimiz Retrieval-Augmented Generation (RAG) gibi teknikler, halüsinasyonları önlemek için veri doğrulama süreçlerini devreye sokuyor. Bu sistemler, modelin yalnızca eğitildiği verilerle değil, aynı zamanda güvenilir dış kaynaklardan da bilgi çekmesini sağlayarak yanlış bilgi üretimini en aza indiriyor. Bireysel bir GenYZ kullanıcısıysanız dikkatli olmak ve çıkan sonuçları sorgulamak dışında yapabileceğiniz çok fazla bir şey yok. Örneğin az önce kendimle ilgili sorgu yaptım. Güzel başladı: “Yiğit Kulabaş, iş dünyasında tanınmış bir isimdir ve özellikle teknoloji, pazarlama, inovasyon ve dijital dönüşüm konularında deneyime sahiptir.” Sonrasında “İşte bilinen bazı kitapları” diye devam etti ve bana ait olmayan iki kitabı sıraladı. İlginç olan detaycılığı ve inandırıcılığı… “Digirealizm: Dijital Gerçeklik ve Yeni Dünya”- Dijital dönüşümün iş dünyasını ve toplumu nasıl etkilediğine dair derinlemesine bir analiz sunar. Üşenmeyip internette aradım, belki bu isimde bir başkasının yazdığı bir kitap vardır diye. Yok. Bir süre daha halüsinasyonlarla yaşamaya devam edeceğiz gibi görünüyor.