Sorumlu yapay zeka

Yapay zeka kuşkusuz son 20 yılın en büyük inovasyon sıçraması. Ancak aynı zamanda ezberleri bozan bir inovasyon. İnsan yaşantısını, şirketlerin iş yapış biçimini, sosyal örgüyü ve ülkelerin kaderini derinden etkileyebilecek bir potansiyelde. Çok artısı olduğu gibi çok riskleri de var. Daha önce yapay zekanın kuralsız ve bir orman yangını gibi gelişmesiyle ilgili endişeleri içeren bir yazı yazmıştım. Burada, varoluş kaygılarından önce, güncel tehditlerin olduğunu söylemiş ve yapay zekayı insanlığın yararına odaklamak lazım demiştim. Nitekim AB ilk yapay zeka yasa taslağını hazırlayıp tartışmaya açtı. Bu yasa yalnızca AB içinde yapılan değil, kullanıma sokulan tüm yapay zeka sistemlerini kapsıyor. Bazı uygulamalara çok az dokunurken bazılarını yasaklıyor. Örneğin kamuya açık alanlarda yüz tanıma, sosyal puanlama sistemi gibi uygulamalar yasak. Seçimlerde seçmeni etkilemeye dönük uygulamalara sıkı kısıtlamalar var. Yasayla şeffaflık getiriliyor. Yapay zekayla üretilmiş bir şeyi açıklama zorunluluğu var. Yasaklı işleri yapanlara, hangisi büyükse, 40 milyon Euro’ya kadar veya şirketin global cirosunun yüzde 7’sine kadar ceza sözkonusu. Üye ülkelerin, yapay zeka sistemleri devreye alınmadan test edilmesine dönük birer organizasyon kurması isteniyor. Amacın bir yandan vatandaşlar korunurken bir yandan inovasyonu engellememek olduğu söyleniyor. 

ŞİRKETLERİ NELER BEKLİYOR?

Ülkeleri yapay zekayı regüle etmeye iten güncel tehditler neler? Yapay zekanın yapabilirliği ve kötü niyetli kişilerin bir araya gelmesi çok tehlikeli bir kombinasyon oluşturuyor. Açıkçası öngörülebilenlerin dışında akla hayale gelmedik problemler yaşanabilir. Telefonla ve maille yapılan sahtekarlıkların çok daha kalitelileri, zararlı yazılım üretimi ve siber saldırılar, “deepfake”ler ve yanıltıcı bilgi, yapay zekanın internette nereden aldığı bilinmeyen içerikle gelen fikri mülkiyet problemleri… Özellikle ChatGPT gibi üretici yapay zeka uygulamalarının büyüsüne kapılarak içeri atlayan şirketleri büyük riskler bekliyor. Venturebeat’in haberine göre Samsung mühendisleri şirkete has bir yazılımı ChatGPT’ye yükleyerek sorununu çözmeye çalışmış. Böylece şirketin gizli bilgileri dışarı sızmış. Profesyoneller için sosyal bir platform olan Fishbowl’un araştırmasına göre ChatGPT’yi iş için kullananların yüzde 68’i bunu yöneticilere söylemiyor. Bir başka sorun, üretici yapay zekanın bilmediği konularda bir şeyler uydurması ve bunu gerçekmiş gibi sunması. Bunlara “halüsinasyonlar” deniyor. Yine bir başka durum, internetteki çok sayıda “yanlı” kaynaktan öğrendiği için önyargılı sonuçlar sunması. Şirketlerin yapay zekayla yaptığı işlerde hesap verebilirlik sorunları da ortaya çıkıyor. Bütün bunlara karşılık, yapay zekanın potansiyel faydalarını kullanma arzusu şirketleri ve ülkeleri konuyu disipline etmeye zorluyor. Bunun bir sonucu “sorumlu yapay zeka” akımı. Sorumlu yapay zeka, çalışanları ve işletmeleri güçlendirmek, müşterileri ve toplumu adil bir şekilde etkilemek için yapay zekayı iyi niyetle tasarlama, geliştirme ve dağıtma uygulamasına verilen ad. Yaklaşımın temelinde, insan-odaklı tasarım; amaca uygunluk; açıklık ve kontrol; sistemin insanlar, kuruluşlar ve toplum üzerindeki etkilerini değerlendirme; önemli olumsuz etkilerin gözetimi; karar verme için sistem anlaşılırlığı gibi faktörler var. Sorumlu yapay zeka doğru yönde bir adım, ancak özellikle üretici yapay zeka kontrol edilmesi güç bir nitelikte. Yapay zekanın faydaları ve çığır açıcılığı da başka bir yazıya. “Yapay zeka son 20 yılın en büyük inovasyon sıçraması, ancak çok artısı olduğu gibi çok riskleri de var.”