Yapay zekâ ne yapsın?

22 Ekim 2017 Pazar

Yapay zekâ tartışması iki filozofu karşı karşıya getirmiş.
“Hangisi haklı” diye sormuşlar insanlara: Bentham mı, Kant mı?
Konu sürücüsüz arabalarla ilgili.
Genellikle yapay zekâ ve robot teknolojileri “bilim-kurgu” gibi algılanır. Oysa durum öyle değil. Sürücüsüz araba yavaş yavaş sokaklarda belirmeye başladı.
Yapay zekâ uzmanları, aşılmaz gibi görünen teknik sorunları bir bir aşmışlar fakat bu kez karşılarına “teknik olmayan” sorunlar çıkmış. Üstelik bu “teknik olmayan” sorunları da nasıl çözeceklerini pek bilemiyorlar. Konuyu basit bir senaryoyla şöyle anlatabiliriz. Diyelim ki yapay zekâ tarafından kullanılan arabanın freni patladı. O sırada yaya geçidinden iki kadın geçiyor. Birinin yanında iki kız çocuğu var. Çocuklar 5 ve 8 yaşlarında. Diğer kadın kucağında bir bebek taşıyor.
Araba eğer direksiyonu kırmazsa 5 kişinin ölümüne neden olacak. Arabada tek kişi var. 50’li yaşlarda bir erkek. Eğer arabayı kullanan yapay zekâ, direksiyonu sağ veya sola kırarsa duvara çarpacak bu kez arabadaki yolcunun ölümüne neden olacak. Soru şu: Arabayı kullanan yapay zekâ ne yapmalı?
MİT (Massachusetts Teknoloji Enstitüsü) yapay zekâ konusunda Amerika’nın saygın üniversitelerinden biri. Buradaki uzmanlar, “Moral Machine” adıyla bir yazılım geliştirmişler. Yani “ahlak makinesi”.
Bu makine yukarıda aktardığıma benzer yüzlerce senaryo oluşturmuş. Web sitesine bağlanan (http://moralmachine.mit.edu) insanlara anketler uygulanmış. Yanıt aradıkları soru çok basit: “Yapay zekâ bu gibi durumlarda nasıl davranmalıdır?”
Bu anketlere bütün dünyadan 5 milyon insan katılmış.
Sonra iki filozoftan da ilham alarak soruları şöyle formüle etmişler.
Bentham’a göre, araba faydacı bir etikle hareket etmelidir. Hasarı ve yaşam kaybını en aza indirmeye çalışmalıdır. Bu eylem bir kişiyi öldürecek olsa da.
Kant’a göre araba, vazifesinin icabına göre hareket etmeli. Prensiplere sadık kalınmalıdır. Ve prensiplerden biri de şöyledir: Öldürmeyeceksin. Dolayısıyla yukarıdaki örnekte, bir insana zarar verecek şekilde hareket etmemelidir. Araba kendi haline bırakılmalıdır. Daha fazla insana zarar verecek olsa bile.
Yapılan ankete katılanlara “Hangi filozofa katılıyorsunuz” diye sormuşlar. Büyük çoğunluk Bentham’a hak vermiş.
Fakat ankete katılanlara bir soru daha sorulmuş: “Bentham’ın ilkelerine göre hareket eden bir arabayı satın alır mısınız?” Bu kez ankete katılanların neredeyse tümü, “Hayır” yanıtını vermiş.
Ankete katılanlar, alacakları sürücüsüz arabanın her ne olursa olsun, kendilerini koruması gerektiğini söylemişler. “Aksi halde o arabayı satın almayız” demişler.
Ne olacak şimdi?

***

MİT’nin bu araştırmasıyla ilgili bizi bilgilendiren arkadaşım, tam da konuyu tartıştığımız sırada masadakilere aynı soruyu yöneltti: Peki, Bentham mı, haklı Kant mı?
Ben ilk yanıt verenlerden olamadım çünkü bir yandan iPad’den gündemi okuyor ve her nedense hâlâ bazı haberler karşısında şaşırıp kalabiliyordum. Gözümü “Bir kadınla tokalaşmak, ateş tutmaktan daha korkunç” diyen üniversite rektörü haberinden alamıyorken düşündüm: Dünya neleri tartışıyor, biz neyi?
Masadaki dostlardan biri ise şöyle yanıt verdi: Karl Marx haklı. Sadece gelirini düşünen, kârını maksimize etmekten başka derdi olmayan kapitalist zihniyetin yapay zekâsı çözümden çok sorun yaratır. Çünkü bu zihniyet geliştirilen yapay zekâyı da kâr etme hırsıyla kullanacaktır.”
Peki, siz ne dersiniz? Kim haklı? Bentham mı, Kant mı, Marx mı yoksa dünyadan bihaber rektör mü?



Yazarın Son Yazıları Tüm Yazıları

Önce Cumhuriyet! 9 Eylül 2018
İklim için ses ver! 2 Eylül 2018
Özel yaşamın sonu mu? 26 Ağustos 2018

Günün Köşe Yazıları