Dünyanın önde gelen teknoloji şirketleri ve yapay zekâ uzmanları otonom silahlar konusunda yeni bir bildiriye imza attılar.
Hükümetleri otonom silahları denetim altına alacak yasalar çıkarmaya çağırıyorlar. Katil robotlar konusunda uluslararası kurallar oluşturulmasını ve iş işten geçmeden önlem alınmasını istiyorlar.
Aralarında OpenAI kurucusu Elon Musk, Skype kurucu ortağı Jaan Tallinn, yapay zekâ (AI) araştırmacısı Stuart Russell, Deepmind kurucuları Demis Hassabis, Shane Legg ve Mustafa Süleyman gibi isimler de var.
90 ülkeden 195 kuruluş, 2 bin 636 akademisyen, bilim insanı ve teknoloji uzmanı…
İmzacılar bu bildiriyle otonom silahların geliştirilmesine katkıda bulunmayacaklarını açıklıyorlar.
“Future of Life Institute”nun konuyla ilgili açıklamasında şöyle bir tümce dikkatimi çekti:
“Ölümcül otonom silahlar baskı ve şiddetin güçlü araçları haline gelebilirler. Özellikle de gözetleme ve veri sistemleriyle bağlantılı olduklarında…”
Ne demek istiyorlar?
Kuruluşun açıklamasındaki bir başka tümce durumu anlatıyor:
“Ölümcül otonom silah sistemleri kişilerin kimliğini belirleyip, onları hedefleyip insan müdahalesi olmadan öldürebilir.”
“Hayvanlardan Tanrı’lara Sapiens” ve “Homo Deus” kitaplarıyla tanınan Yuval Harari’nin “Bu çağ dijital diktatörlükler yaratabilir. İnsanlar dijital diktatörlüklerin boyunduruğu altına girebilir” sözlerini anımsıyorum.
Şöyle bir sahne geliyor aklıma:
Sıcak bir yaz günü balkonunuzda oturmuş, keyif yapıyorsunuz. Birden bilgisayar boyutlarındaki bir dron beliriveriyor. Sonra şöyle bir ses duyuyorsunuz:
“İşte buldum seni!”
Haydi anlatın bakalım derdinizi.
***
Katil robotlar konusundaki bu açıklama ilk değil.
İlk kampanya 2012 yılında başlamıştı. Kampanyayı yürütenler “İnsan hayatı konusunda sorumluluk robotlara bırakılamaz” diyorlardı. “Katil Robotları Durdurun” kampanyası altı yıldır sürüyor. (www.stopkillerrobots.org)
2012 yılının Kasım ayında İnsan Hakları İzleme Örgütü, katil robotlar konusunda 55 sayfalık bir rapor yayımladı. Başlığı: Losing Humanity (İnsanlığın Yitimi). Örgüt, katil robotların üretiminin engellenmesi için Birleşmiş Milletler’e çağrıda bulunuyordu.
2015 yılında Buenos Aires’te “Uluslararası Yapay Zekâ Konferansı”nda bir araya gelen uzmanlar Birleşmiş Milletler’e yönelik bir açık mektup yayımladılar. Yapay zekâya sahip silahların yasaklanmasını istediler.
2017’de 116 yapay zekâ uzmanı bir başka açık mektup yayımladı. BM’yi otonom silahlar konusunda harekete geçmeye çağırdı.
Katil robotlar konusunda 2012 yılında ilk kampanya başladığında bazıları bunu “abartılı” bulmuştu. Öyle ya, katil robotlar, bilim kurgu filmlerinin konusuydu. Aradan sadece altı yıl geçti. Katil robot kampanyasını “abartılı” bulanların pek sesi çıkmıyor.
Bugün katil robotlar, barut ve nükleer silahların ardından savaş teknolojisinde “üçüncü devrim” olarak nitelendiriliyor.
Ölümcül otonom silah sistemleri dünyada özellikle ABD, Çin, İsrail, Güney Kore, Rusya ve Birleşik Krallık’ta geliştiriliyor.
Konu bir süredir Birleşmiş Milletler gündeminde. Ağustos ayında konu BM’de yeniden ele alınacak.
Katil robotlar konusunda somut bir adım atılabilir mi?
***
Daha üç hafta önce Karaburun’da yapılan ‘Ütopyalar Toplantısı’nda “Yapay zekâ fırsat mı tehdit mi” konusunu tartışıyorduk.
Pek çok uzman yapay zekânın sağladığı olanakları anlattı. Tarımda, sağlıkta, eğitimde… Gerçekten de önemli bir teknoloji yapay zekâ.
Fakat teknoloji odaklı sohbetler nedense kolayca ütopyadan distopyaya doğru kayıyor.
Neden?
Çünkü insanlar, sadece gelirini düşünen, kârını maksimize etmekten başka derdi olmayan kapitalist zihniyetin yapay zekâsından çekiniyor. “Bu zihniyet yapay zekâyı kâr etme hırsıyla kullanır” diyorlar, “Ya da insanları kontrol etmek, baskı altına almak amacıyla…”
Haksızlar mı?
“Ekşi şeyler” web sitesinde kapitalizmi en iyi anlatan sözleri derlemişler. Biri şöyle:
“Kapitalizm gölgesini satamadığı ağacı keser.”
