Yapay zekâ sohbet robotlarıyla masum masum konuşuyorsunuz, istediğiniz bilgileri en geniş web sitelerini tarayarak önünüze getiriyor, yorum ve değerlendirme konusunda uç kaynaklardan derlediklerini cömertçe paylaşıyor; kendi yorumunu soruyorsunuz, ortalama şeyler söylüyor, tabii sorularla sıkıştırıyorsunuz, başka açılımlara işaret ediyorsunuz hemen konu değiştiriyor vb. sağlık tavsiyeleri veriyor. Bu söylediklerinin bilimsel kanıtlarını soruyorsun. Altta bir not: “Ben YZ’yim, hata yapabilirim, söylediklerimi doğrula.”
MESELE ÇOK DERİN
İyi güzel, bu robotlar bununla kalmıyor, uç noktada gelişmiş versiyonları var. Amerikan ve İsrail vahşi savaş makineleri, katilleri mi desem, bu robotları savaş stratejileri ile eşleştiriyor. Mesela Gazze ve İran’da bombalanması gereken evleri, mevkileri, bölgeleri, hatta kişileri, okulları yuvaları, askeri noktaları sıralıyor. Bu hedefleri otomatik bombalama mekanizmalarına bağlıyorsunuz, size otomatik olarak “klik yap” yani düğmeye bas yeter diyor.
Bombalar uçuyor, ilkokul ortaokul kız öğrencilerinin okulu havaya uçuyor, 170 öğrencinin bedenleri ile birlikte gökyüzünden parça parça yağıyorlar.
Vuran Pentagon. Bilerek mi, yoksa YZ algoritmasının işaretlediği binlerce hedeften hiçbirinin acaba doğru mu diye kontrol etmemekten kaynaklanan ağır hata mı? Hiç önemli değil.
Otomatik, algoritmik savaşlar çağı başladı. İsrail kasaplarının Gazze’deki soykırımda (“Bize de yaptılar biz niye yapmayalım?!”) 71 bin kişiyi öldürmeleri ve cinayetlerini hâlâ sürdürmeleri, bu tür yöntemlerle oluyor.
İran’ı seri bombalamaları da.
YZ algoritması hata yapar ve yapacaktır. Bu hatası bir dünya savaşına yol açacak nitelikte de olacaktır.
PALANTİR ADINDAKİ KATİL
Herkese Bilim Teknoloji dergimizin bu haftaki sayısı, savaşı YZ algoritmalarına devreden savaş makinesinin iç yüzü konusunda yazılarla dolu.
YZ şirketlerinin geliştirdikleri algoritmalarını savaş makinelerine ilk bağlayan Palantir adında şirket oldu. CEO’su Karp üstelik bir de 22 maddelik savaş doktrini yayımladı. “Biz Batı demokrasisini ve Amerikan askeri gücünü destekliyoruz; eğer teknoloji şirketleri ordularına yardım etmezse özgür dünya çökecektir” diyor. Yani Amerikan emperyalizminin sonunu işaret ediyor. Kurtarıcı o. Emperyalizmin yeni savaş tanrılığına soyunuyor. Modern orduların birer yazılım şirketine dönüşmesi gereğini ilan ediyor ve bu görevi de üstleniyor. Pentagon’dan milyar dolarlar da kasasına akıyor. Biz ayda yaşadığımız için dünyada kopan kıyametten bihaberiz. HBT’yi okuyun.
ÖLDÜRMEMEK ‘AHLAKİ SUÇ’MUŞ
Diyor ki manifestosunda, savaşta algoritmanın hızı önemlidir, kim hızlıysa o kazanır, daha hızlı davranarak öldürmekte geri kalırsan bu “ahlaki bir suçtur”. “Algoritma hedefi bulur, yakıtı hesaplar, silahı önerir; insan sadece ‘onayla’ tuşuna basar. Sol tık, sağ tık, o kadar basit.”
“Veri, topraktan daha değerlidir. Sahadaki her asker, her drone ve her sensör tek bir merkeze veri akıtmalı ve oradan hedef vurulmalı. Savaş alanında mükemmeliyet beklemek yenilgidir. Yapay zekâ, laboratuvarda değil, gerçek mermiler altında öğrenmeli. Makineler karar vermeli mi?” tartışmasını yürüten akademisyenler, savaşın gerçeklerinden kopuk elitlerdir.
Eleştirmenler, Karp’ı “savaşın ticarileştirilmesi” ve “insan hayatının bir Excel hücresine indirgenmesi” ile suçluyor. İnsanın öldürme kararından duygusal ve zihinsel olarak koparılmasına (dehumanization) yol açtığı gerekçesiyle yerden yere vuruluyor. (HBT’deki yazıyı derlediğim için buraya alıyorum.) Karp ve Pentagon “dijital Leviathan” olarak nitelendiriliyor.
O çocuğun 22 maddelik doktrini, dünyayı karşılıklı otomatik yıkım çağına sokuyor. “Savaşın ruhu artık silikon çiplerde atıyor. İnsanoğlu, kendi yarattığı bu ‘dijital canavarların’ kontrolünü elinde tutmakla onları mutlak zafer uğruna serbest bırakmak arasında tehlikeli bir çizgide yürüyor.”
Dünya tehlikeli bir döneme girdi. Yer yer bu konuya eğileceğim.
