Yapay zeka (YZ) hem yaşamı iyileştirme olanağı getiriyor hem de küresel ısınma ve içme suyu sıkıntısı gibi iki alanda sorunları derinleştiriyor. Bu paradoksu genişletmeye çalışacağım.
TEKNOLOJİ VE 'TEKİLLİK' ’(SİNGULARİTY)
Teknoloji, insan çevresinin değiştirilmesi, manipüle edilmesiyle ilgilidir; araçların, makinelerin yanı sıra yönlendiren yöntem ve süreçlere kadar geniş bir yelpazeyi kapsar. Teknoloji, dünyayla etkileşim kurma, yaşama, çalışma pratiklerimiz üzerinde derin bir etkiye sahip (Britannica, Cambridge Sözlüğü) bir “toplumsal ilişkidir.”
YZ ile insanlık, tarihte ilk kez kendini geliştirebilen, bir aşamada insan iradesi karşısında otonomi kazanma, insanın yaratıcı iradesinin denetiminin dışına çıkma potansiyelleri taşıyan bir teknolojiyle yaşamaya başladı. Bir aşamada, YZ’nin insan zekâsını aşarak teknolojide insanların ayak uyduramayacağı üstel bir büyümeye yol açtığı “tekillik” (singularity) denen durumun ortaya çıkma olasılığı (riski) de doğdu. Bu “tekillik” olasılığının/riskinin merceğinden bakınca, YZ’nin, su gibi doğal kaynaklar üzerinde insanla rekabet ediyor olması, iklim krizini kendisi için yaşamsal bir tehlike olarak görmeme olasılığı ile birleşerek insanı dışlayan tehlikeli senaryolara yol açıyor.
Aslında, insanlık YZ’nin kimi özellikleri taşıyan bir “teknolojiyle” ilk kez karşılaşmıyor: Bir “kâr-makinesi” olarak sermaye de insanı, toplumu, doğayı, kültürü değiştiren, dönüştüren, zaman içinde evrimleşen bir “teknoloji” olarak görülebilir. “Kar makinesi” çoktan insanın kontrolünden çıktı (öngörülemeyen krizler), kültürü metalaştırarak etkisi altına aldı, doğal kaynaklar üzerinde insanla, çoğu zaman insanın gereksinimlerini dikkate almadan rekabet ediyor (iklim krizi, çevre kirlenmesi, betonlaşma artık önlenemiyor).
VE ÖBÜR PARADOKS
YZ insanlığa bir Genel (tüm alanlarda uygulanabilir) Amaçlı Teknoloji (GPT: General Purpose Technology) getiriyor. Buna karşılık YZ kapitalizm altında onun gereksinimlerine, önceliklerine uygun ve onun çelişkilerinin, kültürünün izlerini taşıyarak gelişiyor. Bugün YZ alanında egemen 46 büyük şirketin toplam piyasa değeri (market capitalization) 9.2 trilyon dolar. Beşinin (Microsoft, NVIDIA, Google, Meta, Tesla) toplam piyasa değeri 8.6 trilyon dolar. Bu beş büyük tekelci “kar makinesi” (şirketler), rakiplerini, piyasaya çıkan yenilikleri satın alarak adeta “yutarak”, kültürü, günlük yaşamı şekillendirerek büyümeye devam ediyor.
Bu şirketler, insanın bilişsel yeteneklerine benzeyen bir akıl yürütme, problem çözme, algılama, öğrenme ve dil anlama gibi yeteneklere sahip Genel Yapay Zekâ (AGI) düzeyine ulaşmak, piyasadan sermaye, kaynak -bu yarış büyük mali, fiziki kaynak gerektiriyor- çekmek için çok yoğun bir rekabet içindeler.
Bu şirketlerin yöneticileri, risklerin ayırdında olarak, hem durup bir denetin modeli oluşturmaktan söz ediyorlar hem de devletlerin denetleme çabalarına şiddetle direniyorlar. Bir başka deyişle, şirketleri yönetenler de YZ ile “kar makinesi” arasında oluşan simbiyoz ilişkinin egemenliği altına girmiş görünüyorlar. Bu sırada YZ, emek vasıflarını yok ederek ve istihdamı tehdit ederek ekonomiye derinlemesine nüfuz ediyor.
YZ ile “kâr-makinesi” olarak sermaye arasında oluşan simbiyoz ilişki, son derecede tehlikeli genişleme dinamikleri içeriyor. Birincisi güvenlik, denetleme, disiplin ve cezalandırma mimarisi içinde YZ hızla egemen teknoloji olmaya, (oralarda öğrenerek gelişerek) başlıyor. Bu simbiyoz ilişki, kaçınılmaz olarak devleti de içine çekiyor. İkincisi sermaye grupları, blokları arasındaki rekabetin etkisiyle hem ülkelerin içinde hem de uluslararası alanda paylaşım ilişkilerinin yerleşik dengeleri değiştikçe büyük güçler arası dengeler değişmeye başladı. Artık, verili düzen dağılıyor, bu güçler birbirleriyle, kaynaklar, teknolojik gelişme (özellikle GYZ) alanlarında rekabet ederken giderek yerel çatışmalarda taraf olmaya başlıyorlar. YZ teknolojileri de askeri teknolojinin gelişmesi içinde, “savunma-haberleşme-şifreleme”, “Savaşta Devrim” tartışmalarında geleceği belirleyecek etken olarak öne çıkıyor.
YZ ile “kâr makinesi” arasındaki simbiyoz ilişki kırılmadan YZ’nin getirdiği tehlikeleri önlemek olanaksız görünüyor.
