Büyük bir finansal çöküş, faşizm, büyük güçler arası savaş, iklim krizi gibi uygarlık yıkıcı potansiyellere sahip olgulara, 19 Mart’ta bir yenisi eklendi: GPT-4 (Generative Pretrained Tranformers).

Microsoft’un açıkladığı yeni yapay zekâ (YZ) uygulaması GPT-4 büyük tartışma yarattı. Bilim insanlarının, Tesla ve SpaceX kurucusu Elon Musk, Apple’ın kurucularından Steve Vozniak gibi teknoloji sektörü liderlerinin katılımıyla hazırlanan, salı günü imzacı sayısı 5 bin 500’ü geçen bir deklarasyon, YZ alanındaki gelişmelerin hızlanarak insanın anlama kapasitesini aşmaya başladığını, denetimden çıkarak uygarlığı tehdit etme olasılığını gündeme getirdiğini vurguladı; YZ laboratuvarlarının, GPT-5’e geçmeden önce, riskleri tartışmak üzere çalışmalarına 6 ay ara vermelerini istedi, devlet denetiminin gerekebileceğine işaret etti. 

BİR BAŞKA CİNS ‘YAPAY ZEKÂ’...

YZ’nin getirdiği riskler tartışılırken sektöre finansal ve kültürel ilgi hızla artıyor, her gün yeni bir model piyasaya çıkıyor. Kasımdan bu yana 100 milyon yeni kişi GPT kullanmış. Goldman Sachs, “YZ küresel hasılayı yüzde 7 oranında artırabilir” diyor. Bu yüzde 7 için tüketilecek kaynaklara değinmeyen iyimserlik, YZ’nin gelişmesinin hızlanacağını düşündürüyor. 

Diğer taraftan, bu “teknolojik YZ”nin (TYZ) insanlığın yaklaşık 250-300 yıl önce yarattığı, deyim yerindeyse, bir “toplumsal yapay zekâ” makinesinin egemenliği altında doğdu. Evet, “kâr-makinesi” olarak sermayeden söz ediyorum. Bu kâr-makinesinin, iç dinamiklerinin (“yazılımının”) mantığı, bu mantığın insan aklıyla ilişkisi, az çok bilinse bile, hareketinin yönü (krizleri-yenilenme anları) çoğu kez öngörülemiyor. Bu “kâr-makinesinin”, “öngörülemeyen” yan ürünleri sürekli uygarlık sarsıcı olaylar yaratıyor. Bu makineyi, denetleme çabaları başarılı olamıyor. Geriye bu “makineyi” yok etmekten başka bir seçenek kalmıyor. 

TYZ, bu “kâr-makinesinin” gereksinimlerinin, kâr-rekabet önceliklerinin, sınıf çelişkilerini yöneten ırkçı, milliyetçi, eril önyargıların, benmerkezci öznelliklerin, egemenlik-bağımlılık ilişkilerinin içinden doğdu, bunları öğrenerek kendini eğitiyor, gelişiyor. Bu şekillenmenin risklerine, ilk kez, Google’da çalışan T. Gebru ve M. Michell dikkat çektiğinde hemen işten atılmışlardı. TYZ’nin insan zekâsına eşit hatta daha güçlü bir “Genel YZ”ye dönüşeceği an (singularity) hızla yaklaşıyor. İnsanlık kâr-makinesini denetim altına alamadı, onun önceliklerinin basıncı altında hızla gelişen TYZ’ye karşı da ne yapacağını bilemiyor. 

BÜYÜK BELİRSİZLİK

Her yeni teknoloji gibi bu da yeni ahlaki sorunları gündeme getirirken kâr-makinesinin gereksinimleri gelişmeyi belirliyor. YZ, örneğin OpenAI, başlangıçta kâr amacı gütmeyen bir girişimdi; ancak hızla milyar dolarlık bir projeye dönüşerek büyük sermayenin mülkiyetine geçti. Devletler, izleme, gözetleme, cezalandırma organlarıyla, savunma sistemleriyle YZ’nin gelişmesini destekliyorlar. YZ’nin gelişme yönü, hızı, iç mantığı da artık tam olarak bilinemiyor. Örneğin YZ, göz irisine bakarak çok az bir hata payı ile kişinin cinsiyetini bilebiliyor ama nasıl bildiği anlaşılamıyor. Bu ve benzeri durumlarda da “YZ’nin artık bilinemeyen bir iç mantığı, hatta amaçları şekilleniyor olabilir mi” gibi soruları gündeme geliyor. 

YZ, baskıcı rejimleri koruyan, özgürlükleri yok eden bir araç olarak gittikçe daha yoğun biçimde kullanılırken “Ya bir gün, insan gezegendeki en akıllı ve egemen varlık olmaktan çıkarsa” sorusu da gündeme geliyor.