ChatGPT ve Midjourney için yükümlülükler geliyor!

Dünyadaki ilk “yapay zeka yasası”, Avrupa Parlamentosu tarafından kabul edildi.

Yapay zeka tasarımını, sistemlerinin kullanımını ve satışını düzenleyen yasa uyarınca kamusal alanlarda akıllı kameralar aracılığıyla yüz tanıma uygulaması yasaklanacak.

Salı günü Avrupa Parlamentosu’nda görüşülen yapay zeka yasası, dünya çapında daha güvenli ve şeffaf bir standart belirlenmesi için Midjourney ve ChatGPT gibi büyük modellere önemli yükümlülükler getiriyor.

Çarşamba günü oylanan yeni düzenleme, parlamentonun büyük çoğunluğunun oylarıyla kabul edildi.

Avrupa Birliği Komisyonu, hem Avrupa Parlamentosu hem de üye ülkeler ile yasanın uygulanmasına ilişkin müzakerelere başlayabilecek.

Nihai görüşmelerin önümüzdeki yılın başlarında tamamlanarak yasanın 2024 yılından itibaren yürürlüğe girmesi bekleniyor.

Düzenlemede yapay zeka, ”düşük riskli, sınırlı riskli, yüksek riskli ve kabul edilemez” olarak dört ana kategoride tanımlandı.

Yasa şu düzenlemeleri içeriyor:

• Spam filtreleri ve video oyunları gibi minimum riskli yapay zekaya izin olacak.
• Bankacılık veya havayolu internet sitelerindeki sohbet robotları gibi sınırlı riskli yapay zeka, şeffaflık yükümlülüklerine uymak zorunda.
• Kendi kendine giden taşıtlar ve robotik cerrahi gibi yüksek riskli yapay zeka katı kontrollere tabi olacak.
• Sosyal puanlama için yapay zeka kullanımı kesinlikle yasaklanacak. Örneğin Çin'de olduğu gibi vatandaşların davranışlarını analiz eden ve bu temelde değerlendiren sistemlere izin verilmeyecek.

Oylama öncesi, düzenlemede yer alan “gerçek zamanlı yüz tanıma” konusunda yoğun tartışmalar yaşandı.

Düzenleme, kayıp çocukların izini sürme veya terör saldırılarını önleme gibi istisnai durumlarda, halka açık alanlarda insanların filme alınmasına ve anında tespit edilmesine olanak sağlanmasını istiyordu.

Milletvekillerinin büyük çoğunluğu, “ağır mahremiyet ihlali” gerekçesiyle buna karşı çıktı.

Çoğunluğun oyları ile gerçek zamanlı yüz tanıma yasaklandı.

'Seçimleri etkilemek için kullanılabilir'

Rekabetten sorumlu AB Komisyonu üyesi Margrethe Vestager’e göre bu konudaki ilk yasa olması nedeniyle bütün dünya bu düzenlemeyi yakından takip ediyor.

Vestager, BBC’ye yaptığı açıklamada, yapay zekanın önyargı veya ayrımcılığı artırma potansiyelinin önemli bir endişe olduğunu söyledi.

AB Komisyonu üyesi, "Sosyal geçmişiniz, tam bir profilinizi çıkarmak için taranabiliyorsa, manipüle edilme riski çok büyük. Eğer hiçbir şeye inanmadığımız bir duruma düşersek, o zaman toplumumuzu tamamen baltalamış oluruz" diye konuştu.

Düzenlemeyi, teknolojinin en büyük risklerine karşı koymak için bir "korkuluk” olarak tanımlayan Vestager, düzenlemenin küresel olması gerektiğini vurguladı.

AB Komisyonu üyesi Vestager, yapay zekanın bir sonraki seçimleri etkilemek için kullanılabileceği konusunda kesinlikle bir risk bulundurduğunu da dile getirdi.

Avrupa Parlamentosu, yapay zeka kullanımının etkisinin izlenmeye devam edilmesi gerektiğini de kabul etti.

Milletvekillerine göre bazen bir algoritma kurallara uyuyor gibi görünse de uygulamada tam tersi olabiliyor.

Pek çok Avrupa Parlamentosu üyesi, net kurallar yoksa yapay zekanın gelecekte büyük sorunlara yol açabileceğinden endişe ediyor

Yapay zeka ile ilgili tasarı, 2021 yılında AB Komisyonu üyesi Thierry Breton tarafından sunulmuştu.