Facebook ve Instagram, yapay zeka görsellerini etiketlemeye başlıyor

Facebook, Instagram, Threads ve Whatsapp’ın çatı şirketi Meta, diğer şirketlerin yapay zeka (AI) araçları tarafından oluşturulan görselleri tespit edip, etiketleyebilen teknolojiyi uygulamaya sokacağını açıkladı.

Bu uygulama; Facebook, Instagram ve Threads platformlarında hayata geçirilecek.

Meta kendi sistemleri tarafından oluşturulan yapay zeka görsellerini halihazırda etiketliyor. Meta, halen geliştirmekte olduğu bu yeni teknolojinin, yapay zeka görsellerinin kötü amaçlı kullanımı ile mücadelede “ivme” yaratacağını savundu.

Ancak bir yapay zeka uzmanı BBC'ye bu tür araçların "kolayca atlatılabilir" olduğunu söyledi.

Meta’nın üst düzey yöneticisi Nick Clegg tarafından yazılan bir blogda şirket, yapay zekayı etiketleme sisteminin “gelecek aylarda” daha yaygın kullanılacağını söyledi.

‘Atlatmak kolay'

Fakat Maryland Üniversitesi Güvenilir Yapay Zeka Laboratuvarı Direktörü Profesör Soheil Feizi, böyle bir sistemin kolayca atlatılabileceğini savunuyor.

BBC'ye yaptığı açıklamada, “Bu tespit yazılımları da aşılabilir, aynı zamanda yanlış pozitif sonuçlar da verebilir. Bu yüzden çok geniş kullanımının mümkün olacağını düşünmüyorum" dedi.

Meta, yapay zekayla sahte görsel üretimiyle ilgili endişelerin odağında olmalarına rağmen, bu teknolojinin ses kayıtları ve videolar için çalışmayacağını kabul etti.

Firma bunun yerine kullanıcılardan kendi ses kaydı ve video gönderilerini etiketlemelerini istediğini ve "bunu yapmamaları halinde ceza uygulanabileceğini" söyledi.

Nick Clegg ayrıca ChatGPT gibi araçlar tarafından oluşturulan metinleri test etmenin imkansız olacağını da itiraf etti.

‘Tutarsız’ politika

Pazartesi günü Meta'nın Gözetim Kurulu, şirketin üzerinde oynanmış içeriklere yönelik politikasını "tutarsız” olarak nitelendirerek eleştirdi. Kurul, Meta'yı eleştirirken, içeriklerin maniple edilmiş olmasına değil, nasıl maniple edildiğine bakıldığı tespitini yapıyor.

Meta tarafından finanse edilen Gözetim Kurulu şirketten bağımsız olarak görev yapıyor.

Eleştiri, ABD Başkanı Joe Biden'ın bir videosuna ilişkin karara yanıt olarak geldi. Söz konusu videoda, Biden'ın torunuyla birlikte çekilmiş gerçek görüntüleri üzerinde, ona uygunsuz bir şekilde dokunuyormuş gibi görünecek şekilde oyanmıştı.

Ancak yapay zeka kullanılarak değiştirilmediği için söz konusu videonun, Meta'nın manipüle edilmiş içeriklere yönelik politikasını ihlâl etmediği sonucuna varıldı.

Kurul, bu videonun Meta'nın sahte içeriklere ilişkin mevcut kurallarını ihlâl etmediğini kabul etti ancak kuralların güncellenmesi gerektiğini söyledi.

Nick Clegg Reuters’a, karara genel olarak katıldığını söyledi.

Meta'nın mevcut politikasının her içeriğe uygun olmadığını kabul etti.

Şirket Ocak ayından itibaren, siyasi reklamların dijital olarak değiştirilmiş görseller veya videolar kullandıklarında, bunu belirtmelerini zorunlu kılan bir politikayı hayata geçirdi.