Meta’nın Yapay Zeka Aracında Dikkat Çeken Sorunlar Ortaya Çıktı
Meta’nın yeni yapay zeka aracı, görsellerdeki basit düzenlemeleri tanımakta zorluk çekiyor. Test sonuçları endişe verici.
Meta’nın yapay zeka ile oluşturulan içerikleri tanımlamak amacıyla geliştirdiği yeni araç, bazı basit düzenlemeler karşısında güvenilirliğini yitirdi. Reuters tarafından yapılan testlerde, Meta’nın Muse Image modeliyle üretilen görsellerin yaklaşık %55’inin, basit kırpma işlemleri sonrasında sistem tarafından tanınamadığı belirlendi.
Testte, Muse Image modeli kullanılarak insanlar, hayvanlar, manzaralar ve çeşitli nesneleri içeren toplam 40 farklı görsel oluşturuldu. Bu görseller, orijinal halleriyle sisteme yüklendiğinde tamamı doğru bir şekilde yapay zeka üretimi olarak tanımlandı. Ancak, görsellerin kenarları kırpıldığında durum değişti; aracın, düzenlenen 40 görselin 22’sinde görünmez filigranı tespit edemediği görüldü.
Meta’nın bu hafta tanıttığı araç, Muse Image tarafından oluşturulan görsellere eklenen ve Content Seal adı verilen görünmez bir filigranı kontrol etmekte. Şirket, bu işaretin görsel üzerinde yapılan basit düzenlemelere karşı dayanıklı olacak şekilde tasarlandığını belirtmişti. Ancak, yapılan testler, aracın yalnızca basit bir kırpma işlemi uygulanan görsellerin yarısından fazlasını tanıyamadığını ortaya koydu.
Meta, tespit aracının henüz ön izleme aşamasında olduğunu ve zamanla geliştirileceğini açıkladı. Şirket, Content Seal işaretinin farklı görsel düzenlemelerine karşı dayanıklı bir şekilde tasarlandığını ancak güçlü değişikliklerin bu işaretin sinyalini zayıflatabileceğini de vurguladı. Kullanıcılar, Meta’nın tespit aracı aracılığıyla bir görselde bu işaretin bulunup bulunmadığını kontrol edebiliyor.
Görünmez filigran yöntemleri, yapay zeka modelinin oluşturduğu görsellere insan gözüyle fark edilmesi zor dijital işaretler yerleştiriyor. Ancak, görselin kırpılması, sıkıştırılması veya yeniden boyutlandırılması durumunda bu işaretin bir kısmı kaybolabiliyor, bu da tespit aracının görselin kaynağını doğrulamasını zorlaştırıyor. Uzmanlar, filigran sistemlerinin yapay zeka içeriklerinin belirlenmesinde faydalı olduğunu ancak tek başına kesin bir çözüm sunmadığını ifade ediyor. Ayrıca, sosyal medya platformlarına yüklenen görsellerde uygulanan sıkıştırma işlemleri de bu sistemlerin performansını etkileyebiliyor.
Yapay zeka modellerinin daha gerçekçi görseller üretebilmesi, sosyal medya platformlarında sahte ve yanıltıcı içeriklerin belirlenmesini daha kritik hale getiriyor. Meta’nın tespit aracında ortaya çıkan sonuç, yapay zeka görsellerinin basit değişikliklerle kontrol sistemlerinden kaçabileceği endişesini gündeme taşıdı. Özellikle seçimler, savaşlar, doğal afetler ve kamuoyunun yoğun ilgi gösterdiği olaylar sırasında yayılan sahte görseller, yanlış bilgiyle mücadeleyi zorlaştırabiliyor. Bu nedenle teknoloji şirketleri, görünmez filigran, içerik bilgisi ve yapay zeka tabanlı görüntü analizini bir arada kullanan daha kapsamlı doğrulama sistemleri geliştirmeye çalışıyor.
Yapay zeka tarafından oluşturulan görsellerin belirlenmesindeki zorluk yalnızca Meta’ya özgü değil. 2026 yılında yayımlanan araştırmalar, farklı üretken yapay zeka modelleriyle hazırlanan görselleri her koşulda güvenilir biçimde tanıyabilen tek bir tespit aracının bulunmadığını gösteriyor. Görsellerin kırpılması, yeniden boyutlandırılması, bulanıklaştırılması veya sıkıştırılması, tespit araçlarının doğruluk oranlarını önemli ölçüde düşürebiliyor. Meta’nın testi de yapay içeriklerin kaynağını belirlemek için yalnızca görünmez filigrana güvenmenin yeterli olmayabileceğini ortaya koyuyor.
