404Media'nın haberine göre , popüler bir ücretsiz yapay zeka görüntü dedektörü, Hamas'ın İsrail'e yaptığı son saldırıda öldürülen bedeni yanmış bir bebeğin fotoğrafını, muhtemelen gerçek olmasına rağmen yapay zeka tarafından üretilmiş olarak etiketledi .
Görüntü, UC Berkeley'de profesör ve dijital olarak manipüle edilmiş görüntüler konusunda dünyanın önde gelen uzmanlarından biri olan Hany Farid tarafından incelendi. İlk olarak İsrail'in resmi Twitter hesabı tarafından tweetlenen görüntünün yapay zeka tarafından oluşturulduğuna dair herhangi bir işaret göstermediğini söylüyor.
Görüntünün sahte olduğu fikri ilk olarak Perşembe sabahı suçlamayı tweetleyen muhafazakar Yahudi yorumcu Ben Shapiro tarafından ortaya atıldı. Günün ilerleyen saatlerinde Jackson Hinkle, görseli platformda, AI görüntü algılama aracı "AI or Not"tan alınan ve görüntünün sahte olduğunu gösteren bir ekran görüntüsüyle birlikte paylaştı.
Artık tweet'e eklenen yeni bir bağlam notu, AI or Not sitesinin görüntüleri tespit etmede güvenilmez olduğunu ve kullanıcılara aynı görüntü için farklı sonuçlar verdiğini belirtiyor.
Farid, bir yapay zeka görüntüsünü tespit etmenin en kolay yollarından birinin, çizgilerin görüntüde nasıl göründüğü olduğunu belirtiyor. Yapay zeka oluşturucularının şu anda yüksek düzeyde yapılandırılmış şekiller ve düz çizgiler oluşturma konusunda sorunları var. Gölgelerin görüntüyle tutarlı olmasını sağlamak aynı zamanda yapay zeka görüntüsünü tespit etmenin de kolay bir yoludur; çünkü yapay zeka genellikle görüntülerde doğru gölgeleme oluşturmakta zorlanır.
Her iki durumda da söz konusu görüntü için görüntü testi geçer. Masanın üzerindeki gölgeler üstteki ışık kaynağıyla tutarlıdır ve masanın üzerindeki bacak düzdür.
Farid, şu anda çevrimiçi olarak mevcut olan araçların, bir görselin gerçek mi yoksa yapay zeka tarafından mı oluşturulduğunu belirlemenin iyi bir yolu olmadığını ve bir görsel, bu araçlardan biri tarafından "gerçek" veya "sahte" olarak etiketlenmiş olsa bile, bu durumun geçerli olmadığını belirtiyor. aracın analizinin doğru olduğu anlamına gelir.
Farid, 404'e "Bu, dezenformasyonun ikinci seviyesi" dedi. En azından şimdilik, benzer araçlarla oluşturulan sonuçlara şüpheyle yaklaşmamız gerektiği konusunda uyarıyor çünkü çoğu zaman bunlar yanlış sonuçlar verebilir.
