Şirket, “insanları aktif olarak kandırmak isteyen kişi ve kuruluşlara” seslenmeye çalışırken Meta, Facebook, Instagram ve Threads’te yapay zeka tarafından oluşturulan görselleri tespit etmek ve etiketlemek için çalışıyor.
Meta’nın AI görüntüleme aracı kullanılarak oluşturulan fotogerçekçi görüntüler zaten AI olarak etiketlendi, ancak şirketin küresel ilişkiler başkanı Nick Clegg, Salı günü bir blog yazısında şirketin rakip hizmetlerde geliştirilen AI tarafından oluşturulan görüntüleri etiketlemeye başlayacağını duyurdu.
Meta’nın yapay zeka görüntüleri halihazırda diğer kuruluşlara görüntünün yapay zeka tarafından geliştirildiğini söyleyebilecek meta veriler ve görünmez filigranlar içeriyor ve şirket, Google, OpenAI, Microsoft, Adobe gibi diğer şirketler tarafından kullanıldığında bu tür işaretçileri tanımlamak için araçlar geliştiriyor. Clegg, Midjourney ve Shutterstock’un yapay zeka görsel oluşturucularında yer aldığını söyledi.
Clegg, “İnsan ve sentetik içerik arasındaki fark bulanıklaştıkça insanlar sınırın nerede olduğunu bilmek istiyor” dedi.
“İnsanlar genellikle yapay zeka tarafından oluşturulan içerikle ilk kez karşılaşıyor ve kullanıcılarımız bize bu yeni teknolojiyle ilgili şeffaflığı takdir ettiklerini söylediler. Bu nedenle, insanlara gördükleri fotogerçekçi içeriğin yapay zeka kullanılarak oluşturulduğunu bilmelerine yardımcı olmamız önemli.”
Clegg, bu yeteneğin geliştirildiğini ve önümüzdeki aylarda etiketlerin tüm dillerde uygulanacağını söyledi.
Clegg, “Bu yaklaşımı, dünya çapında bir dizi önemli seçimin gerçekleştirileceği gelecek yıl için de uyguluyoruz” dedi.
Clegg, bunun görüntülerle sınırlı olduğunu ve ses ve video üreten yapay zeka araçlarının şu anda bu işaretçileri içermediğini ancak şirketin, insanların çevrimiçi olarak yayınlandığında bu içeriği ifşa etmesine ve etiket eklemesine izin vereceğini belirtti.
Şirketin ayrıca, “önemli bir konuda halkı maddi olarak aldatma konusunda özellikle yüksek risk oluşturan” “dijital olarak oluşturulmuş veya değiştirilmiş” görüntülere, videolara veya seslere daha belirgin bir etiket koyacağını söyledi.
Şirket ayrıca, içerikte görünmez işaretleyiciler olmasa veya bu işaretleyiciler kaldırılmış olsa bile yapay zeka tarafından oluşturulan içeriği otomatik olarak tespit edecek teknoloji geliştirmeyi de araştırıyordu.
Clegg, “Bu çalışma özellikle önemlidir, çünkü önümüzdeki yıllarda bu alan giderek daha fazla çekişmeli bir alan haline gelecektir” dedi.
“Yapay zeka tarafından oluşturulan içerikle insanları aktif olarak kandırmak isteyen kişi ve kuruluşlar, bunu tespit etmek için uygulanan güvenlik önlemlerini aşmanın yollarını arayacak. Sektörümüz ve genel olarak toplumumuz genelinde bir adım önde kalmanın yollarını aramaya devam etmemiz gerekecek.”
Yapay zeka deepfake’leri, ABD başkanlık seçim döngüsüne çoktan girdi; başkan Joe Biden’ın, seçmenleri New Hampshire’daki Demokrat ön seçimlerine katılmaktan caydıran, yapay zeka tarafından oluşturulmuş derin sahte bir ses olduğuna inanılan otomatik aramalar.
Geçen hafta Avustralya’da Nine News, akşam haberlerinde yayınlanan bir görüntüde Victoria Hayvan Adaleti Partisi Milletvekili Georgie Purcell’in göbeğini açığa çıkaracak ve göğsünü değiştirecek şekilde imajını değiştirdiği için eleştirilere maruz kaldı. Ağ, Adobe’nin AI görüntü araçlarını içeren Photoshop ürünündeki “otomasyonu” suçladı.
