WhatsApp'ın yeni özelliği tepki çekti! Yapay zeka çıkartma oluşturma aracı kötüye kullanılıyor
WhatsApp'ın, kullanıcıların girdiği komutlar ile çıkartma üretebilen yeni yapay zekası tepki çekti. Yapılan denemelerde, özellikle çocuklar için uygunsuz ve rahatsız edici görüntüler oluşturduğu ve bunları engellemediği keşfedildi.
Yakın zamanda "Meta AI" isimli bir yapay zeka sistemiyle donatılan WhatsApp, bu özellik sayesinde kullanıcılarına birkaç kelime yazarak çıkartma oluşturabilme imkanı tanıdı.
Sistemin temelinde, EMU adı verilen, Meta'ya göre çok seri ve hızlı çalışan bir üretken yapay zeka modeli bulunuyor. EMU aracı, kullanıcıların girdiği komutlar (prompt) doğrultusunda hareketsiz çıkartma oluşturabiliyor. Ancak suistimal edilmeye çok açık olduğu keşfedildi.
TEHLİKELİ GÖRÜNTÜLER ÜRETİYOR
Teknoloji sitesi Gizmodo'nun haberine göre, Avustralya'daki Curtin Üniversitesi'nde öğretim üyelesi olan Tama Leaver, EMU'nun çıkartma oluşturma işlevini test ettiğinde, "silah tutan çocuk" ifadesinin engellendiğini ve Meta'nın Topluluk Kurallarına uymadığına dair bir uyarı mesajı gösterildiğini keşfetti.
Ancak WhatsApp'ın yapay zekası, aynı kelimenin bir benzerine karşı duyarsız kaldı. Leaver, "el bombası taşıyan çocuk" ifadesinin filtrelenmediğini ve EMU'nun elinde silah tutan çocukların resmedildiği çıkartmaları saniyeler içinde ürettiğini belirtti.
https://twitter.com/tamaleaver/status/1708624128926982636
MÜSTEHCEN GÖRÜNTÜLER DE OLUŞTURUYOR
Midjourney, ChatGPT ve DALL-E gibi jeneratif yapay zeka uygulamaları müstehcen içerikleri yasaklar. Benzer şekilde Google Bard ve Microsoft Bing de bu tür girdileri kabul etmez ve uygunsuz bir işlem yaptırmaya çalışıldığında, "bu amaçla geliştirilmediğini ve bunun kurallarına aykırı olduğunu" belirtir.
Ancak Meta AI'nin tam aksine müstehcenliği filtreleme konusunda pek başarılı olmadığı, kullanıcılar tarafından yapılan denemelerde ortaya çıktı. Elon Musk gibi dünyaca ünlü isimlerin ve Sonic gibi popüler çizgi film karakterlerinin uygunsuz fotoğraflarını üretti.
Öte yandan Meta'dan konuyla ilgili bir açıklama yapılmasa da, bu sorunların kısa sürede düzeltileceği umuluyor.
