Meta'nın 'piyasaya sürülemeyecek kadar riskli' yapay zekası tartışmaya neden oldu
Meta sadece iki saniyelik ses kaydı örneğiyle insanların sesini taklit edebilme özelliğine sahip yeni yapay zeka aracı Voicebox'u tanıttı.
Facebook ve Instagram'ın çatı şirketi Meta son dönemde tüm odağını üretken yapay zeka sistemlerine çevirdi. Sosyal medya ve teknoloji devi geçtiğimiz günlerde Voicebox olarak isimlendirdiği yepyeni yapay zeka aracını kullanıcılara tanıttı.
Temelde standart bir "metinden-sese yapay zeka sistemi" olarak tanımlanan Voicebox esas olarak OpenAI'nin metinden görüntü üretebilen DALL-E aracına benzetiliyor. Kullanıcılar nasıl ki DALL-E'ye sadece birkaç satır yazarak hayallerindeki görüntüyü oluşturabiliyorlarsa; Voicebox'ta benzer bir mantıkta çalışacak.
SESLERİ TAKLİT EDEBİLECEK
Engadget'in aktardığına göre İngilizce, Fransızca, Almanca, Lehçe, Portekizce ve İspanyolca dillerinde yazılmış sesli kitaplardan kaydedilmiş konuşma ve transkript örnekleriyle eğitildi. Yapay zekanın eğitiminde 50 bin saatten fazla filtresiz sesten faydalanıldığı aktarıldı.
Sisteme ilk olarak konuşma bölümlerini, transkriptine göre tahmin etmesi öğretildi. Meta araştırmacılarına göre Voicebox bundan sonra, girdileri yeniden oluşturmak zorunda kalmadan bir ses kaydının ortasında bölümler oluşturmak da dahil olmak üzere tüm konuşma oluşturma görevlerine uygulayabiliyor.
Bu yapay zeka aracının en dikkat çekici tarafıysa; sadece iki saniyelik ses kaydı örneğinden yola çıkarak insanların sesini sentezleyebiliyor yani bir nevi taklit edebiliyor. Ayrıca gürültü giderme, içerik düzenleme, stil dönüştürme ve çeşitli örnek oluşturma işlemlerini gerçekleştirebiliyor.
ÜNLÜ DİZİYİ HATIRLATTI
Voicebox'un konuşmaları taklit etme özelliği, ünlü distopik bilim kurgu dizisi Black Mirror'daki bir bölümü hatırlattı. Söz konusu bölümde bir kadın, Voicebox benzeri bir yapay zeka aracına ölen eşinin önceki konuşmalarını yüklüyor ve ardından yapay zeka, eşinin hayattaki halini konuşma tarzına varana kadar birebir taklit ediyor.
Öte yandan Meta, bu özelliğin gelecekte konuşma bozukluğu çeken insanlara yardımcı olmak amacıyla geliştirildiğini söylese de, yapay zekanın potansiyel kötüye kullanım riskleri olduğunu belirterek piyasaya sürmenin güvenli olmadığını ve şimdilik yayınlamayacağını açıkladı.
Voicebox ayrıca bir ses dosyasındaki istenmeyen gürültüleri de temizleyebiliyor. Kullanıcı temizlenecek ses kaydını ve transkript örneğini sisteme yüklediğinde, yapay zeka transkripti referans alarak sesteki gürültüleri (köpek havlaması veya araba kornası gibi) ayırabiliyor.
Kaynak: Engadget, Derleyen: Ömer Faruk Doğan
