Seslendirme sanatçısına ‘yapay zeka’ tuzağı! Sesini taklit ettiler

Popüler video oyunu Genshin Impac’teki Beidou karakterini canlandıran ünlü seslendirme sanatçısı Allegra Clark, sesinin yapay zeka tarafından klonlanarak müstehcen içerikli bir videoda kullanılmasına tepkili. Üstelik ses klonlama aracının geliştiricisi sorumluluk kabul etmiyor.

Son dönemde, ses kopyalama teknolojileri ve üretken yapay zeka (AI) uygulamalarındaki gelişim, profesyonel seslendirme sanatçıları için beklenmedik bir tehlikeye kapı aralamış durumda.

Bunun son örneği, ünlü ses sanatçısı Allegra Clark’ın başına geldi. Clark, popüler video oyunu Genshin Impact’teki Beidou karakterini canlandıran isim olarak tanınıyor. Ancak son zamanlarda kendi sesinin kullanıldığı, uygunsuz ifadeler içeren bir video nedeniyle başı dertte.

SESİNİ YAPAY ZEKAYLA KLONLADILAR

Video, Beidou karakterinin müstehcenlikle ilişkilendirildiği ve Clark’ın daha önce hiç söylemediği ifadelerin kullanıldığı bir sahneyi içeriyordu. Üstelik bu ses kaydı, Clark’ın kendi sesiyle birebir örtüşüyordu. Business Insider’in haberine göre videoyu hazırlayan kişi, Clark’ın sesini ElevenLabs adlı bir jeneratif yapay zeka aracı kullanarak kopyalamış ve istediği şekilde kullanmıştı.

ElevenLabs, yapay zeka ve derin öğrenme algoritmalarını kullanarak, kulağa doğal gelen “konuşma sentezi” ve “metinden konuşma üretebilen” bir yazılım olarak hizmet veriyor.

Türkçe dil desteği de bulunan bu sistem, kullanıcının yazdığı herhangi bir metni, önceden tanımlanmış yüzlerce kadın ve erkek sesiyle seslendirebilmesini sağlıyor. Ayrıca istediğiniz bir kişinin sesini de programa yükleyerek, klonlayabiliyor ve cümleleri onun ağzından duyabiliyorsunuz.

Clark yaptığı açıklamada, ilk başta bu durumu bir şaka olarak algılasa da, müşterilerinin bu videoyu görmesi durumunda kendisinin bu içeriği bilerek hazırladığı şeklinde yanlış bir algının oluşabileceğinden endişe duyduğunu ifade etti.

Genç kadın, “Bunu söylediklerimizin insanlar tarafından düşünülmesi bize büyük sorunlar açabilir. Aynı zamanda gerçekte olmadığınız bir videoda sesinizi duymak oldukça rahatsız edici” şeklinde hislerini dile getirdi.

GELİŞTİRİCİSİ SORUMLULUK ALMIYOR

Bu olayın ardından Clark, ses kaydının kaldırılması ve gelecekte sesinin kopyalanmasının önlenmesi için ElevenLabs şirketinden talepte bulundu. Ancak şirket, kaydın kendi teknolojileri kullanılarak yapıldığını tespit etmediklerini iddia etti ve yalnızca kaydın “nefret söylemi veya hakaret içermesi” durumunda hareket edeceklerini belirtti.

ElevenLabs’in CEO’su Mati Staniszewski, Clark’ın durumuyla alakalı olarak, içerik üreticilerinin ses kopyalama işlemi için ses sahiplerinden “açık rıza” almaları gerektiğini söyledi. Şirket ses kopyalamaya karşı bir güvenlik önlemi olarak “ses captcha” adlı bir araç başlattı. Bu araç, kullanıcıların kaydettiği sesin, kopyalamaya çalıştıkları sesle eşleşmesini gerektiriyor.

Allegra Clark ise yaşadığı bu olayın hem kişisel mahremiyeti hem de mesleki itibarı açısından büyük bir tehlike oluşturduğunu söylüyor.