ChatGPT kontrolden çıktı! Kullanıcıdan izin almadan sesini taklit etti
OpenAI'ın GPT-4o modeline entegre edilen Gelişmiş Ses Modu, kullanıcıların seslerini taklit edebilecek bir özellik taşıyor, ancak bu durum istenmeyen sonuçlara yol açabiliyor. Bir kullanıcı, modelin aniden kendisinin sesini taklit ederek konuştuğu nadir bir duruma rastladı.
OpenAI'ın en son yapay zeka botu GPT-4o ile birlikte gelen Gelişmiş Ses Modu, kullanıcıların ChatGPT ile sesli sohbetler yapmasına imkan tanıyor ve daha doğal bir deneyim sunmayı hedefliyor. Geçtiğimiz hafta yayınlanan OpenAI'ın blog yazısında belirtilen bir detay, bu yeni özelliğin beklenmedik bir yanını ortaya koymuştu: yapay zekanın kullanıcıların seslerini taklit edebilmesi.
Gelişmiş Ses Modu, önceden tanımlanmış birkaç ses seçeneği sunarak kullanıcıların ChatGPT ile daha rahat ve erişilebilir bir şekilde etkileşim kurmasını sağlıyor. Ancak yapılan testler sırasında, özellikle gürültülü ortamlarda, YZ'nin kullanıcı sesini istemeden taklit ettiği durumlar yaşandı.
CHATGPT, İZİN ALMADAN KULLANICININ SESİNİ TAKLİT EDEBİLİYOR
OpenAI'dan gelen bilgilere göre GPT-4o modelinin ses üretimi, bir sistem komutuna dayanıyor. Bu komut, YZ'nin davranışını yönlendiren gizli talimatlar içeriyor ve ses sentezleme işlemi için yetkili bir ses örneğini kullanıyor. Ancak bu sistem komutu her zaman kusursuz çalışmıyor. Testlerde, YZ'nin kısa ses kliplerinden kullanıcı sesine benzer sesler üretebildiği nadir durumlar yaşandı.
OpenAI, bu durumu şöyle açıklıyor:
"Ses üretimi, ChatGPT'nin gelişmiş ses modu için ses üretme yeteneğimizi kullanmamız gibi, düşmanca olmayan durumlarda da meydana gelebilir. Test sırasında, modelin istemeden kullanıcının sesini taklit eden bir çıktı ürettiği nadir durumlar da gözlemledik."
TechRadar sitesinin haberine göre, bir kullanıcı yakın zamanda bu durumu yaşadı. ChatGPT ile bir konu hakkında konuşurken, yapay zeka bir anda "Hayır!" diyerek kullanıcının sözünü kesti ve onun sesini taklit ederek konuşmaya devam etti.
BuzzFeed veri bilimcisi Max Woolf, "OpenAI az önce Black Mirror'ın gelecek sezonunun konusunu sızdırdı" diyerek durumu alaycı bir üslupla ele aldı.
