OpenAI, ChatGPT'nin sesli modunu kullananlara ilginç bir uyarı yaptı
OpenAI, ChatGPT'nin insan gibi konuşan gelişmiş ses modunu kademeli olarak kullanıma sunmaya başladı. Aylık 20 dolara erişilebilen GPT-4o ile sunulan bu özellik, "kullanıcılar tarafından gerçek insan ilişkilerinin yerini alacak şekilde kullanılma" tehlikesiyle OpenAI'ı endişelendiriyor.
OpenAI, yeni insan sesine benzeyen ses modu nedeniyle, kullanıcıların ChatGPT'ye arkadaşlık için çok fazla güvenmeye başlayabileceğinden ve bu durumun, potansiyel olarak "bağımlılığa" yol açabileceğinden endişe ettiğini açıkladı.
Bu açıklama, OpenAI'ın geçen hafta ücretli kullanıcılara sunulmaya başlanan araç ve üzerinde çalıştığı geniş dilli yapay zeka modeli hakkında yürüttüğü güvenlik incelemesine ilişkin perşembe günü yayınladığı bir raporda yer aldı.
CHATGPT'NİN GELİŞMİŞ SES MODU
ChatGPT'nin gelişmiş ses modu son derece gerçekçi; gerçek zamanlı olarak yanıt veriyor, sözünü kesebiliyorsunuz, insanların konuşmalar sırasında çıkardığı gülme ya da "hmms" gibi sesleri taklit edebiliyor. Ayrıca konuşmacının ses tonuna göre duygusal durumunu da değerlendirebiliyor.
OpenAI bu özelliği bu yılın başlarında bir etkinlikte duyurduktan birkaç dakika sonra, 2013 yapımı "Her" filmindeki baş karakterin aşık olduğu, ancak yapay zekanın "kendisinin" yüzlerce başka kullanıcıyla da ilişkisi olduğunu itiraf etmesiyle kalbi kırılan yapay zekalı dijital asistanla karşılaştırıldı.
Şimdi OpenAI, ChatGPT'nin ses moduyla konuşan kullanıcıların araçla "ortak bağları ifade eden" bir dil kullandığını gözlemlediğini söyledikten sonra, kurgusal hikayenin gerçeğe dönüşmeye biraz fazla yakın olduğundan endişe duyuyor.
"CHATGPT'NİN SES MODU, SAĞLIKLI İLİŞKİLERİ ETKİLEYEBİLİR"
Raporda, "kullanıcılar yapay zeka ile sosyal ilişkiler kurarak insan etkileşimine duydukları ihtiyacı azaltabilir, bu da potansiyel olarak yalnız bireylere fayda sağlarken sağlıklı ilişkileri de etkileyebilir." denildi.
Aynı zamanda, bir bottan insan sesine benzeyen bilgiler duymanın, yapay zekanın yanlış yapma eğilimi göz önüne alındığında, kullanıcıların araca olması gerekenden daha fazla güvenmesine yol açabileceğine de dikkat çekildi.
CNN'de yer alan habere göre, dünya genelinde bazı kullanıcılar şimdiden yapay zekalı sohbet robotlarıyla romantik olarak tanımladıkları ilişkiler kurmaya başladı, bu da ilişki uzmanlarını endişelendiriyor.
Teknoloji ve insan iletişimi üzerine çalışan Arizona Eyalet Üniversitesi Profesörü Liesel Sharabi, haziran ayında CNN'e verdiği bir röportajda, "Şirketlerin bunu gerçekten etik ve sorumlu bir şekilde yürütme sorumluluğu çok fazla ve şu anda hepsi bir deney aşamasında. Uzun vadede var olmayabilecek ve sürekli evrim geçiren bir teknolojiyle gerçekten derin bağlar kuran insanlar için endişeleniyorum." dedi.
OpenAI, insan kullanıcıların ChatGPT'nin ses moduyla etkileşimlerinin de zaman içinde sosyal etkileşimlerde neyin normal kabul edildiğini etkileyebileceğini söyledi.
Şirket raporda, "Modellerimiz, kullanıcıların istedikleri zaman sözlerini kesmelerine ve 'mikrofonu almalarına' izin veriyor, bu da bir yapay zeka için beklense de insan etkileşimlerinde norm karşıtı olacaktır" dedi.
Şimdilik OpenAI, yapay zekayı "güvenli bir şekilde" geliştirmeye kararlı olduğunu ve kullanıcıların araçlarına "duygusal olarak güvenme" potansiyelini incelemeye devam etmeyi planladığını sözlerine ekledi.
