Yapay Zeka 'Babası’ndan korkutan uyarı: Çok tehlikeli canavar ortaya çıkardık

"Yapay Zeka'nın Babası" olarak anılan Bengio, 60 yaşında Kanadalı bir bilgisayar bilimci olup, araştırmalarını sinir ağları ve derin öğrenme algoritmalarına adamıştır. Onun öncülük ettiği çalışmalar, bugün kullandığımız Yapay Zeka​ modellerinin OpenAI'nin ChatGPT​'si ve Anthropic'in Claude'u gibi temelini oluşturdu.

TEKNOLOJİYİ GÜÇ İSTEYENLER KULLANIR

Bengio  "Zeka güç verir ve bu gücü kontrol eden kişi eğer insan seviyesinde veya daha yukarıda ise çok, ama çok güçlü olacaktır," diyerek "Teknoloji genellikle daha fazla güç isteyenler tarafından kullanılır: ekonomik egemenlik, askeri egemenlik, siyasi egemenlik. Dolayısıyla, gücü tehlikeli şekillerde yoğunlaştırabilecek teknolojiler oluşturmadan önce çok dikkatli olmalıyız.” şeklinde konuştu.
2018'de Bengio ve iki meslektaşı eski Google (GOOG) Başkan Yardımcısı Geoffrey Hinton (2024 Nobel Fizik Ödülü'nün kazananı) ve Meta'nın (META) baş Yapay Zeka Bilimcisi Yann LeCun Turing Ödülü'nü (bilgisayar biliminin Nobel Ödülü olarak bilinir) kazandılar. 2022'de Bengio, dünyanın en çok alıntı yapılan bilgisayar bilimcisi oldu. Time dergisi ise onu dünyanın en etkili 100 insanı arasında gösterdi.

YAPAY ZEKA HİSSELERİ REKORU KOŞUYOR

Teknolojinin icadına katkıda bulunmasına rağmen, Bengio şimdi Yapay Zeka dünyasında bir uyarı sesi haline geldi. Bu uyarı, yatırımcıların alana gösterdiği büyük ilgiyi sürdürdüğü bir dönemde geliyor bu yıl Yapay Zeka ile ilgili hisseler rekor seviyelere ulaştı.
Örneğin, Yapay Zeka çip üreticisi Nvidia'nın (NVDA) hisseleri, yılbaşından bu yana %162 artarak S&P 500'ün %21'lik kazancını geride bıraktı.

Şirketin şu anki değeri, Yahoo Finance verilerine göre 3,25 trilyon dolar gibi şaşırtıcı bir seviyeye ulaştı ve dünyanın en değerli şirketi unvanını Apple'ın (AAPL) hemen ardından alıyor.

Bengio ile Yapay Zeka'nın olası tehditleri ve hangi teknoloji şirketlerinin bu alanda doğru adımlar attığı hakkında bir röportaj yaptım. Röportaj uzunluk ve netlik açısından düzenlendi.

YAPAY ZEKA YANLIŞ ELLERE DÜŞERSE ÇOK TEHLİKELİ

İnsan seviyesi zekadan neden endişelenmeliyiz?

"Bu yanlış ellere düşerse, her ne demekse, çok tehlikeli olabilir. Bu araçlar teröristlere yakında yardımcı olabilir ve demokrasilerimizi yok etmek isteyen devlet aktörlerine yardım edebilirler. Ve sonra birçok bilim insanının işaret ettiği bir sorun var; onları şu an eğittiğimiz şekille bu sistemlerin nasıl özerk hale gelip kendi kendini koruma hedefleri geliştirmeyeceğini ve bu sistemlerin kontrolünü kaybedebileceğimizi açıkça göremiyoruz. Yani, belki de bizden daha güçlü canavarlar ortaya çıkarmaya doğru ilerliyoruz."

OpenAI, Meta, Google, Amazon Hangi büyük Yapay Zeka oyuncusu doğru adımları atıyor?

"Benim ahlaki açıdan en doğru hareket eden şirket olduğunu düşündüğüm firma Anthropic [büyük yatırımcıları arasında Amazon ve Google yer alıyor]. Ancak ekonomik yapı gereği, hayatta kalmalarının lider şirketler arasında yer almalarına bağlı olduğu ve ideal olarak Yapay Genel Zeka'ya (AGI) ilk ulaşan olmaları gerektiği için hepsinin bazı önyargıları olduğunu düşünüyorum. Ve bu, halk güvenliğinin genellikle kaybeden taraf olduğu bir silahlanma yarışı anlamına geliyor.

Anthropic, felaket sonuçları önlemede çok dikkatli olduklarına dair birçok sinyal veriyor. Tehlikeli olabilecek yeteneklere sahip bir Yapay Zeka ortaya çıkarsa bu çabayı durduracaklarına dair bir taahhüdün olduğu bir güvenlik politikasını öneren ilk firma oldular. Ayrıca Elon Musk ile birlikte SB 1047'yi destekleyen tek şirketler. Başka bir deyişle, 'evet, bazı iyileştirmelerle güvenlik prosedürlerinin ve sonuçlarının daha şeffaf hale getirilmesine ve büyük zarara yol açarsak sorumluluğu üstlenmeye' açık olduklarını söylediler."