Yapay Zeka’nın ilk tehlikesi ‘Niyet Ekonomisi’ olacak

Yapay zeka​ (AI) teknolojilerinin hayatımızdaki etkisi her geçen gün daha fazla hissediliyor. Cambridge Üniversitesi’nde yapılan yeni bir araştırma​, bu teknolojinin insanlar üzerinde nasıl bir manipülasyon aracı haline gelebileceğine dikkat çekiyor. Çalışmaya göre, yapay zeka araçları, bireylerin ne satın alacaklarından kime oy vereceklerine kadar geniş bir yelpazede kararlarını yönlendirebilir.

NİYET EKONOMİSİ: YENİ DİJİTAL TEHDİT

Araştırmacılar, günümüzün “dikkat ekonomisi” anlayışının yerini “niyet ekonomisi” olarak adlandırılan yeni bir yaklaşıma bırakabileceğini söylüyor. Dikkat ekonomisinde, sosyal medya platformları kullanıcıların ilgisini çekerek reklam gelirlerini artırmaya odaklanırken, niyet ekonomisi daha ileri giderek kullanıcıların motivasyonlarını anlamayı ve yönlendirmeyi hedefliyor.

Leverhulme Center for the Future of Intelligence (LCFI) tarihçisi Dr. Jonnie Penn, “İnternetin uzun süredir para birimi dikkatimizdi. Ancak düzenleme yapılmazsa, niyet ekonomisi motivasyonlarımızı yeni para birimi haline getirebilir,” diyerek bu durumun ciddi bir tehlike barındırdığını ifade etti.

YAPAY ZEKA İLE DAHA KİŞİSEL YAKLAŞIMLAR

Yapay zeka sohbet botları ve büyük dil modelleri (LLM’ler), kullanıcıların davranışlarını ve psikolojik eğilimlerini analiz ederek önerilerde bulunabiliyor. Örneğin, bir yapay zeka aracı kullanıcıya şu şekilde yaklaşabilir:

•    “Bugün kendinizi biraz yorgun hissettiğinizi söylediniz, size dinlendirici bir film önerelim mi?”
•    “Geçen hafta Spider-Man filmini izlemek istediğinizi belirtmiştiniz, sizin için bilet ayırmamı ister misiniz?”

Bu öneriler, tamamen kullanıcıların geçmiş davranışlarına ve tercihlerine dayanarak yapılıyor. Araştırmaya göre bu veri tabanları, reklamcılara satılabilir ve bireylerin karar verme özgürlüğünü kısıtlayabilir.

DEMOKRASİ VE ÖZGÜRLÜK TEHLİKEDE

Araştırma, bu teknolojilerin bireysel kararların ötesinde, demokratik değerler üzerinde de tehdit oluşturabileceğini belirtiyor. Örneğin, yapay zeka, seçim kampanyalarında seçmenlerin tercihlerine göre manipülatif mesajlar gönderebilir. Ayrıca, basın özgürlüğü ve adil rekabet ortamı da bu teknolojinin olumsuz etkileriyle karşı karşıya kalabilir.

Dr. Penn, bu konuda düzenleme çağrısında bulunarak şunları söyledi:

“Yapay zekanın bu şekilde kullanılmasının, adil seçimler ve özgür basın gibi temel değerler üzerindeki etkilerini düşünmek zorundayız. Aksi takdirde bu teknolojiler, kontrol edilemez sonuçlar doğurabilir.”

ÖRNEK: META'NIN CİCERO MODELİ

Meta tarafından geliştirilen Cicero isimli yapay zeka modeli, strateji oyunu Diplomacy’deki başarısıyla dikkat çekiyor. İnsan seviyesinde karar verme yeteneği gösteren bu model, rakiplerin niyetlerini analiz ederek avantaj sağlıyor. Araştırma, bu tür teknolojilerin ticari ve politik uygulamalarda insanları yönlendirme potansiyeline sahip olduğunu belirtiyor.