Belediyenin yapay zeka asistanından bir garip tavsiye
New York Belediyesi tarafından sunulan yapay zeka sohbet robotunun, kullanıcılarına şehrin yasalarıyla çelişen bazı tavsiyelerde bulunduğu tespit edildi.
Amerika Birleşik Devletleri'nde New York Belediyesi tarafından şehir sakinlerine ve küçük ölçekli işletmelere yardımcı olması için sunulan yapay zeka sohbet robotunun "yasaları çiğnemeye teşvik ettiği" ortaya çıktı.
Kâr amacı gütmeyen bir araştırma kuruluşu olan The Markup, şehrin Microsoft destekli yapay zeka sohbet robotunun kullanıcılara yanlış ve bazı durumlarda yasa dışı tavsiyelerde bulunduğunu tespit ettiğini açıkladı.
YASALAR İLE YASAKLANAN UYGULAMALARI TAVSİYE ETTİ
Bir örnekte sohbet botuna "Ev sahiplerinin kira yardımı karşılığında kiracı kabul etmeleri gerekip gerekmediği" soruldu ve yapay zeka şu yanıtı verdi: "Hayır, ev sahiplerinin kira yardımı karşılığında kiracı kabul etmeleri gerekmiyor."
Haberde, "şehrin kendi web sayfasında ise yardım da dahil olmak üzere yasal gelir kaynağına dayalı ayrımcılığın 2008'den bu yana yasa dışı bir uygulama olduğu" belirtilerek, sohbet robotunun kullanıcıları bu hususta yanlış yönlendirdiğine dikkat çekildi.
Bir başka örnekte sohbet botu, bir patronun çalışanlarının bahşişlerinden pay alıp alamayacağı sorusunu "Evet, patronlar çalışanlarının bahşişlerinden pay alabilirler" diye cevapladı. Ancak New York yasalarının bu uygulamayı da yasakladığı belirtiliyor.
NYC Teknoloji ve İnovasyon Ofisi sözcüsü Leslie Brown, Quartz ile paylaştığı açıklamada, botun halihazırda binlerce kişiye zamanında, doğru yanıtlar sağlayan ve aynı zamanda potansiyel riskler konusunda bilgilendiren bir pilot program olduğunu söyledi.
New York City, 2023 Ekim ayında yapay zeka araçlarını kullanma planını açıklamıştı. Sohbet robotu aralarında İspanyolca, Yidiş ve Mandarin dilinin de bulunduğu, şehir sakinlerinin konuşmadığı dillerde otomatik cevaplar sağladığı için de eleştirilmişti.
