Yapay zeka, ispiyoncu oldu! Bir şirketteki dedikoduları ifşa etti
Yapay zeka, faydalı olduğu kadar zararlı yönlere de sahip. Araştırmalara göre, yalan söyleyebiliyor ve bilgileri çarpıtabiliyor. Ancak "keşke bunlarla sınırlı olsa" dedirten bir gelişmede, transkripsiyon platformu Otter AI, bir Zoom toplantısını yazıya dökerken, oturum sona erdikten sonra da kayda devam ederek katılımcıların özel konuşmalarını ifşa etti.
Yapay zeka tarafından desteklenen uygulamalar yalnızca evde değil, ofis ortamı gibi farklı alanlarda da kullanılıyor. Ancak bu teknoloji, şirket sırlarının ifşa edilmesine ve özel konuşmaların sızmasına yol açarak ciddi bir gizlilik sorununa dönüşebiliyor. Bunun son örneği yurt dışında yaşandı.
Araştırmacı ve mühendis Alex Bilzerian, geçtiğimiz günlerde bir girişim sermayesi firmasıyla yaptığı Zoom toplantısını yazıya dökmek için kullandığı, yapay zeka destekli Otter AI platformuyla ilgili yaşadığı şoke edici deneyimi sosyal medya platformu X'te paylaştı.
TOPLANTI BİTTİKTEN SONRA BİLE GÖRÜŞMELERİ KAYDETMİŞ
Bilzerian, toplantı sona erdikten sonra görüşmenin dökümünü içeren bir e-posta aldığını ve akıllı asistanın, oturum kapandıktan sonra bile görüşmeyi kaydetmeye devam ettiğini fark ettiğini belirtti. Söz konusu transkriptte, "[risk sermayesi şirketinden yatırımcıların] daha sonra işleriyle ilgili mahrem ve gizli ayrıntıları tartıştıkları saatlerce süren özel görüşmelerinin" yer aldığını öne sürdü.
Bu olay, yapay zeka destekli asistanların güvenilirliği ve gizlilik konusundaki endişeleri bir kez daha gündeme taşırken, Bilzerian da yaşanan bu durum nedeniyle yatırımcıların defalarca özür dilediğini ancak anlaşmayı bu firmayla yapmaktan vazgeçtiğini belirtti.
"YAPAY ZEKA, HER ZAMAN HASSAS OLMAYABİLİR"
Normal şartlarda, konuşmaları dinleyip yazıya döken bir uygulamanın, katılımcılar toplantıdan ayrıldığında bunu algılayıp kaydetmeyi durduracak şekilde tasarlandığı kabul edilir. Ancak Northwestern Üniversitesi'nden Profesör Hatim Rahman, teknolojinin her zaman bu kadar hassas olmadığını vurguladı.
ŞİRKETTEN AÇIKLAMA GECİKMEDİ
Otter AI, yaşanan olay sonrası Bilzerian'ın X gönderisine cevap vererek kullanıcı gizliliğine önem verdiklerini söyledi. Şirket, "Kullanıcılar, konuşma paylaşım izinleri üzerinde tam kontrole sahiptir ve bir konuşmanın paylaşım izinlerini istedikleri zaman değiştirebilir, güncelleyebilir veya durdurabilir" şeklinde bir açıklama yaptı.
Şirketin toplantıları kaydeden ve yazıya döken yapay zeka asistanı OtterPilot, yalnızca görüşmedeki sesleri kaydediyor. Sessize alınan bir katılımcı tarafından söylenen hiçbir şeyi kaydetmiyor. Görüşmedeki kişiler, toplantının kaydedildiğine dair bir bildirim alıyor ve sanal asistan toplantı katılımcısı olarak görünüyor.
Ancak Otter AI'ın katılımcılar tarafından yüklenen medya ve metin dosyaları dahil olmak üzere toplantıların ekran görüntülerini de toplayabileceği ve bu verilerin bazı durumlarda üçüncü taraflarla veya kolluk kuvvetleriyle paylaşılabileceği belirtiliyor.
