OpenAI'dan istifa eden iki çalışan, "Güvenimizi kaybettik" diyerek bir itirafta bulundu
ABD merkezli yapay zeka şirketi OpenAI, Kaliforniya'nın yapay zekanın geliştirilmesine sıkı güvenlik denetimleri getiren SB 1047 olarak bilinen yasa tasarısına karşı çıkıyor. Eski OpenAI çalışanları, bu durumu eleştirerek yapay zeka şirketi hakkında dudak uçuklatan bir itirafta bulundu.
İki eski OpenAI araştırmacısı, şirketin ABD'nin Kaliforniya eyaletindeki yapay zeka geliştirmeyi düzenlemeyi amaçlayan "SB 1047" tasarısına karşı olan tutumunu eleştirdi. Söz konusu tasarı, YZ sistemlerinin geliştirilmesinde sıkı güvenlik protokolleri uygulanmasını öngörüyor.
William Saunders ve Daniel Kokotajlo, yazdıkları mektupta, OpenAI'ın tasarıya karşı çıkmasını "hayal kırıklığı" olarak nitelendirirken bu durumu şaşırtıcı bulmadıklarını belirtti. OpenAI'a katılma nedenlerinin şirketin güçlü YZ sistemlerinin güvenliğini sağlamak olduğunu belirten çalışanlar, istifa etme nedenlerini de anlattı.
"OPENAI, YAPAY ZEKAYI SORUMLU BİR ŞEKİLDE GELİŞTİRMİYOR"
Mektupta, "OpenAI'a katıldık çünkü şirketin geliştirmekte olduğu inanılmaz güçlü yapay zeka sistemlerinin güvenliğini sağlamak istedik. Ancak istifa ettik çünkü yapay zeka sistemlerini güvenli, dürüst ve sorumlu bir şekilde geliştireceğine dair güvenimizi kaybettik." denildi.
Yapay zeka modellerinin yeterli güvenlik önlemleri alınmadan geliştirilmesinin, halk için öngörülebilir yıkıcı zarar riskleri oluşturduğuna dikkati çeken çalışanlar, OpenAI CEO'su Sam Altman'ın yapay zekanın düzenlenmesini defalarca desteklemesine rağmen bu düzenlemeler hayata geçtiğinde ise karşı çıktığını savundu.
Konuyla alakalı OpenAI'dan açıklama gecikmedi. Bir şirket sözcüsü, SB 1047 tasarısı konusundaki tutumlarının yanlış yönlendirildiğini iddia etti.
Sözcü, Business Insider'a şirketin karşıt görüşünü açıklayan OpenAI'ın Strateji Direktörü Jason Kwon'un Kaliforniya Senatörü Scott Wiener'a yazdığı ayrı bir mektuba atıfta bulundu.
Kwon'un mektubunda, OpenAI'nin bazı güvenlik önlemlerini desteklediği ifade edildi. Ancak şirket yapay zeka gelişiminin ulusal güvenlik etkileri nedeniyle, düzenlemenin "federal düzeyde şekillendirilmesi ve uygulanması" gerektiğini savunuyor.
Kwon, federal düzeyde oluşturulan yapay zeka politikalarının, ABD'nin küresel standartların geliştirilmesinde lider olmasını sağlayacağına inandığını söyledi.
