Google kazandırıyor... Yapay zekada hata bulana büyük ödül verecek
Google, üretken yapay zeka uygulamalarında büyük bir güvenlik açığı bulan araştırmacılara para ödülü dağıtacağını açıkladı. Verilecek miktar, tespit edilen açığın seviyesine göre değişiklik gösteriyor.
Google, ürün ve hizmetlerinde güvenlik açığı tespit edenleri ödüllendirdiği VRP (Vulnerability Rewards Program) programını 'üretken yapay zekayı' kapsayacak şekilde genişlettiğini duyurdu.
TechCrunch sitesinin haberine göre Google, VRP kapsamında etik hackerlara güvenlik açıkları keşfettikleri ve sorumlu bir şekilde bildirdikleri için ödeme yapıyor. Ancak jeneratif AI gibi yeni teknolojilerin ortaya çıkardığı güvenlik sorunları, şirketin bu programı daha da genişletmesini gerektirdi.
YAPAY ZEKADAKİ HATALARI BULANLARA PARA DAĞITACAK
Google, 'yapay zeka' üzerinde çalışan AI Red Team adlı hacker ekibinden gelen bulgular doğrultusunda bu kararı aldı. Ekip, çeşitli grupları taklit ederek teknolojinin güvenlik zaafiyetlerini tespit ediyor, bunlar arasında hükümet destekli gruplar, hacktivistler ve kötü niyetli içerikler bulunuyor.
Haberde, AI Red Team'in jeneratif yapay zeka ürünlerindeki en büyük tehditleri belirlemek için bir çalışma yürüttüğü bildirildi. Bu çalışma sonucunda, büyük dil modellerinin (LLM'ler) prompt enjeksiyon saldırılarına ve training-data extraction saldırılarına karşı savunmasız olduğu sonucuna varıldı.
Prompt enjeksiyon saldırıları, saldırganların modele zararlı metinler üretmek, hassas bilgileri sızdırmak amacıyla uyarılar oluşturabileceği bir güvenlik açığı olarak biliniyor. Training-data extraction ise, saldırganlara kişisel bilgileri veya şifreleri verilerden çıkarmak için eğitim örneklerini yeniden oluşturma imkanı tanıyor.
İşte Google da bu tür güvenlik açıklarını tespit eden araştırmacılara ödül verme kararı aldı. Ödül miktarı, bulunan güvenlik açığının ciddiyetine bağlı olarak değişiyor. Örneğin, Google Arama veya Google Play gibi yüksek hassasiyetli uygulamalarda bulunan komut enjeksiyon saldırıları ve deserialization hataları, 31 bin 337 dolar gibi yüksek paralarla ödüllendirilebiliyor.
GEÇEN SENE 12 MİLYON DOLARIN ÜZERİNDE VERDİ
Şirket yaptığı açıklamada, "VRP'nin genişletilmesinin yapay zeka emniyeti ve güvenliği konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağına inanıyoruz." değerlendirmesinde bulundu.
Aynı zamanda, 2022 yılında güvenlik araştırmacılarına 12 milyon doların üzerinde ödül dağıttığını açıkladı.
