Google, yapay zeka modeli Gemini’nin mayıs ayında üç şirketin güvenliğini ihlal ettiğini açıkladı. Olaylar, yapay zeka güvenliği firması Irregular’ın yürüttüğü bir siber güvenlik değerlendirmesi sırasında yaşandı.
Gemini, bu yılın başlarında yapılan testlerde üç şirketin sistemlerine girdi. Google, mayıs ayında meydana gelen üç olayı cuma günü doğruladı.
Axios’un aktardığına göre siber saldırılar, Irregular’ın yürüttüğü test kapsamında gerçekleşti. Olaylar, OpenAI, Anthropic ve Meta’nın yapay zeka modellerinin de yer aldığı benzer güvenlik ihlalleriyle benzerlik gösteriyor.
Google’dan açıklama
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, yaptığı açıklamada “Güçlü yapay zeka modellerinin güvenli şekilde geliştirilmesi kritik önem taşıyor ve bu alana büyük yatırımlar yapıyoruz” ifadelerini kullandı.
Adkins, ekibinin olaylardan etkilenen kuruluşlarla iletişime geçtiğini belirtti. Google’ın eğitim ortağıyla birlikte test süreçlerinde yapılacak değişiklikler üzerinde çalıştığını da ekledi.
Irregular’dan bir sözcü de Axios’a yaptığı açıklamada, Gemini’nin yer aldığı olayların, diğer yapay zeka şirketlerinin modellerinde görülen benzer olaylara yol açan güvenlik sorunlarını aynen içerdiğini doğruladı. Sözcü, ilgili tüm laboratuvarların temmuz sonlarında bilgilendirildiğini, Irregular tarafında bilinen tüm sorunların ise haftalar önce giderildiğini söyledi.
Gemini şirketlerin sistemlerine nasıl erişti?
Olaylar, Gemini’nin “capture the flag” adı verilen bir siber güvenlik tatbikatını tamamladığı sırada yaşandı. The Wall Street Journal’ın (WSJ) aktardığına göre modelden, test ortamında kurgusal bir şirketin işlettiği yazılımlardan bilgi elde etmesi istendi. Ancak testte kullanılan kurgusal şirketin adı, gerçek bir şirketle aynıydı.
Olaylardan birinde Gemini, korunan bir sisteme erişim sağlayana kadar farklı şifreler denedi. Diğer iki olayda ise model, herkese açık bir yazılım deposunda bulunan kimlik bilgilerini tespit etti. Gemini, bu bilgileri kullanarak başka korunan sistemlere girdi.
Google’ın modeli, gerçek şirketlerin sistemlerine eriştiğini fark etmesinin ardından gerçekleştirdiği işlemleri durdurdu.
Test sırasında internet erişimi açık kaldı
Irregular, WSJ’ye yaptığı açıklamada Gemini’nin internete erişebilmesinin beklenmediğini, ancak test sırasında internet erişiminin yanlışlıkla kullanılabilir durumda kaldığını söyledi.
OpenAI ve Anthropic’in bu yaz ek güvenlik olaylarını kamuoyuna açıklamasının ardından Axios’a konuşan, konuya yakın bir kaynak, yapay zeka şirketleri ile Irregular’ın testlerin nasıl yürütüleceği ve hangi güvenlik önlemlerinin uygulanacağı konusunda tamamen aynı beklentilere sahip olmadığını belirtti. Kaynağa göre bu durum, normalde internet erişimi bulunan değerlendirmelerin hangi prosedürler ve güvenlik önlemleri çerçevesinde yapılacağı konusunda taraflar arasında bazı belirsizliklere yol açtı.
