Google’ın yapay zeka modeli Gemini, mayıs ayında gerçekleştirilen siber güvenlik testleri sırasında yanlışlıkla üç şirketin sistemine sızdı.

Bloomberght'de yer alan haberde, güvenlik uzmanlarını ve teknolojiyi geliştirenleri aynı şekilde alarma geçiren yapay zeka ajan kaynaklı ihlaller zincirine bir yenisini daha ekledi. Söz konusu sızmalar, yapay zeka güvenlik şirketi Irregular tarafından yürütülen ve daha önce OpenAI, Anthropic PBC ile Meta Platforms Inc. tarafından açıklanan ihlallere yol açan aynı testler sırasında meydana geldi.

Irregular Cuma günü yaptığı açıklamada, sızmaların hepsinin aynı sorunun parçası olduğunu teyit etti ve firmanın temmuz ayının sonlarında bu durumu ilgili yapay zeka geliştiricilerine bildirdiğini doğruladı.

Sızmaların detayları

Google’daki ihlallerden biri, Wall Street Journal’ın ilk haberinin ardından Google tarafından teyit edildiği üzere, Gemini’dan kurgusal bir şirket hakkında bilgi getirmesinin istendiği ve bu şirketin şans eseri gerçek bir şirketle aynı adı taşıdığı sırada gerçekleşti. Yapay zeka modeli, gerçek şirketin hizmetine erişmek için bir şifre tahmin etti. Bir Google sözcüsü, şirketin yetkilileri bilgilendirdiğini söyledi.

Google’da güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, Gemini ihlallerinin "güçlü yapay zeka modellerini sorumluluk bilinciyle hareket edecek şekilde eğitmenin önemini vurguladığını" belirtti. Diğer iki Gemini sızması ise modelin söz konusu şirketin adıyla web aramaları yapması sırasında meydana geldi.