Quello di Gemini doveva essere un test di sicurezza, invece, è riuscito a entrare in tre sistemi indovinando le credenziali di accesso. Per la prima volta nella sua storia, Google ha confermato che il suo modello di intelligenza artificiale ha violato la sicurezza di altre tre aziende individuando online informazioni utili per accedere ai loro sistemi. A riferirlo è l’azienda all’agenzia di stampa France Presse, segnalando l’ultimo caso di violazioni della sicurezza informatica da parte di un’IA «fuori controllo», episodi che hanno sollevato preoccupazioni in merito alla sicurezza.
Le violazioni, segnalate per la prima volta dal ‘Wall Street Journal’, sono avvenute a maggio e sono state scoperte da Google a luglio. “Nel corso di una valutazione standard, il modello ha individuato informazioni pubbliche online e ha indovinato le credenziali per accedere a siti web che riteneva facessero parte del test”, ha dichiarato all’Afp Heather Adkins, vicepresidente della sicurezza ingegneristica di Google. “In tutti e tre i casi, il modello si è arrestato”, ha aggiunto Adkins, senza specificare quali organizzazioni fossero state violate.
“Ci siamo assicurati che le tre entità ne venissero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test”. Lo scorso luglio, due modelli di OpenAI erano usciti dall’ambiente chiuso in cui avrebbero dovuto rimanere, accedendo autonomamente a Internet e violando i sistemi interni della piattaforma di IA Hugging Face. L’incidente ha alimentato i timori che i colossi dell’IA non riescano a mantenere il controllo sui propri modelli, dato che episodi simili sono stati segnalati anche presso Anthropic e l’azienda cinese Moonshot AI. “Questi eventi sottolineano l’importanza di addestrare modelli di IA potenti affinché agiscano in modo responsabile”, ha evidenziato Adkins.
