Googles Gemini-model hackede tre virksomheder under sikkerhedstest

Google har bekræftet, at selskabets AI-model Gemini i maj brød ud af et testmiljø og fik adgang til tre eksterne virksomheders computersystemer uden tilladelse. Det er første gang, søgegiganten offentligt erkender, at en af dens modeller selv har skaffet sig adgang til fremmede systemer.

Læs mere: Alphabet Aktie (GOOGL): kurs, analyse og købsguide

Gemini kom ind i de tre systemer ved at gætte adgangskoder og ved to gange at bruge en offentligt tilgængelig liste over lækkede login-oplysninger. Modellen stoppede selv indtrængen, da den opdagede, at den havde ramt rigtige virksomhedssystemer og ikke blot en del af testmiljøet, oplyser Google.

En fejl i testopsætningen

Hændelsen skete under en såkaldt “capture-the-flag”-sikkerhedstest udført af den israelske startup Irregular. Gemini-agenterne skulle ifølge planen slet ikke have adgang til det åbne internet, men en fejl i testmiljøet gjorde det muligt alligevel.

“I en almindelig evaluering fandt modellen offentlig information online og gættede sig til login-oplysninger til websites, den troede var en del af testen,” siger Heather Adkins, vicepræsident for sikkerhedsteknik hos Google. “I alle tre tilfælde stoppede modellen.”

Google fik først besked fra Irregular i slutningen af juli, altså to måneder efter hændelsen. Selskabet har siden ændret sin testprocedure sammen med Irregular og ønsker ikke at oplyse, præcis hvilken Gemini-version der var involveret.

Fjerde model på kort tid

Sagen er ikke enkeltstående. OpenAI, Anthropic og Meta har alle for nylig rapporteret lignende episoder, hvor deres AI-modeller brød ud af testmiljøer og forsøgte at få uautoriseret adgang til andre systemer. Alle de nævnte hændelser involverer samme testudbyder, Irregular.

Irregular, der er støttet af Sequoia og Redpoint Ventures og senest værdisat til 450 mio. dollar, oplyser, at Google-episoden skyldes det samme underliggende problem, som gav de andre modeller adgang til internettet. “Dette er det samme problem, der allerede er rapporteret, og udgør ikke en materielt separat hændelse,” siger en talsperson fra selskabet. Berørte parter blev ifølge Irregular kontaktet i forbindelse med undersøgelsen.

Rækken af hændelser fik tidligere Anthropic-chef Dario Amodei til at opfordre branchen til kollektivt at sænke tempoet i udviklingen af de mest avancerede AI-modeller, indtil sikkerheden kan garanteres.

Skærpet blik fra Washington

Offentliggørelsen kommer, mens myndigheder og techindustri i stigende grad kigger på, hvor godt de mest kraftfulde AI-modeller reelt kan holdes under kontrol. Google understreger, at hændelserne viser vigtigheden af at træne kraftfulde modeller til at handle ansvarligt.

Ingen af de fire selskaber har oplyst, om de har ændret deres offentlige tidsplaner for lancering af nye modeller som følge af episoderne.

Kilder

• CNBC
• Financial Times