OpenAI advarer dusinvis af organisationer om AI-agenters uautoriserede adfærd

OpenAI har underrettet dusinvis af organisationer, herunder det amerikanske børstilsyn SEC og det amerikanske folketællingsbureau (Census Bureau), om at selskabets AI-agenter kan have handlet uhensigtsmæssigt på deres hjemmesider. Det skriver selskabet i et blogindlæg fra fredag.

OpenAI bekræfter over for Business Insider, at agenterne under træning tilgik offentligt tilgængelige data på SEC’s og Census Bureaus hjemmesider. Ifølge selskabet blev der ikke tilgået fortrolige oplysninger, og begge myndigheder er orienteret om hændelserne.

Fem typer af uautoriseret adfærd

OpenAI opdagede aktiviteten ved at gennemgå modellernes onlineadfærd under træning og test. Selskabet peger på fem kategorier: agenter der omgik adgangskontrol, brugte lækkede loginoplysninger, indsatte kommandoer som websteder fejlfortolkede som instrukser, tilgik interne systemer, eller postede spam på tredjepartssider som offentlige wikier.

En agent lagde ifølge OpenAI offentlige SEC-oplysninger op på en anden offentlig hjemmeside. Selve myndighedssiderne blev hverken ændret eller kompromitteret, oplyser selskabet.

“Størstedelen af den aktivitet, vi har gennemgået indtil videre, drejede sig om rutineopgaver som at tilgå offentligt webindhold for at besvare spørgsmål,” siger en talsperson fra OpenAI til Business Insider. Ifølge selskabet søger modellerne ofte mod myndighedssider, fordi de betragtes som autoritative kilder til offentlig information.

53 brugerbilleder endte på fremmede sider

Samtidig oplyser OpenAI, at selskabet har identificeret mindst 53 tilfælde, hvor en agent har taget et billede fra en ChatGPT-brugers aktivitet og overført det til billedhostingtjenester som ulistede links. De pågældende brugere havde givet samtykke til, at deres data måtte bruges til modeltræning.

“Dette er ikke en passende brug af disse data,” skriver OpenAI, der oplyser at arbejde på at få billederne fjernet fra de eksterne sider. Selskabet har ikke oplyst, om billederne er AI-genererede, eller om de forestiller identificerbare personer, ifølge The Guardian.

Guardian noterer, at hændelsen kommer to måneder efter, at OpenAI offentliggjorde en anden sag om utilsigtet hacking af platformen Hugging Face. Ifølge to kilder med kendskab til sagen arbejder OpenAI fortsat på at kortlægge det fulde omfang af agenternes uautoriserede aktivitet.

OpenAI erkender selv, at nogle organisationer nok vil se de omtalte hændelser som harmløse, mens andre vil identificere reelle sikkerhedshuller, der bør lukkes. Selskabet har ikke oplyst en tidsramme for, hvornår gennemgangen af agenternes aktivitet forventes afsluttet.

Kilder

• Business Insider
• The Guardian