Anthropic: Claude leder nu 26 pct. af sin egen AI-forskning

Claude udfører nu selv 26 pct. af det arbejde, der ligger bag udviklingen af Anthropics egne AI-modeller. Det oplyste selskabet i et blogindlæg torsdag. I marts var tallet under 1 pct.

Anthropic definerer “leder” som, at chatbotten kan gennemføre størstedelen af en opgave ud fra en overordnet instruks, mens et menneske fører tilsyn. Ifølge selskabet ligger andelen af arbejde på niveauet “AI samarbejder” eller derover nu over 90 pct. Claude opererer dog ikke fuldt autonomt på noget målt delområde af forskningsarbejdet.

Målepunkt for selvforbedring

Tallene skal ifølge Anthropic give et billede af, hvor tæt branchen er på såkaldt rekursiv selvforbedring: at en model fuldt autonomt bygger sin egen efterfølger. Selskabet skriver, at modeller der accelererer deres egen udvikling kan gøre det sværere for mennesker at forstå eller kontrollere systemerne.

Anthropic opfordrer andre frontlaboratorier til at offentliggøre tilsvarende tal, så tredjeparter kan efterprøve dem. Rapporten kommer, mens debatten om AI-sikkerhed er intensiveret. En Anthropic-forsker sagde sin stilling op i sidste uge og beskyldte de store AI-selskaber for at “gamble med vores liv” ved at skubbe stadig kraftigere modeller frem. Anthropics topchef Dario Amodei har efterfølgende opfordret frontlaboratorier til at koordinere en opbremsning, så sikkerhedstiltag kan følge med.

Automatiske vagthunde blokerer få sager

Anthropic oplyser, at AI’ens handlinger gennemgås af automatiserede overvågningssystemer. Af mere end 1 milliard analyserede beslutninger i august blev 0,002 pct. blokeret, svarende til cirka én ud af 47.000. Omkring 50 sager med høj prioritet bliver ugentligt eskaleret til menneskelig gennemgang.

Kinesiske modeller sakker bagud i omsætning

Mens Anthropic måler på tempo og autonomi, sætter en ny analyse fra den amerikanske forskningsgruppe Rhodium Group tal på det kommercielle gab til Kina. Ifølge Rhodiums estimater, offentliggjort torsdag, genererer alle kinesiske AI-modeller tilsammen kun omkring 10 pct. af den omsætning, som OpenAI og Anthropic rapporterer alene. Estimaterne bygger på industristandarden årlig tilbagevendende omsætning.

“Værdiansættelser i forhold til omsætning fremstår ekstravagante for Moonshot og DeepSeek på nuværende tidspunkt,” skriver Rhodium i rapporten. Selskabet Z.ai hævede onsdag sine omsætningsforventninger, men niveauet ligger fortsat langt under de amerikanske konkurrenters.

De to rapporter tegner tilsammen et billede af en branche, hvor amerikanske aktører både løber foran på indtjening og forsøger at dokumentere, hvor tæt de er på at lade modellerne udvikle sig selv. Anthropic har varslet, at flere målinger følger i takt med, at Claude tager over stadig større dele af selskabets egen forskning.

Kilder

• Business Insider
• CNBC