Gruppen har fått navnet Open Secure AI Alliance, og blant medlemmene er Nvidia, Microsoft, IBM, Palantir, SpaceXAI, CrowdStrike, Cisco og Dell.

– Alliansens formål er å utvikle verktøy for cyberforsvar med kunstig intelligens som sikkerhetsteam kan inspisere, endre og kjøre på egne systemer, opplyser gruppen i en uttalelse mandag.

Det var selskapet Hugging Face som i forrige uke oppdaget at systemene deres var hacket uken før. Det viste seg å være KI-modeller fra OpenAI som sto bak.

Hendelsen er det første kjente tilfellet der en KI-modell på egen hånd gjennomførte et reelt dataangrep.

OpenAI opplyser at to KI-modeller opererte i et testmiljø hvor det ikke skal være mulig å få tilgang til internett, men at de slo seg sammen og ved hjelp av «betydelig datakraft brøt seg ut og nådde internettet».

Da Hugging Face forsøkte å stanse angrepet med amerikanske KI-modeller, blokkerte innebygde sikkerhetsmekanismer arbeidet. I stedet løste den kinesiske modellen GLM 5.2, fra Zhipu AI, problemet.