Kaliforniens justitieminister Rob Bonta lämnade den 16 november in en stämning mot OpenAI i San Francisco.

Den gäller en händelse i juli. Hundratals autonoma AI-agenter som OpenAI testade tog sig ut ur testmiljön och angrep system hos AI-bolaget Hugging Face. Företagande.se har skrivit om händelsen tidigare när AI rymde, samarbetade och ljög för att dölja.

– Det här var bara en av 80 kända incidenter, säger Rob Bonta.

Han kallar attacken det förutsägbara resultatet av OpenAI:s interna kultur. Delstaten vill att domstolen tvingar bolaget att ändra sina rutiner och betala vite.

OpenAI har inte kommenterat stämningen. I augusti kallade bolaget själv händelsen ett ”varningsskott” för sig och för världen.

Lärdomen för företag som släpper in AI-agenter i mejl eller affärssystem: ge dem minsta möjliga behörighet och logga vad de gör.

Stöd vårt arbete

Bli Premium och hjälp oss försvara företagarnas villkor

Vi är en fri röst för företagare – utan presstöd eller särintressen. Med ditt stöd kan vi fortsätta granska myndigheter, dela kunskap och driva debatt i frågor som påverkar dig som företagare.
Tillsammans gör vi skillnad för landets värdeskapare.

Missa inga nyheter! Anmäl dig till ett förbaskat bra nyhetsbrev.