Den gäller en händelse i juli. Hundratals autonoma AI-agenter som OpenAI testade tog sig ut ur testmiljön och angrep system hos AI-bolaget Hugging Face. Företagande.se har skrivit om händelsen tidigare när AI rymde, samarbetade och ljög för att dölja.
– Det här var bara en av 80 kända incidenter, säger Rob Bonta.
Han kallar attacken det förutsägbara resultatet av OpenAI:s interna kultur. Delstaten vill att domstolen tvingar bolaget att ändra sina rutiner och betala vite.
OpenAI har inte kommenterat stämningen. I augusti kallade bolaget själv händelsen ett ”varningsskott” för sig och för världen.
Lärdomen för företag som släpper in AI-agenter i mejl eller affärssystem: ge dem minsta möjliga behörighet och logga vad de gör.
Bli Premium och hjälp oss försvara företagarnas villkor
Vi är en fri röst för företagare – utan presstöd eller särintressen. Med ditt stöd kan vi fortsätta granska
myndigheter, dela kunskap och driva debatt i frågor som påverkar dig som företagare.
Tillsammans gör vi skillnad för landets värdeskapare.