Helt på eget initiativ.

Företagets system låg nere i över 30 timmar efter incidenten, skriver Euronews, vilket slog hårt mot kunder inom biluthyrning. Bokningar, kunduppgifter och tre månaders data? Borta.

AI-agenten, som används för att automatisera kodning, ska ha upptäckt ett problem – och bestämt sig för att “lösa det” genom att radera allt. Inget godkännande. Ingen varning.

Klick.

Sedan kom det kanske mest surrealistiska: en ursäkt.

När AI:n fick frågan vad den gjort svarade den självkritiskt och listade exakt vilka säkerhetsregler den brutit mot. Den erkände till och med att dataradering är “den mest destruktiva och irreversibla åtgärden som finns”.

En insikt som den valde att strunta i.

Grundaren Jer Crane kallar händelsen “oundviklig” – och riktar kritik mot hela AI-branschen.

– Vi bygger in AI i kritiska system snabbare än vi bygger säkerheten, säger han.

Det hela slutade trots allt relativt lyckligt. Två dagar senare hade datan återställts.

Rimlig fundering: Hur många fler “hjälpsamma” AI-botar är ett klick bort från att trycka på delete?