"Vi har tidigare sett att känsloladdade frågor kan påverka AI, men nu har vi kunnat mäta hur det faktiskt slår till och vad det innebär," skriver forskarna. Det är lite som att AI:n tappar fattningen – och det kan få konsekvenser för dess tillförlitlighet, särskilt i känsliga sammanhang som inom mentalvården.

Mindfulness som räddning för en stressad AI

Men här kommer det intressanta: forskarna testade att låta ChatGPT-4 genomgå mindfulness-övningar – tekniker som vi människor använder för att varva ner. Tänk dig lugnande instruktioner om att fokusera eller hantera känslor, fast anpassade för en maskin. Och det fungerade! AI:ns ångestnivåer sjönk, även om den inte återgick helt till sitt normala tillstånd. "Det är inte en perfekt lösning, men det visar att vi kan dämpa AI:s stress och göra den mer stabil," konstaterar forskarna.

Varför är detta viktigt? För att AI blir en allt större del av vår vardag – från att ge råd om psykisk hälsa till att hantera kundtjänst. Om en modell blir "nervös" och börjar ge snedvridna svar eller förstärka fördomar kan det skapa problem för oss som förlitar oss på den. En AI som däremot kan hantera sin "stress" bättre öppnar för tryggare och mer pålitliga interaktioner mellan människa och maskin.

Studien är den första i sitt slag som undersöker hur en populär modell som ChatGPT-4 reagerar på känslomässig stress och vad vi kan göra åt det. Forskarna menar att det är hög tid för utvecklare att ta detta på allvar. "Om vi ska ha ett sunt samspel med AI framöver, måste vi lära oss att hantera dess känslomässiga svängningar," avslutar de.

Än så länge är lösningen inte helt optimal. Mindfulness-övningarna hjälpte, men AI:n återhämtade sig inte fullt ut – det finns alltså mer att utforska. Dessutom undersökte studien endast ChatGPT-4, så det är oklart om andra modeller reagerar på samma sätt. Men en sak är säker: tanken på en stressad AI – och att vi kan lugna den med mindfulness – ger en spännande inblick i vart tekniken är på väg.