AI-jättarna blir sina egna poliser – efter mötet hos Trump

Enligt Vita husets lista deltog 34 personer. Bland dem fanns Nvidias Jensen Huang, Metas Mark Zuckerberg, Elon Musk, Googles Sundar Pichai, Jeff Bezos, OpenAI:s Greg Brockman och Anthropics Dario Amodei.

Sex bolag skrev under ett gemensamt åtagande: Anthropic, OpenAI, Google, Meta, xAI och Nvidia. Dokumentet är en sida långt. Bolagen lovar att övervaka sina AI-modeller, bygga interna säkerhetsteam, låta externa revisorer granska arbetet och träffas regelbundet för att ta fram gemensamma standarder.

Trump kallade avtalet ”moraliskt bindande”. Juridiskt bindande är det inte.

– Om något går fel står deras bolag på spel, de kommer inte att göra något fel, sade presidenten enligt Axios.

Bolagscheferna beskriver avtalet som ett första steg

Mark Zuckerberg beskrev avtalet som ”en början”. Dario Amodei sade att frågan om hur riskerna ska hanteras fortfarande diskuteras.

Dokumentet öppnar självt för att stegen kan behöva skrivas in i lag längre fram. Trump uppgav också att han inom några dagar ska utse en ny AI-ansvarig i administrationen.

Trump meddelade dessutom att den federala administrationen ska säga ”superintelligens” i stället för AI. Inom AI-forskningen används begreppet sedan tidigare för system som överträffar mänsklig intelligens.

”Vilken annan industri rättar sitt eget prov?”

Talmannen Mike Johnson utlovade ingen ny lagstiftning. Samtidigt fortsätter frågan att drivas i kongressen.

I senaten ifrågasatte demokraten Brian Schatz om bolagen frivilligt kommer att reglera sig själva i stället för att maximera vinsten åt aktieägarna. Hans partikollega Mark Warner vill ha en obligatorisk tillsynsnämnd för AI-säkerhet. Republikanen Ted Cruz stoppade samma dag Warners försök att få igenom förslaget. Cruz partikollega Josh Hawley har däremot krävt tvingande tester innan nya modeller släpps.

Forskare är också skeptiska. AI-professorn Toby Walsh vid University of New South Wales frågade vilken annan biljonindustri som får rätta sitt eget arbete.

För svenska företag är skillnaden mot Europa tydlig. Här införs EU:s AI-förordning successivt, med bindande krav och sanktioner. I USA bygger den nya överenskommelsen i stället på frivilliga åtaganden från bolagen.