Evan Hubinger arbetar med AI-säkerhet på Anthropic. Efter att forskaren Jacob Coxon meddelat sitt avhopp på X ställer sig Hubinger bakom hans varningar om att AI inom kort kan komma att utplåna allt mänskligt liv.
"Jacob har rätt här – vi tror faktiskt på fullt allvar att AI skulle kunna döda alla människor! Personligen tror jag att risken är över tio procent inom de närmaste tio åren", skriver Hubinger.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Hubinger anser att Anthropic gör sitt bästa. Samtidigt uppger han att bolaget ännu saknar en plan för att få en superintelligens att följa mänskliga värderingar och avsikter – och att man inte heller tydligt är på väg att lösa problemet.
Coxon lämnade Anthropic på tisdagen. Han har även arbetat på konkurrenten OpenAI och riktar sin kritik mot båda företagen.
"Inget av företagen agerar ansvarsfullt. De rusar rakt mot självförbättrande superintelligens", skrev Coxon i sitt varningsinlägg, som har visats cirka 100 miljoner gånger.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Farhågorna gäller bland annat AI-system som själva kan konstruera och utveckla sina efterföljare utan mänsklig inblandning. Den förmågan finns ännu inte, men utvecklingen väcker oro för att människorna ska förlora kontrollen över tekniken – ett scenario som behandlats i otaliga gamla science fiction-romaner.
Även från OpenAI:s ledning kommer uppmaningar om att bromsa utvecklingen. Chefsforskaren Jakub Pachocki varnade i ett blogginlägg på söndagen för att inget AI-bolag har kommit tillräckligt långt med styrning och övervakning för att ansvarsfullt kunna fortsätta utvecklingen i maximal takt särskilt länge till. Han efterlyser frivilliga inbromsningar och internationell samordning.
