”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget, enligt CNN.
Enligt Amodei har utvecklingen de senaste månaderna gått ”betydligt fortare” och AI-teknologin besitter nu förmågan att förbättra sig själv.
”Om detta inte tas med i beräkningen kan det innebära att vår förmåga att förstå och kontrollera dessa system blir ifrånsprungen och måste därför hanteras med försiktighet, om alls”, skriver han vidare.
På lördagskvällen meddelar Sam Altman, chef på konkurrenten Open AI, att han delar Amodeis bild av läget.
”Jag håller med Dario om att vi måste bromsa”, skriver Altman i ett inlägg på X.
Liknande tongångar hörs från entreprenören och miljardären Elon Musk, som i ett X-inlägg konstaterar att ”Dario har rätt”.
AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt.
”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X.
Läs mer:
Linus Larsson: AI-jättarna älskar att prata om faror medan de trycker gasen i botten
AI-jätte stoppade misstänkta försök att skapa biologiska vapen
Avhoppande AI-forskarens varning: Den kan utplåna mänskligheten