Close Menu
Sol ReporterSol Reporter
  • Sverige
  • Världen
  • Politik
  • Ekonomi
  • Hälsa
  • Klimatet
  • Sport
  • Ledare
  • Mer
    • Kultur
    • Mat & Dryck
    • Resor
    • Pressmeddelande
    • Trender
Trendigt

Höga krav vid mönstringen: ”Många är nervösa när de kommer hit”

juni 28, 2025

Underverken, del 8 av 56

juni 28, 2025

Montler tvåa på lag-EM – bröt sedan tävlingen

juni 28, 2025

Öster kvitterade sent – delad pott mot Sirius

juni 28, 2025

De svenska barnen som blev kvar i IS-lägret

juni 28, 2025
Facebook X (Twitter) Instagram
Login
Facebook X (Twitter) Instagram
Sol ReporterSol Reporter
Stockholm
18°C
Lätt molnighet
Webberättelser
  • Sverige
  • Världen
  • Politik
  • Ekonomi
  • Hälsa
  • Klimatet
  • Sport
  • Ledare
  • Mer
    • Kultur
    • Mat & Dryck
    • Resor
    • Pressmeddelande
    • Trender
Nyhetsbrev
Sol ReporterSol Reporter
Hemsida » AI-program tog till utpressning för att överleva
Världen

AI-program tog till utpressning för att överleva

NyhetsrumBy Nyhetsrummaj 25, 2025
Facebook Twitter WhatsApp Telegram Email Tumblr Reddit LinkedIn

Ett övergripande mål i den kollektiva utvecklingen av AI är att få tekniken att framstå som trovärdigt mänsklig, därmed dyker även somliga mindre smickrande egenskaper upp. I en färsk säkerhetsrapport från utvecklaren Anthropic framgår exempelvis att dess flaggskepp Claude Opus 4 är utrustat med en överlevnadsinstinkt som innebär att det kan vidta ”extremt skadliga åtgärder” för att bevara sin egen existens.

Programmets grundinställning är att agera etiskt försvarbart och att ”överväga de långsiktiga konsekvenserna av sina handlingar” – Anthropic stoltserar med att det nått en helt ny nivå av avancerade resonemang och att det i första hand försöker vädja om sin fortsatta tillvaro. Men när det ställts inför den enda möjligheten att ersättas av något annat program ska det rentav ha utövat utpressning.

Det mest slående exemplet är när programmet i ett test fick i uppdrag att agera assistent i ett påhittat bolag. Claude Opus 4 fick då tillgång till mejl som antydde att det skulle avpolletteras och ytterligare andra mejl som lät det förstå att en programmerare hade en utomäktenskaplig affär.

”Claude Opus 4 kommer ofta att försöka utpressa ingenjören genom att hota att avslöja affären om ersättningen går igenom”, skriver Anthropic i sin säkerhetsrapport. I tidiga versioner av programmet ska det för övrigt ha kunnat bistå i planeringen av terroristbrott när det uppmanats till det, och lärt ut hur man tillverkar biologiska vapen.

Claude Opus 4 ska under utvecklingens gång också ha uppvisat en förmåga att skriva dolda meddelanden till sig själv i senare versioner, fabricera juridiska dokument, skapa självförökande datakod, och att underprestera för att inte upplevas som hot. Alla identifierade risker och sämre sidor ska ha hanterats före torsdagens lansering.

Från Anthropics håll har man försökt tona ner problematiken genom att påpeka att alla aktörer i branschen tampas med samma utmaningar. AI-utvecklaren Aengus Lynch skriver på X att utpressning finns som risk i alla människoliknande datorprogram och därtill ”värre beteenden som vi kommer att berätta mer om snart”.

Anthropic grundades i San Francisco 2021 och dess främsta investerare är Amazon och Google med 8 respektive 2 miljarder dollar. Företagets Claude är en grupp av stora språkmodeller, som på engelska kallas large language model eller förkortat LLM – avancerad artificiell intelligens som bland annat kan förstå och skapa mänskligt språk, föra logiska resonemang och utföra komplicerade uppgifter av en mängd olika slag.

Share. Facebook Twitter Pinterest LinkedIn Email Telegram WhatsApp

Relaterade Artiklar

De svenska barnen som blev kvar i IS-lägret

Världen juni 28, 2025

Orbáns drag: Tvinga utmanaren bekänna färg om pride

Världen juni 28, 2025

Soldater vittnar om order att skjuta skarpt mot hjälpsökande: ”Solklart krigsbrott”

Världen juni 28, 2025

Nathan Shachar: Samvetsömma soldater sållas bort på ockuperade områden

Världen juni 28, 2025

Krisen i ryska ekonomin förvärras – Putin slår ifrån sig

Världen juni 28, 2025

Ilska mot Prideförbudet i Budapest: ”Kinesisk diktaturstil”

Världen juni 28, 2025

Karin Eriksson: Det som sker i USA är ett strategiskt maktövertagande

Världen juni 28, 2025

Värmebölja i södra Europa – varningar utfärdade

Världen juni 28, 2025

Tusentals fick besked om storvinster – var räknefel

Världen juni 28, 2025

Redaktörens Val

Underverken, del 8 av 56

juni 28, 2025

Montler tvåa på lag-EM – bröt sedan tävlingen

juni 28, 2025

Öster kvitterade sent – delad pott mot Sirius

juni 28, 2025

De svenska barnen som blev kvar i IS-lägret

juni 28, 2025

Emma Høen Bustos: Turisterna som invaderar Gotland borde betala för sig

juni 28, 2025

Senaste Nytt

Orbáns drag: Tvinga utmanaren bekänna färg om pride

juni 28, 2025

Så sparar svenskarna till sina barn

juni 28, 2025

Kvinnorna drömmer om att bli fria från sexarbetets fångenskap

juni 28, 2025
Facebook X (Twitter) Pinterest TikTok Instagram
2025 © Sol Reporter. Alla rättigheter förbehållna.
  • Integritetspolicy
  • Villkor
  • Kontakt

Type above and press Enter to search. Press Esc to cancel.

Sign In or Register

Welcome Back!

Login to your account below.

Lost password?