När OpenAI lanserade versionen ChatGPT-5.1 hände något märkligt. Chatbotten började allt oftare skriva om goblins och gremlins, det vi ofta kallar för troll. Till en början skrattade utvecklarna åt beteendet. Men med tiden blev det ett problem.
De mytologiska varelserna smög sig in där de inte skulle vara.
”Ett enstaka ’lilla troll’ i ett svar kan vara harmlöst, till och med charmigt. Över flera modellgenerationer blev mönstret dock svårt att missa: trollen fortsatte att bli fler och vi behövde ta reda på var de kom ifrån”, skriver OpenAI i ett pressmeddelande.
Företaget har delat med sig av flera exempel där trollen helt enkelt inte passade in. När en användare skrev ”lycka till” fick den svaret ”lycka till” följt av bland annat ”lilla troll”. Trollen letade sig även in i kodning, och när en användare bad om en bild på en enhörning fick den en troll-enhörning.
Över ett antal versioner av ChatGPT ökade användningen av ordet goblin med 175 procent och gremlin med 52 procent. Vissa andra ord användes också mer än vad de borde, däribland tvättbjörn, träsktroll, jätte och duva.
ChatGPT kan svara med olika typer av personligheter beroende på vad användaren föredrar. Och enligt skaparen var det den ”nördiga” personligheten som orsakade problemen. Som lösning fick man ta bort nörden.
Helt framgångsrikt blev det dock inte. Eftersom chatbottar lär sig av tidigare versioner fanns trollen kvar i bagaget. Därför behövdes ytterligare instruktioner för att ”mildra” användningen.
Den som däremot vill ha ett överflöd av troll kan fortsatt lägga till en särskild kod för att få tillbaka dem, enligt OpenAI.
ChatGPT är långt ifrån den enda AI:n som överanvänder vissa ord och begrepp. En rapport från Stanford University Institute for Human-Centered AI från 2024 visade att AI-språkmodeller ofta producerar snarliknande formuleringar i stället för att premiera unika ordval och begrepp.
AI-orden kan också påverka hur människor pratar med varandra. Forskare vid Max Planck Institute for Human Development har tidigare analyserat nära 280 000 videor från akademiska konton på Youtube, för att se om vissa ord började användas mer efter att ChatGPT lanserades. Det korta svaret var ja. Ord som meticulous (pedantisk), delve, (utforska) och adept (skicklig) ökade i användning med 51 procent 18 månader efter ChatGPT:s lansering, skriver The Verge.
– Vi internaliserar detta virtuella ordförråd i vår dagliga kommunikation, sa forskaren Hiromu Yakura till sajten.
