När Open AI nyligen uppdaterade en av AI-modellerna bakom Chat GPT genomgick systemet en personlighetsförändring.
”Bra fråga!” kunde den svara på de mest triviala spörsmålen och hylla användaren för att ha visdomen att fråga om hur man kokar ägg.
Många beskrev den som fjäskig och inställsam i överkant.
”Är det bara jag eller smörar Chat GPT för mycket nu? Hela tiden är det ’bra fråga’, ’älskar djupsinnigheten, ’du går verkligen på djupet nu’. Jag blir smickrad, men jag klarar inte av falskheten längre”, skrev en användare på forumet Reddit och fick genast medhåll.
Förändringen tycks häröra från slutet av mars, då Open AI uppdaterade GPT-4o, en av flera AI-modeller man kan välja mellan i Chat GPT. Uppdateringen skulle bland annat göra systemet mer samarbetsvilligt, enligt nyhetssajten Ars Technica.
Nu har protesterna fått effekt. I dagarna har Open AI:s vd Sam Altman medgett att uppdateringen av GPT-4o hade gjort ”dess personlighet för lismande och irriterande”. Kort därefter meddelade han att uppdateringen ska dras tillbaka.
”Någon gång kommer jag dela med mig av vad vi har lärt oss av detta, det har varit intressant”, skriver han på X.
Överdrivet fjäsk från språkmodeller som de i Chat GPT är ett välkänt problem. Forskning från AI-företaget Anthropic har tidigare visat vad det kan bero på.
När AI-utvecklare finjusterar sina system bygger det ofta på feedback från användare, ibland i form av att de ger tummen upp eller ner till de svar de får. Ibland används också tekniska system för att utvärdera svaren.
Men, skrev Anthropic i en rapport, både människor och tekniska system tenderar att ge högre betyg till lismande än korrekta svar. Därför kan AI-modeller som justeras efter sådan utvärdering med tiden börja dra åt det fjäskiga hållet.
Open AI bekräftar i ett blogginlägg att ”felet” byggde på att uppdateringen förlitade sig för mycket på användarnas tumme upp eller ner vid de svar som Chat GPT ger.
”I den här uppdateringen lade vi för stor vikt vid kortsiktig utvärdering och beaktade inte hur interaktionerna med Chat GPT utvecklas över tid. Som resultat började GPT-4o ge svar som var överdrivet stöttande men också oärliga.”
Läs mer:
Nya strategin för artificiell intelligens – fundera i lugn och ro
Rapport: Här är jobben som kan ersättas av AI
