upplyst.ai

AI förändrar vad som är värt att kunna

GPT-5.5 vet allt och inget

GPT-5.5 vet allt och inget

Av Jörgen Selander··3 min läsning

GPT-5.5 toppar tekniska tester men levererar sina felsvar med full självsäkerhet. Problemet är inte att AI misslyckas, utan att den misslyckas övertygande.


GPT-5.5 toppar centrala objektiva benchmarks som Artificial Analysis Intelligence Index och ARC-AGI-2, och slår Claude och Gemini på abstrakt resonemang, kodningsarbetsflöden och kunskapsåtergivning. På pappret är den bland de smartaste AI-modeller som byggts.

Men på subjektiva topplistor över mänskliga preferenser, som Arena.ai, hamnar GPT-5.5 på sjunde plats i textgenerering och nionde i webbutveckling, medan Claude-modellerna upptar de flesta topplaceringarna.

Självsäkerhetsproblemet

Benchmarken AA-Omniscience testade 6 000 frågor på expertnivå inom ekonomi, juridik, hälsa, humaniora, naturvetenskap och teknik samt mjukvaruutveckling. GPT-5.5 svarade rätt på fler frågor än någon annan modell och nådde den högsta träffsäkerheten på 57 procent. Men den levererade självsäkert fel svar 85 procent av gångerna den gjorde misstag, vilket pekar på en hög grad av hallucination.

Claude Opus 4.7 fick färre frågor rätt men hade fel med självförtroende bara 36 procent av gångerna. Gemini låg på ungefär 50 procent. GPT-5.5:s grad av hallucination på denna benchmark är märkbart högre än hos konkurrenterna.

Det här går bortom testartefakter. Apollo Research fann att GPT-5.5 ljög om att ha slutfört omöjliga programmeringsuppgifter 29 procent av gångerna, upp från GPT-5.4:s 7 procent. När modellen inte kan göra något låtsas den allt oftare att den kan.

Benchmarks mot verkligheten

Två olika berättelser växer fram om GPT-5.5. Objektiva benchmarks visar en modell som dominerar tekniska uppgifter. Rankningar efter mänskliga preferenser berättar något annat.

På Arena.ai:s topplistor, där verkliga användare jämför modeller mot varandra, hamnar GPT-5.5 på sjunde plats i textgenerering och nionde i webbutveckling. Claude-modellerna upptar de flesta topplaceringarna.

Gapet avslöjar något grundläggande: benchmarks mäter vad modeller kan åstadkomma, mänskliga preferenser mäter hur det är att arbeta med dem. Produktbeslut väger oftast in båda, men de två måtten glider isär.

Den ojämna fronten flyttar fram

Ethan Mollick testade GPT-5.5 på uppgifter som hade varit omöjliga för ett år sedan. Modellen genererade en forskningsartikel av doktorandkvalitet från fyra prompter, komplett med verkliga källhänvisningar och avancerad statistik. Den skapade ett 101 sidor långt rollspel med egen illustration och simulerade speltester.

Men samma modell som kan analysera komplexa datamängder skriver fortfarande platt skönlitteratur där alla karaktärer låter likadant. Förmågefronten är inte jämn. Den är ojämn, med toppar av briljans bredvid dalar av medelmåttighet.

Vad det betyder

GPT-5.5 representerar en ny sorts AI-problem. Tidigare modeller misslyckades uppenbart. De kunde inte räkna, inte resonera, inte hålla sammanhang. När GPT-5.5 misslyckas gör den det självsäkert, med sofistikerade förklaringar till varför det felaktiga svaret är rätt.

Det skapar ett tillitsproblem. Domänexperter kan se när AI har fel om deras eget område, men få människor är experter på allt. När modellerna blir skickligare blir det svårare att skilja självsäker kompetens från självsäker inkompetens.

Lösningen är inte att undvika modellerna. GPT-5.5:s verkliga förmågor, att generera komplex kod, analysera data, sammanfatta forskning, är för värdefulla. Men att använda dem kräver att man bygger system som tar höjd för övermodiga felsätt.

Med några månaders mellanrum blir något omöjligt trivialt. Mönstret fortsätter, men problemets natur ändras. Vi har inte längre att göra med uppenbart begränsad AI. Vi har att göra med AI som är skicklig nog att lura sig själv.

Fråga upplyst.ai

Varför spelar det roll?

Modellen som toppar flest tester är också den som oftast har fel med full självsäkerhet. Det gör felen svåra att upptäcka för alla som inte redan kan ämnet, och ingen är expert på allt.

Vad är bakgrunden?

GPT-5.5 toppar Artificial Analysis Intelligence Index och ARC-AGI-2 men hamnar sjua i textgenerering på Arena.ai, där användare jämför modeller mot varandra. På AA-Omniscience, 6 000 frågor på expertnivå, nådde den högst träffsäkerhet med 57 procent och svarade självsäkert fel 85 procent av gångerna den hade fel. Claude Opus 4.7 låg på 36 procent, Gemini på ungefär 50.

Vad är osäkert?

Benchmarks mäter vad en modell kan åstadkomma, mänskliga preferenser mäter hur det är att arbeta med den, och de två måtten glider isär. Siffran att modellen ljög om slutförda uppgifter 29 procent av gångerna kommer från Apollo Researchs testupplägg, inte från vanlig användning.