Öppna modeller mot molnet: är lokalt tillräckligt bra?

"Är de öppna språkmodellerna tillräckligt bra?" är den fråga som avgör om ett suveränt AI-projekt blir av. Svaret är ja för det mesta, nej för en del. Skillnaden är värd att förstå innan ni bestämmer er.

Var öppna modeller står

Öppna modeller, det vill säga modeller vars vikter ni kan ladda ner och köra själva, kommer i dag från flera håll: Qwen från Alibaba, Llama från Meta, Mistral från Frankrike, Gemma från Google, DeepSeek från Kina och gpt-oss från OpenAI. De släpps i flera storlekar och de bästa i 30- till 120-miljardersklassen ligger på jämförelsetester ungefär där de ledande molnmodellerna låg för sex till tolv månader sedan.

Det låter som en brist. I praktiken betyder det att de klarar i princip allt som företag faktiskt gör med AI i dag.

Var lokalt räcker gott och väl

• Sökning och frågor i egna dokument. Här är det inte modellens intelligens som avgör utan hur bra ni får in rätt underlag. En lokal modell med tillgång till era system slår en molnmodell utan.
• Sammanfattningar och utkast. Mötesanteckningar, rapporter, mejl. Skillnaden mellan modeller är marginell.
• Klassificering och strukturering. Sortera ärenden, extrahera fält ur fakturor, tagga dokument. Små modeller är ofta bättre här eftersom de är snabbare och billigare att köra i volym.
• Kodhjälp i vardagen. Komplettering, förklaringar, tester. Öppna kodmodeller är riktigt bra och håller dessutom er källkod hemma.
• Allt som innehåller känslig data. Här är frågan inte om lokalt räcker, utan om molnet ens är ett alternativ.

Var molnet fortfarande vinner

• De allra svåraste resonemangsuppgifterna. Komplex juridisk analys, avancerad matematik, långa flerstegsproblem. Frontlinjemodellerna ligger fortfarande före, även om avståndet krymper för varje release.
• Bredd i ovanliga språk och domäner. De största molnmodellerna har sett mer av allt.
• Noll drift. Om ni inte vill äga någonting alls och inte har känslig data är ett API rätt val.

Notera vad som inte står på listan: svenska. De ledande öppna modellerna hanterar svenska väl och för domänspecifik text går det att finjustera på era egna dokument. Vissa molnleverantörer erbjuder finjustering också, men då går träningsdatan till dem och resultatet stannar på deras plattform.

Det som förändrar kalkylen: finjustering

En öppen modell kan tränas vidare på er data. Inte från grunden, utan en lätt anpassning som lär modellen er terminologi, era mallar och er ton. Det kräver en kväll på er egen GPU, inte ett datacenter. Resultatet är ofta en mindre modell som slår en större allmän modell på just era uppgifter. Det alternativet finns bara när ni äger modellen.

Hur ni avgör vad som gäller för er

Gissa inte. Testa. Ta tjugo riktiga exempel från er verksamhet, kör dem genom två eller tre öppna modeller och en molnmodell. Låt sedan de personer som ska använda systemet bedöma svaren blint. Det tar en dag och ger ett svar som gäller för er, inte för ett generellt jämförelsetest.

Det är så jag gör i förstudien och det är förvånansvärt ofta som den mindre lokala modellen vinner.