Hopp til innholdet
Norsk journal om kunstig intelligens 255 artikler Oslo --:--
TokenPrat
1 min lesetid Av TokenPrat-redaksjonen

Lokale LLM-er: Et fleksibelt alternativ

Å bytte fra proprietære AI-tjenester til lokale modeller
som Gemma 4 og Qwen Coder gir deg kostnadskontroll og
personvern – uten å miste verktøykjeden du allerede bruker.

Hva du faktisk får

  • Ingen per-request-kostnad – spør så mye du vil,
    uten at taksameteret tikker
  • Data forlater aldri maskinen din – kode og prompts
    er dine alene
  • Samme verktøykjede – agentic coding-verktøy fungerer
    mot lokale modeller via standard API
  • Modellvalg etter oppgave – ikke etter abonnement

En vanlig overgang

For utviklere som allerede bruker Claude
eller andre sky-modeller, ser overgangen typisk slik ut:

  1. Installer Ollama eller
    LM Studio
  2. Last ned Gemma 4 (ollama pull gemma4) eller Qwen Coder
  3. Pek eksisterende verktøy mot lokal endepunkt
    (localhost:11434 for Ollama)
  4. Test mot reelle oppgaver for å finne riktig balanse

Du kan kjøre lokalt og sky parallelt mens du finner
den rette blandingen. Smerten er liten.

Gemma 4 – verdt å merke seg

Google slapp Gemma 4 2. april 2026, og det er
sannsynligvis den mest praktiske open-weight-modellen
du kan kjøre lokalt akkurat nå. Lisensen er Apache 2.0
– helt fri for kommersiell bruk.

Fire størrelser dekker alt fra Raspberry Pi til
RTX 3090: E2B, E4B (standard), 26B MoE og 31B.
Standard ollama pull gemma4 gir deg E4B på ~9,6 GB.

Når lokal modell ikke er nok

Lokale modeller passer for de fleste daglige oppgaver.
Men en hybrid-tilnærming
– der de tyngste oppgavene sendes til skyen –
er ofte den smarteste startløsningen.

Oppsummering

Lokale LLM-er er ikke lenger et eksperiment.
Overgangen er rask, risikoen er lav, og du beholder
full kontroll over data og kostnader.

Ressurser

Del

Les videre

Forsiden →
Forelesningssal om natten med en tavle full av krittdiagrammer, en laptop og høye stabler med manuskripter
· Forskning

OpenAI slapp over 700 matematikkbevis på én dag – Lean sjekker rundt 42 prosent av dem

6. oktober la OpenAI ut 722 matematiske manuskripter laget av en intern modell uten navn. Det mest interessante er metoden: en AI som tenker i timevis per problem, og et maskinelt verktøy som skal skille holdbare bevis fra tull.

Studiomikrofon med lysende fargede lydbølger i et mørkt lydstudio
· Modeller

Ming 3.0 TTS: Beste åpne stemmekloner med MIT-lisens – men den snakker ikke norsk

Ant Group har sluppet to talemodeller som kloner stemmer, designer nye fra en beskrivelse og ler, sukker og nøler på kommando. Den minste har bare 0,5 milliarder parametere, og lisensen er så åpen som det går an. Men står norsk på ønskelista, må du vente.

Menneskehånd og robothånd som holder hver sin trekloss med samme grep
· Forskning

FlashDexRetarget: Én policy for tusen håndbevegelser – og 100 ganger mindre GPU-tid

Roboter med fingre trenger enorme mengder treningsdata, og den billigste kilden er opptak av mennesker som håndterer ting. Problemet er å oversette en menneskehånd til en robothånd. Et nytt prosjekt fra KAIST og Holiday Robotics gjør det med én felles modell i stedet for én per bevegelse, og bruker