Hopp til innholdet
Norsk journal om kunstig intelligens 254 artikler Oslo --:--
TokenPrat
[ Verktøy ] 2 min lesetid Av TokenPrat-redaksjonen

Jev: AI-modellen som svarer med beslutninger, ikke setninger – og derfor er nesten gratis

TypeSafe AI tar 4,2 cent per million input-tokens for Jev, og ingenting for output. Prisen er ekte, men den gjelder en helt annen type modell enn du kanskje tror.

Tog ved et sporveksel i blåtimen med grønt signal

Ikke en chatbot

Det første du må vite om Jev er at den ikke skriver tekst. Du kan ikke be den om en e-post, et sammendrag eller en kodebit. Den tar inn en tilstand – et dokument, en supportsak, et JSON-objekt – og svarer på spørsmål om den med strukturerte beslutninger.

Det finnes tre typer svar. Et valg mellom opptil 255 alternativer, et nivå på en skala, eller en sannsynlighet mellom 0 og 1. Hvert svar kommer med en sannsynlighetsfordeling og et mål på hvor sikker modellen er.

TypeSafe kaller det en «System One»-modell, etter Daniel Kahnemans skille mellom rask intuisjon og langsom resonnering. Store språkmodeller er System Two: de tenker høyt, ord for ord. Jev er ment for de raske avgjørelsene en agent tar hundrevis av ganger: Er denne e-posten spam? Hvilken avdeling skal saken til? Bør agenten kjøre denne kommandoen, eller spørre først?

Derfor kan output være gratis

Prisen er 0,042 dollar per million input-tokens, altså 42 dollar per milliard. Output koster ingenting. Det høres for godt ut til å være sant, men forklaringen er enkel: Et svar fra Jev er noen få tall, ikke hundrevis av tokens med tekst. Det er ikke mye å fakturere for.

Til sammenligning koster Claude Opus 5.5 4 dollar per million input-tokens. Men det er ikke en rettferdig sammenligning. Opus kan skrive, resonnere og kode; Jev kan sortere. Det riktige spørsmålet er hvor mange av kallene i din agent eller automatisering som egentlig bare er beslutninger – og som i dag betales til full språkmodellpris.

Merk at «input» inkluderer mer enn dokumentet ditt. Hver forespørsel har rundt 300 faste tokens, pluss omtrent 50 per spørsmål du stiller.

Påstandene – og hva de faktisk betyr

TypeSafe oppgir at Jev er opptil 193 ganger raskere og 444 ganger billigere enn GPT-5.6 Terra på deres egne testoppgaver. Svartidene ligger rundt 100–200 millisekunder. Selskapet sier selv at tallene trolig representerer «den høye enden» av hva man får i praksis, og ingen uavhengige tester har bekreftet dem.

Påstanden om at Jev «ikke kan hallusinere» må også leses nøye. Det TypeSafe garanterer, er at svaret alltid følger formatet du ba om – du får aldri en ugyldig kategori eller et tall utenfor skalaen. Det betyr ikke at svaret er riktig.

Råteksten vi fikk inn påsto at Jev gir «mer intelligens per dollar enn noen annen modell». Det er ikke noe TypeSafe kan dokumentere, og det er ikke en meningsfull sammenligning når modellene gjør så forskjellige ting.

Det du ikke får

Jev er en lukket modell. Arkitekturen er ikke beskrevet, vektene er ikke publisert, og den kan ikke kjøres lokalt. Du er avhengig av TypeSafes API, med grenser på 1200 forespørsler i minuttet.

For tokenprat-leseren som bygger agenter, er det likevel verdt et forsøk. TypeSafe åpnet for alle 20. september, og nye kontoer får 5 dollar i kreditt – nok til rundt 120 millioner tokens. Bruk den offisielle siden typesafe.ai; flere tredjepartssider har dukket opp med Jev i navnet.

Og konkurransen har allerede kommet. Cloudflare lanserte 1. oktober Clef, en beslutningsmodell som tar imot de samme forespørslene som Jev, til 0,24 dollar per million tokens – eller 0,09 for den mindre Clef-flash. Beslutningsmodeller ser ut til å bli en egen kategori, og det er gode nyheter for alle som har blødd tokens på enkle ja/nei-spørsmål.

Ressurser

Mer om

Alle →
Trekosser i pastellfarger satt sammen til et lite grensesnitt med hjul og glidebryter
· Verktøy

ChatGPT Intelligent UI: Svarene er ikke lenger tekst – slik bygger modellen grensesnittet mens den skriver

Siden 7. oktober har ChatGPT kunnet svare med knapper, skjemaer, diagrammer og små kalkulatorer i stedet for ren tekst. Det interessante er ikke at det ser pent ut, men hvordan det er løst: modellen skriver ikke kode, den setter sammen ferdige byggeklosser.

Hvitt VR-headset med kontroller på et bord, med en holografisk galakse svevende over
· Verktøy

Mario Galaxy i VR og PS5-spill på PC: Mennesker dekompilerer, AI bygger porten

En VR-versjon av Super Mario Galaxy for Meta Quest er skrevet hundre prosent av Claude. Et åpent prosjekt kjører PS5-spill på PC uten emulator. Men den harde jobben under, og de juridiske spørsmålene rundt, er fortsatt menneskenes.

Bibliotekskap der flere skuffer lyser innenfra
· Verktøy

LMCache: Slik slipper språkmodellen å lese den samme lange prompten om og om igjen

Bruker du vLLM med lange systemprompter, RAG eller agenter, regner modellen ut det samme på nytt ved hver forespørsel. LMCache lagrer mellomregningen i RAM og på disk, og kan kutte ventetiden før svaret starter kraftig. Men bare hvis promptene dine faktisk gjentar seg.