TypeSafe AI lanceert Jev: een transformer die geen tekst uitvoert maar kansen

👁 129 keer gelezen

TypeSafe AI, het startup van voormalig OpenAI-onderzoeker Diogo Almeida, heeft deze week Jev gelanceerd - een transformer-model dat geen tekst als uitvoer geeft, maar kansen: wat het bedrijf ‘calibrated decisions’ noemt. Het model kan daardoor structureel niet hallucineren, omdat gebruikers de mogelijke uitkomsten zelf van tevoren definiëren.

Almeida, die meewerkte aan ChatGPT en aan het trainingsprincipe RLHF (reinforcement learning from human feedback), verliet OpenAI twee jaar geleden met een specifieke frustratie.

“We have lightning in a bottle, and yet it is not useful. We have been super good at human language for four years, but it’s not useful for automation because computers speak a different language.”

De prijsstructuur van Jev wijkt sterk af van standaard LLM-tarieven: uitvoertokens zijn gratis, en invoertokens worden per miljard gerekend in plaats van per miljoen. De API viel tijdelijk uit door te hoge vraag direct na de lancering.

Vroege tests van ontwikkelaars geven concrete cijfers. Vercel, dat Jev gebruikte als vervanger van OpenAI Luna 5.6 voor het classificeren van commando’s op veiligheid, haalde resultaten 5 tot 18 keer sneller. Bryo AI CTO Nikhil Mudholkar testte Jev tegen Gemini voor het classifieren van zakelijke e-mails: Gemini scoorde iets nauwkeuriger, maar was 10 tot 20 keer duurder. Mudholkar prees vooral de betrouwbaarheidsscores van Jev - het enige model dat een echte kans teruggeeft per uitkomst.

Naast vervanging van LLMs in classificatietaken ziet Almeida Jev ook als bewaker van LLM-agents: het model kan agent-traces monitoren en jailbreaks detecteren, zonder de hoge kosten van een volwaardig taalmodel als waakhond. Armin Ronacher, CTO van Earendil, wijst op model routing als verdere toepassing - snel en goedkoop bepalen welk model een taak aankan.

Praktisch gezien is Jev relevant voor ontwikkelaars die LLMs inzetten voor classificatie, routing of veiligheidscontroles in geautomatiseerde workflows. Waar een taalmodel onnodig duur en traag is voor een ja/nee-beslissing, biedt Jev snelheid, lage kosten en een expliciete kanswaarde - zodat je in code zelf kunt bepalen bij welke drempel je de uitkomst vertrouwt.

// lees verderLLM’s begrijpen niet hoe code werkt tijdens uitvoering - SWE-FluxBenchmarksSlack laat Slackbot interactieve dashboards en rapporten bouwen via tekstAI-toolsCamerabewegingen in Gemini Omni 1.2: FPV-drone en 360-graden shotBenchmarks

Kinetyra