Thinking Machines Lab, de startup van voormalig OpenAI-CTO Mira Murati, heeft met Inkling zijn eerste eigen model uitgebracht. Het gaat om een multimodaal Mixture-of-Experts model met 975 miljard parameters, volledig open weights, en een expliciete focus op finetuning. De naam is bewust gekozen. Een inkling is een eerste vermoeden, een idee dat nog moet groeien. Precies wat dit model volgens de makers moet zijn. Een brede basis waar ontwikkelaars zelf iets gerichts van maken.

Het model komt op een interessant moment. De sterkste open-weights modellen kwamen tot nu toe grotendeels uit Chinese labs zoals DeepSeek en Z.ai. Inkling is een Amerikaans antwoord op die dominantie. Het lab zelf zegt nadrukkelijk niet te mikken op dominatie in benchmarks. De inzet is een model dat je makkelijk naar je hand kunt zetten.

Wat Inkling technisch precies is

Onder de motorkap is Inkling een 66-laags decoder-only transformer met een sparse Mixture-of-Experts backbone. Van de 975 miljard parameters zijn er per token 41 miljard actief. Elke token wordt geroute naar 6 van de 256 experts, aangevuld met 2 gedeelde experts die altijd meedraaien. Die architectuur volgt grotendeels het recept van DeepSeek-V3, met een paar eigen keuzes op het gebied van efficiëntie en lange context.

Enkele ontwerpbeslissingen:

  • Contextvenster van 1 miljoen tokens, wat het model geschikt maakt voor werk met lange documenten, codebases of langlopende gesprekken.
  • Interleaving van sliding-window en globale attention-lagen in een verhouding van 5:1 met 8 KV-heads, wat geheugengebruik in balans houdt met bereik.
  • Relatieve positionele embeddings in plaats van het gangbare RoPE. Volgens het lab extrapoleert dit beter naar langere sequenties.
  • Hybride optimizer: Muon voor grote matrixgewichten en Adam voor de rest.

De pretraining draaide op 45 biljoen tokens aan tekst, beeld, audio en video, op NVIDIA GB300 NVL72 systemen. Voor post-training werd eerst een kleine supervised fine-tuning gedaan met synthetische data van open modellen zoals Kimi K2.5, waarna large-scale asynchrone reinforcement learning het meeste werk deed: meer dan 30 miljoen rollouts, gespreid over twee lange continue runs.

Multimodaal vanaf de basis

Waar veel open-weights modellen tekst als hoofddiscipline hebben en beeld of audio er later bijschroeven, is Inkling vanaf het begin multimodaal getraind. De aanpak is bewust encoder-free: audio komt binnen als dMel spectrogrammen, beelden worden opgeknipt in patches van 40×40 pixels via een lichte hMLP. Beide gaan door een dunne embeddinglaag en worden samen met tekstuele tokens verwerkt.

Praktisch betekent dat Inkling gesproken instructies volgt, transcripties maakt, vragen beantwoordt over opnames en visueel materiaal analyseert zoals grafieken, diagrammen en wiskundige weergaven. Op benchmarks als VoiceBench, MMAU en MMMU Pro presteert het model in de top van de open-weights categorie. Bovendien kan Inkling tijdens inference een Python-tool inzetten om afbeeldingen in te zoomen of bij te snijden, en visuele redenering combineren met code.

Regelbare thinking effort

Een van de meer praktische kanten van Inkling is de instelbare denkinspanning. Ontwikkelaars kunnen per taak bepalen hoeveel tokens het model mag besteden aan redeneren. Dat scheelt in kosten en latency, twee factoren die in echte productieomgevingen vaak zwaarder wegen dan de allerhoogste benchmarkscore.

Volgens Thinking Machines Lab bereikt Inkling op Terminal Bench 2.1 hetzelfde prestatieniveau als Nemotron 3 Ultra met een derde van de tokens. Voor workflows waar het model miljoenen keren per dag draait, is dat een significant verschil. Interessant is dat het lab tijdens de RL-training een compressie in het redeneerspoor zag ontstaan. De chain of thought werd korter en efficiënter, zonder dat de eindantwoorden slechter werden. Dat gedrag werd niet expliciet beloond, alleen de efficiëntie op zich stuurde die evolutie.

Epistemics, kalibratie en weerbaarheid tegen censuur

Thinking Machines Lab besteedt in de aankondiging opvallend veel aandacht aan wat ze de epistemics van het model noemen. Kalibratie, opvolging van instructies en weerbaarheid tegen censuur. Een model dat overtuigd is van elk antwoord, ook de foute, dwingt gebruikers tot voortdurende dubbelcheck. Inkling is getraind om onzekerheid uit te drukken waar dat nodig is.

Voor de trainingsaanpak gebruikte het lab reinforced learning tegen proper scoring rules op een groot corpus van opgeloste vragen. Twee automatische graders werden gecombineerd. Een rubric grader die antwoorden aftoetst tegen een checklist, en een claims grader die elke feitelijke bewering verifieert via agentic web search. Samen verhogen ze de nuttigheid en verlagen ze hallucinaties.

Het team met abstention-aware rewards. Antwoorden loont alleen als het model waarschijnlijk gelijk heeft. De optimale strategie wordt dan om “ik weet het niet” te zeggen wanneer de zekerheid ontbreekt. Op forecasting benchmarks als ForecastBench en Prophet Arena vertaalt dat zich in sterke kalibratiescores.

Veiligheid

Open weights vragen om een andere manier van denken over veiligheid dan gesloten API-modellen. Als iedereen het model kan aanpassen, kunnen ingebouwde weigeringen worden weggetraind. Thinking Machines Lab evalueerde Inkling op FORTRESS, een benchmark voor adversariële weigering, en meldt de sterkste ingebouwde beveiligingen van alle vergeleken open-weights modellen. Op StrongREJECT scoort het model boven de 98%.

Belangrijk: het lab beveelt zelf aan om Inkling niet als enige beveiligingslaag te gebruiken. Downstream moderatietools zoals Llama Guard blijven aangewezen, zeker voor consumergerichte toepassingen waar adversarial prompting waarschijnlijker is. Voor domeinen als geneeskunde, recht of veiligheidskritische besluitvorming raadt het lab expliciet aan om extra finetuning en menselijke controle in te bouwen.

Tinker en het finetuning-ecosysteem

Inkling is vanaf dag één beschikbaar op Tinker, het finetuning-platform dat Thinking Machines Lab in oktober 2025 lanceerde. Ontwikkelaars kunnen kiezen uit contextvensters van 64K of 256K tokens, met tijdelijk 50% korting op de gebruikelijke tarieven. Er is ook een Inkling Playground om het model uit te proberen voordat je aan een fine-tuning job begint.

Het lab liet Inkling zichzelf finetunen. Het model schreef een eigen fine-tuning job via Tinker, voerde die uit en evalueerde het resultaat. Na 27 minuten was er een verbeterde checkpoint.

Voor deployment werkt Thinking Machines Lab samen met een breed netwerk van partners. Inkling draait via API’s op TogetherAI, Fireworks, Modal, Databricks en Baseten. Voor lokale inference is er ondersteuning in SGLang, vLLM, TokenSpeed, llama.cpp en Hugging Face Transformers. De gewichten staan als BF16-checkpoint op Hugging Face, en er is ook een NVFP4-versie voor efficiëntere inference op Blackwell-systemen.

Inkling-Small: de lichtere variant

Naast het volledige model komt er een preview van Inkling-Small: 276 miljard totaal, 12 miljard actieve parameters. Volgens de eerste resultaten benadert die kleinere versie op veel benchmarks het grotere zusje, dankzij verbeteringen in het pre-training recept. Voor workloads waar latency en kosten belangrijk zijn zoals coding-assistenten of het genereren van synthetische data, is dat een aantrekkelijke optie.

Een basis, geen eindpunt

Thinking Machines Lab is opvallend eerlijk over wat Inkling wel en niet is. Het is niet het sterkste model op de markt. Het is bedoeld als breed, evenwichtige model dat zich laat vormgeven naar specifieke toepassingen. Die positionering is verfrissend in een sector die vaak alleen met benchmarks bezig is.