Wat is de Jacobian lens?
Jarenlang was het eerlijke antwoord op “waarom zei de AI dat?” een schouderophalen. Moderne taalmodellen werken, maar het redeneren gebeurt in miljarden getallen die geen mens direct kan lezen. Dat is een probleem zodra je een model echt werk toevertrouwt — klantmails, contracten, financiële data.
De Jacobian lens is een onderzoekstechniek van Anthropic die daar verandering in begint te brengen. Geïntroduceerd in 2026, bij het paper “Verbalizable Representations Form a Global Workspace in Language Models”, geeft hij onderzoekers een manier om te lezen waartoe de interne activiteit van een model “geneigd is te zeggen”, nog voordat het model iets zegt.
In gewone taal: je kijkt in de machine terwijl hij denkt, in plaats van alleen de zin te lezen die eruit rolt.
Het probleem dat het oplost
Een taalmodel produceert tekst token voor token. Tegen de tijd dat jij het antwoord leest, is het interessante deel (het interne redeneren dat ertoe leidde) alweer verdwenen. Klassieke interpretatietools konden losse neuronen bekijken, maar één concept zit meestal uitgesmeerd over duizenden neuronen. Je zag de onderdelen, niet de gedachte.
De Jacobian lens pakt het van de andere kant aan. In plaats van “wat doet dit neuron?” vraagt hij: “welk intern patroon maakt het waarschijnlijker dat het model dit specifieke woord straks zegt?” Die vraag beantwoordt hij voor elk woord in het vocabulaire van het model.
Hoe het werkt
De naam komt van de Jacobiaan, het wiskundige object dat vastlegt hoe een kleine verandering op de ene plek doorwerkt naar iets anders. Hier meet het hoe elke interne activatie de uiteindelijke output van het model beïnvloedt.
Concreet neemt de lens een interne toestand uit een willekeurige laag van het netwerk, transporteert die lineair naar de uitvoerruimte van het model, en decodeert hem tot een gerangschikte lijst van woorden. De bijbehorende code vat het samen in één regel:
lens(h) = unembed( J · h ), waarbijJde gemiddelde gevoeligheid is van de laatste laag voor die interne toestand.
Dat gemiddelde wordt gemeten over zo’n duizend korte tekstfragmenten, zodat de lens weergeeft hoe het model zich in het algemeen gedraagt, niet één toevallige prompt. Anthropic bracht open-source code uit die de lens op open-weight modellen toepast, dus de methode is reproduceerbaar in plaats van een claim die je op je blauwe ogen moet geloven.
De versie in één zin
De Jacobian lens vertaalt de verborgen interne activiteit van een model naar leesbare woorden, zodat onderzoekers kunnen zien naar welke concepten het stilletjes toewerkt voordat het ze opschrijft.
J-space: de “global workspace” van het model
Toen Anthropic de lens over een model liet lopen, kwam iets opvallends naar boven. De concepten waarover een model daadwerkelijk kan redeneren en rapporteren liggen niet overal verspreid. Ze clusteren in een kleine, gestructureerde set interne richtingen, een ruimte die de onderzoekers J-space noemen.
J-space gedraagt zich als een mentale werkruimte: een gedeeld schoolbord waarop het model de ideeën vasthoudt die het bewust jongleert, gescheiden van de enorme hoeveelheid automatische, parallelle verwerking die eronder plaatsvindt. Hij is verrassend compact — volgens Anthropic goed voor slechts zo’n 6 à 10% van de interne activatievariantie, terwijl juist dat kleine deel het meerstaps, “multi-hop” redeneren aanstuurt.
Dat is de verrassende kop: het deel van het model dat het meest op doelbewust denken lijkt, is een dunne, leesbare laag boven op een veel grotere zee van reflex.
J-space is een fractie van de totale interne activiteit, maar draagt de concepten waarmee het model redeneerstappen aan elkaar knoopt.
Omdat de lens activiteit naar woorden decodeert, kunnen onderzoekers benoemen wat er in de werkruimte zit, in plaats van gokken op ruwe neuronwaarden.
De doelbewuste 'werkruimte' is te onderscheiden van de automatische achtergrondverwerking, een echte greep op waar het redeneren zit.
Waarom dit telt als jouw bedrijf op AI draait
Dit is niet alleen een curiositeit voor onderzoekers. Automatiseer je echt werk met AI (tickets routeren, offertes opstellen, documenten screenen), dan vertrouw je op een systeem dat je niet volledig kunt zien. Interpreteerbaarheid maakt van dat vertrouwen iets dat je kunt inspecteren in plaats van hopen.
De richting is duidelijk: AI beweegt van een black box naar een glass box. En dat verandert wat “verantwoorde AI-adoptie” mag betekenen.
Geeft een automatisering een fout of vertekend antwoord, dan wijzen tools op basis van dit onderzoek richting het waarom, niet alleen de prompt opnieuw proberen en hopen.
Toezichthouders en directies vragen steeds vaker 'kun je dit besluit uitleggen?' Interpretatie-onderzoek is het fundament dat een eerlijk antwoord mogelijk maakt.
De werkruimte lezen waar het redeneren gebeurt, is een route om problemen te vangen vóór ze de output bereiken, niet nadat een klant klaagt.
In plaats van 'de AI lijkt in orde' beweeg je naar bewijs over waar het model daadwerkelijk op let als het namens jou handelt.
Wat de Jacobian lens NIET betekent
Het is geen leugendetector en het “verklaart” een model niet volledig. Het leest een lineaire, verwoordbare plak van de activiteit — het deel dat netjes op woorden afbeeldt. Veel verwerking gebeurt buiten J-space. Zie het als een krachtig nieuw venster, niet als een complete röntgenfoto. Wie je op basis hiervan “volledig verklaarbare AI” verkoopt, overdrijft.
Van onderzoek naar betrouwbare automatisering
De meeste bedrijven zullen zelf nooit een lens op een model toepassen, en dat hoeft ook niet. Wat telt is het principe eronder: AI die je inzet hoort observeerbaar, bestuurbaar en corrigeerbaar te zijn. Dat principe kun je vandaag al inbouwen in hoe je automatisering opzet, lang voordat interpretatietools van de frontier de productie bereiken.
Precies zo bouwen we bij Viralistic. Als n8n Ambassador ontwerpen we AI-automatisering rond transparantie in plaats van magie:
Elke run laat een audit-trail achter: wat kwam binnen, wat besloot de AI, wat gebeurde er daarna. Klopt er iets niet, dan kun je het herleiden in plaats van gokken.
Risicovolle stappen lopen via een goedkeuring voordat er iets onomkeerbaars gebeurt: het model stelt voor, een mens bevestigt.
Toegangsrechten, geïsoleerde omgevingen en beheerde secrets houden een AI-workflow binnen de grenzen die jij stelt. Zie onze gids over veilige automatisering.
De Jacobian lens is een signaal van waar het hele vakgebied heen gaat: naar AI waarvan we het redeneren echt kunnen inspecteren. Wil je AI-agents bouwen op datzelfde principe van transparantie, dan zijn onze gids over AI-agents bouwen met n8n en ons enterprise-automatisering framework de praktische volgende stappen.
Veelgestelde vragen
Wie heeft de Jacobian lens gemaakt?
De interpretatie-onderzoekers van Anthropic introduceerden hem in 2026, samen met het paper “Verbalizable Representations Form a Global Workspace in Language Models” en een open-source codebase. Bij Viralistic volgen we dit onderzoek op de voet, omdat het bepaalt hoe we betrouwbare AI-automatisering voor klanten bouwen.
Kun je de Jacobian lens zelf gebruiken?
Ja, Anthropic publiceerde open-source referentiecode (onder de Apache 2.0-licentie) die de lens op open-weight modellen toepast. Het is een onderzoekstool voor engineers en interpretatie-onderzoekers, geen plug-in voor alledaagse AI-apps.
Maakt interpreteerbaarheid AI veilig voor mijn bedrijf?
Het is een belangrijk ingrediënt, geen garantie. Veilige inzet hangt ook af van hoe de automatisering zelf is ontworpen: logging, menselijke goedkeuring, toegangsbeheer en beheerde secrets. Die operationele laag bouwen wij voor klanten, zodat je AI in de praktijk observeerbaar en corrigeerbaar blijft.
AI die je écht kunt vertrouwen — en inzien?
Plan een gesprek en we kijken waar AI je tijd bespaart zonder een black box te worden. Wij bouwen automatisering die vanuit ontwerp gelogd, bestuurbaar en corrigeerbaar is.
