Lokale LLMs in de praktijk: wat kunnen ze, en wanneer zet je ze in?

Zorgorganisaties staan voor een lastig dilemma: de druk om AI in te zetten groeit, maar patiëntdata mag de muren van de organisatie niet uit.
blank

Cloudoplossingen zijn krachtig, maar roepen bij privacyofficers en compliance-teams al snel terechte vragen op. Bij Cyphers onderzochten we wat er mogelijk is met lokale, open-source taalmodellen die volledig binnen de eigen infrastructuur draaien. De uitkomsten zijn verrassend positief.

Warom lokale modellen?

Cloudgebaseerde AI-oplossingen zijn krachtig, maar in de zorg is dat lang niet altijd doorslaggevend. Patiëntgegevens vallen onder strikte regelgeving en mogen doorgaans niet naar externe servers worden gestuurd. Lokale modellen lossen dat probleem op: ze draaien op de eigen infrastructuur, data verlaat de organisatie niet en je behoudt volledig inzicht in hoe uitkomsten tot stand komen. Dat laatste is geen bijzaak; bij audits, toezicht en verantwoording is aantoonbare controle over je processen een vereiste. 

“We hadden geen idee dat al onze data op servers staan buiten de ED.”

— Beleidsmedewerker Jeugdzorg, Zaanstad

Wat is een lokaal LLM?

Lokale LLM’s zijn open-source taalmodellen die je op eigen hardware installeert en beheert. Er zijn zelfs modellen die prima functioneren op een gewone laptop; je hebt dus geen dure serverinfrastructuur nodig om te starten. En omdat je met synthetische data kunt trainen (voorbeelden die de praktijk nabootsen zonder echte patiëntgegevens te gebruiken), is ook de aanloop naar een werkende oplossing minder zwaar dan veel organisaties verwachten. 

Wat levert dat op in de praktijk?

Om te laten zien wat lokale modellen concreet kunnen betekenen, voerden we twee experimenten uit op taken die we regelmatig tegenkomen bij zorgorganisaties: het beoordelen van vrije tekstnotities en het gestructureerd ontsluiten van gegevens die in lopende tekst verborgen zitten. 
 
Voorbeeld 1: rechtmatigheid van teleconsulten toetsen 

In het kader van horizontaal toezicht moeten zorgaanbieders kunnen aantonen dat gedeclareerde teleconsulten ook daadwerkelijk hebben plaatsgevonden. Een teleconsult mag alleen worden gedeclareerd als er werkelijk contact was met de patiënt. Maar of dat het geval was, moet worden opgemaakt uit de vrije tekstnotities die de behandelaar in het EPD achterlaat. Dat handmatig nalopen is tijdrovend en foutgevoelig. 

Cyphers testte in een experiment of een lokaal model dit kon overnemen. De taak: automatisch onderscheiden of een notitie duidt op daadwerkelijk contact of niet. De modellen werden getraind op synthetische data: kunstmatige voorbeelden die we modelleerden naar het type EPD-notities dat we uit ons dagelijks advieswerk in de zorg kennen. Zo konden we een realistisch experiment opzetten zonder echte patiëntgegevens te gebruiken. 

Met slechts 80 trainingsvoorbeelden presteerden twee modellen al betrouwbaar. Wat opvalt: ze gingen ook goed om met de lastige gevallen waar dubbele negatieven of ambigue formuleringen klassieke tekstanalyse al snel op het verkeerde been zetten. Precies het type onderscheid dat een medewerker nu handmatig maakt; maar dan in een fractie van de tijd en zonder dat er iemand door stapels notities hoeft te bladeren. 

Voorbeeld 2: gestructureerde data uit vrije tekst halen 

Niet alle relevante informatie in de zorg staat netjes in velden. Veel staat in lopende tekst: notities, verslagen, factuuromschrijvingen. Het probleem is dat die tekst moeilijk te verwerken is voor systemen die gestructureerde invoer verwachten. 

Dit tweede experiment richtte zich op factuurverwerking: het automatisch herkennen en extraheren van gedeclareerde uren en uurtarieven uit vrije tekstnotities. Ook hier werkten we met kunstmatige data die qua structuur en variatie dicht aansluit bij wat we in de praktijk zien. Met een beperkte set trainingsvoorbeelden leerde het model deze gegevens betrouwbaar te identificeren en eruit te halen, ook bij sterk variërende formuleringen. De uitkomst is direct bruikbaar als invoer voor een administratiesysteem, zonder handmatige tussenkomst. 

Classificeren, gegevens ophalen, samenvatten, structureren: de lijst met tekstverwerkingstaken die lokale modellen aankunnen is langer dan deze twee voorbeelden. De kern is steeds dezelfde: waar tekst nu tijd kost, kan een model het zware werk overnemen. 

Wat is realistisch voor jouw organisatie? 

Voor brede, open toepassingen kunnen lokale LLM’s niet tippen aan grote cloudmodellen. Maar voor specifieke, afgebakende taken zijn ze een volwaardig alternatief, zeker waar privacy, regelgeving of de eisen van toezichthouders een rol spelen. 

De drempel is lager dan veel organisaties denken. Een trainingsset van circa 100 voorbeelden is vaak al voldoende, en de resultaten zijn direct inzetbaar in bestaande werkprocessen. 

Cyphers kent de Nederlandse zorgsector van binnenuit: de eisen rondom horizontaal toezicht, de druk op rechtmatige declaraties, de complexiteit van EPD-omgevingen. Die inhoudelijke kennis combineren we met technische AI-expertise. Het resultaat is niet alleen een werkend model, maar een oplossing die past binnen de kaders van je organisatie en aansluit op hoe er al gewerkt wordt 

Meer info?

Benieuwd wat lokale AI kan betekenen voor jouw organisatie? Neem contact op met Cyphers voor een vrijblijvend gesprek.

Gerelateerde artikelen

Valkuilen bij het implementeren van een dataplatform

Veel organisaties investeren in dashboards en rapportages, maar zien in de praktijk dat deze nauwelijks gebruikt worden. Niet omdat de techniek tekortschiet, maar omdat de rapportage geen onderdeel wordt van het besluitvormingsproces.
blank

Van spreadsheets naar dashboards

Voor de vier domeinen: zorg, financiën, personeel en planning zijn de meest voorkomende rapportages en dashboards ontwikkeld door Cyphers. Hierdoor kun je snel met het dashboard aan de slag voor specifieke inzichten.
blank

Lokale LLMs in de praktijk: wat kunnen ze, en wanneer zet je ze in?

Zorgorganisaties staan voor een lastig dilemma: de druk om AI in te zetten groeit, maar patiëntdata mag de muren van de organisatie niet uit.

Wil je ook kortere wachttijden realiseren?

Ontdek hoe KOMPAS jouw gemeente of regio kan helpen met datagedreven sturing in de jeugdzorg.