werken inmiddels aan systemen die zelfstandig door een diagnostisch proces kunnen gaan, medische informatie verzamelen, mogelijke diagnoses afwegen en uiteindelijk een conclusie formuleren.
Een onderzoeksteam publiceerde deze maand in Nature Medicine een studie naar een zogenoemde on-premise clinical AI agent: een AI-systeem dat volledig binnen de infrastructuur van een medische instelling kan draaien en daardoor niet voortdurend patiëntgegevens naar een externe cloud hoeft te sturen.
Dat lijkt op het eerste gezicht een technische verbetering.
Maar de implicatie is veel groter.
Als AI-agenten steeds beter zelfstandig medische problemen kunnen analyseren, komt de zorg dichter bij een situatie waarin een AI-systeem niet alleen informatie verstrekt aan een arts, maar daadwerkelijk een deel van het diagnostische werk uitvoert.
Van chatbot naar digitale clinicus
De ontwikkeling van grote taalmodellen heeft de afgelopen jaren vooral laten zien dat AI medische informatie kan verwerken.
Maar een klinische AI-agent probeert een stap verder te gaan.
Zo’n systeem kan meerdere stappen achter elkaar uitvoeren: informatie verzamelen, medische aanwijzingen tegen elkaar afwegen, mogelijke diagnoses vergelijken en vervolgens een besluit of aanbeveling formuleren.
De onderzoekers achter het Nature Medicine-onderzoek beschrijven precies deze ontwikkeling als een verschuiving richting AI-agenten die een diagnostische workflow kunnen uitvoeren zonder voortdurend menselijke input.
Dat maakt de technologie fundamenteel anders dan een traditionele zoekmachine of medische chatbot.
Een chatbot wacht op een vraag.
Een agent kan een opdracht krijgen en vervolgens zelf bepalen welke stappen nodig zijn om die opdracht uit te voeren.
Maar één probleem blijft gigantisch
Een medisch AI-systeem kan nog zo goed zijn in het geven van een antwoord: artsen moeten ook weten wanneer het systeem onzeker is.
Dat is een van de belangrijkste onderdelen van het nieuwe onderzoek.
De onderzoekers testten een lokaal draaiende klinische AI-agent op diagnostische taken. Op een benchmark met zeven ziekten behaalde het systeem een nauwkeurigheid van 90,04 procent; op een tweede taak met vier ziekten kwam het uit op 83,8 procent.
Maar het interessantste deel van het onderzoek zit misschien niet in die percentages.
De onderzoekers probeerden namelijk ook te bepalen wanneer het systeem betrouwbaar genoeg was om zelfstandig een beslissing te nemen.
Bij een streng ingestelde consistentiedrempel bleef ongeveer 49,4 procent van de gevallen over. Binnen die geselecteerde groep bedroeg de diagnostische nauwkeurigheid 98,9 procent.
Het idee is daarmee niet:
Laat AI alles doen.
Het idee is:
Laat AI alleen zelfstandig handelen wanneer het systeem voldoende vertrouwen geeft, en stuur de rest door naar een mens.
Dat is een veel realistischer model voor medische autonomie.
De computer kan zelfs binnen het ziekenhuis blijven
Een tweede belangrijk element is dat het systeem on-premise kan draaien.
Dat betekent dat een ziekenhuis niet noodzakelijk alle gevoelige medische gegevens naar een externe AI-cloud hoeft te sturen.
Dat kan belangrijk zijn voor privacy, beveiliging en controle.
Ziekenhuizen beschikken immers over enorme hoeveelheden gevoelige informatie: diagnoses, scans, medicatie, genetische gegevens en complete medische dossiers.
Een AI-systeem dat toegang krijgt tot zulke informatie wordt daarmee niet alleen een softwaretool.
Het wordt onderdeel van de digitale infrastructuur van het ziekenhuis.
AI krijgt daardoor een nieuwe rol in de operatiekamer van de zorg
Stel dat een patiënt binnenkomt met verschillende symptomen.
Vandaag verzamelt een arts informatie, bekijkt onderzoeken, raadpleegt medische literatuur en bespreekt mogelijke diagnoses.
Een toekomstige AI-agent zou een deel van dat proces kunnen uitvoeren voordat de arts überhaupt naar het dossier kijkt.
De AI kan bijvoorbeeld:
- relevante medische geschiedenis verzamelen;
- eerdere onderzoeken vergelijken;
- mogelijke diagnoses ordenen;
- afwijkingen in gegevens signaleren;
- relevante wetenschappelijke literatuur koppelen;
- aangeven waar onzekerheid zit;
- en een diagnostisch overzicht voorbereiden.
De arts blijft verantwoordelijk, maar begint zijn werk dan met een veel uitgebreider digitaal voorwerk.
Dat kan de snelheid van zorg veranderen.
De grote vraag is wat er gebeurt wanneer AI ongelijk heeft
Juist hier wordt medische AI anders dan veel andere toepassingen.
Een AI die een verkeerde samenvatting maakt, kan door een medewerker worden gecorrigeerd.
Een AI die een gevaarlijke diagnose overslaat, kan veel grotere gevolgen hebben.
Daarom is het concept van selectieve autonomie zo belangrijk.
AI hoeft niet altijd autonoom te zijn.
Het systeem kan bijvoorbeeld zelfstandig eenvoudige gevallen verwerken en complexe of twijfelachtige gevallen automatisch doorsturen naar een arts.
Dat lijkt sterk op hoe luchtvaart, cybersecurity en andere kritieke systemen met automatisering omgaan.
De machine doet zoveel mogelijk zelf, maar probeert ook te herkennen wanneer menselijke controle noodzakelijk wordt.
Ook kankeronderzoek laat zien waar deze ontwikkeling naartoe gaat
Een andere recente ontwikkeling laat zien hoe AI steeds meer richting voorspelling beweegt.
Onderzoekers van MD Anderson Cancer Center ontwikkelden een AI-model dat met behulp van bestaande beeldvorming probeert te voorspellen welke longkankerpatiënten een verhoogd risico lopen op ernstige longontsteking als gevolg van immunotherapie. De complicatie kan levensbedreigend zijn en treft volgens de onderzoekers ongeveer 10 procent van de longkankerpatiënten die dergelijke behandelingen krijgen.
Het opvallende is dat het systeem geen compleet nieuwe medische test nodig heeft.
Het probeert informatie te halen uit beeldvorming die al beschikbaar is.
Daarmee verschuift medische AI opnieuw.
AI kijkt niet alleen naar:
“Wat heeft deze patiënt?”
maar steeds vaker naar:
“Wat kan er waarschijnlijk met deze patiënt gebeuren?”
Dat opent de deur naar preventieve zorg.
De medische AI van de toekomst kan daardoor minder zichtbaar worden
De interessantste AI in ziekenhuizen zal misschien helemaal geen opvallende chatbot zijn.
Het kan software zijn die op de achtergrond draait.
Een systeem dat een scan analyseert.
Een ander systeem dat laboratoriumresultaten controleert.
Een derde systeem dat het risico op complicaties berekent.
En een vierde systeem dat de arts waarschuwt wanneer verschillende gegevens niet met elkaar overeenkomen.
Voor de patiënt lijkt het ziekenhuis misschien hetzelfde.
Maar achter de schermen kan een netwerk van AI-agenten voortdurend medische informatie analyseren.
Toch is dit nog geen digitale dokter
Het is belangrijk om de onderzoeksresultaten niet te verwarren met een systeem dat klaar is om zelfstandig patiënten te behandelen.
De Nature Medicine-studie werd uitgevoerd op benchmarkgegevens en onderzocht een specifieke diagnostische taak. De onderzoekers benadrukken juist dat klinische toepassing institutionele governance en betrouwbare onzekerheidsinschatting vereist.
De technologie staat dus nog niet gelijk aan een autonome arts.
Maar de richting is duidelijk.
AI gaat van informatie geven naar redeneren.
Van redeneren naar handelen.
En uiteindelijk naar selectief zelfstandig uitvoeren van medische workflows.
Dat laatste is misschien wel de grootste verandering die AI tot nu toe in de gezondheidszorg heeft veroorzaakt.