De gezondheidszorgsector heeft technologie nooit hoeven integreren op het tempo waarop kunstmatige intelligentie zich ontwikkelt.
Dat zorgt voor een ongewoon probleem.
Softwarebedrijven kunnen om de paar maanden nieuwe modellen uitbrengen.
Zorgsystemen kunnen hun klinische infrastructuur niet om de paar maanden veranderen.
Het resultaat is een groeiende spanning tussen innovatie en veiligheid.
Toezichthouders halen in
In augustus publiceerde de Amerikaanse Food and Drug Administration een discussiedocument waarin het publiek om input werd gevraagd over hoe medische hulpmiddelen met generatieve AI gereguleerd moeten worden, inclusief vragen over risicobeoordeling, evaluatie vóór marktintroductie en monitoring na marktintroductie.
De FDA zegt nu dat meer dan 1.600 AI-ondersteunde medische hulpmiddelen zijn toegelaten tot de markt in de Verenigde Staten.
In het Verenigd Koninkrijk publiceerde een onafhankelijke commissie onder leiding van NHS-artsen in september aanbevelingen om de veilige adoptie van AI te versnellen en tegelijk de veiligheid en het vertrouwen van patiënten te behouden.
Europa werkt aan zijn eigen regelgevende complexiteit.
De centrale vraag
De moeilijke vraag is niet of AI gereguleerd moet worden.
Bijna iedereen is het erover eens dat AI in de gezondheidszorg zinvolle waarborgen nodig heeft.
De moeilijkere vraag is:
Hoe reguleer je een technologie die voortdurend verandert?
Een medisch hulpmiddel heeft traditioneel relatief afgebakende kenmerken.
Generatieve AI kan veranderen door modelupdates, extra training, nieuwe data en veranderend systeemgedrag.
Dat zorgt voor een fundamenteel andere regelgevende uitdaging.
Het risico om te langzaam te handelen
Er is ook een andere kant aan het debat.
Als regelgeving te ingewikkeld wordt, kunnen ziekenhuizen moeite krijgen om nuttige technologieën over te nemen.
De Europese Commissie zelf noemt beperkte klinische inzet als een van de uitdagingen voor AI-ondersteunde gezondheidstechnologieën en werkt via AICare@EU aan het wegnemen van drempels voor adoptie.
De uitdaging gaat dus in beide richtingen:
Te weinig toezicht creëert risico.
Te veel frictie kan verhinderen dat nuttige innovatie patiënten bereikt.
Onze visie
Het volgende grote concurrentievoordeel in AI voor de gezondheidszorg ligt daarom misschien bij bedrijven die zowel technologie als regelgeving begrijpen.
Een uitstekend model is niet genoeg.
Een AI-bedrijf in de gezondheidszorg moet ook verstand hebben van bewijs, klinische workflows, cybersecurity, datagovernance, aansprakelijkheid en goedkeuring door regelgevers.
Dat maakt AI in de gezondheidszorg fundamenteel anders dan consumenten-AI.
En dat is precies waarom wij denken dat de sector een nieuwe generatie bedrijven nodig heeft die opereert op het snijvlak van:
AI + geneeskunde + regelgeving + data