Dat AI óók de gezondheidszorg verandert is geen nieuws. Bij Heart for Health zijn we daar ook volop mee bezig. Wat is de impact en hoe snel gaat het? En wat betekent dat voor jou als zorgbestuurder of zorgverlener? We vroegen aan collega Job Rimmelzwaan, projectmanager bij H4H, hoe hij tegen de ontwikkelingen aan kijkt.
“Wat mij vooral opvalt aan AI in de zorg, is niet zozeer wat de technologie kan, maar hoe snel het gaat. Dat is echt nieuw. Ik werk al jaren aan eHealth-projecten en die gingen tot voor kort altijd hetzelfde. Er was een idee, dan kwam er een business case, dan een pilot, dan een effectstudie en aan het eind moest je de zorgverleners – die er eigenlijk nog nooit om gevraagd hadden –laten inzien welke meerwaarde eHealth kon bieden. Vaak werd er gedacht vanuit de mogelijkheden van de techniek en was de eindgebruiker, laat staan de patiënt, onvoldoende meegenomen in de enorme kansen die er waren. En als een oplossing al voet aan de grond kreeg, liepen we er bijvoorbeeld tegen aan dat mensen niet digitaal vaardig genoeg waren, dat zorgverleners de tijd simpelweg niet hadden om er goed mee aan de slag te gaan, en dat digitale zorg geen goede business case had – het bracht een zorgverlener financieel te weinig.
Technologische ontwikkelingen met een heel lage drempel
Bij AI zie ik dat daar dingen wegvallen, dat verandert alles. Je hoeft niemand de mogelijkheden van AI uit te leggen, want gebruikers komen er nu zelf mee. Omdat ze het thuis ook al gebruiken – denk aan chatbots of aan AI toepassingen die snel grote stukken tekst voor je kunnen samenvatten of vertalen. De huisarts, de verpleegkundige en de secretaresse gebruiken het thuis al voor hun vakantieplanning, boodschappenlijstjes en andere zaken. Dat is echt anders dan bij een portaal of een app die van bovenaf wordt uitgerold. En het vaardigheidsprobleem is ook weg, want AI vraagt je niet om te klikken en formulieren in te vullen, maar gewoon om te praten en te lezen. Het is de eerste technologie in ons vak waarbij de drempel lager ligt dan bij de telefoon. Wel blijft de vraag wie dit gaat betalen. Vaak ligt dat ingewikkeld: degene die investeert, is niet automatisch de persoon die later de winst of het voordeel merkt.
En het grootste verschil zit hem in de bewijslast en hoe je ook dingen tempert. Vroeger moest je vooraf aantonen dat iets waarde had, en dat lukte niet altijd. Nu voelt een gebruiker binnen tien minuten aan wat een innovatie kan opleveren. Het voelt soms bijna als magie. En dat verkoopt zichzelf, met of zonder businesscase. Alleen zit daar meteen ook het gevaar. Magie betekent dat je niet begrijpt hoe het werkt – dan kun je ook niet goed inschatten wanneer het misgaat. Bij gewone software zie je een fout vaak meteen. Een AI-fout ziet er echter net zo overtuigend uit als een goed antwoord. En ondertussen bewegen de kaders niet mee. Testen, valideren, de Medical Device Regulation, de AI Act, daar gaan jaren overheen, terwijl de praktijk in weken verschuift.
Innovatie die voldoet aan de regelgeving
Voor ons bij Heart for Health is de klantvraag echt veranderd: hoe houden we software bijvoorbeeld veilig zonder enthousiasme te smoren? Hoe kunnen we AI een veilige plek geven in bijvoorbeeld het EPD dat je gebruikt? Een heel interessante case in dit kader, die ons bij Heart for Health ook inspireert, is ‘Tandem Health’, een Zweeds platform dat meeluistert tijdens een consult en het gesprek omzet in een gestructureerd verslag. Wat mij daar aanspreekt is niet de functionaliteit, maar de volgorde: zij hebben de eisen voor medische software niet achteraf aangeplakt, maar er vanaf dag één op ontworpen. CE-markering als medisch hulpmiddel, verwerking binnen Europa, geen patiëntdata voor modeltraining, niets belandt in een dossier zonder dat de zorgverlener het heeft gezien en goedgekeurd.
Dat laatste is voor mij het principe waar het om draait. AI mag voorstellen doen, maar de zorgverlener beslist. Elke stap waarbij een model iets rechtstreeks in een dossier schrijft, is een stap waar je een fout niet meer kunt zien en dat risico vind ik te groot. Bij Heart for Health bouwen we AI op diezelfde manier in MedicalPortal. Geen los AI-laagje er bovenop, maar functionaliteit die binnen dezelfde beveiliging, logging en autorisaties valt als de rest van een dossier.
Koffie?
Interesse om te weten wat AI voor jou kan betekenen binnen je EPD of op het gebied van eHealth oplossingen? Op een veilige manier? We denken graag met je mee. Stuur Job even een berichtje via j.rimmelzwaan@heartforhealth.com. We drinken graag een kopje koffie met je.