"AI-algoritme kan, soms beter of sneller dan een arts, kans op een aandoening bepalen"
Artificial Intelligence (AI) is dagelijks in het nieuws. Niet alleen vanwege de briljante toepassingen, maar helaas ook vanwege de missers. We moeten oppassen dat we ons niet onnodig door die missers laten afremmen. Want zeker in de zorg biedt AI tal van kansen. “Het niet inzetten van AI in de zorg, kan onethisch zijn”, betoogt lector Applied Responsible Artificial Intelligence Ander de Keijzer. “Kijk goed naar de oorzaak van de missers.”
We hebben de neiging om op de rem te trappen bij AI omdat we als maatschappij snel de nadruk leggen op de fouten. Dat is begrijpelijk, omdat die fouten ingrijpend kunnen zijn. Door snel op de rem te trappen en laten we echter ook kansen liggen op vooruitgang. Die kansen zijn er op allerlei terreinen, dus ook in de zorg, waar we de komende decennia met een verder vergrijzende bevolking een steeds groter beroep op gaan doen.
Daarom is het goed om eerst te kijken hoe fouten die aan AI worden toegeschreven ontstaan. Een van de dankbare schuldigen waar naar gewezen wordt bij fouten is het algoritme. Zo’n algoritme is een set van regels die een computer automatisch uitvoert op basis van een zelflerende routine: AI dus.
Een fout van het systeem of de mens?
Een voorbeeld van zo’n fout in het algoritme trad op bij Amazon, dat cv’s van sollicitanten selecteerde uit een voorselectie gedaan door AI. Het algoritme was daarbij getraind met de huidige medewerkers als referentie. Dat medewerkersbestand bestond vooral uit mannen. Vervolgens bleek de door AI gemaakte voorselectie van ideale werknemers te bestaan uit mannen: het met louter cv’s van mannen getrainde systeem wees automatisch alle vrouwen af. Was hier het systeem fout, of was het de mens die een voorzet gaf voor de verkeerde beslissingen, door AI op eenzijdige manier te trainen?
Het is één van de voorbeelden die duidelijk maakt dat als we als maatschappij – bedrijf, organisatie of overheid – aan de slag gaan met kunstmatige intelligentie, dat het van het grootste belang is dat de mens de eindbeslisser is. De mens is ook verantwoordelijk voor het leerproces van AI, niet AI zelf, of het ‘algoritme’. Als je dat weet en daar naar handelt, kun je vooroordelen voorkomen.
In de zorg kan AI, nog meer dan het al incidenteel gebeurt, een rol spelen in bijvoorbeeld het detecteren van aandoeningen of het analyseren van beelden. Een AI-algoritme kan, soms zelfs beter of sneller dan een arts, de kans op een aandoening bepalen. Het is dan juist goed om AI te gebruiken. Het blijft aan de arts om te bepalen hoe de informatie van een AI-systeem meegenomen wordt in de diagnose en behandeling. De behandelaar kan daardoor eerder en ook beter een diagnose stellen en met andere onderdelen van het vak bezig zijn: bijvoorbeeld het voeren van een empathisch gesprek, iets waartoe AI nog lang niet in staat is.
Lector Ander de Keijzer
"Het blijft aan de arts om te bepalen hoe de informatie van een AI-systeem meegenomen wordt in de diagnose en behandeling."
Kansen voor AI bij routinematige handelingen
Ook bij handelingen die routinematig zijn, liggen kansen voor AI-toepassingen. Daarbij bestaat de kans dat de mens door aandachtsverlies of vermoeidheid fouten gaat maken. AI is hierbij sneller en meestal ook goedkoper en efficiënter. Denk in de zorg aan het signaleren van afwijkende waarden of patronen aan de hand van een Elektronisch Patiënten Dossier (EPD).
Ik kan me voorstellen dat je als arts geen tijd hebt om elke keer zo’n dossier integraal te lezen en om dat wat je leest dan ook nog eens te vergelijken met data van andere patiënten. Voor AI is het geen enkel probleem om grote hoeveelheden data te analyseren en te vergelijken met data van patiënten over de hele wereld. Daarmee kunnen zeldzame ziektebeelden, die een arts misschien nooit ziet, gediagnosticeerd worden. Uiteraard is het aan de arts om dit te beoordelen en om een behandelplan uit te stippelen.
Zorgvuldigheid bij ontwikkeling AI-toepassingen staat voorop
Ik ben ervan overtuigd dat we in de zorg goede toepassingen kunnen ontwikkelen als artsen, zorgprofessionals, data-engineers en programmeurs hiervoor samen de verantwoordelijkheid nemen. Op die manier dragen we samen bij aan de best mogelijke zorg die zorgprofessionals nastreven.
Zorgvuldigheid bij de ontwikkeling van AI-toepassingen staat voorop. Dat geldt helemaal voor medische toepassingen. Laten we op basis van minder geslaagde voorbeelden niet onnodig op de rem trappen bij de inzet van AI, maar laten we kijken hoe we dit op een maatschappelijk relevante en waardevolle manier kunnen inzetten. Want als een systeem heel erg goed is in het detecteren van ziektebeelden en zo voor preventie kan zorgen of de arts kan helpen bij het opstellen van een effectiever behandelplan, dan is het onethisch om het niet te gebruiken.
De mens staat voorop én aan het eind: als beslisser.
Ander de Keijzer is lector Applied Responsible Artificial Intelligence bij Centre of Expertise Perspectief in Gezondheid van Avans Hogeschool.