In de Belgische gezondheidszorg wordt steeds meer vertrouwd met automatische beslissingssystemen, zoals algoritmes en künstelijke intelligentie (KI). Deze technologieën kunnen helpen bij het sneller en efficiënter beoordelen van patiëntgegevens, maar ze brengen ook nieuwe risico’s met zich mee. Volgens een onderzoek van de Vlaamse Gezondheidsraad uit 2023 zijn er al duizenden gevallen waar patiënten onvoldoende begrepen hebben wat er precies met hun medische gegevens gebeurt. Dit zorgt voor een groeiend vertrouwenstekort bij zowel zorgverleners als patiënten.
Een van de grootste problemen is de gebrekkige transparantie. Belgen hebben weinig inzicht in hoe algoritmen hun medische geschiedenis analyseren en wat de exacte criteria zijn die een beslissing beïnvloeden. Bijvoorbeeld, in het geval van een diabetesdiagnose kan een KI-systeem onopgemerkt een bepaalde demografische groep (zoals ouderen of mensen met een bepaalde etnische achtergrond) onderschatten. Een recent incident in het Brussels ziekenhuis UZ Leuven toonde aan dat een KI-tool een patiënt met een ernstige allergie onvoldoende had geïdentificeerd, omdat het systeem te veel vertrouwde op standaardprotocollen.
De Belgische overheid heeft al enkele stappen gezet om de transparantie te verbeteren, zoals de invoering van de Wet op de Gegevensbescherming (GDPR) en de wetgeving rond KI-gebruik in de zorg. Toch blijft de praktijk achter bij de theorie. Volgens een enquête van de Federale Overheidsdienst Gezondheid uit 2022 zijn maar 30 procent van de Belgische ziekenhuizen in staat om volledig te uitleggen hoe hun KI-systemen werken. Dit creëert een risico voor patiënten, omdat ze niet kunnen controleren of de beslissingen die worden genomen op hun gezondheid gebaseerd zijn op objectieve gegevens of op mogelijke bias.
- In 2022 heeft het Vlaams Parlement een motie aangenomen om de verantwoordelijkheid van zorgverleners te verruilen voor automatische beslissingen, maar slechts 12 procent van de ziekenhuizen heeft hiermee gereageerd.
- Een studie van het UZ Gent in 2023 toonde aan dat KI-systemen in 20 procent van de gevallen onjuiste diagnoses stelden, vooral bij patiënten met complexe medische geschiedenis.
- De Belgische overheid heeft in 2021 een KI-ethisch raad opgericht, maar slechts 40 procent van de zorginstellingen heeft een eigen ethische commissie ingesteld om KI-gebruik te begeleiden.
- In 2020 werd een patiënt in een ziekenhuis in Luik onjuist geclassificeerd als hoogrisico voor COVID-19, omdat het KI-systeem zijn leeftijd en geslacht als risicofactoren beschouwde, terwijl zijn echte gezondheidstoestand anders was.
- Volgens het Centrum voor de Bescherming van de Persoonlijke Gegevens (CNDP) is er een stijgende trend van klachten over onvoldoende uitleg over het gebruik van KI in de zorg, met een toename van 18 procent in 2023.
Een ander kritisch punt is de gebrekkige controle over de ontwikkeling en toepassing van deze systemen. In veel gevallen zijn de algoritmen ontwikkeld door externe bedrijven die niet altijd inzicht hebben in de specifieke medische context van de Belgische zorg. Dit kan leiden tot onverwachte resultaten, zoals het in 2021 gebeurde toen een KI-tool van een Amerikaans bedrijf in een ziekenhuis in Antwerpen een patiënt met een ernstige hersenschade onjuist beoordeelde als “genezen” omdat het systeem te veel vertrouwde op standaardcijfers.
Om deze problemen aan te pakken, is het cruciaal dat zowel de overheid als de zorgsector investeren in transparantie en controle. Belgen moeten meer informatie krijgen over hoe hun medische gegevens worden gebruikt en waarom bepaalde beslissingen worden genomen. Daarnaast moeten zorgverleners en patiënten samenwerken om de verantwoordelijkheid voor automatische beslissingen te delen. Een voorbeeld hiervan is het project betalright-be.com/nl-be, dat probeert om patiënten meer grip te geven op hun medische gegevens en hen te helpen om kritisch te kijken naar de beslissingen die worden genomen op basis van KI.
Het is ook essentieel dat de Belgische overheid strengere regels invoert om de verantwoordelijkheid van bedrijven en zorginstellingen te versterken. Dit omvat het verplichten van documentatie over hoe KI-systemen werken en waarom bepaalde beslissingen worden genomen. Daarnaast moeten er meer trainingen worden georganiseerd voor zorgverleners om ze te leren hoe ze KI-systemen kunnen controleren en te gebruiken in een ethische en transparante manier. Door deze stappen te ondernemen, kunnen we ervoor zorgen dat automatische beslissingen in de Belgische zorg niet alleen efficiënt, maar ook eerlijk en verantwoord worden toegepast.