Artificiële intelligentie (hierna: AI) vindt steeds vaker haar weg naar de gezondheidszorg bijvoorbeeld door middel van chatbots, spraakassistenten, automatische tekstgeneratie, beeldanalyse of toepassingen die medische informatie helpen verwerken.
Om het vertrouwen in deze technologieën te versterken en misleiding te voorkomen, legt de Europese AI-verordening (hierna: AI Act) vanaf 2 augustus 2026 nieuwe transparantieverplichtingen op voor bepaalde AI-systemen en AI-gegenereerde inhoud.
Waarom komen deze regels er?
De Europese Unie wil ervoor zorgen dat burgers kunnen herkennen wanneer zij met een AI-systeem communiceren of wanneer zij worden geconfronteerd met inhoud die door AI werd gegenereerd. Deze transparantie moet bijdragen aan:
- Het bestrijden van misleiding en desinformatie;
- Het versterken van het vertrouwen in AI-toepassingen;
- Een verantwoord gebruik van AI binnen de Europese Unie.
Wanneer geldt een informatieplicht?
De AI Act voorziet onder meer dat gebruikers moeten kunnen weten wanneer zij:
- Rechtstreeks communiceren met een AI-systeem;
- Geconfronteerd worden met AI-gegenereerde of AI-gemanipuleerde inhoud;
- Onderworpen worden aan emotieherkenning of biometrische categorisering;
- Een zogenaamde "deepfake" te zien of te horen krijgen. Dit zijn door AI gegenereerde beelden, video’s of geluidsfragmenten die sterk lijken op bestaande personen, objecten, plaatsen of gebeurtenissen en de indruk kunnen geven dat ze authentiek zijn. Wie dergelijke inhoud publiceert, zal in veel gevallen duidelijk moeten aangeven dat de inhoud door AI werd gegenereerd of aangepast.
Daarnaast moeten bepaalde teksten die met AI werden opgesteld over onderwerpen van openbaar belang duidelijk als AI-tekst worden aangeduid wanneer er geen menselijke controle of redactioneel toezicht heeft plaatsgevonden.
Technische markering van AI-inhoud
Niet alleen zichtbare labels worden belangrijk. Producenten van AI-systemen moeten ook voorzien in een zogenaamde markering die door machines gelezen kan worden op synthetische inhoud die door AI werd gegenereerd of gewijzigd. Hierdoor kunnen andere systemen of platformen detecteren dat bepaalde inhoud afkomstig is van AI.
De verplichting geldt niet voor eenvoudige ondersteunende bewerkingen of wanneer de oorspronkelijke inhoud niet wezenlijk wordt gewijzigd.
Wat betekent dit voor de gezondheidszorg?
Hoewel de meeste zorgverleners geen ontwikkelaars van AI-systemen zijn, zullen deze regels ook voor de zorgsector relevant worden. AI wordt immers steeds vaker ingezet voor administratieve ondersteuning, communicatie met patiënten, verslaggeving, triage, beeldanalyse en andere ondersteunende processen.
Wanneer AI-gegenereerde informatie rechtstreeks wordt gedeeld met patiënten of publiek wordt verspreid, zullen zorgorganisaties aandacht moeten hebben voor de transparantieverplichtingen uit de AI Act. Bovendien sluit dit aan bij bredere verwachtingen rond kwaliteitsvolle zorg en verantwoord gegevensgebruik.
Toezicht en mogelijke sancties
De naleving van de transparantieregels zal worden gecontroleerd door nationale toezichthouders, het Europese AI Office en, in bepaalde gevallen, de Europese Toezichthouder voor Gegevensbescherming.
Bij niet-naleving kunnen aanzienlijke sancties worden opgelegd, waaronder geldboetes tot 15 miljoen euro of 3% van de wereldwijde jaaromzet van een onderneming.
Vooruitkijken
De transparantieregels van de AI Act vormen één van de eerste concrete verplichtingen die rechtstreeks van toepassing worden op het gebruik van AI binnen Europa. Ze onderstrepen een eenvoudige maar belangrijke boodschap: gebruikers moeten kunnen weten wanneer AI aan het werk is.
Voor huisartsen, wachtposten en andere zorgorganisaties is het daarom raadzaam om reeds vandaag na te gaan waar AI-toepassingen worden ingezet en welke informatie in de toekomst mogelijks transparant moet worden gecommuniceerd.
Yente Reinenbergh
Jurist