AI in de zorg: antwoord op vragen - Dutch Health Hub
De grootste voordelen van AI in de zorg zijn kostenbesparing en betere kwaliteit van zorg. AI maakt een efficiëntieslag mogelijk, wat de kosten ...
AI Act
Het Europees Parlement heeft in de zomer van 2023 de <anchor>AI Act</anchor> aangenomen.  Deze Europese wet legt strenge regels op aan ontwikkelaars en gebruikers van AI om de rechten van Europese burgers te beschermen.  De AI Act gaat privacy beschermen en verbiedt AI om mensen te kenmerken op basis van geslacht en ras. Dat gaat waarschijnlijk vanaf 2026 gebeuren.
Nederlandse zorg puzzelt met AI-regulering - Dutch Health Hub
Nederlandse zorg puzzelt met AI-regulering - Dutch Health Hub

[Home](https://www.dutchhealthhub.nl "Home")

[Nieuwsbrief](https://www.dutchhealthhub.nl/#nieuwsbrief "Nieuwsbrief")

- Thema’s
  - [Digitalisering](https://www.dutchhealthhub.nl/artikelen/categorieen/digitalisering "Digitalisering")
  - [Innovatie](https://www.dutchhealthhub.nl/artikelen/categorieen/innovatie "Innovatie")
  - [Vitaliteit](https://www.dutchhealthhub.nl/artikelen/categorieen/vitaliteit "Vitaliteit")
  - [Verduurzaming](https://www.dutchhealthhub.nl/artikelen/categorieen/verduurzaming "Verduurzaming")
  - [Arbeidsmarkt](https://www.dutchhealthhub.nl/artikelen/categorieen/arbeidsmarkt "Arbeidsmarkt")
  - [Leiderschap](https://www.dutchhealthhub.nl/artikelen/categorieen/leiderschap "Leiderschap")
  - [Organisatie](https://www.dutchhealthhub.nl/artikelen/categorieen/organisatie "Organisatie")
- Events
  - [Agenda](https://www.dutchhealthhub.nl/events/agenda "Agenda")
  - [Zorg& facility](https://www.zorg-en-facility.nl/ "Zorg& facility")
  - [Zorg& food](https://www.zorg-en-food.nl/ "Zorg& food")
  - [Zorg& ict](https://www.zorg-en-ict.nl/ "Zorg& ict")
- Partners
  - [Contentpartners](https://www.dutchhealthhub.nl/contentpartners "Contentpartners")
  - [Kennis­part­ners](https://www.dutchhealthhub.nl/kennispartners "Kennis­part­ners")
- [Kennisbank](https://www.dutchhealthhub.nl/whitepapers "Kennisbank")
- [Persberichten](https://www.dutchhealthhub.nl/persberichten "Persberichten")
- [Vacatures](https://www.dutchhealthhub.nl/vacatures "Vacatures")
- Bedrijfsprofielen
  - [Profielen](https://community.dutchhealthhub.nl/exhibitors "Profielen")
  - [Producten](https://community.dutchhealthhub.nl/products "Producten")
[Nieuwsbrief](https://www.dutchhealthhub.nl/#nieuwsbrief "Nieuwsbrief")

# Nederlandse zorg puzzelt met AI-regulering

![AI act](https://www.dutchhealthhub.nl/wp-content/uploads/2024/02/AI-Act.jpg)

![Philip van de Poel](https://www.dutchhealthhub.nl/wp-content/uploads/2024/06/philip-e1721911204295.png)

###### Philip van de Poel

08 februari 2024

6 min

[Digitalisering](https://www.dutchhealthhub.nl/artikelen/categorieen/digitalisering)

**Wordt de EU dankzij de AI Act de wereldwijde AI-waakhond? Met de invoering van bindende richtlijnen zet Europa een reuzenstap richting veilige en transparante AI-systemen. Voor een maatschappelijke sector als de zorg is het raamwerk van wezenlijk belang. Maar regels zijn één ding. Om publieke doelen veilig te stellen heeft de overheid dezelfde botte rekenkracht nodig als ontwikkelaars van AI, stelt AI-pionier Yoshua Bengio.**

Als alles volgens plan verloopt wordt de [AI Act](https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence) dit voorjaar officieel van kracht. Daarmee krijgen alle autonoom handelende computersystemen en algoritmes die beslissingen nemen, content genereren of mensen assisteren te maken met nieuwe, strakke spelregels. De Europese wetgevers willen de AI Act zoveel mogelijk laten aansluiten op de bestaande Europese wet- en regelgeving. Zo is de AI Act binnen het gezondheidsdomein een aanvulling op bijvoorbeeld de Medical Device Regulation (MDR). Ook de Algemene Verordening Gegevensbescherming (AVG) blijft naast de AI Act van kracht.

## **Menselijke controle**

Als eerste stap heeft de EU in kaart gebracht waar het fout kan gaan met AI. De EU denkt daarbij primair aan de mate van menselijke controle en toezicht. Ook de technische robuustheid, veiligheid, privacy en data-governance tellen zwaar. Transparantie is een ander punt zorg. Is het helder waar de achterliggende data vandaan komen? Zijn de broncodes en algoritmes inzichtelijk? Zijn de keuzes van het betreffende AI-systeem traceerbaar en uitlegbaar?

Ook als het gaat om diversiteit, non-discriminatie, rechtvaardigheid en milieu kunnen er in de optiek van de EU ongelukken gebeuren.

## **Risicoclassificatie**

Op basis van deze criteria heeft de EU een risicoclassificatie opgesteld. In de AI Act wordt onderscheid gemaakt tussen vier categorieën. Systemen die mensen automatisch rangschikken op basis gedrag, sociaaleconomische status en persoonlijke kenmerken -ook bekend als ‘social scoring’- worden als onaanvaardbaar aangemerkt. Dat geldt ook voor toepassingen die leunen op biometrische identificatie, verborgen manipulatie of emotieherkenning in de context van werk of school.  Dergelijke toepassingen moeten in Europa binnen een half jaar na het van kracht worden van de AI Act uitgefaseerd zijn. Dat betekent exit voor een toepassing als Clearview AI dat het internet en camerasystemen afgraast op zoek naar voeding voor automatische gezichtsherkenning.

## **Zorg kent ‘hoog risico’**

Na ‘onaanvaardbaar’ volgt het label ‘hoog risico’. Hiertoe horen toepassingen in het medisch domein, het onderwijs en de kritieke infrastructuur. Verder gaat het om toegang tot belangrijke diensten, verzekerings-inschattingen en ‘intelligente’ deeltoepassingen in gereguleerde producten, zoals auto’s, liften en elektrisch gereedschap.

De Europese regels betekenen in concreto dat fabrikanten duidelijk moet aangeven wanneer gebruikers te maken krijgen met een chatbot, biometrische categorisering of emotieherkenning. Ook moeten _deep fakes_ een duidelijk label krijgen waardoor ze voor de gebruiker als zodanig herkenbaar zijn.

## **Auteursrecht**

Een aparte categorie vormen algemene AI-modellen en foundation modellen, zoals GPT en Bard. Hier is volgens de Europese wetgever sprake van een ‘specifiek transparantierisico’. Om in Europa actief te kunnen blijven, krijgen de makers één jaar voor meer transparantie en documentatie. De makers moeten bijvoorbeeld duidelijk maken in hoeverre ze data gebruiken waar auteursrecht op rust. Alle AI-toepassingen die niet tot  één van de drie bovenstaande categorieën behoren, gelden in Europa straks als ‘laag risico’.

## **Concurrentievoordeel**

Volgens de AI-ontwikkelaars remt de juridische inkadering vooruitgang. Bovendien is wetgeving volgens veel bedrijven overbodig, omdat maatschappelijk verantwoord gebruik één van de fundamenten is van AI-ontwikkeling. Hoe weinig overtuigend dit laatste argument is, bewijst het optreden van Open AI. De werkwijze van de maker van ChatGPT was ‘open’, totdat het bedrijf de boel dicht gooide om het eigen concurrentievoordeel intact te houden.

## **Sancties**

Om de tech-bedrijven tot medewerking te bewegen, voorziet de AI Act in forse sancties. Overtreders  kunnen tot 35 miljoen euro boete per overtreding krijgen of 7 procent van de wereldwijde omzet. Administratieve overtredingen kunnen boetes tot 7,5 miljoen of 1, 5 procent van de omzet opleveren. Een speciale ‘data regulator’ moet gaan toezien op naleving van de AI Act.

## **Speelruimte**

De vraag is hoe heet de soep straks gegeten wordt. De AI Act biedt bedrijven de nodige speelruimte. Zo bepalen ze in eerste instantie zelf binnen welke risicocategorie hun product valt. Ook de classificering zelf is niet in beton gegoten. Voor de hoog risico-categorie geldt een hele waslijst van uitzonderingen, die maken dat een toepassing buiten de AI Act valt. En in bredere zin is de AI Act niet van toepassing op gebruik van AI voor militaire en defensieve doeleinden.

## **Amerikaanse decreet**

Dit laat onverlet dat de EU de eerste grote economie is die een alomvattend juridisch raamwerk voor AI optuigt. Voor de MIT Technology Review reden om de EU aan te merken als de ‘internationale AI-politie’ en [‘go to tech-regulator’](https://www.technologyreview.com/2023/12/11/1084942/five-things-you-need-to-know-about-the-eus-new-ai-act/). Toch zitten andere landen en partijen niet stil. De Amerikaanse president Biden vaardigde afgelopen najaar een decreet uit bedoeld om de ontwikkeling van AI te reguleren. De verordening berust op vergelijkbare principes als de EU hanteert, maar het stuk is vooralsnog niet meer dan een [opdracht aan het National Institute of Standards and Technology (NIST)](https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/) om een raamwerk op te stellen.

## **Medische aansprakelijkheid**

Wat de groeiende overheidsbemoeienis voor de zorgsector betekent, is nog niet goed duidelijk. De Amerikaanse artsenvereniging AMA gaf in november een schot voor de boeg met de [publicatie van een werkdocument](https://www.ama-assn.org/press-center/press-releases/ama-issues-new-principles-ai-development-deployment-use). De Amerikaanse context kleurt het stuk. Zo maakt de AMA een punt van de artsenaansprakelijkheid bij gebruik van AI-gestuurde technologie. Die aansprakelijkheid zou beperkt moeten worden tot de momenteel geldende wettelijke regels. En daar vloeien in de VS al genoeg rechtszaken en schadeclaims uit voort. Ook waarschuwt de AMA voor de inzet van AI door zorgverzekeraars. AI-gedreven beslismodellen mogen er niet toe leiden dat verzekerden noodzakelijke zorg wordt onthouden.

## **Rechtszaken**

Die zorg is niet denkbeeldig. In de VS zijn verschillende voorbeelden opgedoken van AI-modellen die de voorspelde ligduur in het ziekenhuis precies laten samenvallen met het vergoedingsplafond van de polis. Zorg na de ‘voorspelde’ ontslagdatum -ook al is de patiënt niet hersteld- wordt niet vergoed. De kwestie is nu [inzet van verschillende rechtszaken](https://healthpayerintelligence.com/news/lawsuit-alleges-humana-used-ai-to-deny-medically-necessary-claims). AMA pleit voor strenger toezicht.

## **Aanbevelingen WHO**

Dat is ook wat de World Health Organization (WHO) bepleit. In een in januari verschenen stuk geeft de WHO v [eertig aanbevelingen voor zorgvuldig gebruik van large language models (LLM’s)](https://www.who.int/news/item/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models) in de zorg. Er moeten wat de WHO betreft wetten en regulering komen toegesneden op de zorg. Een special agentschap moet LLM’s voor de zorg beoordelen en keuren. Daar hoort ook beoordeling na ingebruikname bij.

## **Inclusief ontwerp**

De WHO maakt zich daarnaast sterk voor inclusief ontwerp. Dit proces zou niet alleen een zaak van wetenschappers en ontwerpers moeten zijn, maar ook van zorgaanbieders, zorgprofessionals en zorgvragers. Ontwikkelaars zouden bovendien potentiële neveneffecten moeten kunnen voorspellen.

## **Supercomputer**

Een indringend commentaar in het debat over regulering van AI komt van [computerwetenschapper Yoshua Bengio](https://en.wikipedia.org/wiki/Yoshua_Bengio), bekend als één van de peetvaders van AI. Hoeveel regels er ook bedacht worden, in de AI-wedloop gaat het volgens hem uiteindelijk om financieel gewicht en botte digitale rekenkracht. Recent riep hij de Canadese regering op een [supercomputer van 1 miljard dollar](https://www.cbc.ca/news/canada/montreal/bengio-asks-canada-to-build-ai-supercomputer-1.7094858?utm_source=substack&utm_medium=email) te bouwen. “Natuurlijk moeten we beginnen bij regulering”, aldus Bengio. “Maar uiteindelijk zal de overheid controle moeten terug nemen door een eigen infrastructuur te bouwen. Ik hoop dat regeringen zo snel mogelijk beseffen dat zie die spierballen nodig hebben.”

## **Zoektocht**

Zover is het in Nederland nog niet, zeker niet waar het specifieke toepassingen in de zorg betreft. Vorig jaar verscheen er een [‘Leidraad kwaliteit AI in de zorg’.](https://guideline-ai-healthcare.com/) Het stuk wordt door verschillende partijen gedragen, maar is [niet afdwingbaar](https://www.dutchhealthhub.nl/artikel/gemeenschappelijk-kompas-geeft-richting-aan-ai-in-de-zorg/) of anderszins verplichtend. Het ministerie van VWS is op dit moment zoekende. Aan de hand van veldgesprekken probeert VWS in kaart te brengen welke vragen er ten aanzien van AI in de zorgsector leven. Daarnaast heeft het ministerie TNO opdracht gegeven om een verkennend onderzoek te doen.

_AI is één van de kernthema’s tijdens [Zorg & ict 2024](https://www.zorg-en-ict.nl/). Het grootste health tech event van Nederland wordt van 9 tot en met 11 april gehouden in Jaarbeurs in Utrecht._

[Artificial Intelligence](https://www.dutchhealthhub.nl/artikelen/tags/artificial-intelligence)

#### Deel

[Mail](mailto:?subject=Nederlandse zorg puzzelt met AI-regulering&body=https://www.dutchhealthhub.nl/artikelen/nederlandse-zorg-puzzelt-met-ai-regulering "Mail")

[LinkedIn](//linkedin.com/shareArticle?url=https://www.dutchhealthhub.nl/artikelen/nederlandse-zorg-puzzelt-met-ai-regulering "LinkedIn")

[X](//twitter.com/intent/tweet/?text=Nederlandse zorg puzzelt met AI-regulering&url=https://www.dutchhealthhub.nl/artikelen/nederlandse-zorg-puzzelt-met-ai-regulering "X")

[X](https://api.whatsapp.com/send?text=Nederlandse zorg puzzelt met AI-regulering https%3A%2F%2Fwww.dutchhealthhub.nl%2Fartikelen%2Fnederlandse-zorg-puzzelt-met-ai-regulering "X")

### Gerelateerde artikelen

[![Metro Map Online Department](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**Herontwerpen van zorgpaden bespaart kosten en verbetert zorg**\
\
Metro Mapping is een beproefde methode om zorgpaden inzichtelijk te maken en zo te verbeteren. Dat maakt de zorg slimmer en efficiënter. Bovendien bevordert het samen beslissen. Veel ziekenhuizen maken er al gebruik van. Ook in ketenzorg en care liggen kansen.](https://www.dutchhealthhub.nl/artikelen/herontwerpen-van-zorgpaden-bespaart-kosten-en-verbetert-zorg)

[![HDAB](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**VWS betrekt zorgveld bij bouw nieuw data-orgaan HDAB**\
\
Meepraten, meedoen, meebouwen. Onder dit motto verrichte VWS op 3 september de aftrap voor het opzetten van een zogeheten Health Data Access Body (HDAB).](https://www.dutchhealthhub.nl/artikelen/vws-betrekt-zorgveld-bij-bouw-nieuw-data-orgaan)

[![Nexus](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**Overname maakt HCI marktleider software fy­si­o­the­ra­pie­**\
\
SpotOnMedics, EPD-software leverancier voor fysiotherapeuten, gaat verder onder de paraplu van Health Cloud Initiative (HCI). Hiermee verwerft HCI een leidende…](https://www.dutchhealthhub.nl/artikelen/overname-maakt-hci-marktleider-fysiotherapiesoftware)

[![Digitale ggz wijst weg naar passende zorg](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**Digitale ggz wijst weg naar passende zorg**\
\
Geen ggz-aanbieder die sinds corona niet iets digitaals doet. Hybride zorg heet de gecombineerde aanpak van therapie in persoon en zorg op afstand. Sol Psychotherapie gaat nog een stap verder. De 'innovatieve online ggz-instelling' werkt honderd procent digitaal in de volle overtuiging dat dit optimaal toegankelijke, passende en efficiënte zorg oplevert.](https://www.dutchhealthhub.nl/artikelen/digitale-ggz-wijst-weg-naar-passende-zorg)

[![IBM doet watson van de hand](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
HR \
\
**LUMC pakt primeur met AI in onderwijs**\
\
Digitale technologie en AI zijn niet meer weg te denken uit de zorg. Het onderwerp doet nu ook zijn intrede in het geneeskundeonderwijs. LUMC heeft technologie en AI officieel opgenomen in het geneeskunde-curriculum: “We leren studenten vooral kritisch reflecteren, zodat ze straks welbewust kunnen kiezen om toepassingen wel of niet te gebruiken.”](https://www.dutchhealthhub.nl/artikelen/lumc-pakt-primeur-met-ai-in-onderwijs)

[![PGO-pioniers zoeken elkaar op](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**PGO-pioniers zoeken elkaar op**\
\
Een groter bereik en bredere functionaliteit. Dat is wat Health Cloud Initiative (HCI) beoogt met de integratie van de twee persoonlijke gezondheidsomgevingen (PGO) Uw Zorg Online (UZO) en Quli. “Een logische combinatie”, vindt innovatiedirecteur Gideon Kreytz.](https://www.dutchhealthhub.nl/artikelen/pgo-pioniers-zoeken-elkaar-op)

[![Mohammad-Al-Ubaydli](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**Internationale PGO-pionier hamert op governance**\
\
Wat doe je wanneer je als PGO-leverancier telkens hetzelfde verhaal moet vertellen om beleidsmakers te overtuigen van nut en noodzaak…](https://www.dutchhealthhub.nl/artikelen/internationale-pgo-pionier-hamert-op-governance)

[![HDAB kickof](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**Kick-off: meebouwen aan HDAB-NL**\
\
Op 3 september 2024 houdt het programma HDAB-NL, een kick-off om samen met het zorgveld te bouwen aan een Nederlandse…](https://www.dutchhealthhub.nl/artikelen/kick-off-meebouwen-aan-hdab-nl)

[![‘Een derde GenAI-projecten sneuvelt na proof of concept’](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**‘Een derde GenAI-projecten sneuvelt na proof of concept’**\
\
Zeker 30 procent van de generatieve AI-projecten die zich in concept hebben bewezen, zal eind volgend jaar niet halen. Dat…](https://www.dutchhealthhub.nl/artikelen/een-derde-genai-projecten-sneuvelt-na-proof-of-concept)

[![Augmented reality](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**Ziekenhuizen adopteren massaal botbreuk-app**\
\
Een groeiend aantal ziekenhuizen maakt gebruikt van de Virtual Fracture Care-app. Inmiddels zetten veertig ziekenhuizen de door OLVG ontwikkelde botbreukapp…](https://www.dutchhealthhub.nl/artikelen/ziekenhuizen-adopteren-massaal-botbreuk-app)

[![Thuis monitoring patiëntenfederatie](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**Patiënten positief over rust en veiligheid thuismonitoring**\
\
Bijna negen van de tien patiënten (87 procent) die gebruik maken van thuismonitoring, zijn hier uitgesproken positief over. Dit blijkt uit onderzoek onder ruim 1.700 patiënten in opdracht van de Vliegwielcoalitie van Patiëntenfederatie Nederland. “Het beeld dat patiënten niet zitten te wachten op digitale zorg, kan na dit onderzoek voorgoed de prullenbak in,” aldus directeur-bestuurder Arthur Schellekens.](https://www.dutchhealthhub.nl/artikelen/patienten-positief-over-rust-en-veiligheid-thuismonitoring)

[![CWZ en Maasstad starten thuismonitoring astmapatiënten](data:image/svg+xml,%3Csvg xmlns='http://www.w3.org/2000/svg' viewBox='0 0 200 146'%3E%3C/svg%3E)\
\
Digitalisering \
\
**CWZ en Maasstad starten thuismonitoring astmapatiënten**\
\
Het Canisius Wilhelmina Ziekenhuis (CWZ) Nijmegen en het Maasstad Ziekenhuis Rotterdam zijn samen gestart met thuismonitoring van gezondheidsklachten van astmapatiënten.…](https://www.dutchhealthhub.nl/artikelen/cwz-en-maasstad-starten-thuismonitoring-astmapatienten)

##### Dutch Health Hub

- [Over ons](https://www.dutchhealthhub.nl/over-dutch-health-hub)
- [Adverteren](https://www.dutchhealthhub.nl/adverteren)
- [– Leadservice](https://www.dutchhealthhub.nl/adverteren/leadservice)
- [– Persberichtenservice](https://www.dutchhealthhub.nl/adverteren/persberichtenservice)
- [– Vacatureservice](https://www.dutchhealthhub.nl/adverteren/vacaturesservice)

##### Contact

- [Neem contact op](https://www.dutchhealthhub.nl/service-en-contact)
- [Veelgestelde vragen](https://www.dutchhealthhub.nl/veelgestelde-vragen)

##### Social

[Youtube](https://www.youtube.com/channel/UCVo2BG9UfyaLlaVKJkWN9pQ "Youtube")

[Instagram](https://www.instagram.com/dutchhealthhub/ "Instagram")

[LinkedIn](https://www.linkedin.com/company/dutch-health-hub/ "LinkedIn")

[X / Twitter](https://twitter.com/dutchhealthhub "X / Twitter")

© 2024 Jaarbeurs

- [Disclaimer](https://www.jaarbeurs.nl/disclaimer)
- [Gebruikersvoorwaarden](https://www.dutchhealthhub.nl/gebruikersvoorwaarden)
- [Privacy statement](https://www.jaarbeurs.nl/privacystatement)

**Dutch Health Hub is een initiatief van[Jaarbeurs](https://www.jaarbeurs.nl "Jaarbeurs")**