None
·Wijzigingen van het concept veiligheid: het gebruik van KI in producten en diensten kan risico’s opleveren die momenteel niet expliciet aan bod komen in de EU-wetgeving. Deze risico’s kunnen verband houden met cyberdreigingen, persoonlijke veiligheidsrisico’s (bijvoorbeeld ten gevolge van nieuwe toepassingen van KI, zoals thuisapparatuur), risico’s ten gevolge van verlies van connectiviteit enz. Deze risico’s kunnen aanwezig zijn op het ogenblik dat de producten in de handel worden gebracht of kunnen het gevolg zijn van software-updates of zelflerende producten. De EU moet ten volle gebruik maken van de instrumenten waarover zij beschikt om haar empirische basis over potentiële risico’s in verband met KI-toepassingen te versterken, met inbegrip van de ervaring die het Agentschap van de Europese Unie voor cyberbeveiliging (Enisa) heeft met het beoordelen van KI-dreigingen.
Zoals eerder aangegeven, onderzoeken diverse lidstaten al hoe zij de uitdagingen van KI kunnen aanpakken in hun nationale wetgeving, met het risico op versnippering van de interne markt tot gevolg. Uiteenlopende nationale regels zullen waarschijnlijk hinderpalen creëren voor bedrijven die KI-systemen willen verkopen en exploiteren op de interne markt. Door te zorgen voor een gemeenschappelijke aanpak op EU-niveau kunnen Europese bedrijven profiteren van vlotte toegang tot de interne markt en wordt hun concurrentievermogen op de mondiale markten versterkt.
Verslag over de gevolgen van kunstmatige intelligentie, het internet der dingen en robotica voor de veiligheid en de aansprakelijkheid


In het verslag, dat bij dit witboek is gevoegd, wordt het relevante rechtskader geanalyseerd. Voorts wordt nagegaan op welke punten onzekerheid bestaat over de toepassing van dit kader met betrekking tot de specifieke risico’s van KI-systemen en andere digitale technologieën.
 De conclusie luidt dat de huidige wetgeving inzake productveiligheid reeds een uitgebreid veiligheidsconcept ondersteunt waarbij bescherming wordt geboden tegen alle soorten risico’s die voortvloeien uit het product, al naargelang het gebruik ervan. Om meer rechtszekerheid te bieden, kunnen echter bepalingen worden ingevoerd die expliciet betrekking hebben op nieuwe risico’s ten gevolge van opkomende digitale technologieën.
De kenmerken van opkomende digitale technologieën zoals KI, het IoT en robotica, kunnen leiden tot problemen met bepaalde aspecten van de aansprakelijkheidskaders en kunnen de effectiviteit ervan beperken. Sommige van deze kenmerken maken het moeilijk om schade terug te traceren naar een persoon, hetgeen volgens de meeste nationale regels noodzakelijk is om een claim op basis van een fout te kunnen indienen. Dit kan de kosten voor slachtoffers aanzienlijk opdrijven en betekent dat het moeilijk kan zijn om een aansprakelijkheidsclaim in te dienen of te bewijzen die niet tegen de fabrikant is gericht.
·Het autonome gedrag van bepaalde KI-systemen tijdens hun levenscyclus kan leiden tot belangrijke wijzigingen in het product, die gevolgen hebben voor de veiligheid en waarvoor dus een nieuwe risicobeoordeling nodig kan zijn. Bovendien kan menselijk toezicht op het productontwerp en gedurende de levenscyclus van de KI-producten en -systemen noodzakelijk zijn als waarborg.
·Indien van toepassing kunnen ook expliciete verplichtingen voor fabrikanten met betrekking tot risico’s voor de geestelijke veiligheid van gebruikers worden overwogen (bv. samenwerking met humanoïde robots).
·In de productveiligheidswetgeving van de Unie kunnen specifieke eisen worden gesteld om tegemoet te komen aan het veiligheidsrisico van foutieve data in de ontwerpfase, en kan worden voorzien in mechanismen om ervoor te zorgen dat de kwaliteit van de data behouden blijft gedurende het gebruik van KI-producten en -systemen.
·Het gebrek aan transparantie van systemen op basis van algoritmen kan worden aangepakt door middel van transparantievereisten.
 ·Bestaande regels moeten eventueel worden aangepast en verduidelijkt in het geval van op zichzelf staande software die als dusdanig in de handel wordt gebracht of wordt gedownload in een product nadat het in de handel is gebracht, als deze software gevolgen heeft voor de veiligheid.
·Gezien de toenemende complexiteit van de toeleveringsketens voor nieuwe technologieën, kunnen bepalingen waarbij specifiek wordt gevraagd om samenwerking tussen de marktdeelnemers in de toeleveringsketen en de gebruikers, rechtszekerheid bieden.
·Personen die schade hebben geleden die mede door KI-systemen is veroorzaakt, moeten hetzelfde niveau van bescherming genieten als personen die schade hebben geleden die door andere technologieën is veroorzaakt, waarbij de technologische innovatie zich verder moet kunnen ontwikkelen.
·Alle mogelijkheden om deze doelstelling te bereiken, moeten zorgvuldig worden beoordeeld, met inbegrip van mogelijke wijzigingen van de productaansprakelijkheidsrichtlijn en eventuele verdere gerichte harmonisatie van de nationale aansprakelijkheidsregels. De Commissie verzamelt op dit ogenblik meningen over de mate waarin het noodzakelijk is de gevolgen van complexiteit te verzachten door de bewijslast aan te passen die uit hoofde van nationale aansprakelijkheidsregels vereist is voor schade die door het gebruik van KI-toepassingen werd veroorzaakt.
De Commissie concludeert uit het bovenstaande dat – naast eventuele aanpassingen van de bestaande wetgeving – misschien nieuwe wetgeving, specifiek voor KI, nodig is om rechtskader van de EU geschikt te maken voor de huidige en verwachte technologische en commerciële ontwikkelingen.
C.Werkingssfeer van een toekomstig EU-regelgevingskader


Het is belangrijk de werkingssfeer van het toekomstige specifieke regelgevingskader voor KI te bepalen. De werkhypothese is dat het regelgevingskader van toepassing zou zijn op producten en diensten die gebaseerd zijn op KI. KI moet dus duidelijk worden gedefinieerd, zowel in het kader van dit witboek als voor eventuele toekomstige beleidsinitiatieven.
 In haar mededeling over KI voor Europa heeft de Commissie een eerste definitie van KI gegeven
46
. Deze definitie werd verder verfijnd door de deskundigengroep op hoog niveau
47.
In elk nieuw juridisch instrument moet de definitie van KI voldoende flexibel zijn om rekening te houden met de technische vooruitgang, en toch nauwkeurig genoeg zijn om de nodige rechtszekerheid te bieden.
In autonome voertuigen gebruikt het algoritme bijvoorbeeld realtime-data van de auto (snelheid, motorverbruik, schokdempers enz.) en van de sensoren die de omgeving van de auto scannen (weg, verkeerstekens, andere voertuigen, voetgangers enz.) om de richting, versnelling en snelheid te bepalen die nodig zijn om een bepaalde bestemming te bereiken. Op basis van de waargenomen data past het algoritme zich aan aan de wegsituatie en de externe omstandigheden, zoals het gedrag van andere bestuurders, om de rit zo comfortabel en veilig mogelijk te maken.
 Voor de doeleinden van dit witboek en alle eventuele toekomstige beleidsbesprekingen lijkt het belangrijk de hoofdbestanddelen van KI te verduidelijken, namelijk “data” en “algoritmen”. KI kan worden geïntegreerd in hardware. In het geval van technieken voor machinaal leren, een subset van KI, worden algoritmen getraind om bepaalde patronen af te leiden uit een reeks data en zo te bepalen welke maatregelen nodig zijn om een bepaald doel te bereiken. Algoritmen kunnen verder leren wanneer ze in gebruik zijn. Op KI gebaseerde producten kunnen zelfstandig handelen door hun omgeving waar te nemen en zonder een vooraf vastgestelde reeks instructies te volgen, maar hun gedrag wordt grotendeels bepaald en beperkt door hun ontwikkelaars. Mensen bepalen en programmeren de doelstellingen en het KI-systeem moet deze zo goed mogelijk verwezenlijken. 


De EU beschikt over een strikt rechtskader om onder meer de consumentenbescherming te waarborgen, oneerlijke handelspraktijken aan te pakken en persoonsgegevens en de privacy te beschermen. Bovendien bevat het acquis specifieke regels voor bepaalde sectoren (zoals gezondheidszorg en vervoer). Die bestaande bepalingen van de EU-wetgeving zullen van toepassing blijven op KI, hoewel het mogelijk is dat bepaalde updates van dat kader nodig zijn om de digitale transformatie en het gebruik van KI te weerspiegelen (zie deel B). De aspecten die al zijn geregeld door bestaande horizontale of sectorale wetgeving (bv. medische toestellen
48
 en vervoerssystemen) blijven onder die wetgeving vallen.
Om zijn doelstellingen te kunnen verwezenlijken, moet het nieuwe regelgevingskader voor KI in beginsel doeltreffend, maar niet te prescriptief zijn; dit zou immers onevenredige lasten met zich meebrengen, met name voor het mkb. De Commissie is van mening dat zij een risicogebaseerde aanpak moet volgen om dit evenwicht te vinden.
 Een dergelijke risicogebaseerde aanpak is belangrijk om ertoe bij te dragen dat de regelgeving evenredig is. Deze aanpak vergt echter duidelijke criteria om een onderscheid te maken tussen de verschillende KI-toepassingen, en met name om een antwoord te geven op de vraag of ze al dan niet “risicovol” zijn
49
. Het moet voor alle partijen duidelijk en begrijpelijk zijn of een KI-toepassing risicovol is. Maar zelfs als een KI-toepassing niet als risicovol wordt beschouwd, moet ze volledig onder de bestaande EU-regels blijven vallen.
 De Commissie is van mening dat een bepaalde KI-toepassing in het algemeen als risicovol moet worden beschouwd in het licht van wat er op het spel staat, rekening houdende met de vraag of de sector en het beoogde gebruik aanzienlijke risico’s inhouden, met name vanuit het oogpunt van de bescherming van de veiligheid, de consumentenrechten en de grondrechten. Specifiek moet een KI-toepassing als risicovol worden beschouwd als ze aan de volgende twee cumulatieve criteria voldoet:


·ten eerste moet de KI-toepassing worden gebruikt in een sector waar, gezien de kenmerken van de activiteiten die doorgaans plaatsvinden, aanzienlijke risico’s kunnen worden verwacht. Dit eerste criterium zorgt ervoor dat de regelgeving gericht is op gebieden waar het, in het algemeen, het meest waarschijnlijk is dat zich risico’s voordoen. De betrokken sectoren moeten specifiek en exhaustief worden opgesomd in het nieuwe regelgevingskader, bijvoorbeeld gezondheidszorg, vervoer, energie en delen van de overheidssector
50
. De lijst moet periodiek worden herzien en zo nodig worden gewijzigd in functie van relevante ontwikkelingen in de praktijk;


·ten tweede moet de KI-toepassing in de betrokken sector zodanig worden gebruikt dat er waarschijnlijk aanzienlijke risico’s optreden. Dit tweede criterium weerspiegelt de erkenning dat niet elk gebruik van KI in de geselecteerde sectoren noodzakelijkerwijs aanzienlijke risico’s met zich meebrengt. Gezondheidszorg kan bijvoorbeeld in het algemeen een relevante sector zijn, maar een tekortkoming in het systeem voor de registratie van afspraken in een ziekenhuis houdt normaal geen risico’s in die zo ernstig zijn dat zij wetgevend ingrijpen rechtvaardigen. De beoordeling van het risiconiveau van een bepaalde toepassing kan worden gebaseerd op de gevolgen voor de betrokken partijen. Bijvoorbeeld KI-toepassingen die juridische of soortgelijke ernstige gevolgen voor de rechten van een persoon of onderneming of risico’s op letsel, overlijden of aanzienlijke materiële of immateriële schade met zich meebrengen, of die gevolgen hebben die niet redelijkerwijs kunnen worden vermeden door particulieren of rechtspersonen.
 De toepassing van de twee cumulatieve criteria garandeert dat het toepassingsgebied van het regelgevingskader gericht is en rechtszekerheid biedt. De verplichte eisen in het nieuwe regelgevingskader inzake KI (zie punt D hieronder) zouden in beginsel alleen gelden voor toepassingen die als risicovol worden beschouwd overeenkomstig deze twee cumulatieve criteria.
Onverminderd het voorgaande kan er ook sprake zijn van buitengewone omstandigheden waarin, wegens de risico’s die op het spel staan, het gebruik van KI-toepassingen voor bepaalde doeleinden als dusdanig als risicovol moet worden beschouwd, dus ongeacht de betrokken sector, en waarin de onderstaande eisen nog steeds van toepassing zouden zijn
51
. Ter illustratie:




·Het gebruik van KI-toepassingen voor wervingsprocedures en in situaties die gevolgen hebben voor de rechten van werknemers wordt altijd als risicovol beschouwd, gezien de gevolgen voor personen en gezien het EU-acquis inzake gelijke behandeling in arbeid en beroep; in dat geval zijn de onderstaande eisen dus te allen tijde van toepassing. Andere specifieke toepassingen op het gebied van consumentenrechten kunnen in overweging worden genomen.
·Het gebruik van KI-toepassingen voor biometrische identificatie op afstand
52
 en andere ingrijpende bewakingstechnologieën wordt altijd als risicovol beschouwd; de onderstaande eisen zullen dus altijd van toepassing zijn.
D.Types eisen


Bij het ontwerpen van het toekomstige regelgevingskader voor KI moet worden beslist welke types verplichte regelgevende eisen moeten worden opgelegd aan de relevante actoren. Deze eisen kunnen verder worden gespecificeerd aan de hand van normen. Zoals opgemerkt in deel C hierboven en in aanvulling op reeds bestaande wetgeving zouden die eisen alleen gelden voor risicovolle KI-toepassingen, om te garanderen dat alle regelgevende maatregelen gericht en evenredig zijn.
 Rekening houdend met de richtsnoeren van de deskundigengroep op hoog niveau en wat in het voorgaande is uiteengezet, kunnen de voorschriften voor risicovolle KI-toepassingen de volgende essentiële kenmerken vertonen, die in de volgende punten nader worden besproken:


·trainingsdata;


·data en registers;


·te verstrekken informatie;


·robuustheid en nauwkeurigheid;


·menselijk toezicht;


·specifieke voorschriften voor welbepaalde KI-toepassingen, bijvoorbeeld voor biometrische identificatie op afstand.
Om rechtszekerheid te garanderen, zullen deze voorschriften nader worden gespecificeerd, zodat ze een duidelijke benchmark vormen voor de actoren die eraan moeten voldoen.
a)Trainingsdata


Het is belangrijker dan ooit om de waarden en regels van de EU te bevorderen, te versterken en te verdedigen, en met name de rechten die burgers aan het EU-recht ontlenen. Deze inspanningen hebben ongetwijfeld ook betrekking op de hier bedoelde risicovolle KI-toepassingen die in de EU in de handel worden gebracht en gebruikt.
 Zoals reeds eerder gezegd, kan KI niet bestaan zonder data. De werking van veel KI-systemen en de acties en beslissingen waar ze toe kunnen leiden, hangen in sterke mate af van de dataset waarmee de systemen zijn getraind. Daarom moeten de nodige maatregelen worden genomen om te garanderen dat, wat betreft de data die gebruikt worden om KI-systemen te trainen, de waarden en regels van de EU worden gerespecteerd, met name wat betreft veiligheid en de bescherming van de grondrechten. De volgende voorschriften kunnen worden overwogen voor de dataset die gebruikt wordt om KI-systemen te trainen:


·Eisen die tot doel hebben redelijkerwijs te garanderen dat het daaropvolgende gebruik van de producten of diensten die door het KI-systeem mogelijk worden gemaakt, veilig is in de zin dat het beantwoordt aan de normen in de EU-veiligheidsvoorschriften (bestaande en eventuele aanvullende), zoals eisen om te garanderen dat KI-systemen worden getraind op basis van datasets die voldoende breed zijn en alle relevante scenario’s bestrijken die nodig zijn om gevaarlijke situaties te vermijden.
·Eisen om redelijke maatregelen te nemen om ervoor te zorgen dat het latere gebruik van KI-systemen niet leidt tot resultaten die verboden discriminatie tot gevolg hebben. Deze eisen kunnen met name verplichtingen inhouden om datasets te gebruiken die voldoende representatief zijn, met name om te garanderen dat alle relevante aspecten van gender, ras en andere mogelijke gronden van verboden discriminatie op passende wijze tot uiting komen in die datasets.
·Eisen die erop gericht zijn te waarborgen dat de privacy en persoonsgegevens op passende wijze worden beschermd tijdens het gebruik van op KI gebaseerde producten en diensten. De algemene verordening gegevensbescherming en de richtlijn rechtshandhaving zijn van toepassing op kwesties die binnen hun respectieve werkingssfeer vallen.
 b)Bijhouden van registers en data



Rekening houdend met elementen zoals de complexiteit en het gebrek aan transparantie van veel KI-systemen en de bijbehorende problemen om de naleving en handhaving van de toepasselijke regels doeltreffend te controleren, is er behoefte aan eisen met betrekking tot het bijhouden van registers over de programmering van de algoritmen, de data die gebruikt zijn om risicovolle KI-systemen te trainen en, in bepaalde gevallen, het bijhouden van de data zelf. In wezen maken die eisen het mogelijk om potentieel problematische acties of beslissingen van KI-systemen terug te traceren en te verifiëren. Dit zou niet alleen het toezicht en de handhaving moeten vergemakkelijken, het kan de betrokken marktdeelnemers ook stimuleren om in een vroeg stadium rekening te houden met de noodzaak om die regels na te leven.
Daartoe kan in het regelgevingskader worden bepaald dat het volgende moet worden bijgehouden:


·nauwkeurige registers van de data die gebruikt zijn om de KI-systemen te trainen en te testen, met inbegrip van een beschrijving van de hoofdkenmerken en de wijze waarop de dataset werd geselecteerd;



·in bepaalde gerechtvaardigde gevallen, de datasets zelf;



·documentatie over de programmerings
53
- en trainingsmethoden, de processen en technieken om de KI-systemen te bouwen, te testen en te valideren, ook wanneer dit relevant is voor de veiligheid en om vooroordelen te vermijden die tot verboden discriminatie zouden kunnen leiden.
 De registers, documentatie en, indien relevant, datasets moeten worden bewaard gedurende een beperkte, redelijke periode om te garanderen dat de relevante wetgeving doeltreffend kan worden gehandhaafd. Er moeten maatregelen worden genomen om ervoor te zorgen dat ze op verzoek ter beschikking worden gesteld, met name met het oog op tests of inspecties door bevoegde autoriteiten. Indien nodig moeten regelingen worden getroffen om ervoor te zorgen dat vertrouwelijke informatie, zoals bedrijfsgeheimen, wordt beschermd. 


c)Informatieverstrekking


De vereiste transparantie gaat verder dan de onder c) besproken eisen inzake het bijhouden van registers en data. Om de beoogde doelstellingen te bereiken – met name het bevorderen van het verantwoorde gebruik van KI, het opbouwen van vertrouwen en het vergemakkelijken van beroep, indien nodig – is het belangrijk dat op proactieve wijze passende informatie wordt verstrekt over het gebruik van risicovolle KI-systemen.
Daartoe kunnen de volgende eisen in overweging worden genomen:



·ervoor zorgen dat duidelijke informatie wordt verstrekt over de mogelijkheden en beperkingen van KI-systemen, met name het doel dat met de systemen wordt nagestreefd, de voorwaarden waaronder zij naar verwachting zullen werken zoals beoogd, en het verwachte niveau van nauwkeurigheid bij het bereiken van het gespecificeerde doel. Deze informatie is vooral belangrijk voor degenen die de systemen uitrollen, maar ze kan ook relevant zijn voor bevoegde autoriteiten en betrokken partijen.
 ·Voorts moeten burgers ook duidelijk worden geïnformeerd wanneer zij te maken hebben met een KI-systeem en niet met een mens. De EU-wetgeving inzake gegevensbescherming bevat reeds bepaalde regels in die zin
54
, maar er kan behoefte zijn aan aanvullende eisen om de bovenvermelde doelstellingen te verwezenlijken. Indien dit het geval is, moeten onnodige lasten worden vermeden. Dergelijke informatie hoeft bijvoorbeeld niet te worden verstrekt als het voor de burgers onmiddellijk duidelijk is dat zij met KI-systemen te maken hebben. Het is bovendien belangrijk dat de verstrekte informatie objectief, beknopt en gemakkelijk te begrijpen is. De wijze waarop de informatie moet worden verstrekt, moet worden afgestemd op de specifieke context.
d)Robuustheid en nauwkeurigheid



KI-systemen – en zeker risicovolle toepassingen van KI – moeten technisch robuust en accuraat zijn om betrouwbaar te kunnen zijn. Dat betekent dat dergelijke systemen op verantwoorde wijze moeten worden ontwikkeld en dat vooraf voldoende moet worden gekeken naar de risico’s die zij kunnen veroorzaken. De ontwikkeling en werking ervan moeten zodanig zijn dat KI-systemen zich betrouwbaar gedragen, zoals beoogd. Alle redelijke maatregelen moeten worden genomen om het risico op schade tot een minimum te beperken.
Daartoe kunnen de volgende elementen in overweging worden genomen:




·eisen die garanderen dat de KI-systemen robuust en nauwkeurig zijn, of tenminste een correcte weergave zijn van hun niveau van nauwkeurigheid tijdens alle fasen van hun levenscyclus;



·eisen die garanderen dat resultaten reproduceerbaar zijn;



·eisen die garanderen dat KI-systemen op passende wijze kunnen omgaan met fouten of inconsistenties tijdens alle fasen van hun levenscyclus;



·eisen die garanderen dat KI-systemen bestand zijn tegen zowel openlijke aanvallen als meer subtiele pogingen om data of algoritmen zelf te manipuleren, en dat in dergelijke gevallen risicobeperkende maatregelen worden genomen.
 e)Menselijk toezicht



Menselijk toezicht helpt ervoor te zorgen dat een KI-systeem de menselijke autonomie niet ondermijnt en geen andere negatieve effecten veroorzaakt. De doelstelling van betrouwbare, ethische en mensgerichte KI kan alleen worden bereikt door te zorgen voor passende menselijke tussenkomst bij risicovolle KI-toepassingen.
 Zelfs als de KI-toepassingen die in dit witboek worden overwogen voor een specifiek rechtsstelsel allemaal als risicovol worden beschouwd, kunnen het passende type en de passende graad van menselijk toezicht variëren van het ene geval tot het andere. Dit hangt met name af van het beoogde gebruik van de systemen en de mogelijke gevolgen ervan voor burgers en juridische entiteiten. Het laat ook de juridische rechten van de algemene verordening gegevensbescherming onverlet wanneer het KI-systeem persoonsgegevens verwerkt. Menselijk toezicht kan onder meer, maar niet uitsluitend, op de volgende manieren plaatsvinden:


·het resultaat van het KI-systeem wordt pas effectief als het eerst is beoordeeld en gevalideerd door een mens (bv. de beslissing om een aanvraag voor socialezekerheidsuitkeringen af te wijzen, kan alleen door een mens worden genomen);



·het resultaat van het KI-systeem wordt onmiddellijk effectief, maar er wordt gezorgd voor menselijke tussenkomst achteraf (bv. de afwijzing van een aanvraag voor een creditcard kan door een KI-systeem worden verwerkt, maar menselijke beoordeling achteraf moet mogelijk zijn);



·monitoring van het KI-systeem terwijl het in werking is en de mogelijkheid om in real time in te grijpen en het buiten werking te stellen (bv. een zelfrijdende auto moet over een stopknop of -procedure beschikken, in het geval een mens beslist dat de bediening van de auto niet veilig is);



·in de ontwerpfase, door operationele beperkingen op te leggen aan het KI-systeem (bv. een zelfrijdende auto moet stoppen met rijden bij slecht zicht omdat de sensoren minder betrouwbaar worden of moet in alle omstandigheden een bepaalde afstand aanhouden tot het voorgaande voertuig).
 f)Specifieke eisen voor biometrische identificatie op afstand



Het verzamelen en gebruiken van biometrische data
55
 voor identificatie op afstand
56
, bijvoorbeeld via de uitrol van gezichtsherkenning in openbare ruimten, brengt specifieke risico’s voor de grondrechten met zich mee
57
. De gevolgen van het gebruik van KI-systemen voor biometrische identificatie op afstand kunnen aanzienlijk variëren naargelang het doel, de context en de reikwijdte van het gebruik.
Volgens de EU-regels inzake gegevensbescherming is het in beginsel verboden biometrische data te verwerken wanneer dit uitsluitend tot doel heeft een natuurlijke persoon te identificeren, behalve onder specifieke voorwaarden
58
. Volgens de algemene verordening gegevensbescherming kan een dergelijke verwerking alleen plaatsvinden om een beperkt aantal redenen, waarvan redenen van zwaarwegend algemeen belang de belangrijkste is. In dat geval moet de verwerking plaatsvinden op basis van het Unierecht of het nationale recht, mits de eisen inzake evenredigheid worden nageleefd, het essentiële recht op gegevensbescherming wordt gerespecteerd en passende waarborgen in acht worden genomen. Volgens de richtlijn inzake rechtshandhaving moet een dergelijke verwerking strikt noodzakelijk zijn, moet ze in beginsel zijn toegestaan uit hoofde van de EU- of nationale wetgeving en moet worden voorzien in passende waarborgen. Aangezien elke verwerking van biometrische gegevens die uitsluitend tot doel heeft een natuurlijke persoon te identificeren, zou neerkomen op een uitzondering op een verbod dat is vastgesteld in de EU-wetgeving, zou dit onder het Handvest van de grondrechten van de EU vallen.
Hieruit volgt dat, overeenkomstig de huidige EU-regels inzake gegevensbescherming en het Handvest van de grondrechten, KI alleen mag worden gebruikt voor biometrische identificatie op afstand als deze toepassing naar behoren gerechtvaardigd en evenredig is en wordt voorzien in passende waarborgen.
 Om tegemoet te komen aan deze maatschappelijke bezorgdheid over het gebruik van KI voor dergelijke doeleinden op openbare plaatsen, en om versnippering van de interne markt te voorkomen, zal de Commissie het initiatief nemen voor een breed Europees debat over specifieke omstandigheden die een dergelijk gebruik rechtvaardigen, als die er al zijn, en over gemeenschappelijke waarborgen.
E.Adressaten


In verband met de adressaten van de wettelijke eisen die van toepassing zouden zijn met betrekking tot de bovenvermelde risicovolle KI-toepassingen, moet rekening worden gehouden met twee belangrijke kwesties.
Ten eerste is er de vraag hoe de verplichtingen moeten worden gespreid over de betrokken marktdeelnemers. Bij de levenscyclus van een KI-systeem zijn veel actoren betrokken, zoals de ontwikkelaars, degenen die een op KI-gebaseerd product of dienst uitrollen, en eventueel anderen (fabrikant, distributeur of importeur, dienstverlener, professionele of particuliere gebruiker).
De Commissie is van mening dat, in een toekomstig regelgevingskader, elke verplichting moet worden opgelegd aan de actor(en) die het best geplaatst is (zijn) om de potentiële risico’s aan te pakken. De ontwikkelaars van KI kunnen bijvoorbeeld het best geplaatst zijn om de risico’s aan te pakken die voortvloeien uit de ontwikkelingsfase, maar zij hebben minder controle over de risico’s tijdens de gebruiksfase. De verplichtingen die van toepassing zijn op de gebruiksfase moeten derhalve worden opgelegd aan degenen die het product of de dienst uitrollen. Dit laat de vraag onverlet welke partij de aansprakelijk draagt voor veroorzaakte schade, teneinde eindgebruikers of andere partijen die schade hebben geleden, toegang te bieden tot de rechter. Volgens de EU-productaansprakelijkheidswetgeving wordt de aansprakelijkheid voor producten met gebreken toegewezen aan de fabrikant, onverminderd nationale wetgeving die het ook mogelijk maakt om claims in te dienen tegen andere partijen.
 Ten tweede rijst de vraag over het geografische toepassingsgebied van het wetgevend optreden. Volgens de Commissie is het van het allergrootste belang dat de eisen van toepassing zijn op alle relevante marktdeelnemers die op KI-gebaseerde producten of diensten aanbieden in de EU, ongeacht of ze in de EU zijn gevestigd of niet. Anders kunnen de doelstellingen van het bovenvermeld wetgevend optreden niet volledig worden bereikt.
F.Naleving en handhaving


Om te garanderen dat KI betrouwbaar en veilig is en voldoet aan de Europese waarden en regels, moeten de toepasselijke wettelijke vereisten in de praktijk worden nageleefd en effectief worden gehandhaafd door de bevoegde nationale autoriteiten, de Europese autoriteiten en de betrokken partijen. De bevoegde autoriteiten moeten in staat zijn om individuele gevallen te onderzoeken en om de gevolgen voor de samenleving te beoordelen.
Gezien het hoge risico dat bepaalde KI-toepassingen inhouden voor de burgers en onze samenleving (zie deel A hierboven), is de Commissie in dit stadium van mening dat een objectieve, voorafgaande conformiteitsbeoordeling noodzakelijk is om na te gaan of en te garanderen dat bepaalde van de bovengenoemde verplichte eisen die van toepassing zijn op risicovolle toepassingen (zie deel D hierboven), worden nageleefd.  Deze voorafgaande conformiteitsbeoordeling kan test-, inspectie- of certificeringsprocedures omvatten
59
. Ze zou ook betrekking kunnen hebben op controles van de algoritmen en van de in de ontwikkelingsfase gebruikte datasets.
 De conformiteitsbeoordeling voor risicovolle KI-toepassingen moet deel uitmaken van de conformiteitsbeoordelingsmechanismen die al bestaan voor een groot aantal producten die op de interne markt van de EU worden aangeboden. Indien geen beroep kan worden gedaan op bestaande mechanismen, moeten soortgelijke mechanismen worden opgezet op basis van beste praktijken en eventuele input van belanghebbenden en Europese normalisatie-instellingen. Dergelijke nieuwe mechanismen moeten evenredig en niet-discriminerend zijn en moeten gebruikmaken van transparante en objectieve criteria die in overeenstemming zijn met de internationale verplichtingen.   


Bij het ontwerpen en toepassen van een systeem dat afhankelijk is van voorafgaande beoordelingen, moet met name rekening worden gehouden met het volgende:


·Het is mogelijk dat niet alle bovenstaande eisen geschikt zijn om aan de hand van een voorafgaande conformiteitsbeoordeling te worden geverifieerd. De eis om informatie te verstrekken leent zich bijvoorbeeld niet goed voor verificatie aan de hand van een dergelijke beoordeling.
·Er moet met name rekening worden gehouden met de mogelijkheid dat bepaalde KI-systemen zich ontwikkelen en leren uit ervaring, waardoor het mogelijk is dat herhaalde beoordelingen nodig zijn tijdens de levensduur van die systemen.
·Voor training gebruikte data en de relevante programmerings- en trainingsmethoden, -processen en -technieken die gebruikt worden om KI-systemen te bouwen, te testen en te valideren, moeten worden gecontroleerd. 



·Indien uit de conformiteitsbeoordeling blijkt dat een KI-systeem niet voldoet aan de eis inzake de voor training gebruikte data, moeten de vastgestelde tekortkomingen worden verholpen, bijvoorbeeld door het systeem in de EU op zodanige wijze opnieuw te trainen dat aan alle toepasselijke eisen wordt voldaan.
De conformiteitsbeoordelingen zijn verplicht voor alle marktdeelnemers waarop de eisen betrekking hebben, ongeacht hun plaats van vestiging
60
. Om de lasten voor het mkb te beperken, kan een ondersteunende structuur worden overwogen, bijvoorbeeld via de digitale-innovatiehubs. Ook normen en specifieke online-instrumenten kunnen de conformiteit faciliteren.
 Elke voorafgaande conformiteitsbeoordeling moet de monitoring van de naleving en de handhaving achteraf door de bevoegde nationale autoriteiten onverlet laten. Dat geldt zowel voor risicovolle als voor andere KI-toepassingen die aan wettelijke eisen zijn onderworpen; de risicovolle aard van de toepassingen in kwestie kan voor de bevoegde nationale autoriteiten echter een reden zijn om bijzondere aandacht te schenken aan deze toepassingen. Controles achteraf moeten mogelijk worden gemaakt door passende documentatie van de relevante KI-toepassing (zie punt E); indien van toepassing moeten derde partijen, zoals bevoegde autoriteiten, de mogelijkheid hebben om dergelijke toepassingen te testen. Dit kan met name van belang zijn wanneer zich risico’s voor de grondrechten kunnen voordoen, hetgeen contextafhankelijk is. Dergelijke monitoring van de naleving moet deel uitmaken van een permanente regeling voor markttoezicht. Aspecten die verband houden met governance worden verder besproken in punt H hieronder.
Bovendien moet ervoor worden gezorgd dat partijen die negatieve gevolgen ondervinden van KI-systemen, zowel risicovolle als andere, over effectieve rechtsmiddelen beschikken. Problemen met aansprakelijkheid worden verder besproken in het bij dit witboek gevoegde verslag over het veiligheids- en aansprakelijkheidskader.
G.Vrijwillige etikettering voor niet-risicovolle KI-toepassingen


Voor KI-toepassingen die niet als risicovol worden beschouwd (zie punt C) en dus niet onder de hierboven besproken verplichte eisen (zie punten D, E en F) vallen, zou het een optie zijn om, in aanvulling op de toepasselijke wetgeving, een vrijwillige etiketteringsregeling op te stellen.
Deze regeling zou inhouden dat belangstellende marktdeelnemers die niet onder de verplichte eisen vallen, kunnen beslissen om zich vrijwillig te onderwerpen aan die eisen of aan een specifieke reeks soortgelijke eisen die speciaal zijn vastgesteld met het oog op de vrijwillige regeling. De betrokken marktdeelnemers zouden dan een kwaliteitskeurmerk krijgen voor hun KI-toepassingen.
 Hiermee kunnen de marktdeelnemers aantonen dat hun KI-producten en diensten betrouwbaar zijn. De gebruikers kunnen gemakkelijk zien dat de producten en diensten in kwestie voldoen aan bepaalde objectieve en gestandaardiseerde EU-brede benchmarks, die verder gaan dan de gebruikelijke wettelijke verplichtingen.  Dit zou het vertrouwen van de gebruikers in KI-systemen helpen versterken en ertoe bijdragen dat de technologie algemeen ingang vindt.
Deze optie zou de creatie inhouden van een nieuw juridisch instrument met betrekking tot de vrijwillige etiketteringsregeling voor ontwikkelaars en/of exploitanten van KI-systemen die niet als risicovol worden beschouwd.  De deelname aan de etiketteringsregeling zou vrijwillig zijn, maar als een ontwikkelaar of exploitant ervoor kiest de regeling toe te passen, zijn de eisen bindend. Via een combinatie van ex-ante en ex-post handhaving moet ervoor worden gezorgd dat aan alle eisen wordt voldaan. 


H.Governance 


Er is behoefte aan een Europese governancestructuur voor KI in de vorm van een samenwerkingskader voor nationale bevoegde autoriteiten, teneinde versnippering van verantwoordelijkheden te voorkomen, de capaciteit in de lidstaten te vergroten en ervoor te zorgen dat Europa geleidelijk de capaciteit verwerft die nodig is voor het testen en certificeren van op KI-gebaseerde producten en diensten. In deze context zou het nuttig zijn de bevoegde nationale autoriteiten te ondersteunen om hen in staat te stellen hun mandaat te vervullen wanneer KI wordt gebruikt.
 Een Europese governancestructuur zou een verscheidenheid aan taken kunnen hebben: forum voor regelmatige uitwisseling van informatie en beste praktijken, identificeren van ontluikende trends en verstrekken van advies over normalisatieactiviteiten en over certificering. De governancestructuur kan ook een sleutelrol spelen bij het vergemakkelijken van de tenuitvoerlegging van het rechtskader, bijvoorbeeld door richtsnoeren, adviezen en deskundigheid te verstrekken. Er moet dan ook gebruik worden gemaakt van een netwerk van nationale autoriteiten, sectorale netwerken en regulerende instanties, zowel op nationaal als op EU-niveau. Bovendien kan een comité van deskundigen bijstand verlenen aan de Commissie.
De governancestructuur moet maximale participatie van belanghebbenden garanderen. Belanghebbenden – consumentenorganisaties en sociale partners, bedrijven, onderzoekers en maatschappelijke organisaties – moeten worden geraadpleegd over de uitvoering en de verdere ontwikkeling van het kader.
De functies van de nieuwe governancestructuur mogen niet overlappen met die van reeds bestaande structuren op het gebied van financiën, geneesmiddelen, luchtvaart, medische hulpmiddelen, consumentenbescherming en gegevensbescherming. In plaats daarvan moet de governancestructuur in de diverse sectoren nauwe banden tot stand brengen met andere bevoegde instanties van de EU en de lidstaten, teneinde de aanwezige deskundigheid aan te vullen en de bestaande instanties te helpen bij de monitoring van de activiteiten van marktdeelnemers die betrokken zijn bij de uitrol van KI-systemen en op KI gebaseerde producten en diensten.
Indien gebruik wordt gemaakt van deze optie, zou de uitvoering van conformiteitsbeoordelingen ten slotte kunnen worden toevertrouwd aan door de lidstaten aangewezen aangemelde instanties. Testcentra moeten onafhankelijke audits en beoordelingen van KI-systemen mogelijk maken overeenkomstig de hierboven beschreven eisen. Onafhankelijke beoordelingen zullen het vertrouwen doen toenemen en staan garant voor objectiviteit. Dit kan ook de werkzaamheden van de relevante bevoegde autoriteiten vergemakkelijken.
 De EU beschikt over uitstekende test- en beoordelingscentra en moet ook haar capaciteit op het gebied van KI ontwikkelen. In derde landen gevestigde marktdeelnemers die de interne markt willen betreden, kunnen gebruik maken van in de EU gevestigde aangewezen instanties of, indien overeenkomsten inzake wederzijdse erkenning zijn gesloten met deze derde landen, een beroep doen op de instanties van derde landen die zijn aangewezen om dergelijke beoordelingen uit te voeren.
De governancestructuur met betrekking tot KI en de eventuele conformiteitsbeoordelingen zouden geen gevolgen hebben voor de bevoegdheden en verantwoordelijkheden die de relevante bevoegde autoriteiten uit hoofde van de bestaande EU-wetgeving genieten in specifieke sectoren of voor specifieke kwesties (financiën, geneesmiddelen, luchtvaart, medische hulpmiddelen, consumentenbescherming, gegevensbescherming enz.).
6.Conclusie


KI is een strategische technologie die tal van voordelen biedt voor burgers, bedrijven en de samenleving als geheel, op voorwaarde dat zij mensgericht, ethisch en duurzaam is en de grondrechten en kernwaarden eerbiedigt. Dankzij KI kan belangrijke efficiëntie- en productiviteitswinst worden geboekt, die het concurrentievermogen van de Europese industrie kan versterken en het welzijn van de burgers kan verbeteren. KI kan ook bijdragen aan oplossingen voor een aantal van de meest prangende maatschappelijke uitdagingen, zoals de strijd tegen klimaatverandering en milieuaantasting, de uitdagingen in verband met duurzaamheid en demografische veranderingen, de bescherming van onze democratieën en, indien nodig en evenredig, de bestrijding van misdaad.
Om de kansen die door KI worden geboden volledig te kunnen grijpen, moet Europa de nodige industriële en technologische capaciteiten ontwikkelen en versterken. Zoals uiteengezet in de begeleidende Europese datastrategie, zijn hiervoor ook maatregelen nodig die de EU in staat stellen een mondiale hub voor data te worden.
 De Europese aanpak van KI heeft tot doel Europa’s innovatiecapaciteit op het gebied van KI te bevorderen en tegelijkertijd de ontwikkeling en aanvaarding van ethische en betrouwbare KI door de gehele economie van de EU te ondersteunen. KI moet ten dienste staan van de mensen en een positieve kracht zijn in de samenleving.
De Commissie doet een oproep om opmerkingen over de voorstellen in het witboek in te dienen via een openbare raadpleging die beschikbaar is op 

https://ec.europa.eu/info/consultations_nl

. De raadpleging loopt tot en met 19 mei 2020.
Het is vast gebruik van de Commissie om bijdragen die als reactie op een publieke raadpleging zijn ontvangen, te publiceren. U kunt echter vragen dat uw bijdrage (of delen daarvan) vertrouwelijk blijven. Geef dan op de eerste bladzijde van uw bijdrage duidelijk aan dat uw bijdrage niet mag worden openbaargemaakt. In dat geval dient u de Commissie ook een niet-vertrouwelijke versie van uw bijdrage te zenden die wél mag worden openbaargemaakt.
Met dit witboek en het bijbehorende verslag over het veiligheids- en aansprakelijkheidskader neemt de Commissie het initiatief voor een brede raadpleging waarin zij bij het maatschappelijk middenveld, het bedrijfsleven en de academische wereld peilt naar concrete voorstellen voor een Europese aanpak van KI. Deze voorstellen kunnen zowel betrekking hebben op beleidsmaatregelen om investeringen in onderzoek en ontwikkeling te bevorderen, om de ontwikkeling van vaardigheden te versterken en om KI ingang te doen vinden bij kmo’s, als op voorstellen voor essentiële onderdelen van een toekomstig regelgevingskader. Deze raadpleging zal een brede dialoog met alle betrokken partijen mogelijk maken; de resultaten zullen worden meegenomen in de volgende stappen van de Commissie.
(1)


 Kunstmatige intelligentie voor Europa, COM(2018) 237 final




(2)


  https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_nl_0.pdf.
(3)


  COM(2020) 66 final.
 (4)


  KI en digitalisering in het algemeen zijn van cruciaal belang om de ambities van de Europese green deal te kunnen verwezenlijken. Op dit ogenblik wordt de milieuvoetafdruk van de ICT-sector op meer dan 2 % van alle wereldwijde emissies geraamd. In de Europese digitale strategie die bij dit witboek is gevoegd, worden maatregelen voorgesteld om de digitale sector te vergroenen.
(5)


KI-instrumenten kunnen kansen bieden om de EU-burgers beter te beschermen tegen misdaad en terreurdaden.
Dergelijke instrumenten kunnen bijvoorbeeld helpen om terroristische propaganda op het internet te identificeren, verdachte transacties bij de verkoop van gevaarlijke producten op te sporen, gevaarlijke verborgen voorwerpen of illegale stoffen of producten te ontdekken, bijstand te bieden aan burgers in noodsituaties en eerstehulpverleners te begeleiden.
(6)


  COM(2019) 640 final.
(7)


  Het is mogelijk dat verdere regelingen nodig zijn om misbruik van KI voor criminele doeleinden te voorkomen en te bestrijden, maar dit valt buiten het toepassingsgebied van dit witboek.
(8)


  COM(2019) 168.
(9)


   Gevolgd door Japan (30 %) en de VS (28 %). Bron: CapGemini (2019).
(10)


  10 imperatives for Europe in the age of AI and automation, McKinsey (2017).
(11)


  COM(2018) 795.
(12)


  IDC (2019).
(13)


  Gartner (2017).
(14)


Neuromorfische oplossingen zijn elk zeer grootschalig systeem van geïntegreerde schakelingen dat neurobiologische structuren in het zenuwstelsel nabootst.
(15)


Kwantumcomputers zullen in luttele seconden datareeksen kunnen verwerken die vele malen groter zijn dan de reeksen die op dit ogenblik door de krachtigste computers kunnen worden verwerkt, waardoor het mogelijk wordt nieuwe KI-toepassingen te ontwikkelen in verschillende sectoren.
(16)



Kunstmatige intelligentie voor Europa, COM(2018) 237.
(17)



Gecoördineerd plan inzake kunstmatige intelligentie, COM(2018) 795.
(18)


  COM(2018) 237.
 (19)


  Het toekomstige Europees Defensiefonds en de permanente gestructureerde samenwerking (PESCO) zal ook mogelijkheden creëren voor onderzoek en ontwikkeling op het gebied van KI. Deze projecten moeten worden gesynchroniseerd met de bredere civiele programma’s van de EU die aan KI zijn gewijd.
(20)


https://ec.europa.eu/jrc/en/publication/academic-offer-and-demand-advanced-profiles-eu.
(21)


 ec.europe.eu/digital-single-market/en/news/digital-innovation-hubs-helping-companies-across-economy-make-most-digital-opportunities.
(22)


  www.Ai4eu.eu.
(23)


 Europe.eu/investeu.
(24)


  “Findable, Accessible, Interoperable and Reusable” (vindbaar, toegankelijk, interoperabel en herbruikbaar), zoals vermeld in het eindverslag en het actieplan van de deskundigengroep van de Commissie inzake FAIR-gegevens, 2018, https://ec.europa.eu/info/sites/info/files/turning_fair_into_reality_1.pdf.
(25)


   https://www.oecd.org/going-digital/ai/principles/




(26)


   In het kader van het partnerschapsinstrument zal de Commissie een project van 2,5 miljoen EUR financieren dat de samenwerking met gelijkgestemde partners zal vergemakkelijken, teneinde de ethische richtsnoeren van de EU inzake KI te bevorderen en gemeenschappelijke beginselen en operationele conclusies vast te stellen.
(27)


 Voorzitter Von der Leyen, Een Unie die de lat hoger legt - Mijn agenda voor Europa, blz. 17.
(28)


   COM(2018) 237.
(29)


   COM(2018) 795.
(30)


   https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top




(31)


   COM(2019) 168.
(32)


   Hieronder worden onder meer cyberbeveiligingskwesties, problemen die verband houden met KI-toepassingen in kritieke infrastructuren of kwaadwillig gebruik van KI verstaan.
(33)


 
   Uit onderzoek van de Raad van Europa blijkt dat KI gevolgen kan hebben voor een groot aantal grondrechten,
https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5.
(34)


 
   De algemene verordening gegevensbescherming en de e-privacyrichtlijn (momenteel wordt onderhandeld over een nieuwe e-privacyverordening) komen tegemoet aan deze risico’s, maar wellicht moet worden onderzocht of systemen op basis van KI aanvullende risico’s met zich meebrengen. De Commissie zal de toepassing van de algemene verordening gegevensbescherming permanent monitoren en beoordelen.
 (35)


 
   Het Raadgevend Comité van de Commissie voor gelijke kansen van mannen en vrouwen werkt momenteel aan een “advies over kunstmatige intelligentie”, waarin onder meer wordt ingegaan op de gevolgen van kunstmatige intelligentie voor gendergelijkheid; naar verwachting zal dit advies begin 2020 door het comité worden vastgesteld. In de EU-strategie inzake gendergelijkheid 2020-2024 wordt eveneens aandacht besteed aan het verband tussen KI en gendergelijkheid; het Europees netwerk van organen voor de bevordering van gelijke behandeling (Equinet) zal begin 2020 een verslag publiceren (door Robin Allen en Dee Masters) met de titel “Regulating AI: the new role for Equality Bodies – Meeting the new challenges to equality and non-discrimination from increased digitalisation and the use of AI”.
(36)


  Een voorbeeld is de smartwatch voor kinderen. Dit product brengt dan wel geen directe schade toe aan het kind dat het draagt, maar aangezien het op geen enkele manier is beveiligd, kan het gemakkelijk worden gebruikt als instrument om toegang te krijgen tot het kind. Het kan moeilijk zijn voor de markttoezichtautoriteiten om in te grijpen in gevallen waarin het risico geen verband houdt met het product op zich.
(37)


 
   In het verslag van de Commissie bij dit witboek wordt onderzocht welke gevolgen KI, het internet der dingen en andere digitale technologieën hebben voor de veiligheids- en aansprakelijkheidswetgeving.
(38)


   Het rechtskader van de EU voor productveiligheid bestaat uit de richtlijn algemene productveiligheid (Richtlijn 2001/95/EG), dat als veiligheidsnet dient, en een aantal sectorspecifieke regels voor verschillende productcategorieën, gaande van machines over vliegtuigen en auto’s tot speelgoed en medische apparatuur, en heeft tot doel te zorgen voor een hoog niveau van veiligheid en gezondheid. De wetgeving inzake productaansprakelijkheid wordt aangevuld door verschillende systemen van burgerlijke aansprakelijkheid voor schade die wordt veroorzaakt door producten of diensten.
(39)


   Richtlijn 2000/43/EG.
(40)


   Richtlijn 2000/78/EG.
 (41)


   Richtlijn 2004/113/EG; Richtlijn 2006/54/EG.
(42)


   Zoals de richtlijn oneerlijke handelspraktijken (Richtlijn 2005/29/EG) en de richtlijn consumentenrechten (Richtlijn 2011/83/EG).
(43)


Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens.
(44)


   Richtlijn (EU) 2019/882 betreffende de toegankelijkheidsvoorschriften voor producten en diensten.
(45)


   Software die door de fabrikant is bestemd om voor medische doeleinden te worden gebruikt, wordt bijvoorbeeld als een medisch hulpmiddel beschouwd in de zin van de verordening betreffende medische hulpmiddelen (Verordening (EU) 2017/745).
(46)


  COM(2018) 237 final, blz. 1: "Kunstmatige intelligentie (KI) verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – in zekere mate zelfstandig – actie te ondernemen om specifieke doelstellingen te verwezenlijken.
 Op KI gebaseerde systemen kunnen uitsluitend uit software bestaan en actief zijn in de virtuele wereld (bijvoorbeeld stemgestuurde assistenten, software voor beeldanalyse, zoekmachines en systemen voor spraak- en gezichtsherkenning), maar KI kan ook in hardwareapparaten worden geïntegreerd (bijvoorbeeld geavanceerde robots, zelfrijdende auto’s, drones of toepassingen van het internet der dingen)."




(47)


  Deskundigengroep op hoog niveau, een definitie van KI, blz. 8: “Systemen op basis van kunstmatige intelligentie (KI) zijn door mensen ontworpen softwaresystemen (en mogelijk ook hardwaresystemen) die, met een complex doel, in de fysieke of digitale dimensie werken door via gegevensverzameling hun omgeving waar te nemen, de verzamelde gestructureerde of ongestructureerde gegevens te interpreteren, te redeneren op basis van de uit deze gegevens verkregen kennis of de verkregen informatie te verwerken en te beslissen met welke handeling(en) het gestelde doel het best kan worden bereikt. KI-systemen kunnen gebruikmaken van symbolische regels of een numeriek model leren en kunnen hun gedrag ook aanpassen door te analyseren welke invloed hun eerdere handelingen op de omgeving hebben.”




(48)


 Er zijn bijvoorbeeld verschillende veiligheidsoverwegingen en juridische gevolgen verbonden aan KI-systemen die gespecialiseerde medische informatie verstrekken aan dokters, KI-systemen die rechtstreeks medische informatie verstrekken aan de patiënt en KI-systemen die zelf rechtstreeks medische taken uitvoeren op een patiënt. De Commissie onderzoekt deze uitdagingen op het gebied van veiligheid en aansprakelijkheid, die specifiek zijn voor de gezondheidszorg.
(49)


Al naargelang het domein, bv. productveiligheid, kan de EU-wetgeving “risico’s” anders indelen dan hier is beschreven.
(50)


 De openbare sector kan gebieden bestrijken als asiel, migratie, grenscontrole en rechtspraak, sociale zekerheid en arbeidsbemiddeling.
(51)


 Het is belangrijk om te benadrukken dat ook andere EU-wetgeving van toepassingen kan zijn. De richtlijn algemene productveiligheid kan bijvoorbeeld van toepassing zijn op KI-toepassingen, wanneer deze zijn ingebouwd in een consumentenproduct.
 (52)


 Er moet een onderscheid worden gemaakt tussen biometrische identificatie op afstand en biometrische authenticatie (dit laatste is een beveiligingsproces dat gebaseerd is op de unieke biologische kenmerken van een individu om na te gaan of hij/zij is wie hij/zij zegt). Biometrische identificatie op afstand betekent dat de identiteit van meerdere personen op afstand, in een openbare ruimte en op continue of doorlopende wijze wordt vastgesteld met behulp van biometrische kenmerken (vingerafdrukken, gezichtsherkenning, iris, aderpatroon enz.), door deze te toetsen aan data die zijn opgeslagen in een databank.
(53)


 Bijvoorbeeld documentatie over het algoritme, met inbegrip van wat het model dient te optimaliseren, welke gewichten aanvankelijk zijn toegekend aan bepaalde parameters enz.
(54)


 Overeenkomstig artikel 13, lid 2, onder f), van de algemene verordening gegevensbescherming moeten verwerkingsverantwoordelijken de betrokkene bij de verkrijging van de persoonsgegevens nadere informatie over het bestaan van geautomatiseerde besluitvorming en bepaalde aanvullende informatie verstrekken om een behoorlijke en transparante verwerking te waarborgen.
(55)


 Biometrische gegevens zijn gedefinieerd als “persoonsgegevens die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke of fysiologische kenmerken van een natuurlijke persoon op grond waarvan eenduidige identificatie van die natuurlijke persoon mogelijk is of wordt bevestigd, d.w.z. foto's, gezichtsopnamen, dactyloscopische gegevens [vingerafdrukken].” Richtlijn rechtshandhaving, art. 3, lid 13; algemene verordening gegevensbescherming, art. 4, lid 14; Verordening (EU) 2018/1725, art. 3, lid 18.
