Euroopa Parlamendi 19. mai 2021. aasta resolutsioon tehisintellekti kohta haridus-, kultuuri- ja audiovisuaalsektoris (2020/2017(INI))
economie, met inbegrip van kunstmatige intelligentie en de invloed daarvan op gendergelijkheid, — gezien artikel 54 van zijn Reglement, — gezien de adviezen van de Commissie burgerlijke vrijheden, justitie en binnenlandse zaken, de Commissie interne markt en consumentenbescherming, de Commissie juridische zaken en de Commissie vrouwenrechten en gendergelijkheid, — gezien het verslag van de Commissie cultuur en onderwijs (A9-0127/2021), A. overwegende dat de ontwikkeling van technologieën op het gebied van kunstmatige intelligentie (KI), die van directe invloed op onze samenlevingen kunnen zijn, zeer snel gaat en dat deze technologieën steeds meer worden gebruikt op alle gebieden van ons dagelijks leven, zoals in het onderwijs en in de culturele en audiovisuele sector; overwegende dat ethische KI waarschijnlijk zal helpen de arbeidsproductiviteit te verbeteren en de economische groei te versnellen; B. overwegende dat de ontwikkeling, de uitrol en het gebruik van KI, met inbegrip van de software, de algoritmen en de gegevens die erdoor worden gebruikt of gegenereerd, moeten worden gestuurd door de ethische beginselen van transparantie, verklaarbaarheid, eerlijkheid, verantwoording en verantwoordelijkheid; C. overwegende dat overheidsinvesteringen in KI in de Unie sterk achterlopen ten opzichte van die in andere grote economieën; overwegende dat onderinvestering in KI waarschijnlijk gevolgen zal hebben voor het concurrentievermogen van de Unie in alle sectoren; D. overwegende dat een geïntegreerde benadering van KI en de beschikbaarheid, het verzamelen en het interpreteren van kwalitatief hoogwaardige, betrouwbare, billijke, transparante, beveiligde en vergelijkbare data essentieel zijn voor de ontwikkeling van ethische KI; E. overwegende dat discriminatie op een brede reeks gronden verboden is uit hoofde van artikel 21 van het Handvest van de grondrechten van de Europese Unie; overwegende dat meerdere vormen van discriminatie bij de ontwikkeling, de uitrol en het gebruik van KI-systemen niet moeten worden herhaald; F. overwegende dat gendergelijkheid een grondbeginsel van de Unie is dat verankerd is in de Verdragen en in alle beleidsdomeinen van de Unie moet terugkomen, waaronder in het onderwijs en in de culturele en audiovisuele sector, alsook in de ontwikkeling van technologieën zoals KI; G. overwegende dat ervaringen uit het verleden, met name op technisch gebied, hebben aangetoond dat ontwikkelingen en innovaties doorgaans overwegend op gegevens van mannelijke oorsprong worden gebaseerd en dat de behoeften van vrouwen niet volledig in acht worden genomen; overwegende dat het aanpakken van deze vertekening meer waakzaamheid en technische oplossingen vergt, evenals de ontwikkeling van duidelijke voorschriften op het gebied van eerlijkheid, verantwoordingsplicht en transparantie; H. overwegende dat onvolledige en onnauwkeurige gegevensreeksen, een gebrek aan naar gender uitgesplitste gegevens en onjuiste algoritmen kunnen leiden tot verstoringen in de verwerkingsprocessen van KI-systemen, waardoor de verwezenlijking van gendergelijkheid in de samenleving in het gedrang komt; overwegende dat gegevens met betrekking tot kansarme groepen en intersectionele vormen van discriminatie vaak onvolledig of überhaupt niet beschikbaar zijn; I.  overwegende dat genderongelijkheid, stereotypen en discriminatie bovendien tot stand kunnen komen via de taal en beelden die door de media en via kunstmatig intelligente toepassingen worden verspreid; overwegende dat het onderwijs, culturele programma’s en audiovisuele inhoud een aanzienlijke invloed hebben op de vorming van de opvattingen en waarden van mensen en fundamentele instrumenten vormen voor de doorbreking van genderstereotypen, de overbrugging van de digitale genderkloof en de totstandbrenging van sterke rolmodellen; overwegende dat er zowel een ethisch als een regelgevingskader moet worden vastgesteld voordat in deze belangrijke sectoren van de samenleving geautomatiseerde oplossingen worden toegepast; J. overwegende dat de wetenschap en innovaties zeker voor de meest achtergestelde groepen, zoals vrouwen en meisjes in afgelegen gebieden, baanbrekende voordelen met zich mee kunnen brengen; overwegende dat wetenschappelijk onderwijs niet alleen van belang is voor het verwerven van vaardigheden, het vinden van een goede baan en het vormgeven van de banen van morgen, maar bovendien helpt de genderstereotypen te doorbreken die het beeld schetsen dat dit domein bij uitstek geschikt is voor mannen; overwegende dat de wetenschap en wetenschappelijk denken ten grondslag liggen aan de democratische cultuur, die op zijn beurt van essentieel belang is voor de verwezenlijking van gendergelijkheid; K. overwegende dat één op de tien vrouwen in de Unie sinds haar vijftiende reeds in aanraking is geweest met een bepaalde vorm van cybergeweld, en verder overwegende dat online-intimidatie nog altijd een probleem vormt bij de ontwikkeling van KI, onder meer in het onderwijs; overwegende dat cybergeweld vaak gericht is tegen vrouwen in het publieke domein, zoals activisten, vrouwelijke politici en andere prominente figuren; overwegende dat KI en andere opkomende technologieën een belangrijke rol kunnen spelen bij de voorkoming van cybergeweld tegen vrouwen en meisjes, alsook bij voorlichting in dit verband; L. overwegende dat de Unie en haar lidstaten een bijzondere verantwoordelijkheid hebben om de toegevoegde waarde van KI-technologieën te benutten, te bevorderen en te versterken, en om ervoor te zorgen dat deze technologieën veilig zijn en in dienst staan van het welzijn en het algemeen belang van Europeanen; overwegende dat deze technologieën een enorme bijdrage kunnen leveren aan de verwezenlijking van ons gemeenschappelijke doel om het leven van onze burgers te verbeteren en welvaart binnen de Unie te bevorderen door bij te dragen aan de ontwikkeling van betere strategieën en innovatie op een aantal gebieden, namelijk onderwijs, cultuur en de audiovisuele sector; M.  overwegende dat de meeste KI gebaseerd is op opensourcesoftware, wat betekent dat de broncodes kunnen worden bekeken, gewijzigd en verbeterd; N. overwegende dat bepaalde aanpassingen aan specifieke bestaande wetgevingsinstrumenten van de EU nodig kunnen zijn om de digitale transformatie te weerspiegelen en de nieuwe, met het gebruik van KI verband houdende uitdagingen in het onderwijs en in de culturele en audiovisuele sector aan te pakken, zoals de bescherming van persoonsgegevens en privacy, de bestrijding van discriminatie, de bevordering van gendergelijkheid, het eerbiedigen van intellectuele-eigendomsrechten, en het beschermen van het milieu en de consumentenrechten; O. overwegende dat het belangrijk is de audiovisuele sector toegang te bieden tot de gegevens van de mondiale platforms en grote spelers, teneinde voor een “level playing field” te zorgen; P. overwegende dat KI en toekomstige applicaties of uitvindingen die met behulp van KI worden gemaakt net zoals alle andere technologieën ook een keerzijde kunnen hebben; overwegende dat KI en de daarmee verwante technologieën aanleiding geven tot veel vragen en zorgen over de ethiek en transparantie van de ontwikkeling, de uitrol en het gebruik ervan, met name wat betreft het verzamelen, het gebruik en de verspreiding van gegevens; overwegende dat de voordelen en risico’s van KI-technologieën in het onderwijs en in de culturele en de audiovisuele sector zorgvuldig moeten worden beoordeeld en de effecten ervan op alle facetten van de samenleving zorgvuldig en voortdurend moet worden geanalyseerd, zonder evenwel hun potentieel te ondermijnen; Q. overwegende dat onderwijs tot doel heeft menselijk potentieel aan te boren, creativiteit te ontplooien en voor authentieke sociale uitwisseling te zorgen, terwijl een niet-correct gebruik van datagestuurde KI-systemen de menselijke en sociale ontwikkeling zou kunnen belemmeren; R. overwegende dat onderwijs en leermogelijkheden een grondrecht vormen; overwegende dat de ontwikkeling, de uitrol en het gebruik van KI-technologieën in de sector onderwijs als een hoog risico moeten worden beschouwd en aan strengere vereisten op het gebied van veiligheid, transparantie, eerlijkheid en verantwoordingsplicht moeten worden onderworpen; S. overwegende dat kwalitatief hoogwaardige, snelle en veilige wijdverbreide connectiviteit, breedband, netwerken met een grote capaciteit, IT-expertise, digitale vaardigheden, digitale uitrusting en infrastructuur, alsmede maatschappelijke acceptatie en een gericht en faciliterend beleidskader voorwaarden zijn voor de grootschalige en succesvolle toepassing van KI in de Unie; overwegende dat het essentieel is dat dergelijke infrastructuur en uitrusting in de hele Unie in gelijke mate wordt uitgerold, teneinde iets te doen aan de hardnekkige digitale kloof tussen haar regio’s en burgers; T.  overwegende dat het absoluut noodzakelijk is de genderkloof bij studies op het gebied van wetenschap, technologie, engineering, kunst en wiskunde (STEAM) aan te pakken om te zorgen voor een gelijke en eerlijke vertegenwoordiging van de gehele maatschappij bij de ontwikkeling, de uitrol en het gebruik van KI-technologieën, met inbegrip van de software, de algoritmen en de gegevens die deze gebruiken en genereren; U. overwegende dat het essentieel is ervoor te zorgen dat iedereen in de Unie vanaf jeugdige leeftijd de nodige vaardigheden verwerft om de mogelijkheden en beperkingen van KI beter te begrijpen, teneinde zich voor te bereiden op de toenemende aanwezigheid van KI en de daaraan gerelateerde technologieën in alle aspecten van het menselijk handelen, en om de mogelijkheden die zij bieden volledig te kunnen omarmen; overwegende dat de wijdverbreide verwerving van digitale vaardigheden in alle onderdelen van de samenleving in de Unie een conditio sine qua non is voor het realiseren van een billijke digitale transformatie die eenieder ten goede komt; V. overwegende dat de lidstaten hiertoe moeten investeren in digitaal en mediaonderwijs, scholen moeten uitrusten met adequate infrastructuur en de noodzakelijke eindapparatuur, en in de leerplannen meer aandacht moeten schenken aan het aanleren van digitale vaardigheden en competenties; W. overwegende dat KI en de daaraan gerelateerde technologieën kunnen worden ingezet ter verbetering van leer- en onderwijsmethoden, vooral door onderwijssystemen te helpen bij het gebruik van eerlijke gegevens om de kansengelijkheid in en de kwaliteit van het onderwijs te verbeteren, en door op maat ontworpen onderwijsprogramma’s te bevorderen, de toegang tot onderwijs te verbeteren, en bepaalde administratieve taken te vereenvoudigen en te automatiseren; overwegende dat gelijke en eerlijke toegang tot digitale technologieën en snelle connectiviteit nodig zijn om de hele samenleving de vruchten van het gebruik van KI te laten plukken; overwegende dat het van het allergrootste belang is om ervoor te zorgen dat digitaal onderwijs voor iedereen toegankelijk is, waaronder voor personen met een achterstandspositie en personen met een beperking; overwegende dat leerresultaten niet per definitie afhangen van technologie, maar van het vermogen van docenten om technologie op een pedagogische zinvolle manier in te zetten; X. wijst erop dat KI in het bijzonder het potentieel heeft om oplossingen te bieden voor de alledaagse uitdagingen in het onderwijs, zoals gepersonaliseerd leren, toezicht op leermoeilijkheden, de automatisering van thematische inhoud/kennis, het bieden van betere beroepsopleiding, en ondersteuning van de transitie naar een digitale maatschappij; Y.  overwegende dat KI in de praktijk zou kunnen worden ingezet om de administratieve taken van leerkrachten en onderwijsinstellingen te verlichten, waardoor er meer tijd overblijft voor wezenlijke onderwijs- en leeractiviteiten; Z. overwegende dat nieuwe, op KI gebaseerde applicaties in het onderwijs de progressie op verschillende vakgebieden, zoals taalverwerving en wiskunde, bevorderen; AA. overwegende dat op KI gebaseerde, gepersonaliseerde leerervaringen er niet alleen toe kunnen bijdragen dat leerlingen meer gemotiveerd zijn en het beste uit zichzelf kunnen halen, maar ook dat het aantal schoolverlaters daalt; AB. overwegende dat KI docenten steeds vaker kan helpen effectiever les te geven dankzij een betere herkenning van de leermethoden en leerstijlen van de leerlingen, door te helpen leermoeilijkheden te herkennen en de gerealiseerde individuele vooruitgang beter te beoordelen; AC. overwegende dat er op de digitale arbeidsmarkt van de Unie een tekort is van bijna een half miljoen deskundigen op het gebied van “big data”-wetenschappen en gegevensanalyse, die essentieel zijn voor de ontwikkeling en het gebruik van kwalitatief hoogwaardige en betrouwbare KI; AD. overwegende dat de toepassing van KI in het onderwijs twijfels oproept over het ethische gebruik van gegevens, rechten van lerenden, toegang tot gegevens en bescherming van persoonsgegevens, en daarom risico’s in verband met de grondrechten met zich meebrengt, zoals het ontstaan van stereotiepe modellen van profielen van lerenden en gedrag dat tot discriminatie zou kunnen leiden, of het risico op schadelijke pedagogische praktijken; AE. overwegende dat cultuur een centrale rol speelt bij het gebruik van KI-technologieën op grote schaal en dankzij de ontwikkeling van innovatieve technologieën en instrumenten, alsook de doeltreffende toepassing ervan om in de behoeften van de sector te voorzien, in opmars is als een sleuteldiscipline voor cultureel erfgoed; AF. overwegende dat KI-technologieën kunnen worden gebruikt om cultureel erfgoed te bevorderen en te beschermen, onder andere door digitale instrumenten te gebruiken om historische plaatsen in stand te houden, door innovatieve manieren te vinden om gegevensverzamelingen van cultuurgoederen die in het bezit zijn van culturele instellingen in de Unie breder en eenvoudig toegankelijk te maken, en door gebruikers in staat te stellen om te navigeren door de enorme hoeveelheid culturele en creatieve inhoud; overwegende dat de bevordering van normen en kaders op het gebied van interoperabiliteit in dit opzicht van essentieel belang is; AG.  overwegende dat het gebruik van KI-technologieën voor culturele en creatieve inhoud, in het bijzonder voor media-inhoud en aanbevelingen voor gepersonaliseerde inhoud, vragen oproept in verband met gegevensbescherming, discriminatie en culturele en taalkundige verscheidenheid, het risico met zich meebrengt dat discriminerende output op basis van bevooroordeelde inputgegevens wordt gegenereerd, en de meningsverscheidenheid en het mediapluralisme zou kunnen beperken; AH. overwegende dat op KI gebaseerde aanbevelingen voor gepersonaliseerde inhoud vaak beter aansluiten bij de specifieke individuele behoeften, waaronder culturele en taalkundige voorkeuren; overwegende dat KI de taalkundige diversiteit in de Unie kan helpen bevorderen en de distributie van Europese audiovisuele werken kan verbeteren, met name door geautomatiseerde ondertiteling en nasynchronisatie van audiovisuele inhoud in andere talen; overwegende dat het maken van media-inhoud “over talen heen” derhalve essentieel is voor het ondersteunen van culturele en taalkundige verscheidenheid; AI. overwegende dat KI innovatie in redactiekamers stimuleert door een groot aantal alledaagse taken te automatiseren, gegevens te interpreteren en zelfs nieuws te genereren zoals weersvoorspellingen en sportuitslagen; AJ. overwegende dat de bevordering van computertaalkunde voor op rechten gebaseerde KI door de meertaligheid van Europa een specifiek innovatiepotentieel vertegenwoordigt om de wereldwijde uitwisseling van cultuur en informatie in het digitale tijdperk democratisch en niet-discriminerend te maken; AK. overwegende dat KI-technologieën in potentie van nut kunnen zijn voor het speciaal onderwijs, alsook voor de toegankelijkheid van culturele en creatieve inhoud voor personen met een beperking; overwegende dat KI oplossingen mogelijk maakt zoals spraakherkenning, virtuele assistenten en digitale representatie van fysieke objecten; overwegende dat digitale creaties nu reeds helpen bij het voor personen met een beperking toegankelijk maken van dergelijke inhoud; AL. overwegende dat toepassingen van KI alomtegenwoordig zijn in de audiovisuele sector, met name op platforms met audiovisuele inhoud; AM. overwegende dat KI-technologieën dan ook bijdragen aan het ontwerpen, plannen, beheren, vervaardigen, verspreiden, lokaliseren en consumeren van producten van audiovisuele media; AN.  overwegende dat KI kan worden gebruikt om valse inhoud te genereren, zoals “deepfakes”, die explosief groeien en een onmiddellijke bedreiging vormen voor de democratie, maar ook kan worden ingezet als waardevol instrument voor de opsporing en onmiddellijke bestrijding van deze kwaadaardige activiteit, bijvoorbeeld door in “real time” te controleren of inhoud waarheidsgetrouw is of er een waarschuwing bij te plaatsen; overwegende dat de meeste deepfakes eenvoudig herkenbaar zijn; overwegende dat op KI gebaseerde detectie-instrumenten er over het algemeen goed in slagen dergelijke inhoud op te sporen en eruit te filteren; overwegende dat er hiervoor geen wettelijk kader bestaat; Algemene opmerkingen 1. onderstreept het strategische belang van KI en aan KI gerelateerde technologieën voor de Unie; onderstreept dat de benadering van KI en aan KI gerelateerde technologieën de mens centraal moet stellen en verankerd moet zijn in mensenrechten en ethiek, zodat KI daadwerkelijk een instrument wordt in dienst van de mens, het gemeenschappelijk goed en het algemeen belang van burgers; 2. onderstreept dat bij de ontwikkeling, de uitrol en het gebruik van KI in het onderwijs en in de culturele en audiovisuele sector de grondrechten, vrijheden en waarden, met inbegrip van de menselijke waardigheid, privacy, de bescherming van persoonsgegevens, non-discriminatie en de vrijheid van meningsuiting en van informatie, alsook culturele verscheidenheid en de intellectuele-eigendomsrechten, zoals verankerd in de Verdragen van de Unie en het Handvest, volledig in acht moeten worden genomen; 3. beklemtoont dat onderwijs, cultuur en de audiovisuele sector gevoelige gebieden zijn wat het gebruik van KI en aanverwante technologieën betreft, aangezien zij het potentieel hebben de fundamenten van de grondrechten en de waarden van onze samenlevingen te beïnvloeden; benadrukt dan ook dat bij de ontwikkeling, de uitrol en het gebruik van KI en aanverwante technologieën, waaronder de software, algoritmen en de gegevens die zij gebruiken en genereren, in deze sectoren ethische beginselen in acht moeten worden genomen; 4. herinnert eraan dat algoritmen en KI ethisch moeten worden ontworpen, geen tekenen van vertekening mogen vertonen en de maximale bescherming van de grondrechten moeten waarborgen; 5.  herhaalt hoe belangrijk het is om kwalitatief hoogwaardige, compatibele en inclusieve KI en aan KI gerelateerde technologieën voor gebruik bij “deep learning” te ontwikkelen die de waarden van de Unie, met name gendergelijkheid, meertaligheid en de voorwaarden die nodig zijn voor interculturele dialoog, eerbiedigen en verdedigen, aangezien het gebruik van kwaliteitsarme, verouderde, onvolledige of onjuiste gegevens tot slechte voorspellingen kan leiden, en vervolgens tot discriminatie en vooroordelen; benadrukt dat het van essentieel belang is om op zowel nationaal als Europees niveau capaciteiten te ontwikkelen ter verbetering van de gegevensverzameling, de veiligheid, de systematisering en de overdraagbaarheid, zonder de bescherming van de persoonlijke levenssfeer te ondermijnen; neemt kennis van het voorstel van de Commissie om een gemeenschappelijke Europese dataruimte te creëren; 6. wijst erop dat KI vooroordelen en daarmee verschillende vormen van discriminatie met zich mee kan brengen, op basis van geslacht, ras, huidskleur, etnische of sociale afkomst, genetische kenmerken, taal, godsdienst of overtuiging, politieke of andere denkbeelden, het behoren tot een nationale minderheid, vermogen, geboorte, handicap, leeftijd of seksuele gerichtheid; brengt in dit verband in herinnering dat de rechten van iedereen moeten worden gewaarborgd en dat KI en daaraan gerelateerde technologieën op geen enkele wijze discriminerend mogen zijn; 7. benadrukt dat dergelijke vooroordelen en discriminatie kunnen voortkomen uit reeds bevooroordeelde gegevensreeksen, waarin bestaande vormen van discriminatie in de samenleving tot uiting komen; herinnert er in dit verband aan dat het essentieel is alle belanghebbende partijen, met inbegrip van het maatschappelijk middenveld, hierbij te betrekken, teneinde onbedoelde gender-, maatschappelijke en culturele vooringenomenheid in KI-algoritmen, -systemen en -applicaties te voorkomen; beklemtoont dat moet worden gezocht naar de meest doeltreffende manier om vooroordelen in KI-systemen te reduceren, in overeenstemming met ethische en non-discriminatienormen; onderstreept dat de gegevensreeksen die worden gebruikt om KI te trainen zo breed mogelijk moeten zijn om de samenleving zo goed mogelijk en op zo relevant mogelijke wijze te vertegenwoordigen, dat de resultaten moeten worden geëvalueerd om alle soorten stereotypen, discriminatie en vooroordelen te vermijden, en dat, in voorkomend geval, gebruik moet worden gemaakt van KI om eventuele menselijke vooroordelen in kaart te brengen en te corrigeren; verzoekt de Commissie de uitwisseling van strategieën ter voorkoming van vooroordelen met betrekking tot gegevens te bevorderen en te faciliteren; 8.  verzoekt de Commissie en de lidstaten bij de vaststelling van beleid en wetgeving op het gebied van KI rekening te houden met ethische aspecten, waaronder het perspectief van gendergelijkheid, en zo nodig de huidige wetgeving, met inbegrip van Unie-programma’s en ethische richtsnoeren voor het gebruik van KI, aan te passen; 9. verzoekt de Commissie en de lidstaten maatregelen uit te werken waarin de genderdimensie volledig in aanmerking wordt genomen, zoals bewustmakingscampagnes, opleidingen en curricula die ertoe dienen burgers te laten zien hoe algoritmen werken en wat ze in het dagelijks leven voor ons kunnen betekenen; pleit bovendien voor de bevordering van gendergelijke denkpatronen en arbeidsomstandigheden die leiden tot de ontwikkeling van inclusievere technologische producten en werkomgevingen; verzoekt de Commissie en de lidstaten met klem ervoor te zorgen dat digitale vaardigheden en opleiding op het gebied van KI in de curricula van scholen worden opgenomen; dringt er voorts op aan dat iedereen hier toegang toe krijgt, opdat de digitale genderkloof kan worden overbrugd; 10. benadrukt dat werknemers en leerkrachten die zich bezighouden met KI moeten worden opgeleid om ervoor te zorgen dat genderdiscriminerende praktijken op de werkvloer en in het onderwijs beter kunnen worden opgespoord en gecorrigeerd; onderstreept voorts dat ook de ontwikkelaars van KI-systemen en toepassingen moeten worden opgeleid om ervoor te zorgen dat discriminatie op grond van gender kan worden opgespoord en verholpen in de KI-systemen en toepassingen die zij ontwikkelen; pleit voor de vaststelling van duidelijke verantwoordelijkheden binnen bedrijven en onderwijsinstellingen om ervoor te zorgen dat deze vrij zijn van discriminatie op grond van gender; beklemtoont dat in het onderwijs en in de culturele sector genderloze beelden van KI en robots moeten worden gebruikt, tenzij gender om de een of andere reden een belangrijke rol speelt; 11. vestigt de aandacht op het belang van de ontwikkeling en uitrol van KI-toepassingen in het onderwijs en in de culturele en audiovisuele sector voor de verzameling van naar gender uitgesplitste gegevens en andere gegevens met betrekking tot gelijkheid, alsmede op het belang van de toepassing van moderne, machinaal lerende technieken voor het corrigeren, in voorkomend geval, van genderstereotypen en -vertekening, die negatieve gevolgen kunnen hebben; 12.  verzoekt de Commissie het onderwijs op te nemen in het regelgevingskader voor KI toepassingen met een hoge risicograad, aangezien moet worden gegarandeerd dat het onderwijs blijft bijdragen aan het algemeen belang en gezien de hoge gevoeligheid van gegevens met betrekking tot leerlingen, studenten en andere lerenden; benadrukt dat niet alleen leerkrachten en lerenden, maar ook de ruimere samenleving bij de uitrol van deze producten en diensten in het onderwijs moeten worden betrokken en dat daarbij rekening moet worden gehouden met de behoeften van iedereen, alsook met de verwachte voordelen, om te waarborgen dat KI doelbewust en ethisch wordt gebruikt; 13. verzoekt de Commissie het gebruik van Unie-programma’s zoals Horizon Europa, Digitaal Europa en Erasmus+ aan te sporen ter bevordering van multidisciplinair onderzoek, proefprojecten, experimenten en de ontwikkeling van hulpmiddelen, met inbegrip van opleidingen, voor het opsporen van gendervertekening in KI, alsook bewustmakingscampagnes voor het grote publiek; 14. beklemtoont dat verschillende teams van ontwikkelaars en ingenieurs tot stand moeten worden gebracht om samen te werken met de belangrijkste actoren in het onderwijs en in de culturele en audiovisuele sector om te voorkomen dat gender- en sociale vertekening onbedoeld doordringen tot KI-algoritmen, -systemen en -toepassingen; benadrukt dat moet worden gekeken naar de verschillende theorieën aan de hand waarvan KI tot op heden is ontwikkeld en in de toekomst verder kan worden uitgewerkt; 15. benadrukt dat zorgvuldigheid met betrekking tot het wegnemen van vooroordelen en discriminatie ten aanzien van specifieke groepen, waaronder genderstereotypen, geen rem mag zetten op technologische vooruitgang; 16. herhaalt het belang van de grondrechten en de absolute suprematie van de wetgeving inzake gegevens- en privacybeschermingswetgeving, hetgeen een “must” is bij de technologieën in kwestie; wijst erop dat KI in het bijzonder van invloed is op gegevensbescherming en privacy, in het bijzonder in verband met gegevens van kinderen; onderstreept dat de beginselen als bedoeld in de algemene verordening gegevensbescherming (AVG) (8) in die zin bindend zijn voor de uitrol van KI; herinnert er verder aan dat alle KI-toepassingen de Unie-wetgeving inzake gegevensbescherming, d. w. z. de AVG en de e-privacyrichtlijn (9), volledig moeten respecteren; beklemtoont het recht van “menselijk ingrijpen” indien KI en aan KI gerelateerde technologieën worden gebruikt; 17.  roept de Commissie en de lidstaten op om een verplichting tot transparantie en verklaarbaarheid in te voeren voor op KI gebaseerde geautomatiseerde individuele besluiten die worden genomen in het kader van de prerogatieven van het openbaar gezag, en om sancties vast te stellen om deze te handhaven; pleit voor de invoering van systemen die standaard gebruikmaken van menselijke verificatie en tussenkomst, en voor eerlijke rechtsbedeling, inclusief het recht op beroep of een klacht in te dienen, en toegang tot rechtsmiddelen; 18. wijst op de mogelijke negatieve gevolgen van gepersonaliseerde reclame, met name microgerichte en gedragsadvertenties, en van beoordelingen van individuen, met name minderjarigen, door zich zonder hun toestemming te mengen in de persoonlijke levenssfeer van particulieren, hetgeen vragen doet rijzen over de verzameling en de aanwending van de gegevens die worden gebruikt voor het personaliseren van reclame, het aanbieden van producten of diensten, of het vaststellen van prijzen; dringt er daarom bij de Commissie op aan om strikte beperkingen in te voeren op gerichte advertenties op basis van de verzameling van persoonsgegevens, te beginnen met de invoering van een verbod op platformoverschrijdende gedragsadvertenties, zonder dat dit leidt tot nadelige gevolgen voor kleine en middelgrote ondernemingen (kmo’s); brengt in herinnering dat volgens de e-privacyrichtlijn gerichte advertenties momenteel enkel zijn toegestaan als hiervoor toestemming is gegeven, en deze advertenties in andere gevallen illegaal zijn; verzoekt de Commissie een verbod in te voeren op het gebruik van discriminerende praktijken voor de verstrekking van diensten of producten; 19. beklemtoont dat mediaorganisaties moeten worden geïnformeerd over de hoofdparameters van op algoritmen gebaseerde kunstmatig intelligente systemen die bepalen welke zoekresultaten op platforms van derden worden weergegeven en in welke volgorde deze worden weergegeven; onderstreept dat gebruikers in kennis moeten worden gesteld van het gebruik van kunstmatige intelligentie voor besluitvormingsdiensten en in de gelegenheid moeten worden gesteld om hun privacyvoorkeuren op een transparante, begrijpelijke manier in te stellen; 20.  benadrukt dat KI het genereren van inhoud kan ondersteunen in het onderwijs en in de culturele en audiovisuele sector, en dat dit ook geldt voor informatie- en onderwijsplatforms, onder meer overzichten van verschillende soorten cultuurgoederen en tal van gegevensbronnen; wijst op de risico’s van inbreuken op IPR’s bij het combineren van KI en verschillende technologieën met een groot aantal bronnen (documenten, foto’s, films) om de wijze waarop data worden getoond, onderzocht en gevisualiseerd, te verbeteren; roept op KI te gebruiken om binnen het huidige wetgevingskader een hoog niveau van IPR-bescherming te garanderen, onder meer door burgers en bedrijven te waarschuwen wanneer zij onbedoeld de regels dreigen te schenden, of door IPR-rechthebbenden te helpen wanneer de regels daadwerkelijk zijn geschonden; benadrukt dan ook het belang van een passend wettelijk kader op het niveau van de Unie voor de bescherming van IPR’s in verband met het gebruik van KI; 21. beklemtoont dat een evenwicht tot stand moet worden gebracht tussen de ontwikkeling van KI-systemen en het gebruik ervan in het onderwijs en in de culturele en audiovisuele sector enerzijds, en maatregelen ter vrijwaring van concurrentie en het concurrentievermogen van KI-bedrijven in deze sectoren anderzijds; beklemtoont in dit verband dat het belangrijk is bedrijven ertoe aan te zetten te investeren in de vernieuwing van de KI-systemen die in deze sectoren worden gebruikt, en — parallel daaraan — erop toe te zien dat zij die dergelijke applicaties leveren geen marktmonopolie verwerven; onderstreept dat KI breed beschikbaar moet zijn voor de culturele en creatieve sector in heel Europa om een gelijk speelveld en eerlijke concurrentie voor alle belanghebbenden en actoren in Europa te behouden; verzoekt de Commissie en de lidstaten bij besluiten in het kader van het mededingingsbeleid, waaronder met betrekking tot fusies, meer rekening te houden met de rol van gegevens en algoritmen bij het concentreren van marktmacht; 22.  wijst op de noodzaak van het stelselmatig aanpakken van de sociale, ethische en juridische kwesties die de ontwikkeling, de toepassing en het gebruik van KI met zich meebrengen, waaronder de transparantie van en de verantwoording ten aanzien van algoritmen, non-discriminatie, gelijke kansen, vrijheid en diversiteit van meningsuiting, pluralisme in de media, en het eigendom, het verzamelen, het gebruiken en het verspreiden van gegevens en inhoud; beveelt aan gemeenschappelijke Europese richtsnoeren en normen te ontwikkelen voor de bescherming van privacy, en tegelijkertijd op doeltreffende wijze gebruik te maken van de beschikbare gegevens; pleit voor transparantie bij de ontwikkeling van en de verantwoording ten aanzien van het gebruik van algoritmen; 23. roept de Commissie op een alomvattend regelgevingskader te presenteren met als doel toepassingen van KI horizontaal te reguleren, en deze aan te vullen met sectorspecifieke regels, bijvoorbeeld voor audiovisuelemediadiensten; 24. benadrukt dat investeringen nodig zijn in onderzoek en innovatie in verband met de ontwikkeling, de toepassing en het gebruik van KI en KI-applicaties in het onderwijs en in de culturele en audiovisuele sector; onderstreept het belang van overheidsinvesteringen in deze diensten en de extra meerwaarde die publiek-private partnerschappen bieden om dit doel te verwezenlijken en om het volledige potentieel van KI in deze sectoren te benutten, gezien de aanzienlijke particuliere investeringen die de voorbije jaren zijn gedaan; verzoekt de Commissie extra geld vrij te maken om onderzoek en innovatie met betrekking tot KI-applicaties in deze sectoren te bevorderen; 25. benadrukt dat algoritmische systemen een instrument kunnen zijn om de digitale kloof sneller te dichten, maar dat als ze niet overal in gelijke mate worden ingezet het risico bestaat dat er nieuwe kloven ontstaan of bestaande kloven zich verbreden; vindt het zorgwekkend dat kennis en infrastructuur niet consistent zijn ontwikkeld in de hele Unie, wat de toegankelijkheid van producten en diensten die afhankelijk zijn van KI beperkt, met name in dunbevolkte en sociaaleconomisch kwetsbare gebieden; verzoekt de Commissie erop toe te zien dat er in gelijke mate kan worden geprofiteerd van de voordelen van KI en daarmee samenhangende technologieën; 26.  verzoekt de Commissie vereisten vast te stellen voor de aanschaf en het gebruik van KI en aanverwante technologieën door overheidsorganen in de Unie om zo voor inachtneming van het Unierecht en de grondrechten te zorgen; beklemtoont de meerwaarde van de inzet van instrumenten zoals openbare raadplegingen en effectbeoordelingen voorafgaand aan de aanschaf of het gebruik van KI-systemen, zoals aanbevolen in het rapport van de speciale rapporteur bij de Algemene Vergadering van de VN over KI en de impact daarvan op de vrijheid van mening en meningsuiting (10); spoort overheidsinstellingen aan om de ontwikkeling en de uitrol van KI te bevorderen door middel van overheidsfinanciering en openbare aanbestedingen; benadrukt dat de markt moet worden versterkt door kmo’s de mogelijkheid te bieden deel te nemen aan de aanschaf van KI-applicaties zodat technologische ondernemingen van welke omvang dan ook betrokken worden en aldus de veerkracht en de concurrentie worden gewaarborgd; 27. is van mening dat regelmatig onafhankelijke audits moeten worden uitgevoerd om te onderzoeken of de gebruikte KI-toepassingen en de bijbehorende controles en waarborgen aan gespecificeerde criteria voldoen, en dat deze audits onder toezicht moeten staan van onafhankelijke adequate toezichthoudende instanties; pleit voor specifieke stresstests om naleving te ondersteunen en te handhaven; 28. neemt kennis van de voordelen en risico’s die KI op het gebied van cyberbeveiliging met zich meebrengt en het potentieel ervan voor de bestrijding van cybercriminaliteit, en benadrukt dat KI-toepassingen bestand moeten zijn tegen cyberaanvallen zonder dat de grondrechten van de Unie, met name de bescherming van persoonsgegevens en de privacy, daarbij in het gedrang komen; benadrukt de noodzaak om toezicht te houden op het veilige gebruik van KI en het belang van nauwe samenwerking tussen de openbare en particuliere sectoren om het hoofd te bieden aan kwetsbaarheden van gebruikers en de hiermee verbonden gevaren; verzoekt de Commissie na te gaan in hoeverre betere preventie nodig is op het gebied van cyberbeveiliging en beperkende maatregelen in verband daarmee; 29. wijst erop dat de COVID-19-pandemie als een proefperiode voor de ontwikkeling, de toepassing en het gebruik van digitale en aan KI gerelateerde technologieën in de sectoren onderwijs en cultuur kan worden beschouwd, zoals blijkt uit het grote aantal online-onderwijsplatforms en online-instrumenten voor cultuurbevordering in de lidstaten; verzoekt de Commissie daarom met deze voorbeelden rekening te houden wanneer ze nadenkt over een gemeenschappelijke Unie-benadering voor het bevorderen van het gebruik van dergelijke technologische oplossingen; Onderwijs 30.  herinnert aan het belang van het verbeteren van de digitale vaardigheden en van het bereiken van een hoog niveau van media-, digitale en informatiegeletterdheid op het niveau van de Unie als voorwaarde voor het gebruik van KI in het onderwijs; beklemtoont in dit verband dat voor Unie-brede digitale en KI-geletterdheid moet worden gezorgd, in het bijzonder via de ontwikkeling van opleidingensmogelijkheden voor onderwijzenden; hamert erop dat het gebruik van KI-technologieën op scholen moet bijdragen tot het verkleinen van de sociale en regionale digitale kloof; verwelkomt het geactualiseerde actieplan voor digitaal onderwijs van de Commissie, dat ingaat op het gebruik van KI in het onderwijs; verzoekt de Commissie in dit verband in het plan in kwestie prioriteit toe te kennen aan digitale capaciteiten, mediageletterdheid en -opleiding, en KI-gerelateerde vaardigheden, en meer informatie te verschaffen over het potentiële misbruik en problemen bij de werking van KI; roept de Commissie in dit verband op bijzondere aandacht te besteden aan kinderen en jongeren in precaire situaties, aangezien zij speciale ondersteuning nodig hebben op het gebied van digitaal onderwijs; roept de Commissie met klem op in haar aangekondigde wetgevingsvoorstellen met betrekking tot KI naar behoren aandacht te besteden aan KI-en robotica-initiatieven voor de onderwijssector; verzoekt de lidstaten dringend te investeren in digitale infrastructuur voor scholen, en daarbij gebruik te maken van financiële middelen van de Unie; 31. benadrukt dat het gebruik van KI in onderwijssystemen een breed scala aan mogelijkheden, kansen en hulpmiddelen met zich meebrengt om het onderwijs innovatiever, inclusiever, efficiënter en steeds effectiever te maken door de invoering van nieuwe, hoogwaardige, snelle en gepersonaliseerde leermethoden die de student centraal stellen; benadrukt echter dat, aangezien het gevolgen zal hebben voor het onderwijs en sociale inclusie, gewaarborgd moet worden dat deze hulpmiddelen beschikbaar zijn voor alle maatschappelijke groepen door gelijke toegang tot onderwijs en leren te garanderen en daarbij niemand, met name personen met een beperking, aan zijn lot over te laten; 32.  benadrukt dat burgers, om op zowel kritische als doeltreffende wijze gebruik te kunnen maken van KI, ten minste over basiskennis van deze technologie moeten beschikken; verzoekt de lidstaten bewustmakingscampagnes over KI te integreren in hun maatregelen met het oog op digitale geletterdheid; roept de Commissie en de lidstaten op plannen voor digitale geletterdheid en discussieforums te bevorderen om burgers, ouders en lerenden te betrekken in een democratische dialoog met overheidsinstanties en belanghebbenden over de ontwikkeling, de toepassing en het gebruik van KI-technologieën in de onderwijssystemen; wijst erop dat het belangrijk is docenten, opleiders en anderen van de juiste instrumenten en kennis in verband met KI en aanverwante technologieën te voorzien over wat ze inhouden, hoe ze te gebruiken en hoe ze op passende wijze en in overeenstemming met de wet in te zetten, teneinde IPR-inbreuken te vermijden; beklemtoont in het bijzonder het belang van digitale geletterdheid voor onderwijzenden en opleiders, en van het verbeteren van digitale opleidingen voor ouderen, gezien het feit dat de jongere generaties reeds over elementaire kennis van deze technologieën beschikken omdat ze ermee opgegroeid zijn; 33. onderstreept dat KI in onze onderwijssystemen uiteindelijk gericht moet zijn op zo geïndividualiseerd mogelijk onderwijs, dat leerlingen gepersonaliseerde leertrajecten aanbiedt op basis van hun sterke en zwakke punten, alsook lesmateriaal dat afgestemd is op hun persoonlijke kenmerken, met behoud van de onderwijskwaliteit en het integrerend vermogen van onze onderwijssystemen; 34. herinnert aan de essentiële en meervoudige rol die leraren spelen in het onderwijs en bij het inclusief maken daarvan, met name bij de allerjongsten, waar vaardigheden worden geleerd die leerlingen in staat zullen stellen in het leven te groeien, bijvoorbeeld op het vlak van intermenselijke betrekkingen, studievaardigheden, inlevingsvermogen en samenwerking; benadrukt dan ook dat KI-technologieën niet gebruikt moeten worden ter vervanging of ten koste van fysiek onderwijs, en dat leraren niet moeten worden vervangen door KI of KI-gerelateerde technologieën; 35.  benadrukt dat de leeropbrengsten van het gebruik van KI in het onderwijs niet alleen van KI zelf zullen afhangen, maar ook van de manier waarop leerkrachten het in de digitale onderwijsomgeving weten in te zetten om tegemoet te komen aan hun eigen behoeften en die van hun leerlingen of studenten; geeft in dit verband aan dat KI-programmeurs de onderwijsgemeenschappen — daar waar mogelijk — bij de ontwikkeling, de toepassing en het gebruik van KI-technologieën moeten betrekken, en een nexusomgeving tot stand moeten brengen om verbindingen en samenwerkingsvormen te creëren tussen henzelf, ontwikkelaars, ondernemingen, scholen, leerkrachten, en andere publieke en particuliere belanghebbenden, teneinde KI-technologieën te ontwikkelen die voor “real life”-onderwijsomgevingen geschikt zijn, aansluiten bij de leeftijd en het ontwikkelingsstadium van de leerlingen in kwestie, en voldoen aan de hoogste ethische normen; benadrukt dat onderwijsinstellingen alleen betrouwbare, ethisch verantwoorde en op de mens gerichte technologieën mogen inzetten die in elke fase van hun levenscyclus door overheidsinstanties en maatschappelijke organisaties geauditeerd kunnen worden; beklemtoont de voordelen van gratis en “open-source”-oplossingen in dit verband; dringt erop aan scholen en andere onderwijsinstellingen de financiële en logistieke ondersteuning, alsook de expertise, te bieden die nodig is om oplossingen voor het leren van de toekomst te vinden; 36. benadrukt voorts het belang van permanente opleiding van leerkrachten, zodat zij zich kunnen aanpassen aan de nieuwe omstandigheden van op KI stoelend onderwijs, en de kennis en vaardigheden kunnen verwerven die nodig zijn om KI-technologieën op een pedagogische en zinvolle manier te kunnen inzetten, zodat zij de mogelijkheden die KI biedt volledig kunnen benutten en inzicht krijgen in de beperkingen ervan; dringt erop aan digitaal lesgeven in de toekomst deel te laten uitmaken van alle lerarenopleidingen, en onderwijzers en opleiders de kans te geven zich op het gebied van digitaal lesgeven levenslang na en bij te scholen; pleit dan ook voor de ontwikkeling van opleidingsprogramma’s op het gebied van KI voor leerkrachten op alle gebieden en in heel Europa; onderstreept verder het belang van het hervormen van onderwijsprogramma’s voor nieuwe generaties leerkrachten, teneinde hen in staat te stellen zich aan te passen aan de realiteit van op KI stoelend onderwijs, alsook het belang van het ontwikkelen en actualiseren van handboeken en richtsnoeren inzake KI voor leerkrachten; 37.  is bezorgd over het gebrek aan opleidingsprogramma’s in het hoger onderwijs die specifiek op KI gericht zijn, alsmede over het gebrek aan overheidsinvesteringen in KI in alle lidstaten; is van mening dat dit de toekomstige digitale ambities van Europa in gevaar brengt; 38. is bezorgd over het tekort aan KI-onderzoekers die een academische loopbaan nastreven vanwege het vermogen van technologische bedrijven om een hoger loon te bieden met minder bureaucratie voor onderzoek; is van mening dat meer overheidsgeld voor KI-onderzoek op universiteiten deel van de oplossing is; 39.  onderstreept het belang van het van kinds af aan onderwijzen van algemene digitale vaardigheden om de kwalificatiekloof te dichten en bepaalde bevolkingsgroepen beter te integreren in de digitale arbeidsmarkt en de digitale samenleving; wijst erop dat het steeds belangrijker zal worden om hooggekwalificeerde vakmensen van welke achtergrond ook op te leiden op het gebied van KI, om de wederzijdse erkenning van deze kwalificaties in de hele Unie te garanderen en om de huidige en toekomstige beroepsbevolking bij te scholen, zodat mensen leren om te gaan met de toekomstige omstandigheden op de arbeidsmarkt; spoort de lidstaten er daarom toe aan om hun onderwijsaanbod te evalueren en indien nodig uit te breiden met KI-gerelateerde vaardigheden, en om specifieke curricula voor KI-ontwikkelaars in te voeren en KI tegelijk ook op te nemen in traditionele curricula; onderstreept de noodzaak om te zorgen voor wederzijdse erkenning van beroepskwalificaties op het gebied van KI-vaardigheden in de hele Unie, aangezien verscheidene lidstaten KI-vaardigheden aan hun onderwijsaanbod toevoegen en specifieke curricula voor KI-ontwikkelaars invoeren; is ingenomen met de inspanningen van de Commissie om digitale vaardigheden op te nemen als een van de kwalificatie-eisen voor bepaalde beroepen die op Unieniveau zijn geharmoniseerd op grond van de richtlijn betreffende de erkenning van beroepskwalificaties (11); benadrukt dat deze kwalificaties in overeenstemming moeten zijn met de beoordelingslijst van de ethische richtsnoeren voor betrouwbare KI, en is ingenomen met het voorstel van de Commissie om deze lijst om te zetten in een indicatief curriculum voor KI-ontwikkelaars; herinnert aan de bijzondere behoeften van beroepsonderwijs en -opleiding met betrekking tot KI en dringt aan op een gezamenlijke aanpak in heel Europa om het potentieel van KI in deze sector te vergroten; onderstreept dat het belangrijk is hooggekwalificeerde vakmensen op dit gebied op te leiden, dat in de curricula ook ethische aspecten moeten worden opgenomen, dat ondervertegenwoordigde groepen op dit gebied moeten worden ondersteund en dat er stimulerende maatregelen moeten worden genomen voor vakmensen die werk zoeken binnen de Unie; herinnert eraan dat vrouwen ondervertegenwoordigd zijn in KI en dat dit significante genderonevenwichten kan veroorzaken in de toekomstige arbeidsmarkt; 40.  benadrukt de noodzaak voor overheden en onderwijsinstellingen om hun leerplannen opnieuw onder de loep te nemen, te herwerken en aan te passen aan de behoeften van de 21e eeuw door onderwijsprogramma’s te ontwerpen waarbij meer nadruk wordt gelegd op STEAM-vakken, teneinde studenten en consumenten voor te bereiden op de toenemende prevalentie van KI en de verwerving van cognitieve vaardigheden te bevorderen; onderstreept in dit verband dat het belangrijk is deze sector te diversifiëren en studenten, met name vrouwen en meisjes, aan te moedigen zich in te schrijven voor STEAM-cursussen, met name op het gebied van robotica en KI-gerelateerde onderwerpen; pleit voor meer financiële en wetenschappelijke middelen om gekwalificeerde mensen te motiveren in de Unie te blijven en tegelijk gekwalificeerde mensen aan te trekken uit derde landen; merkt voorts op dat er een aanzienlijk aantal start-ups is dat werkt met KI en KI-technologieën ontwikkelt; onderstreept dat kmo’s aanvullende steun en opleiding op het gebied van KI nodig zullen hebben om te voldoen aan de regelgeving op het gebied van digitalisering en KI; 41. merkt op dat de automatisering en de ontwikkeling van KI de werkgelegenheid drastisch en onomkeerbaar kunnen veranderen; benadrukt dat prioriteit moet worden gegeven aan het afstemmen van de vaardigheden op de behoeften van de toekomstige arbeidsmarkt, met name in het onderwijs en de culturele en creatieve sectoren; onderstreept in dit verband dat de toekomstige beroepsbevolking moet worden bijgeschoold; onderstreept voorts het belang van de inzet van KI voor her- en bijscholing op de Europese arbeidsmarkt in de culturele en creatieve sectoren, met name de audiovisuele sector, die al ernstig te lijden heeft onder de COVID-19-crisis; 42. verzoekt de Commissie het risiconiveau te beoordelen van de inzet van KI in de onderwijssector, om te bepalen of KI-toepassingen in het onderwijs moeten worden opgenomen in het regelgevingskader voor toepassingen met een hoge risicograad en onderworpen aan strengere eisen op het gebied van veiligheid, transparantie, billijkheid en verantwoordingsplicht, aangezien het belangrijk is om te garanderen dat het onderwijs blijft bijdragen aan het algemeen belang en gezien de hoge gevoeligheid van gegevens over leerlingen, studenten en andere lerenden; benadrukt dat datasets die gebruikt worden om KI te trainen, moeten worden gecontroleerd om te voorkomen dat bepaalde stereotypen en andere vooroordelen worden versterkt; 43.  verzoekt de Commissie een toekomstbestendig rechtskader voor KI voor te stellen met het oog op juridisch bindende ethische maatregelen en normen ter waarborging van de fundamentele rechten en vrijheden en de ontwikkeling van betrouwbare, ethische en technisch robuuste KI-toepassingen, met inbegrip van geïntegreerde digitale instrumenten, diensten en producten zoals robotica en machinaal leren, met bijzondere aandacht voor onderwijs; dringt erop aan dat de gegevens die worden gebruikt en geproduceerd door KI-toepassingen in het onderwijs toegankelijk, interoperabel en kwalitatief hoogwaardig zijn en op een toegankelijke manier en met inachtneming van de wetgeving inzake auteursrechten en bedrijfsgeheimen worden gedeeld met de bevoegde overheidsinstanties; brengt in herinnering dat kinderen een kwetsbare groep vormen, die bijzondere aandacht en bescherming verdient; benadrukt dat KI weliswaar het onderwijs ten goede kan komen, maar dat rekening moet worden gehouden met de technologische, regelgevende en sociale aspecten ervan, met passende waarborgen en een mensgerichte aanpak die uiteindelijk garandeert dat de beslissingen van het systeem altijd kunnen worden gecontroleerd en bijgestuurd door mensen; wijst er in dit verband op dat leerkrachten altijd controle en toezicht moeten houden op de inzet en het gebruik van KI-technologieën in scholen en universiteiten wanneer interactie met leerlingen en studenten plaatsvindt; herinnert eraan dat KI-systemen geen enkel definitief besluit mogen nemen dat gevolgen kan hebben voor de onderwijskansen, zoals de eindbeoordeling van leerlingen, zonder volledig menselijk toezicht; herinnert eraan dat geautomatiseerde besluiten over natuurlijke personen op basis van profilering, wanneer ze tot rechts- of soortgelijke gevolgen leiden, strikt beperkt moeten zijn en altijd het recht op menselijke tussenkomst en op een verklaring uit hoofde van de AVG vereisen; onderstreept dat hier strikt de hand aan moet worden gehouden, met name in het onderwijsstelsel, wanneer besluiten worden genomen over toekomstige kansen en mogelijkheden; 44.  spreekt zijn ernstige bezorgdheid uit over het feit dat scholen en andere onderwijsaanbieders steeds afhankelijker worden van educatieve technologische diensten (edtech), waaronder KI-toepassingen, die aangeboden worden door een handvol privébedrijven dat een dominante marktpositie geniet; is van mening dat dit moet worden gecontroleerd aan de hand van de mededingingsregels van de Unie; onderstreept in dit opzicht dat het belangrijk is de invoering te ondersteunen van KI door kmo’s in het onderwijs en in de culturele en de audiovisuele sector door middel van passende stimulansen die een gelijk speelveld creëren; dringt in dit verband aan op investeringen in Europese IT-bedrijven met het oog op de ontwikkeling van de noodzakelijke technologieën binnen de Unie, aangezien de grote ondernemingen die momenteel KI leveren, gevestigd zijn buiten de Unie; brengt met nadruk in herinnering dat persoonsgegevens van minderjarigen strikt worden beschermd door de AVG en alleen mogen worden verwerkt indien zij volledig geanonimiseerd zijn of hiervoor toestemming of machtiging tot toestemming is verleend door de persoon die de ouderlijke verantwoordelijkheid draagt, met strikte naleving van de beginselen van gegevensminimalisering en doelbinding; dringt aan op een degelijker bescherming en solidere waarborgen in de onderwijssector met betrekking tot gegevens over kinderen en verzoekt de Commissie in dit verband doeltreffendere stappen te ondernemen; dringt erop aan kinderen en hun ouders duidelijke informatie te verstrekken over het mogelijke gebruik en de mogelijke verwerking van gegevens over kinderen, onder meer door middel van bewustmakings- en voorlichtingscampagnes; 45. benadrukt de specifieke risico’s van het gebruik van toepassingen voor geautomatiseerde herkenning op basis van KI, die op dit moment in rap tempo worden ontwikkeld; brengt in herinnering dat kinderen een bijzonder kwetsbare groep vormen; beveelt aan dat de Commissie en de lidstaten geautomatiseerde biometrische identificatie, zoals gezichtsherkenning voor educatieve of culturele doeleinden in onderwijs- en culturele instellingen, verbieden, tenzij het gebruik ervan wettelijk is toegestaan; 46. benadrukt dat de keuze voor de consument moet worden vergroot om mededinging te stimuleren en het aanbod aan door KI-technologieën geboden diensten voor onderwijsdoeleinden uit te breiden; moedigt de overheden in dit verband aan om de ontwikkeling en toepassing van KI-technologieën te stimuleren door middel van overheidsfinanciering en openbare aanbestedingen; is van mening dat technologieën die worden gebruikt door aanbieders van openbaar onderwijs of aangekocht met overheidsfinanciering gebaseerd moeten zijn op opensourcetechnologieën; 47.  stelt vast dat innovatie in het onderwijs hoogdringend is, zoals gebleken is door de COVID-19-pandemie en de hiermee gepaard gaande omschakeling naar online- en afstandsleren; benadrukt dat door KI gestuurde onderwijsinstrumenten, bijvoorbeeld voor de beoordeling en opsporing van leerproblemen, de kwaliteit en doeltreffendheid van onlineleren kunnen verbeteren; 48. benadrukt dat digitale infrastructuur en internetdekking van de volgende generatie van strategisch belang zijn voor het verstrekken van door KI aangedreven onderwijs aan de Europese burgers; verzoekt de Commissie in het licht van de COVID-19-crisis om een strategie voor een Europees 5G-netwerk uit te werken dat de strategische veerkracht van Europa waarborgt en niet afhankelijk is van technologieën uit landen die niet dezelfde waarden hebben als wij; 49. roept op tot de oprichting van een pan-Europees universiteits- en onderzoeksnetwerk dat is toegespitst op KI in het onderwijs, dat instellingen en deskundigen uit alle sectoren moet samenbrengen om het effect van KI op leeractiviteiten te onderzoeken en oplossingen te identificeren om het potentieel te vergroten; Cultureel erfgoed 50. wijst nogmaals op het belang van toegang tot cultuur voor iedere burger in de hele Unie; beklemtoont in dit verband het belang van het uitwisselen van goede praktijken tussen de lidstaten, onderwijsinstellingen, culturele instellingen en vergelijkbare betrokken partijen; acht het verder van cruciaal belang dat de middelen die zowel op het niveau van de Unie als in de lidstaten beschikbaar zijn maximaal worden gebruikt om de toegang tot cultuur verder te verbeteren; benadrukt dat er tal van mogelijkheden zijn om toegang te verkrijgen tot cultuur en dat alle vormen moeten worden onderzocht om de meest passende optie te selecteren; beklemtoont het belang van consistentie met het Verdrag van Marrakesh; 51. benadrukt dat KI-technologieën een belangrijke rol kunnen spelen bij het behouden, herstellen, documenteren, analyseren, promoten en beheren van tastbaar en ontastbaar cultureel erfgoed, onder meer door de veranderingen te monitoren en analyseren die locaties van cultureel erfgoed ondergaan door bedreigingen als de klimaatverandering, natuurrampen en gewapende conflicten; 52.  onderstreept dat KI-technologieën de zichtbaarheid kunnen vergroten van de culturele diversiteit van Europa; wijst erop dat deze technologieën nieuwe mogelijkheden bieden voor culturele instellingen, zoals musea, om innovatieve instrumenten te produceren voor het catalogiseren van voorwerpen evenals het documenteren en toegankelijker maken van locaties van cultureel erfgoed, onder meer door middel van driedimensionaal modelleren en augmented virtual reality; benadrukt dat KI musea en kunstgalerieën ook in staat zal stellen interactieve en gepersonaliseerde diensten voor bezoekers in te voeren door hun een lijst van gesuggereerde werken aan te bieden op basis van de interesses die zij hebben aangegeven, zowel persoonlijk als online; 53. benadrukt dat het gebruik van KI nieuwe, innovatieve benaderingen, instrumenten en methodologieën zal inluiden die culturele werknemers en onderzoekers in staat zullen stellen uniforme databanken op te stellen met passende indelingsschema’s evenals multimediale metagegevens, waardoor zij verbanden kunnen leggen tussen verschillende voorwerpen van cultureel erfgoed en zo de kennis vergroten en een beter begrip van cultureel erfgoed bieden; 54. beklemtoont dat goede praktijken op het gebied van KI-technologieën met betrekking tot de bescherming en toegankelijkheid van cultureel erfgoed, met name voor personen met een handicap, moeten worden geïnventariseerd en gedeeld tussen culturele netwerken in de hele Unie, terwijl onderzoek moet worden aangemoedigd naar diverse manieren om KI in te zetten ter bevordering van de valorisatie, de toegankelijkheid en het behoud van cultureel erfgoed; verzoekt de Commissie en de lidstaten de mogelijkheden te bevorderen die worden geboden door het gebruik van KI in de culturele en creatieve sectoren; 55. wijst erop dat KI-technologieën ook kunnen worden gebruikt om de illegale handel in cultuurgoederen in het oog te houden, evenals de vernietiging van cultuurbezit, terwijl zij daarnaast de gegevensverzameling voor herstel- en reconstructieactiviteiten van zowel materieel als immaterieel cultureel erfgoed kunnen ondersteunen; merkt met name op dat de ontwikkeling, de inzet en het gebruik van KI bij douanecontroleprocedures kunnen helpen illegale handel in cultureel erfgoed te voorkomen, met name als aanvulling van systemen die douaneautoriteiten in staat stellen hun inspanningen en middelen te richten op de goederen die het hoogste risico vormen; 56.  merkt op dat KI van nut kan zijn voor de onderzoekssector, bijvoorbeeld door de rol die voorspellende analyses kunnen spelen voor een verdere verbetering van de gegevensanalyse, onder meer met betrekking tot de verwerving en verplaatsing van cultuurgoederen; onderstreept dat de Unie meer moet investeren en partnerschappen tussen de industrie en de academische wereld moet bevorderen, teneinde hoogwaardig onderzoek op Europees niveau aan te zwengelen; 57. herinnert eraan dat KI een revolutionair instrument kan zijn voor de bevordering van cultureel toerisme en benadrukt het aanzienlijke potentieel ervan voor de voorspelling van toerismestromen, hetgeen een hulp kan zijn voor steden die te kampen hebben met een teveel aan toerisme; Culturele en creatieve sectoren 58. betreurt dat cultuur niet is opgenomen bij de prioriteiten die zijn vastgesteld in de beleidsopties en aanbevelingen inzake KI op EU-niveau, met name het witboek van de Commissie over kunstmatige intelligentie van 19 februari 2020; roept ertoe op deze aanbevelingen te herzien om van cultuur een prioriteit te maken op het gebied van KI-beleid op het niveau van de Unie; verzoekt de Commissie en de lidstaten aandacht te besteden aan de mogelijke gevolgen van de ontwikkeling, de inzet en het gebruik van KI-technologieën voor de culturele en creatieve sectoren en optimaal gebruik te maken van het herstelplan Next Generation EU om deze sectoren te digitaliseren, zodat zij kunnen inspelen op nieuwe vormen van consumptie in de 21e eeuw; 59. wijst erop dat KI ook de culturele en creatieve sectoren heeft bereikt, zoals blijkt uit de geautomatiseerde productie van teksten, video’s en muziekstukken; benadrukt dat scheppende kunstenaars en beroepsbeoefenaars in de culturele sector de nodige digitale vaardigheden en opleiding moeten hebben om KI en andere digitale technologieën te gebruiken; verzoekt de Commissie en de lidstaten de mogelijkheden te bevorderen die worden geboden door het gebruik van KI in de culturele en creatieve sectoren, door meer middelen ter beschikking te stellen uit begrotingen voor wetenschap en onderzoek, en centra voor digitale creativiteit op te zetten waar scheppende kunstenaars en beroepsbeoefenaars in de culturele sector KI-toepassingen kunnen ontwikkelen, kunnen leren deze en andere technologieën te gebruiken en deze kunnen testen; 60.  erkent dat KI-technologieën het potentieel hebben om het aantal banen in de culturele en creatieve sectoren aanzienlijk te verhogen door de toegenomen toegang tot deze technologieën; benadrukt daarom dat het belangrijk is de digitale geletterdheid in de culturele en creatieve sectoren te bevorderen om deze technologieën inclusiever, gebruiksvriendelijker, leerbaarder en interactiever voor deze sectoren te maken; 61. benadrukt dat de interactie tussen KI en de culturele en creatieve sectoren complex is en een grondige beoordeling vereist; is ingenomen met het verslag van de Commissie van november 2020 met als titel “Trends and Developments in Artificial Intelligence — Challenges to the IPR Framework” en met de “Study on Copyright and New technologies: Copyright Data Management and Artificial Intelligence”; benadrukt dat het belangrijk is te verduidelijken hoe auteursrechtelijk beschermde inhoud kan worden gebruikt als gegevensinvoer (beelden, muziek, films, databanken enz. ) en bij de productie van culturele en audiovisuele output, zowel gecreëerd door mensen met behulp van KI als autonoom gegenereerd door KI-technologieën; verzoekt de Commissie onderzoek te doen naar de gevolgen van KI voor de Europese creatieve sectoren; herhaalt het belang van Europese data en is ingenomen met wat de Commissie hierover heeft verklaard, alsook met het feit dat KI en aanverwante technologieën hoog op de agenda zijn geplaatst; 62. wijst erop dat op EU-niveau een coherente visie moet worden ontworpen inzake KI-technologieën in de culturele en creatieve sectoren; wenst dat de lidstaten in hun nationale KI-strategie meer nadruk te leggen op cultuur, om ervoor te zorgen dat de culturele en creatieve sectoren innovatie omarmen en concurrerend blijven en dat culturele verscheidenheid in de nieuwe digitale context op EU-niveau wordt beschermd en bevorderd; 63. benadrukt dat het belangrijk is om een Uniebreed heterogeen milieu voor KI-technologieën te creëren, teneinde culturele diversiteit aan te moedigen en minderheden en taaldiversiteit te ondersteunen, en tegelijk de culturele en creatieve sectoren te versterken via onlineplatforms, zodat burgers van de Unie betrokken worden en kunnen deelnemen; 64.  roept de Commissie en de lidstaten op een democratisch debat over KI-technologieën te ondersteunen en te voorzien in een regelmatig discussieforum met het maatschappelijk middenveld, onderzoekers, academische instellingen en belanghebbenden om de voordelen en uitdagingen van het gebruik van KI in de culturele en creatieve sectoren meer onder de aandacht te brengen; onderstreept in dit verband de rol die kunst en cultuur kunnen spelen om mensen vertrouwd te maken met KI en het maatschappelijke debat erover te bevorderen, aangezien zij levensechte, tastbare voorbeelden kunnen bieden van machinaal leren, bijvoorbeeld op het gebied van muziek; 65. roept de Commissie en de lidstaten op de kwestie van door KI gegenereerde inhoud en de uitdagingen ervan met betrekking tot auteurschap en inbreuken op auteursrecht aan te pakken; verzoekt de Commissie in dit verband de impact van KI en aanverwante technologieën op de audiovisuele sector en de culturele en creatieve sectoren te beoordelen, teneinde de culturele en taaldiversiteit te bevorderen, met inachtneming van de rechten van auteurs en uitvoerende kunstenaars; 66. benadrukt dat het Europees Instituut voor innovatie en technologie (EIT), en in het bijzonder de toekomstige kennis- en innovatiegemeenschap (KIG) voor de culturele en creatieve sectoren, een vooraanstaande rol moeten spelen bij de ontwikkeling van een Europese strategie inzake KI voor het onderwijs, cultuur en de audiovisuele sector en kan helpen de ontwikkeling van KI-toepassingen voor deze sectoren te versnellen en er de voordelen van te plukken; 67. stelt vast dat KI al zijn intrede heeft gedaan in de creatieve waardeketen op het gebied van creatie, productie, verspreiding en verbruik, en als gevolg hiervan een enorme invloed heeft op de culturele en creatieve sectoren, zoals muziek, de filmindustrie, kunst en literatuur, door middel van nieuwe instrumenten, software en door KI ondersteunde productie om de productie te vergemakkelijken, en tegelijk inspiratie biedt en een ruimer publiek in staat stelt om inhoud te creëren; 68. roept de Commissie op onderzoek te verrichten en beleidsopties te overwegen om de schadelijke invloed aan te pakken van de op KI gebaseerde controle van onlinestreamingdiensten om de diversiteit te beperken en/of de winsten te maximaliseren door bepaalde inhoud op te nemen of naar voren te schuiven in het aanbod aan consumenten, en te onderzoeken hoe dit van invloed is op de culturele diversiteit en de inkomsten van makers; 69. is van mening dat KI steeds nuttiger wordt voor de culturele en creatieve sectoren bij creatie- en productieactiviteiten; 70.  benadrukt de rol van de persoonlijkheid van een auteur voor de expressie van vrije en creatieve keuzes die de originaliteit van werken uitmaken (12); benadrukt het belang van beperkingen van de auteursrechten en van uitzonderingen erop in het geval van het gebruik van inhoud als gegevensinvoer, met name in het onderwijs, in de universitaire wereld en in onderzoek, en bij de productie van culturele en creatieve output, zoals audiovisuele output en door gebruikers gegenereerde inhoud; 71. is van mening dat moet worden overwogen om door KI gegenereerde technische en artistieke creaties te beschermen, met als doel deze vorm van creativiteit aan te moedigen; 72. beklemtoont dat in de context van de data-economie een beter beheer van auteursrechtelijke gegevens realiseerbaar is, met het oog op een betere vergoeding van auteurs en uitvoerenden, met name doordat een snelle identificatie mogelijk wordt van het auteurschap en het eigendomsrecht met betrekking tot inhoud, hetgeen ook zou helpen het aantal verweesde werken te reduceren; wijst er verder op dat op KI gebaseerde technologische oplossingen moeten worden gebruikt om de data-infrastructuur van auteursrechtelijke gegevens en de onderlinge verbindingen tussen metadata in werken te verbeteren, én om de in artikel 19 van Richtlijn (EU) 2019/790 inzake auteursrechten en naburige rechten in de digitale eengemaakte markt (13) bedoelde transparantieverplichting te faciliteren met het oog op actuele, relevante en alomvattende informatie over de exploitatie van de werken en prestaties van auteurs en uitvoerenden, met name in het geval van meerdere rechthebbenden en ingewikkelde licentieregelingen; 73. roept ertoe op in het door de Commissie aangekondigde actieplan inzake intellectuele-eigendomsrechten aandacht te besteden aan KI en de invloed ervan op de creatieve sectoren, rekening houdend met het feit dat een evenwicht tot stand moet worden gebracht tussen de bescherming van intellectuele-eigendomsrechten en het bevorderen van creativiteit op het gebied van onderwijs, cultuur en onderzoek; is van mening dat de Unie een voortrekker kan zijn op het gebied van de creatie van KI-technologieën indien zij een operationeel regelgevingskader vaststelt en een proactief overheidsbeleid voert, met name op het gebied van opleidingsprogramma’s en financiële steun voor onderzoek; verzoekt de Commissie de impact te beoordelen van intellectuele-eigendomsrechten op onderzoek en ontwikkeling op het gebied van KI en aanverwante technologieën, alsook op de culturele en creatieve sectoren, inclusief de audiovisuele sector, met bijzondere aandacht voor auteurschap, een billijke vergoeding van auteurs en aanverwante kwesties; 74.  verzoekt de Commissie aandacht te besteden aan de juridische aspecten van met behulp van KI-technologieën geproduceerde werken en van met behulp van KI en aanverwante technologieën gegenereerde culturele inhoud; acht het belangrijk de productie van culturele inhoud te ondersteunen; herhaalt evenwel dat het belangrijk is het unieke kader inzake intellectuele-eigendomsrechten van de Unie te behouden en dat bij het aanbrengen van eventuele wijzigingen de nodige zorgvuldigheid moet worden betracht om het wankele evenwicht niet te verstoren; verzoekt de Commissie een grondige beoordeling uit te voeren van de mogelijke rechtspersoonlijkheid van met KI gegenereerde inhoud, alsook van de toepassing van intellectuele-eigendomsrechten op met KI gegenereerde inhoud en op met behulp van KI-instrumenten gegenereerde inhoud; 75. verzoekt de Commissie bovendien na te denken over de ontwikkeling, in nauwe samenwerking met de lidstaten en de belanghebbenden, van verificatiemechanismen of -systemen voor uitgevers, auteurs en makers, om hen te helpen na te gaan welke inhoud zij mogen gebruiken en gemakkelijker te bepalen wat beschermd is op grond van de regelgeving inzake intellectuele-eigendomsrechten; 76. verzoekt de Commissie regels vast te stellen om effectieve data-interoperabiliteit te garanderen, teneinde ervoor te zorgen dat op een platform gekochte inhoud toegankelijk is op elk digitaal instrument, ongeacht het merk; Audiovisuele sector 77. 