14 maart werd de AI-verordening – in de volksmond bekend als de AI Act – aangenomen door het Europees Parlement. Deze wet zal binnenkort in werking treden. Met de AI Act heeft de EU een primeur: de eerste wetgeving die de ontwikkeling en het gebruik van Artificiële Intelligentie (AI) reguleert. Deze inkadering van de toepassing van AI komt te midden van de hoogopgelopen discussie over hoe om te gaan met AI. Van het oplossen van schaarste in de zorg en modellen die klimaatverandering voorspellen tot biased of hallucinerende AI; de huidige en toekomstige voor- en nadelen van AI zijn vaak het gesprek van de dag. En waar de AI Act door sommigen wordt gezien als een manier om het verantwoord gebruik van AI te stimuleren, leven er ook zorgen dat de regeldruk en inkadering innovatie kan beknellen. Hoe moeten we deze unieke wetgeving duiden? Twee experts van data, analytics en AI expert SAS geven het startschot en leggen aan ons uit waar we de komende tijd op moeten letten.
Regulering, innovatie, of allebei?
Met 272 pagina's is de finale versie van de AI-Act bepaald geen tekst om in een middagje rustig door te lezen. Maar in essentie draait de act volgens Kalliopi Spyridaki, Chief Privacy Strategist EMEA & Asia Pacific bij SAS, om het tegengaan van risico's: "De EU AI-wet verbiedt AI-systemen die onaanvaardbare risico's met zich meebrengen. Denk aan systemen die gebruikmaken van suggestieve methoden om individuen te manipuleren; systemen die kwetsbare bevolkingsgroepen zoals kinderen en ouderen proberen uit te buiten; systemen die gebruikt worden om een score aan individuen toe te dienen aan de hand van hoe sociaal wenselijk hun gedrag is. Zodra de wet van kracht wordt, kunnen dergelijke verboden systemen niet meer op de Europese markt worden gebracht. Bovendien zal de EU deze lijst van verboden systemen regelmatig herzien."
De AI Act draagt bij aan de verdere ontwikkeling van responsible AI door bedrijven duidelijk te maken welke toepassingen wel en niet als verantwoord worden bestempeld. Maar hoe zit het met de AI Act, waar moeten bedrijven op letten en hoe zorgen zij ervoor dat ze er niet overvallen worden wanneer de wet van kracht gaat?
"Bedrijven moeten zich voorbereiden en zorgen dat ze een plan hebben voor betrouwbare AI. In feite kun je alles doen met AI. Maar we moeten ervoor zorgen dat het de waarden van onze samenleving weerspiegelt. Data vormen de basis van alles. Als de input van een AI-model niet klopt, zal de output hetzelfde zijn," legt Josefin Rosén, Trustworthy AI Specialist bij SAS, uit. "We moeten de kwaliteit van onze data beoordelen en ervoor zorgen dat de gegevens inclusief en representatief zijn voor alle belanghebbenden. Daarnaast moeten we bijhouden waar de gegevens vandaan komen en hoe ze worden gebruikt om te begrijpen waarom AI bepaalde beslissingen neemt. Tot slot moeten we bij de inzet van AI in een bedrijfscontext voor zorgen dat deze ook na verloop van tijd naar behoren functioneert. SAS is goed gepositioneerd om bedrijven te helpen een betrouwbare AI-cultuur te creëren."
Bij SAS staat responsible AI, d.w.z AI die veilig is en waarvan de toepassing uitlegbaar en verantwoord is, centraal in de bedrijfsvoering. Ook loopt het in een aantal sectoren voorop bij het bevorderen van betrouwbare AI, zoals bij het REAiHL project, dat onderzoek doet naar de toepassing van AI in de zorg.
Verreikende gevolgen voor de wereld, en jouw bedrijf
Volgens Kalliopi zullen de gevolgen van de wetgeving verder reiken dan de EU: "De EU AI Act heeft het potentieel om het regelgevingslandschap rond kunstmatige intelligentie wereldwijd vorm te geven. Net als GDPR is de aanpak van de EU bekritiseerd vanwege de angst dat het innovatie zou kunnen verstikken. Op dit moment hebben we echter een GDPR-achtige wetgeving in elk land ter wereld. Nu neemt Europa opnieuw het voortouw met de eerste AI-specifieke wetgeving in zijn soort."
Doordat de EU een voortrekkersrol op zich neemt, kan dat bedrijven binnen en buiten de EU die snel aan de slag gaan met responsible AI zelfs voordeel opleveren. Kalliopi: "Of de AI Act wereldwijd hetzelfde effect zal hebben als de GDPR, valt nog te bezien, maar het zal zeker een marktstimulans zijn die AI-ontwikkelaars en -gebruikers in Europa en daarbuiten aanmoedigt om hun inspanningen te vergroten om de vereisten en verplichtingen van de nieuwe wet te begrijpen en te implementeren. Betrouwbare AI in Europa zal niet alleen een wettelijke vereiste zijn, maar ook een strategische keuze voor organisaties wereldwijd die concurrerend en verantwoordelijk willen blijven. Uiteindelijk kunnen AI-ontwikkelaars die beginnen met het ontwikkelen van technologieën in overeenstemming met de EU AI Act een concurrentievoordeel behalen."
Terwijl de AI Act haar stempel drukt op het tijdperk van kunstmatige intelligentie, worden we geconfronteerd met een kruispunt van mogelijkheden en uitdagingen. Bij regulering en innovatie moet altijd een balans worden gevonden tussen verantwoordelijkheid en vooruitgang. De invoering van de AI Act weerspiegelt niet alleen de voortdurende evolutie van technologie, maar ook de groeiende bewustwording van de noodzaak om menselijke waarden en ethiek te integreren in onze digitale vooruitgang. Naarmate de implementatie van de wetgeving vordert, zal duidelijk worden wat de AI Act ons oplevert. Voor nu lijkt het erop dat organisaties binnen de AI sector die zich bezighouden met responsible AI alvast een streepje voor hebben, en dat organisaties die daar nog niet mee bezig zijn er goed aan doen om zich er verder in te verdiepen.
Dit is een ingezonden bijdrage van SAS. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.