Commissie presenteert nieuwe regels en acties voor excellentie en vertrouwen in kunstmatige intelligentie

22 apr. 2021 à 08:54

De Commissie presenteert vandaag (21 april 2021) nieuwe regels en acties om van Europa de mondiale hub voor betrouwbare kunstmatige intelligentie (AI) te maken. De combinatie van het allereerste regelgevingskader voor AI en een nieuw gecoördineerd plan van de Unie en de lidstaten zal de veiligheid en grondrechten van mensen en bedrijven waarborgen en tegelijkertijd het draagvlak voor AI, investeringen en innovatie in de hele EU versterken. Die aanpak wordt aangevuld met nieuwe regels voor machines, die de veiligheidsvoorschriften aanpassen om het vertrouwen van gebruikers in de nieuwe en veelzijdige generatie producten te vergroten.

Margrethe Vestager, uitvoerend vicevoorzitter voor een Europa dat klaar is voor het digitale tijdperk: “Voor kunstmatige intelligentie is vertrouwen een must, geen luxe. Met deze baanbrekende regels neemt de EU het voortouw bij de ontwikkeling van nieuwe mondiale normen om ervoor te zorgen dat iedereen AI kan vertrouwen. Door normen vast te stellen kunnen we de weg vrijmaken voor wereldwijde ethische technologie en ervoor zorgen dat de EU concurrerend blijft. Onze regels zijn toekomstbestendig en innovatievriendelijk. We treden slechts op waar dat strikt noodzakelijk is: als de veiligheid en de grondrechten van EU-burgers op het spel staan.”

Thierry Breton, commissaris voor Interne Markt: “Kunstmatige intelligentie is een middel, geen doel. AI bestaat reeds tientallen jaren maar de rekenkracht van moderne computers heeft nieuwe mogelijkheden doen ontstaan op gebieden als gezondheid, vervoer, energie, landbouw, toerisme en cyberveiligheid. Dat brengt echter ook een aantal risico's met zich mee. De voorstellen van vandaag hebben tot doel de positie van Europa als mondiaal centrum van excellentie op het gebied van AI van het lab tot de markt te versterken, ervoor te zorgen dat AI in Europa onze waarden en regels eerbiedigt, en het potentieel van AI voor industrieel gebruik te benutten.”

De nieuwe AI-verordening zal Europeanen vertrouwen geven in de mogelijkheden van AI. Evenredige en flexibele regels zullen een antwoord bieden op de specifieke risico's van AI-systemen. Europa opteert voor de strengste ter wereld. Het gecoördineerde plan schetst de noodzakelijke beleidswijzigingen en investeringen die in de lidstaten moeten gebeuren om de leidende positie van Europa in de ontwikkeling van mensgerichte, duurzame, veilige, inclusieve en betrouwbare AI te versterken.

De Europese benadering van betrouwbare AI

De nieuwe regels zullen in alle lidstaten rechtstreeks op dezelfde wijze worden toegepast op basis van een toekomstbestendige definitie van AI. Daarbij wordt een risicogebaseerde aanpak gevolgd:

>Onaanvaardbaar risico AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen, worden verboden. Het gaat om AI-systemen of -toepassingen die menselijk gedrag manipuleren om de vrije wil van gebruikers te omzeilen (bv. speelgoed met spraakondersteuning dat minderjarigen aanspoort tot gevaarlijk gedrag) en systemen die “sociale scoring” door overheden mogelijk maken.

> Hoog risico AI-systemen die als risicovol worden aangemerkt en die worden gebruikt in:

kritieke infrastructuurnetwerken (bv. vervoer), die het leven en de gezondheid van burgers in gevaar kunnen brengen;
onderwijs of beroepsopleiding, die bepalend kunnen zijn voor de toegang tot onderwijs en professionele carrière (bv. verbeteren van examens);
veiligheidscomponenten van producten (bv. AI-toepassing in door robots ondersteunde chirurgie);
werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid (bv. software voor de screening van cv's bij selectieprocedures);
essentiële particuliere en openbare diensten (bv. kredietwaardigheidsbeoordeling op basis waarvan men burgers geen lening wil toekennen);
wetshandhaving, die gevolgen kan hebben voor onze grondrechten (bv. beoordeling van de betrouwbaarheid van bewijsstukken);
beheer van migratie, asiel en grenscontrole (bv. verificatie van de echtheid van reisdocumenten);
rechtsbedeling en democratische processen (bv. toepassing van de wet op concrete feiten).

AI-systemen met een hoog risico zullen aan strenge verplichtingen worden onderworpen voordat zij in de handel mogen worden gebracht:

adequate systemen voor risicobeoordeling en -beperking;
hoge kwaliteit van de datasets die het systeem voeden om risico's en discriminerende resultaten zoveel mogelijk uit te sluiten;
registratie van activiteiten om de traceerbaarheid van de resultaten te waarborgen;
gedetailleerde documentatie met alle nodige informatie om de autoriteiten in staat te stellen het doel en de conformiteit van het systeem te beoordelen;
duidelijke en adequate informatie voor gebruikers;
passend menselijk toezicht om de risico's tot een minimum te beperken;
sterke robuustheid, beveiliging en nauwkeurigheid.

Met name alle systemen voor biometrische identificatie op afstand worden als risicovol beschouwd en moeten aan strikte eisen voldoen. Op openbare plaatsen is het rechtstreekse gebruik van die systemen voor rechtshandhavingsdoeleinden in beginsel verboden. Beperkte uitzonderingen zijn strikt gedefinieerd en geregeld (bv. om een vermist kind te zoeken, een specifieke en nakende terroristische dreiging af te wenden of een dader of verdachte van een ernstig strafbaar feit op te sporen, te identificeren of te vervolgen). Er moet vooraf toestemming worden gegeven door een rechterlijke of andere onafhankelijke instantie, die slechts geldt voor een beperkte termijn en omgeving en voor specifieke databanken.

> Beperkt risico, d.w.z. AI-systemen waarvoor specifieke transparantieverplichtingen gelden: Bij het gebruik van AI-systemen zoals chatbots moeten gebruikers zich ervan bewust zijn dat zij met een machine interageren, zodat zij met kennis van zaken kunnen besluiten of ze die interactie al dan niet wensen voort te zetten.

> Minimaal risico: Het wetgevingsvoorstel staat het vrije gebruik toe van op AI gebaseerde videospellen of spamfilters. De overgrote meerderheid van AI-systemen valt in deze categorie. De ontwerpverordening laat die systemen ongemoeid aangezien het risico voor de rechten of de veiligheid van burgers minimaal of onbestaand is.

Wat governance betreft, stelt de Commissie voor dat de bevoegde nationale markttoezichtautoriteiten toezien op de nieuwe regels. De oprichting van een Europees comité voor kunstmatige intelligentie zal de uitvoering van die regels faciliteren en de ontwikkeling van normen voor AI stimuleren. Daarnaast pleit de Commissie voor vrijwillige gedragscodes voor AI zonder grote risico's en voor testomgevingen voor regelgeving om verantwoorde innovatie te bevorderen.

De Europese benadering van excellentie in AI

Middels coördinatie zal Europa zijn voortrekkersrol op het gebied van mensgerichte, duurzame, veilige, inclusieve en betrouwbare AI versterken. Om wereldwijd concurrerend te blijven, verbindt de Commissie zich ertoe innovatie in de ontwikkeling en het gebruik van AI-technologie in alle bedrijfstakken en in alle lidstaten te bevorderen.

Het gecoördineerd plan inzake AI, dat voor het eerst in 2018 werd gepubliceerd om acties en financieringsinstrumenten voor de ontwikkeling en invoering van AI te definiëren, heeft de weg vrijgemaakt voor een dynamisch landschap van nationale strategieën en EU-financiering voor publiek-private partnerschappen en onderzoeks- en innovatienetwerken. In het kader van de omvattende actualisering van het gecoördineerde plan worden concrete gezamenlijke acties voor samenwerking voorgesteld om alle inspanningen af te stemmen op de Europese strategie inzake AI en de Europese Green Deal, rekening houdend met de nieuwe uitdagingen die de coronapandemie met zich meebrengt. In dat plan wordt een visie voorgesteld om investeringen in AI te versnellen, wat het herstel ten goede kan komen. Het heeft ook tot doel de uitvoering van nationale AI-strategieën aan te moedigen, versnippering tegen te gaan en mondiale uitdagingen aan te pakken.

In het geactualiseerde gecoördineerde plan zal een beroep worden gedaan op financiering via de programma's Digitaal Europa en Horizon Europa, de faciliteit voor herstel en veerkracht, waarin een streefcijfer van 20 % voor digitale uitgaven is opgenomen, en de programma's in het kader van het cohesiebeleid om:

gunstige voorwaarden te scheppen voor de ontwikkeling en toepassing van AI door de uitwisseling van beleidsinzichten, gegevensuitwisseling en investeringen in kritieke computercapaciteit;
excellentie op het gebied van AI te bevorderen “van laboratorium tot de markt” door een publiek-privaat partnerschap op te zetten, onderzoeks-, ontwikkelings- en innovatiecapaciteit op te bouwen en te mobiliseren, en test- en experimenteerfaciliteiten en digitale-innovatiehubs voor kleine en middelgrote ondernemingen (kmo's) en overheidsdiensten beschikbaar te stellen;
ervoor te zorgen dat AI ten dienste staat van de mens en de samenleving ten goede komt door een voortrekkersrol te spelen bij de ontwikkeling en invoering van betrouwbare AI, door de ontwikkeling van talent en vaardigheden middels de ondersteuning van stages, doctoraatsnetwerken en postdoctorale beurzen in digitale gebieden, door vertrouwen in het AI-beleid te integreren en door de Europese visie op duurzame en betrouwbare AI wereldwijd te bevorderen;
strategisch leiderschap op te bouwen in sectoren en technologieën met een grote impact, waaronder het milieu, door te focussen op de bijdrage van AI aan duurzame productie, aan de gezondheidszorg door een grotere grensoverschrijdende uitwisseling van informatie, en aan de overheidssector, mobiliteit, binnenlandse zaken, landbouw en robotica.

De Europese aanpak van nieuwe machineproducten

Machineproducten omvatten een breed scala aan producten voor consumenten en professionals, van robots tot grasmaaiers, 3D-printers, bouwmachines en industriële productielijnen. In de machinerichtlijn, die wordt vervangen door de nieuwe machineverordening, zijn gezondheids- en veiligheidseisen voor machines vastgesteld. De nieuwe machineverordening zal er enerzijds voor zorgen dat de nieuwe generatie machines de veiligheid van gebruikers en consumenten waarborgt en anderzijds innovatie stimuleren. Terwijl de nieuwe AI-verordening de veiligheidsrisico's van AI-systemen zal aanpakken, zal de machineverordening de veilige integratie van het AI-systeem in de machine als geheel waarborgen. Bedrijven hoeven slechts één conformiteitsbeoordeling te verrichten.

Daarnaast komt de nieuwe machinerichtlijn tegemoet aan de behoeften van de markt door de huidige bepalingen juridisch te verduidelijken en de administratieve lasten en kosten voor bedrijven te vereenvoudigen. Documentatie zal in een digitaal formaat mogen worden ingediend en de conformiteitsbeoordelingskosten voor kmo's worden beperkt. Ten slotte waarborgt de verordening de samenhang met het wetgevingskader van de EU voor producten.

Volgende stappen

Het Europees Parlement en de lidstaten zullen de voorstellen van de Commissie voor een Europese aanpak van kunstmatige intelligentie en voor machineproducten behandelen via de gewone wetgevingsprocedure. Zodra de verordeningen zijn vastgesteld, worden zij rechtstreeks toepasselijk in de hele EU. Tegelijkertijd zal de Commissie blijven samenwerken met de lidstaten bij de uitvoering van de in het gecoördineerde plan aangekondigde acties.

Achtergrond

De Commissie bevordert en versterkt reeds jaren de samenwerking op het gebied van AI in de EU om het concurrentievermogen te verbeteren en vertrouwen te waarborgen op basis van de waarden van de EU.

Na de publicatie van de Europese strategie inzake AI in 2018 en de uitgebreide raadpleging van belanghebbenden heeft de deskundigengroep op hoog niveau inzake kunstmatige intelligentie (HLEG) in 2019 richtsnoeren voor betrouwbare AI en in 2020 een beoordelingslijst voor betrouwbare AI opgesteld. Tegelijkertijd werd in december 2018 het eerste gecoördineerde plan inzake AI voorgesteld als gezamenlijke verbintenis van de EU en de lidstaten.

Het Witboek van de Commissie over AI, dat in 2020 werd gepubliceerd, schetste een duidelijke visie op AI in Europa: een ecosysteem van excellentie en vertrouwen. Het witboek effende het pad voor het voorstel van vandaag. De openbare raadpleging over het witboek over AI oogstte wereldwijd veel respons. Het witboek ging vergezeld van een “Verslag over de gevolgen voor de veiligheid en aansprakelijkheid van kunstmatige intelligentie, het internet der dingen en robotica”, waarin werd geconcludeerd dat de huidige wetgeving inzake productveiligheid een aantal lacunes bevat die moeten worden aangepakt in de machinerichtlijn.