Leiderschap van de EU op het gebied van veilige en betrouwbare artificiële intelligentie

Temps de lecture: 5 min |29 mei 2024 à 18:45

Op de 29 mei 2024 heeft de Commissie het binnen de Commissie opgerichte AI-bureaubekendgemaakt.

Het AI-bureau heeft tot doel de toekomstige ontwikkeling, uitrol en gebruik van AI mogelijk te maken op een manier die maatschappelijke en economische voordelen en innovatie bevordert en tegelijkertijd de risico's beperkt. Het Bureau zal een sleutelrol spelen bij de uitvoering van de AI-verordening, met name met betrekking tot AI-modellen voor algemene doeleinden. Zij zal ook onderzoek en innovatie op het gebied van betrouwbare KI bevorderen en de EU als leider in internationale besprekingen positioneren.

Achtergrond

In april 2021 heeft de Commissie de AI-verordening van de EU en een nieuw gecoördineerd plan met de lidstaten voorgesteld om de veiligheid en grondrechten van mensen en bedrijven te waarborgen en tegelijkertijd investeringen en innovatie in alle EU-landen te versterken. De AI-verordening van de EU werd in december 2023 voorlopig goedgekeurd door de medewetgevers en is de eerste uitgebreide wet ter wereld inzake artificiële intelligentie. De AI-wet moet eind juli 2024 in werking treden.

In januari 2024 heeft de Commissie een pakket maatregelen gelanceerd om Europese start-ups en kmo's te ondersteunen bij de ontwikkeling van betrouwbare artificiële intelligentie (AI). In het kader van deze maatregelen is een besluit van de Commissie tot oprichting van het AI-bureau vastgesteld.

Werking

Het AI-bureau bestaat uit:

Eenheid voor regelgeving en naleving die de regelgevingsaanpak coördineert om de uniforme toepassing en handhaving van de AI-verordening in de hele Unie te vergemakkelijken, in nauwe samenwerking met de lidstaten. De eenheid zal bijdragen aan onderzoeken en mogelijke inbreuken, door sancties toe te passen;
Eenheid voor AI-veiligheid die gericht is op de identificatie van systeemrisico's van zeer geschikte modellen voor algemene doeleinden, mogelijke risicobeperkende maatregelen en evaluatie- en testbenaderingen;
Afdeling excellentie op het gebied van AI en robotica die onderzoek en ontwikkeling ondersteunt en financiert om een ecosysteem van excellentie te bevorderen. Het coördineert het GenAI4EU-initiatief en stimuleert de ontwikkeling van modellen en de integratie ervan in innovatieve toepassingen;
AI for Societal Good Unit om de internationale betrokkenheid van het AI-bureau op het gebied van AI voor goede doeleinden te ontwerpen en uit te voeren, zoals weersmodellering, kankerdiagnoses en digitale tweelingen voor wederopbouw;
Eenheid voor de coördinatie van AI-innovatie en -beleid, die toezicht houdt op de uitvoering van de AI-strategie van de EU, trends en investeringen monitort, de toepassing van AI stimuleert via een netwerk van Europese digitale-innovatiehubs en de oprichting van AI-fabrieken, en een innovatief ecosysteem bevordert door testomgevingen voor regelgeving en tests in de praktijk te ondersteunen

Het AI-bureau zal worden geleid door het hoofd van het AI-bureau en zal onder leiding van een leidende wetenschappelijke adviseur werken om wetenschappelijke excellentie bij de evaluatie van modellen en innovatieve benaderingen te waarborgen, en een adviseur voor internationale zaken om gevolg te geven aan onze toezegging om nauw samen te werken met internationale partners op het gebied van betrouwbare AI.

Oprichting en taken van het AI-bureau

Het AI-bureau zal meer dan 140 personeelsleden in dienst hebben om zijn taken uit te voeren. Het personeel bestaat uit technologiespecialisten, administratieve assistenten, advocaten, beleidsspecialisten en economen.

Het bureau zal zorgen voor een coherente uitvoering van de AI-verordening. Zij zal dit doen door de bestuursorganen in de lidstaten te ondersteunen. Het AI-bureau zal ook de regels voor AI-modellen voor algemene doeleinden rechtstreeks handhaven. In samenwerking met AI-ontwikkelaars, de wetenschappelijke gemeenschap en andere belanghebbenden zal het AI-bureau de opstelling van geavanceerde gedragscodes coördineren, tests en evaluaties van AI-modellen voor algemene doeleinden uitvoeren, informatie opvragen en zo nodig sancties opleggen.

Om te zorgen voor goed onderbouwde besluitvorming zal het AI-bureau samenwerken met de lidstaten en de bredere deskundigengroep via specifieke fora en deskundigengroepen. Op EU-niveau zal het AI-bureau nauw samenwerken met het Europees Comité voor artificiële intelligentie, dat is samengesteld uit vertegenwoordigers van de lidstaten. Het wetenschappelijk panel van onafhankelijke deskundigen zal zorgen voor een sterke band met de wetenschappelijke gemeenschap en verdere expertise zal worden verzameld in een adviesforum, dat een evenwichtige selectie van belanghebbenden vertegenwoordigt, waaronder de industrie, start-ups en kmo's, de academische wereld, denktanks en het maatschappelijk middenveld.

Het AI-bureau zal een innovatief EU-ecosysteem voor betrouwbare KI bevorderen. Zij zal hieraan bijdragen door advies te verstrekken over beste praktijken en toegang te bieden tot AI-testomgevingen, tests in de praktijk en andere Europese ondersteunende structuren voor de toepassing van AI, zoals de test- en experimenteerfaciliteiten op het gebied van AI, de Europese digitale-innovatiehubs en de AI-fabrieken. Het zal onderzoeks- en innovatieactiviteiten op het gebied van AI en robotica ondersteunen en initiatieven uitvoeren, zoals GenAI4EU, om ervoor te zorgen dat in Europa gemaakte en via EU-supercomputers getrainde AI-modellen voor algemene doeleinden worden gefinetuneerd en geïntegreerd in nieuwe toepassingen in de hele economie, waardoor investeringen worden gestimuleerd.

Tot slot zal het AI-bureau zorgen voor een strategische, coherente en doeltreffende Europese aanpak van AI op internationaal niveau, die een mondiaal referentiepunt wordt.

Volgende stappen

De hierboven geschetste organisatorische wijzigingen treden in werking op 16 juni. De eerste vergadering van het Comité voor artificiële intelligentie moet eind juni plaatsvinden. Het AI-bureau stelt richtsnoeren op over de definitie van AI-systemen en over de verbodsbepalingen, beide zes maanden na de inwerkingtreding van de AI-verordening. Het Bureau zal zich ook voorbereiden op de coördinatie van de opstelling van gedragscodes voor de verplichtingen voor AI-modellen voor algemene doeleinden, die 9 maanden na de inwerkingtreding moeten worden ingediend.