De Artifical Intelligence Act formeel aangenomen

De Artificial Intelligence Act of AIA is de eerste Europese wetgeving met wereldwijde impact die horizontale regels vastlegt voor de ontwikkeling, het op de markt brengen en het gebruik van AI-systemen. 13 maart 2024 vormt vanaf nu een mijlpaal in de wereld van artificiële intelligentie, gelet op de formele goedkeuring van de AIA.

Wat?

Artificiële intelligentie (“AI”) speelt een centrale rol in de digitale transformatie, omdat zij een brede waaier aan economische en maatschappelijke voordelen oplevert voor een groot aantal (private en publieke) sectoren. AI maakt bijvoorbeeld automatisering, slimme besluitvorming, voorspellingen, betere klantervaringen en efficiënt onderzoek mogelijk.

De AIA maakt deel uit van de ruimere Europese AI-strategie en het Europees pakket inzake AI, waarmee de EU een wereldleider wil worden in de ontwikkeling van veilige, betrouwbare en ethische AI. De AIA legt verplichtingen op aan verschillende actoren die zijn betrokken bij de ontwikkeling, het op de markt brengen en het gebruik van AI-systemen, afhankelijk van de omvang en intensiteit van het risico dat het AI-systeem met zich meebrengt.

Verplichtingen?

• De AIA gaat uit van een risicogebaseerde aanpak en introduceert een classificatie van verschillende AI-systemen. Verschillende “risiconiveaus” (minimaal, beperkt, hoog en onaanvaardbaar risico) gaan gepaard met verschillende eisen en verplichtingen.
• De AIA verbiedt bepaalde onaanvaardbare praktijken, zoals (i) AI-gebaseerde social scoring (onder bepaalde voorwaarden), en (ii) realtime biometrische systemen voor identificatie op afstand in openbare ruimten voor rechtshandhavingsdoeleinden (onder bepaalde voorwaarden en met verschillende uitzonderingen).
• Zo kunnen AI-systemen met een hoog risico alleen door aanbieders op de EUmarkt worden gebracht als (i) de AI-systemen zelf voldoen aan diverse strenge dwingende eisen (zoals bv. het hebben van een risicobeheersingssysteem, data governance praktijken, het aanwezig zijn van menselijk toezicht en technische documentatie), en (ii) als de operatoren (waarbij de meeste verplichtingen aan de aanbieder worden opgelegd) zelf bepaalde verplichtingen naleven (zoals onder meer het uitvoeren van een conformiteitsbeoordelingsprocedure, automatisch gegenereerde logs, kwaliteitsbeheerssysteem etc.). Daarnaast kunnen zulke AI-systemen met een hoog risico enkel in gebruik worden genomen onder bepaalde voorwaarden (zoals het gebruik van het AI-systeem in overeenstemming met gebruiksvoorwaarden of het uitvoeren van een fundamental rights impact assessment). Zo zullen bijvoorbeeld een CV-screeningtool en een AI-gebaseerd beoordelingssysteem voor kredietaanvragen als AI-systemen met hoog risico beschouwd worden.
• Bepaalde AI-systemen (die als AI-systemen met beperkt risico kunnen gekwalificeerd worden, maar ook systemen met hoog risico kunnen omvatten) zullen moeten voldoen aan geharmoniseerde transparantieregels (bv. AI-systemen die worden gebruikt om beeld-, audio- of video-inhoud te genereren of te manipuleren, zoals deep fakes).
• Daarnaast gelden eveneens specifieke verplichtingen in de context van general purpose AI models, zowel met als zonder systeemrisico (denk bijvoorbeeld aan GPT-4) (bv. gedetailleerde samenvatting van de inhoud gebruikt voor de training van het model).

Governance?

De AIA voorziet op Europees niveau in de oprichting van een AI Office en een AI Board.

De AI Board zal bestaan uit (onder andere) vertegenwoordigers van de lidstaten en zal een belangrijke rol spelen in het verlenen van richtlijnen en adviezen bij de implementatie van de AIA op nationaal en EU-level.

De AI Office neemt een grote hoeveelheid taken op, maar in het algemeen vormt zij het centrum van AI-expertise. Zo zal zij een belangrijke rol spelen voor (onder meer) de handhaving van general purpose AI models, en in het kader van internationale samenwerking en ondersteuning van nationale autoriteiten. De beslissing van de Europese Commissie tot oprichting van de AI Office werd op 21 februari 2024 van kracht. Op nationaal niveau zullen de markttoezichthouders toezicht houden op de toepassing van de AIA. Ten slotte zijn er ook de conformiteitsbeoordelingsinstanties, aanmeldende autoriteiten en aangemelde instanties, die een rol spelen in het kader van conformiteitsbeoordelingen door derde partijen.

Wie?

De AIA heeft een ruim toepassingsgebied. De twee belangrijkste actoren waarop de AIA van toepassing zal zijn, zijn:

• Aanbieders: zij ontwikkelen of laten een AI-systeem of general purpose AI model ontwikkelen en brengen het in de handel of stellen het in gebruik – al dan niet tegen betaling –onder de eigen naam of merknaam;
• Gebruikers: zij gebruiken een AI-systeem onder eigen verantwoordelijkheid, tenzij het AI-systeem wordt gebruikt in het kader van een persoonlijke nietberoepsactiviteit.

Daarnaast zijn er ook “gemachtigde vertegenwoordigers”. Zij verkrijgen een schriftelijke machtiging van een aanbieder van een AI-systeem, die buiten de EU is gevestigd, om namens hem de verplichtingen en procedures van de AIA respectievelijk na te komen en uit te voeren.

Ten slotte legt de AIA ook verplichtingen op aan importeurs en distributeurs van AI-systemen, en aan fabrikanten van producten.

Net als de Algemene Verordening Gegevensbescherming, zal de AIA extraterritoriale werking hebben. Een “Brussel-effect” valt dan ook te verwachten, en lijkt zich zelfs reeds te manifesteren, gelet op de recente executive order van president Biden en de Bletchley Declaration van de landen die de AI Safety Summit in het Verenigd Koninkrijk bijwoonden in november 2023.

Sancties?

De niet-naleving van de AIA kan leiden tot verschillende sancties. Zo kunnen nationale toezichthoudende autoriteiten corrigerende maatregelen nemen (zoals het uit de handel halen van het AI-systeem). Daarnaast moeten de lidstaten eveneens administratieve boetes vastleggen binnen de drempels vastgelegd in de AIA (maximaal tot 35 miljoen euro of 7 % van de wereldwijde jaaromzet). Ten slotte moeten de lidstaten ook (effectieve, evenredige en afschrikwekkende) straffen (en eventueel ook andere afdwingingsmaatregelen) bepalen en afdwingen.

Wanneer?

Het politieke akkoord over de AIA werd reeds op 8 december 2023 bereikt. De AIA heeft intussen nog verschillende Europese wetgevende stappen doorlopen. De meest recente ontwikkelingen zijn de ondertekening van de AIA door het Comité van Permanente Vertegenwoordigers (Coreper) op 2 februari 2024 en de bekrachtiging ervan door de Commissies Interne Markt en Consumentenbescherming (IMCO) en Burgerlijke Vrijheden, Justitie en Binnenlandse Zaken (LIBE) van het Europees Parlement op 13 februari 2024. Op 13 maart 2024 heeft het Europees Parlement de AIA uiteindelijk formeel aangenomen tijdens de plenaire vergadering.

Hoewel de AIA 20 dagen na de bekendmaking in het Publicatieblad van de Europese Unie in werking zal treden, zullen de bepalingen slechts gradueel van toepassing worden. De meeste bepalingen, zoals de handhaving van verplichtingen voor de AI-systemen met een hoog risico in bijlage III van de AIA, worden twee jaar na de inwerkingtreding van toepassing (mid-2026). Maar er zijn diverse uitzonderingen: zo worden de verboden AI-praktijken al na zes maanden van toepassing (december 2024) en de verplichtingen voor aanbieders van general purpose AI models al na twaalf maanden (mid-2025). Gelet op de proactieve houding van de Europese Unie om verantwoorde innovatie en toepassing van AI te bevorderen, initieert de Europese Commissie het AI-pact, waarmee ze industriële spelers aanmoedigt om de bepalingen van de AIA al vóór de wettelijke deadline te implementeren.

Welke actie onderneemt u het beste nu al?

Gelet op onder meer (i) het aantal verplichtingen dat de AIA oplegt aan onderworpen entiteiten, en (ii) de verschillende sancties, waaronder hoge administratieve boetes, die de entiteiten boven het hoofd hangen bij niet-naleving van de AIA, raden wij u aan om meteen actie te ondernemen en om reeds in overeenstemming met de AIA te handelen. Zo kunt u bijvoorbeeld al uw AI-systemen inventariseren, uw rol ten aanzien van AI-systemen bepalen, de impact van alle toepasselijke regelgeving beoordelen (niet alleen AIA maar ook bv. de AVG), de nodige documentatie en beleidslijnen opstellen en alle andere vereisten van de AIA implementeren bij de (verdere) ontwikkeling van uw AI-systemen.

Door Anneleen Van de Meulebroucke en Ellen Caen, Eubelius

Ontdek al onze artikelen over artficiële intelligentie op Larcier-Intersentia's AI-Hub.

Abonneer u op onze nieuwsbrief om op de hoogte te blijven van de nieuwste AI-trends, inzichten in de sector en relevante inhoud over het belang van AI voor uw beroep.