AI ACT: belangrijkste beginselen

De AI Act is op 1 augustus 2024 in werking getreden en zal in augustus 2027 volledig van kracht zijn. De eerste verplichtingen treden echter al op 2 februari 2025 in werking, met name de AI-geletterdheid en het verbod op bepaalde hoog risico AI-systemen.

De AI Act is van toepassing op:

• Aanbieders die AI-systemen ontwikkelen en in de handel brengen;
• Gebruikers die verantwoordelijk zijn voor het inzetten van deze systemengebruik maken;
• Niet-EU ondernemingen die AI-diensten aanbieden binnen de EU.

De Europese Commissie heeft de Europese Raad voor Artificiële Intelligentie (European Artificial Intelligence Board of de ‘AI-board’) opgericht. Dit orgaan speelt een cruciale rol in de uitvoering van de AI Act en fungeert als het centrale coördinerende orgaan voor AI-beleid op EU-niveau. De AI-board wordt ondersteund door het AI-bureau door middel van:

• Organisatie van vergaderingen;
• Opstellen van agenda’s;
• Onderhoud van een centraal informatieplatform;
• Coördinatie van nationale toezichthouders; en
• Ontwikkeling van richtsnoeren en beste praktijken.

AI-geletterdheid

Vanaf 2 februari 2025 moeten ondernemingen zorgen voor voldoende AI-geletterdheid onder werknemers die betrokken zijn bij AI-gerelateerde processen. Dit betekent dat aanbieders en gebruikers van AI-systemen ervoor moeten zorgen dat hun personeel en andere personen die namens hen AI-systemen gebruiken, AI-geletterd zijn.

De mate van vereiste AI-geletterdheid wordt bepaald door de technische kennis en ervaring van de betrokkene, gevolgde opleidingen en trainingen, en de specifieke context waarin de AI-systemen worden gebruikt. Ook de rol en verantwoordelijkheden van de betrokken persoon spelen hierin een belangrijke rol. Om de AI-geletterdheid te waarborgen, dienen ondernemingen gerichte trainingen aan te bieden en een Beleid Verantwoord AI-gebruik te implementeren. Dit moet worden ondersteund door regelmatige kennistoetsing en bijscholing. Het is belangrijk dat alle trainingen en competenties goed worden gedocumenteerd en dat er AI-verantwoordelijken binnen de organisatie worden aangesteld.

Verboden praktijken

Ondernemingen moeten waarborgen dat verboden AI-systemen niet worden gebruikt binnen de organisatie. De AI Act hanteert hiervoor een risico gebaseerde benadering waarbij systemen worden ingedeeld in verschillende risicocategorieën. Hieronder treft u een overzicht van de verschillende AI-systemen, gaande van een onaanvaardbaar tot minimaal risico. De AI-toepassingen die een categorie met een onaanvaardbaar risico omvat systemen die vanaf 2 februari 2025 verboden zijn.

Op het ontwikkelen of gebruiken van verboden AI-systemen staan administratieve geldboetes tot 35 miljoen euro, of tot 7% van de totale wereldwijde jaarlijkse omzet van de onderneming, als dat hoger is.

De verplichtingen met betrekking tot de AI-systemen met een hoog risico (risicobeheer/data governance/cyberbeveiliging/…) en de transparantieverplichtingen voor bepaalde AI-systemen treden vanaf augustus 2026 in werking.

In augustus 2027 zal de verordening volledig van kracht zijn.

Stappenplan

Om te voldoen aan de EU AI Act moet vanaf februari 2025 een gedegen risicobeoordeling uitgevoerd worden van alle AI-systemen binnen de organisatie.

Stap 1: Risicoanalyse uitvoeren

• Voer een uitgebreide risicoanalyse uit van alle AI-systemen binnen de organisatie. Identificeer en categoriseer systemen volgens de risiconiveaus.

Stap 2: Transparantie en documentatie

• Zorg voor volledige documentatie van alle AI-systemen. Dit omvat technische documentatie, risicobeoordelingen en transparantieverslagen.
• Transparantie is een kernvereiste van de AI Act. Ontwikkel een documentbeheersysteem voor compliance.

Stap 3: AI-geletterdheid bevorderen

• Organiseer trainingen en workshops om AI-geletterdheid onder werknemers te bevorderen. Zorg ervoor dat iedereen die betrokken is bij AI-processen voldoende kennis heeft over verantwoord AI-gebruik.
• Meet en evalueer de effectiviteit van de trainingen.
• Zorg continue voor bijscholing.

Stap 4: Implementeren van een Beleid Verantwoordelijk AI-gebruik

• Ontwikkel en implementeer een Beleid Verantwoordelijk AI-gebruik dat richtlijnen biedt voor het gebruik van AI binnen het bedrijf.
• Definieer rollen en verantwoordelijkheden.
• Implementeer controlemechanismen.
• Zorg voor regelmatige evaluatie en updates.
• Dit helpt bij het waarborgen van ethisch en verantwoord gebruik van AI-systemen en voldoet aan de vereisten van de AI Act.

Stap 5: Monitoring en Bijsturing

• Stel een systeem op voor continue monitoring en bijsturing van AI-processen. Zorg ervoor dat AI-systemen regelmatig worden geëvalueerd en aangepast indien nodig.
• Voer regelmatige audits uit.
• Stel KPI’s op voor compliance.
• Ontwikkel een incidentresponsprocedure.
• Dit zorgt ervoor dat je bedrijf voortdurend in overeenstemming blijft met de AI Act en snel kan reageren op eventuele veranderingen of nieuwe vereisten.

Bronnen:

1. Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie)Voor de EER relevante tekst.
2. Compilation_AI_Literacy_Practices_I5gpO7ZeUCvjFN9mnftm42pyjVQ_112203.pdf
3. European AI Office | Shaping Europe’s digital future
4. AI Board | Shaping Europe’s digital future