Update over de AI-verordening: AI-geletterdheid en definitie van AI-systemen
14 maart 2025
De eerste reeks bepalingen uit de Verordening Atificiële Antelligentie (de AI-verordening) is op 2 februari 2025 van kracht geworden. Organisaties die artificiële intelligentie gebruiken of ontwikkelen moeten ervoor zorgen dat hun werknemers 'AI-geletterd' zijn. De Autoriteit Persoonsgegevens (de AP) en het Europees Bureau voor Artificiële Intelligentie (het AI-bureau) hebben een leidraad en best practices over AI-geletterdheid opgesteld. Daarnaast heeft de Europese Commissie richtsnoeren voor het definiëren van AI-systemen gepubliceerd.
AP-leidraad over AI-geletterdheid
De AP heeft een leidraad opgesteld voor het ontwikkelen van een meerjarig actieplan om AI-geletterdheid binnen organisaties te bevorderen. Zij pleit voor een strategische en langdurige aanpak en benadrukt daarbij dat er geen 'one size fits all'-oplossing is, omdat belangrijk is in welke context de AI-systemen worden ingezet. AI-geletterdheid gaat onder meer over de technische, ethische, sociale en praktische aspecten van AI-systemen.
Hoe groter de risico's van AI-systemen, hoe hoger het vereiste niveau van AI-geletterdheid van personeel. De benodigde kennis, vaardigheden en begrip zijn afhankelijk van de rol die de werknemer heeft, de context waarin het AI-systeem wordt ingezet en de (financiële) mogelijkheden die de organisatie heeft. Voor de uitvoering van een meerjarig actieplan moet de organisatie een plan op bestuurlijk niveau vaststellen, dat van budget voorzien, de organisatorische verantwoordelijkheid en regie vastleggen en periodieke voortgangsmomenten inbouwen.Het meerjarig actieplan bestaat uit vier stappen:
1. Identificeren
- Maak een inventarisatie van alle AI-systemen binnen de organisatie, met inbegrip van de bijbehorende risico's, kansen en effecten op de samenleving.
- Documenteer betrokken AI-personeel en hun rollen.
- Voer met behulp van een enquête of gesprekken een nulmeting uit van de algemene kennis en vaardigheden van medewerkers op technische, sociale, ethische en praktische punten. Met deze resultaten wordt het kennisniveau bij aanvang in kaart gebracht, zodat in de evaluatiefase een goed beeld van de ontwikkeling van AI-geletterdheid kan worden verkregen.
2. Doel bepalen
- Bepaal doelen en prioriteiten voor AI-geletterdheid op basis van het risiconiveau van de gebruikte systemen.
- Bekijk per betrokken medewerker welke kennis en tools er nodig zijn om het AI-systeem verantwoord te gebruiken.
- De medewerkers die met AI-systemen werken moeten over voldoende kennis beschikken om te weten wat de risico's zijn en hoe het AI-systeem werkt.
- Andere medewerkers, die er niet mee werken, moeten er slechts van op de hoogte zijn dat er AI-systemen worden ingezet en waarom.
- Stel de beoogde doelstellingen en belegde verantwoordelijkheden vast zodat dit voor iedereen binnen de organisatie duidelijk is.
3. Uitvoeren
- Bepaal en implementeer strategieën en acties, zoals trainingen om bewustzijn te creëren ten aanzien van de ethische, technische en juridische aspecten van AI-systemen. Bied specialisatietrainingen aan voor medewerkers die actief met AI-systemen werken.
- Evalueer het niveau van AI-geletterdheid onder medewerkers, feedbackmechanismes en residuele risico's.
4. Evalueren
- Analyseer regelmatig of de doelstellingen met betrekking tot AI-geletterdheid worden gehaald en evalueer of de training effect heeft.
- Evalueer het niveau van AI-geletterdheid onder medewerkers, feedbackmechanismes en residuele risico's.
Door de structurele en op maat gemaakte aanpak in het meerjarig actieplan te volgen, kunnen organisaties de AI-geletterdheid van hun medewerkers naar een hoger niveau tillen en zo een verantwoorde inzet van AI-systemen zekerstellen. Met deze strategische en langdurige aanpak kunnen organisaties zich een weg blijven vinden in de complexe wereld van AI-systemen en de algemene AI-geletterdheid vergroten.
Europees AI-bureau: AI-geletterdheid best practices
Het Europees AI-bureau heeft een Living Repository of AI Literacy Practices gepubliceerd, waarin voorbeelden zijn opgenomen om organisaties op weg te helpen bij de implementatie van het AI-geletterdheidsvereiste.
In dit register worden de AI-geletterdheidsinitiatieven van verschillende organisaties beschreven, waarbij onder meer aandacht wordt gegeven aan de technische kennis en vereiste training, de context waarin AI wordt ingezet, en de gevolgen en bewaking van initiatieven op het gebied van AI-geletterdheid. Ook wordt ingegaan op de uitdagingen en problemen waarvoor de organisaties zich gesteld zien en hun toekomstplannen om de AI-geletterdheid te vergroten.
In de reacties van organisaties wordt benadrukt dat verschillende soorten training moeten worden gegeven, variërend van bewustzijn tot technische trainingen. Deze programma's zijn toegespitst op de verschillende manieren waarop AI binnen de organisaties wordt ingezet en sluiten aan bij de verschillende kennisniveaus van medewerkers met betrekking tot AI. De meeste conforme organisaties bieden ook een basistraining aan als nulmeting van de vaardigheden van medewerkers. Deze trainingen zijn grotendeels gekoppeld aan de activiteiten waarbij binnen de onderneming gebruik wordt gemaakt van AI-tools. De behandelde uitdagingen betroffen de snelle technologische verandering en de integratie van nieuwe tools. Om de doeltreffendheid van initiatieven op het gebied van AI-geletterdheid te beoordelen, maken organisaties gebruik van key performance indicators en feedbackmechanismes.
Hoewel in het register geen 'one size fits all'-model voor de uitvoering van een AI-geletterdheidprogramma is opgenomen, kunnen de voorbeelden voor organisaties wel als uitgangspunt dienen.
In artikel 3 lid 1 van de AI-verordening wordt AI-systeem gedefinieerd als "een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen".
Deze definitie heeft betrekking op zowel de fase voor als na het inzetten van het systeem en omvat zeven elementen, die niet onafgebroken in beide fases aanwezig hoeven te zijn. Het gaat daarbij om de volgende elementen:
1. Op een machine gebaseerd systeem
AI-systemen hebben hardware- en softwarecomponenten nodig om te kunnen functioneren. Deze machines zijn van essentieel belang voor het trainen van modellen, verwerken van gegevens en besluitvorming. Dit begrip omvat tevens een grote verscheidenheid aan rekenhulpsystemen, zoals kwantumcomputers en biologische systemen, als deze rekenhulpcapaciteit bieden.
2. Verschillende niveaus van autonomie
Verschillende niveaus van autonomie houdt in dat AI-systemen een zekere mate van onafhankelijkheid van directe of indirecte menselijke betrokkenheid bezitten en zonder menselijke tussenkomst kunnen functioneren. Autonomie en inferentie (zoals in de volgende alinea over 'aanpassingsvermogen' wordt toegelicht) zijn nauw met elkaar verbonden, omdat het kunnen genereren van output zoals voorspellingen en beslissingen de sleutel vormt tot autonomie. Systemen die ontworpen zijn om volledig handmatig te worden gebruikt, zijn van deze definitie uitgesloten. Voor AI-systemen die met beperkte of zonder menselijke tussenkomst kunnen functioneren zijn aanvullende maatregelen voor risicobeheersing en menselijk toezicht nodig.
3. Aanpassingsvermogen
Volgens overweging 12 van de AI-verordening heeft 'aanpassingsvermogen' betrekking op de zelflerende capaciteiten van een systeem, waardoor het systeem tijdens het gebruik zijn gedrag kan veranderen. Daardoor kan het aangepaste systeem met dezelfde input tot verschillende resultaten komen ten opzichte van zijn eerdere gedrag. Niet verplicht is echter dat een AI-systeem na inzet ervan over aanpassingsvermogen of zelflerende capaciteiten beschikt.
4. Expliciete of impliciete doelstellingen
AI-systemen worden met – expliciet vermelde of impliciet afgeleide – doelstellingen ontwikkeld. Expliciete doelstellingen zijn kenbaar gemaakte doelen, die duidelijk worden gecodeerd. Impliciete doelstellingen komen voort uit trainingsdata of de wisselwerking tussen het systeem en zijn omgeving. Deze doelstellingen zijn inherent aan het AI-systeem zelf en houden verband met de doelen van de taken waarvoor het systeem is ontworpen en de resultaten die het moet produceren.
5. Output generen met ontvangen input
Het vijfde element heeft betrekking op het genereren van output door het systeem op basis van wat het uit inputdata afleidt. Hiermee onderscheiden AI-systemen zich van eenvoudigere traditionele software. Dit inferentievermogen slaat op het produceren van output zoals voorspellingen en aanbevelingen op basis van input, een belangrijke eigenschap van AI-systemen. Bij dit proces wordt onder meer gebruikgemaakt van technieken als machinaal leren en op logica gebaseerde benaderingen. Methodes van machinaal leren zijn onder meer supervised, unsupervised, self-supervised, reinforcement of deep learning. Bij op logica gebaseerde benaderingen wordt iets geïnfereerd uit door menselijke experts gecodeerde kennis. AI-systemen moeten inferentie tonen om als AI te worden aangemerkt, met verschillende gebruikte technieken tijdens de opbouw- en gebruiksfases. Daarmee wordt ervoor gezorgd dat het systeem autonoom en met aanpassingsvermogen output kan afleiden om complexe taken en besluitvormingsprocessen te ondersteunen.
Systemen die uitsluitend op basis van door mensen gedefinieerde regels werken – zoals wiskundige optimalisatiesystemen, systemen voor de elementaire verwerking van data, klassieke heuristische systemen en eenvoudige voorspellende systemen – vallen buiten de reikwijdte van de AI-verordening. Deze systemen zijn niet in staat om autonoom patronen te analyseren of output aan te passen.
6. Produceert voorspellingen, inhoud, aanbevelingen of beslissingen
AI-systemen onderscheiden zich van traditionele software doordat ze voorspellingen, inhoud, aanbevelingen of beslissingen kunnen produceren, wat het belang onderstreept van het genereren van gevarieerde output op basis van input. AI-systemen kunnen op basis van input vier soorten output genereren: voorspellingen, waarbij met minimale menselijke betrokkenheid een schatting van resultaten wordt gegeven; inhoud, waarbij nieuw materiaal wordt gegenereerd; aanbevelingen, waarbij op basis van gebruikersdata handelingen of beslissingen worden voorgesteld; en beslissingen, oftewel geautomatiseerde keuzes zonder menselijke tussenkomst.
7. Is van invloed op omgevingen
Het laatste element van AI-systemen gaat over 'actieve' systemen, die gevolgen hebben voor zowel tastbare objecten (zoals een zelfrijdende auto) als virtuele omgevingen (zoals het ingebouwde navigatiesysteem van de auto).
Meer weten over de gevolgen van de AI-verordening voor uw organisatie? Neem dan contact op met Thomas de Weerd, Jurre Reus of Lucy de Graaf.
In dit register worden de AI-geletterdheidsinitiatieven van verschillende organisaties beschreven, waarbij onder meer aandacht wordt gegeven aan de technische kennis en vereiste training, de context waarin AI wordt ingezet, en de gevolgen en bewaking van initiatieven op het gebied van AI-geletterdheid. Ook wordt ingegaan op de uitdagingen en problemen waarvoor de organisaties zich gesteld zien en hun toekomstplannen om de AI-geletterdheid te vergroten.
In de reacties van organisaties wordt benadrukt dat verschillende soorten training moeten worden gegeven, variërend van bewustzijn tot technische trainingen. Deze programma's zijn toegespitst op de verschillende manieren waarop AI binnen de organisaties wordt ingezet en sluiten aan bij de verschillende kennisniveaus van medewerkers met betrekking tot AI. De meeste conforme organisaties bieden ook een basistraining aan als nulmeting van de vaardigheden van medewerkers. Deze trainingen zijn grotendeels gekoppeld aan de activiteiten waarbij binnen de onderneming gebruik wordt gemaakt van AI-tools. De behandelde uitdagingen betroffen de snelle technologische verandering en de integratie van nieuwe tools. Om de doeltreffendheid van initiatieven op het gebied van AI-geletterdheid te beoordelen, maken organisaties gebruik van key performance indicators en feedbackmechanismes.
Hoewel in het register geen 'one size fits all'-model voor de uitvoering van een AI-geletterdheidprogramma is opgenomen, kunnen de voorbeelden voor organisaties wel als uitgangspunt dienen.
Leidraad Europese Commissie voor het definiëren van AI-systemen
De definitie van AI-systemen is complex en omvat talrijke elementen. De Europese Commissie heeft onlangs een leidraad gepubliceerd over welke uitleg aan deze verschillende elementen kunnen worden gegeven.In artikel 3 lid 1 van de AI-verordening wordt AI-systeem gedefinieerd als "een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen".
Deze definitie heeft betrekking op zowel de fase voor als na het inzetten van het systeem en omvat zeven elementen, die niet onafgebroken in beide fases aanwezig hoeven te zijn. Het gaat daarbij om de volgende elementen:
1. Op een machine gebaseerd systeem
AI-systemen hebben hardware- en softwarecomponenten nodig om te kunnen functioneren. Deze machines zijn van essentieel belang voor het trainen van modellen, verwerken van gegevens en besluitvorming. Dit begrip omvat tevens een grote verscheidenheid aan rekenhulpsystemen, zoals kwantumcomputers en biologische systemen, als deze rekenhulpcapaciteit bieden.
2. Verschillende niveaus van autonomie
Verschillende niveaus van autonomie houdt in dat AI-systemen een zekere mate van onafhankelijkheid van directe of indirecte menselijke betrokkenheid bezitten en zonder menselijke tussenkomst kunnen functioneren. Autonomie en inferentie (zoals in de volgende alinea over 'aanpassingsvermogen' wordt toegelicht) zijn nauw met elkaar verbonden, omdat het kunnen genereren van output zoals voorspellingen en beslissingen de sleutel vormt tot autonomie. Systemen die ontworpen zijn om volledig handmatig te worden gebruikt, zijn van deze definitie uitgesloten. Voor AI-systemen die met beperkte of zonder menselijke tussenkomst kunnen functioneren zijn aanvullende maatregelen voor risicobeheersing en menselijk toezicht nodig.
3. Aanpassingsvermogen
Volgens overweging 12 van de AI-verordening heeft 'aanpassingsvermogen' betrekking op de zelflerende capaciteiten van een systeem, waardoor het systeem tijdens het gebruik zijn gedrag kan veranderen. Daardoor kan het aangepaste systeem met dezelfde input tot verschillende resultaten komen ten opzichte van zijn eerdere gedrag. Niet verplicht is echter dat een AI-systeem na inzet ervan over aanpassingsvermogen of zelflerende capaciteiten beschikt.
4. Expliciete of impliciete doelstellingen
AI-systemen worden met – expliciet vermelde of impliciet afgeleide – doelstellingen ontwikkeld. Expliciete doelstellingen zijn kenbaar gemaakte doelen, die duidelijk worden gecodeerd. Impliciete doelstellingen komen voort uit trainingsdata of de wisselwerking tussen het systeem en zijn omgeving. Deze doelstellingen zijn inherent aan het AI-systeem zelf en houden verband met de doelen van de taken waarvoor het systeem is ontworpen en de resultaten die het moet produceren.
5. Output generen met ontvangen input
Het vijfde element heeft betrekking op het genereren van output door het systeem op basis van wat het uit inputdata afleidt. Hiermee onderscheiden AI-systemen zich van eenvoudigere traditionele software. Dit inferentievermogen slaat op het produceren van output zoals voorspellingen en aanbevelingen op basis van input, een belangrijke eigenschap van AI-systemen. Bij dit proces wordt onder meer gebruikgemaakt van technieken als machinaal leren en op logica gebaseerde benaderingen. Methodes van machinaal leren zijn onder meer supervised, unsupervised, self-supervised, reinforcement of deep learning. Bij op logica gebaseerde benaderingen wordt iets geïnfereerd uit door menselijke experts gecodeerde kennis. AI-systemen moeten inferentie tonen om als AI te worden aangemerkt, met verschillende gebruikte technieken tijdens de opbouw- en gebruiksfases. Daarmee wordt ervoor gezorgd dat het systeem autonoom en met aanpassingsvermogen output kan afleiden om complexe taken en besluitvormingsprocessen te ondersteunen.
Systemen die uitsluitend op basis van door mensen gedefinieerde regels werken – zoals wiskundige optimalisatiesystemen, systemen voor de elementaire verwerking van data, klassieke heuristische systemen en eenvoudige voorspellende systemen – vallen buiten de reikwijdte van de AI-verordening. Deze systemen zijn niet in staat om autonoom patronen te analyseren of output aan te passen.
6. Produceert voorspellingen, inhoud, aanbevelingen of beslissingen
AI-systemen onderscheiden zich van traditionele software doordat ze voorspellingen, inhoud, aanbevelingen of beslissingen kunnen produceren, wat het belang onderstreept van het genereren van gevarieerde output op basis van input. AI-systemen kunnen op basis van input vier soorten output genereren: voorspellingen, waarbij met minimale menselijke betrokkenheid een schatting van resultaten wordt gegeven; inhoud, waarbij nieuw materiaal wordt gegenereerd; aanbevelingen, waarbij op basis van gebruikersdata handelingen of beslissingen worden voorgesteld; en beslissingen, oftewel geautomatiseerde keuzes zonder menselijke tussenkomst.
7. Is van invloed op omgevingen
Het laatste element van AI-systemen gaat over 'actieve' systemen, die gevolgen hebben voor zowel tastbare objecten (zoals een zelfrijdende auto) als virtuele omgevingen (zoals het ingebouwde navigatiesysteem van de auto).
Meer weten over de gevolgen van de AI-verordening voor uw organisatie? Neem dan contact op met Thomas de Weerd, Jurre Reus of Lucy de Graaf.
Written by:
