De Europese AI-verordening (AI Act) is op 1 augustus 2024 in werking getreden en geldt voor iedere organisatie die AI ontwikkelt, toepast of gebruikt binnen de EU. Daarmee raken de regels niet alleen technologiebedrijven, maar ook onderwijsinstellingen: als onderwijsinstelling kom je vroeg of laat in aanraking met AI-systemen.
In de praktijk maken veel onderwijsinstellingen al gebruik van artificiële intelligentie zonder dat ze het altijd beseffen: een adaptief leermiddel dat oefenstof personaliseert, een proctoringtool, of een taalmodel dat docenten en leerlingen ondersteunt bij schrijven of vertalen. Al dit soort AI-toepassingen vallen onder de reikwijdte van de verordening.
Risicoclassificering van AI-systemen
Sommige AI-systemen brengen een onaanvaardbaar risico met zich mee. Dit soort AI-systemen zijn dan ook verboden en mogen niet gebruikt worden. Daarnaast kent de verordening nog andere risicocategorieën. Vooral hoog-risico AI-systemen (AI-systemen die risico’s meebrengen voor de gezondheid, veiligheid of fundamentele rechten van personen) brengen extra verplichtingen met zich mee. Een voorbeeld van zo’n hoogrisicotoepassing van AI-systemen binnen het onderwijs is een AI-systeem dat aan de hand van motivatiebrieven van lerende(n) toelating bij een opleiding beoordeeld. Maar ook bij AI-systemen die minder risicovol zijn, zul je aan transparantie verplichtingen moeten voldoen.
Als onderwijsinstelling zul je dus moeten gaan inventariseren welke AI-systemen er gebruikt worden binnen de organisatie en de systemen ook correct moeten classificeren. Daarbij is het belangrijk om goed na te gaan welke rol de organisatie heeft: meestal ben je geen aanbieder, maar een gebruiksverantwoordelijke (de partij die AI inzet binnen de onderwijsinstelling). De Gids AI-verordening van de Rijksoverheid bespreekt vier stappen die je kunt volgen:
Stap 1 (Risico): Valt ons (AI-)systeem binnen één van de risicocategorieën?
Stap 2 (AI): Is ons systeem ‘AI’ volgens de AI-verordening?
Stap 3 (Rol): Zijn wij de aanbieder of gebruiksverantwoordelijke van het AI-systeem?
Stap 4 (Verplichtingen): Aan welke verplichtingen moeten wij ons houden?
AI-geletterdheid: een nieuwe basisvaardigheid in het onderwijs
Artikel 4 van de AI-verordening stelt dat zowel aanbieders als gebruiksverantwoordelijken moeten zorgen voor een toereikend niveau van AI-geletterdheid bij de mensen die AI-systemen gebruiken of beheren. Dat betekent concreet dat de AI Act onderwijsinstellingen verplicht om hun medewerkers (en waar relevant ook studenten) kennis, vaardigheden en bewustzijn bij te brengen om AI verantwoord te gebruiken. Zo is het bijvoorbeeld belangrijk dat een docent aan de universiteit die generatieve AI gebruikt voor het voorbereiden van lesmateriaal, zich voldoende bewust is van de wijze waarop de informatie tot stand komt en zich realiseert dat een AI-systeem vooroordelen en onjuiste informatie kan bevatten.
Er is geen ‘one-size-fits-all’ -set aan maatregelen die zorgt voor een toereikend niveau van AI-geletterdheid, maar de bedoeling is helder: wie AI inzet, moet begrijpen wat het systeem doet, welke risico’s er zijn en waar menselijke controle nodig blijft.
De handreiking Aan de slag met AI-geletterdheid en het vervolg daarop (Verder bouwen aan AI-geletterdheid) van de Autoriteit Persoonsgegevens bieden praktische handvatten die onderwijsinstelling kunnen volgen.
Hoe geef je AI-geletterdheid vorm in de praktijk?
Er is geen blauwdruk of checklist: de Europese wetgever schrijft bewust geen vaste cursus of trainingsformat voor. De mate van AI-geletterdheid zal moeten aansluiten bij de context en rollen waarin mensen met AI-systemen werken of te maken hebben. Begin bij een nulmeting: gebruik bijvoorbeeld een vragenlijst om het huidige kennisniveau over de inzet van AI van de medewerkers organisatiebreed vast te leggen.
Sluit aan bij bestaande programma’s
AI-geletterdheid hoeft geen los programma te zijn. Bij medewerkers kan AI-geletterdheid worden geïntegreerd bij het werken aan ICT-bekwaamheid, voor studenten kun je aansluiten bij het werken aan digitale geletterdheid (volgens Kennisnet, Hoe bereid je je als school voor op AI-geletterdheid?).
Maak AI-geletterdheid structureel
AI-geletterdheid moet je echt zien als een doorlopende verplichting, en dus niet een eenmalige training voor medewerkers en studenten. Nieuwe software, veranderende functies en voortschrijdende inzichten vragen om voortdurende bijstelling.
Het is dus van belang om te blijven werken aan voldoende AI-geletterdheid binnen de organisatie.
Van naleving naar onderwijsontwikkeling
De verplichting tot AI-geletterdheid is juridisch gezien een compliance-eis, maar inhoudelijk raakt ze aan de kern van wat goed onderwijs is: studenten en medewerkers voorbereiden op een samenleving waarin het gebruik van AI niet meer weg te denken is.
Wie AI écht begrijpt, gebruikt het bewuster. En wie die kennis weer goed kan overbrengen op studenten en medewerkers, vergroot hun digitale weerbaarheid en kritisch denkvermogen.
Tot slot
De AI-verordening brengt een nieuwe fase in de digitalisering van het onderwijs. De nadruk verschuift van technische innovatie naar verantwoord gebruik. Wie nu serieus aan de slag gaat met de verplichtingen uit de AI-verordening, voldoet niet alleen aan de wet, maar legt ook de basis voor toekomstbestendig onderwijs.
Heb je vragen over de gevolgen van de AI-verordening binnen jouw organisatie? We denken graag met je mee.
