Welke toepassingen vallen onder de AI Act?
De AI Act is niet van toepassing op alle toepassingen van kunstmatige intelligentie, maar uitsluitend op systemen die voldoen aan de juridische definitie van een ‘AI-systeem’ zoals vastgelegd in artikel 3, lid 1 van de verordening. De AI Act hanteert een risicogebaseerde benadering: de verplichtingen hangen af van het risico dat een AI-systeem kan opleveren.
In het onderwijs en onderzoek kan AI op uiteenlopende manieren worden ingezet, waarbij elk gebruik een ander risicoprofiel kent. Denk aan:
- AI in administratieve processen, zoals systemen die studievoortgang analyseren, toelatingstrajecten ondersteunen of personeelsselectie automatiseren.
- AI in het leerproces, bijvoorbeeld adaptieve leermiddelen, toetsplatforms en studentvolgsystemen die gedrag of prestaties voorspellen.
- AI in onderzoek, waar algoritmen worden gebruikt voor data-analyse, patroonherkenning en het ontwikkelen of trainen van nieuwe modellen.
- Gebruik door studenten en docenten, zoals taalmodellen, chatbots of beeldgeneratietools die worden ingezet voor schrijfopdrachten, lesmateriaal of vertalingen.
- Ontwikkeling van AI binnen universiteiten of onderzoeksinstellingen, bijvoorbeeld bij het bouwen van eigen algoritmen of het doorontwikkelen van bestaande AI-modellen.
Of een specifieke toepassing daadwerkelijk onder de AI Act valt, hangt af van hoe het systeem functioneert (leidt het zelfstandig beslisregels af, of volgt het enkel vaste instructies?) en met welk doel het wordt ingezet. Juist dat onderscheid bepaalt of een onderwijsinstelling als aanbieder of gebruiker van AI wordt gezien en dus welke verplichtingen van toepassing zijn (lees meer over de specifieke verplichtingen voor aanbieders van AI-systemen).
Risicoclassificatie van AI in het onderwijs
De AI Act hanteert, zoals we al even aangaven, een risicogebaseerde benadering. Voor onderwijsinstellingen betekent dit in de praktijk dat je per AI-systeem moet bepalen in welke risicocategorie het valt. Pas dan wordt duidelijk aan welke juridische verplichtingen en compliance-eisen je moet voldoen.
De verordening onderscheidt vier risiconiveaus: van onaanvaardbaar risico (zoals manipulatieve gedragssturing of onrechtmatige biometrie) tot minimaal risico, waarvoor geen formele eisen gelden.
De categorie hoogrisico-AI omvat toepassingen die directe invloed kunnen hebben op rechten van individuen, zoals toegang tot onderwijs of beoordeling van prestaties. In juridische zin zijn deze gedefinieerd in artikel 6 van de AI Act, in samenhang met bijlage I en III. In bijlage III zijn acht domeinen benoemd waarin het gebruik van AI als bijzonder gevoelig wordt beschouwd, met concrete voorbeelden per sector. Voor deze hoogrisicocategorie gelden uitgebreide verplichtingen op het gebied van datakwaliteit, toezicht, documentatie en transparantie.
Let op: onderwijsinstellingen moeten er rekening mee houden dat AI-ondersteunde beoordelings-, selectie- en besluitvormingssystemen, bijvoorbeeld toelatingsprocedures of geautomatiseerde toetsanalyse, doorgaans als hoog risico worden aangemerkt en dus aan deze zwaardere eisen moeten voldoen.
Maar ook systemen met een beperkt risico, zoals chatbots of taaltools, vallen onder transparantieverplichtingen: studenten moeten duidelijk worden geïnformeerd wanneer zij met een AI-systeem communiceren.
Een juiste classificatie vraagt om een zorgvuldige juridische analyse. Veel toepassingen lijken op het eerste gezicht laagdrempelig, maar vallen bij nadere analyse toch onder de zwaardere verplichtingen van de AI Act.
Wanneer treedt de AI Act in werking?
De AI Act wordt gefaseerd ingevoerd en is volledig van toepassing vanaf 2 augustus 2027.
- Sinds 2 februari 2025 gelden de eerste onderdelen van de verordening, waaronder de verboden toepassingen, de definities en de regels over AI-geletterdheid.
- Op 2 augustus 2025 zijn de bepalingen over governance en de verplichtingen voor zogenoemde general-purpose AI-modellen (GPAI) in werking getreden.
- Vanaf 2 augustus 2026 volgen de verplichtingen voor hoogrisico-AI-systemen (zoals genoemd in Bijlage III), de transparantie-eisen uit artikel 50 en de maatregelen die innovatie moeten stimuleren. Vanaf dat moment start ook de handhaving van de AI Act.
- Uiterlijk op 2 augustus 2027 worden de verplichtingen van kracht voor hoogrisico-AI-systemen die onderdeel zijn van gereguleerde producten, genoemd in Bijlage I van de verordening.
Ethisch en verantwoord AI-gebruik
De Europese Commissie benadrukt in haar Ethical Guidelines on the Use of AI and Data in Teaching and Learning (2022) dat naleving van de AI Act hand in hand gaat met ethische verantwoordelijkheid. Scholen en andere onderwijsinstellingen moeten kunnen aantonen dat zij AI inzetten op een manier die recht doet aan menselijke controle, transparantie, rechtvaardigheid, privacy en veiligheid.
De richtlijnen benoemen zeven kernprincipes voor trustworthy AI: menselijke tussenkomst, transparantie, diversiteit, privacy, maatschappelijke impact, technische veiligheid en verantwoording. Deze sluiten nauw aan op de verplichtingen uit de AI Act en kunnen worden gebruikt als kader voor intern AI-beleid of gedragscodes.
AI en onderzoek binnen het onderwijs
De AI Act maakt een belangrijk onderscheid tussen onderzoek en praktische toepassing van kunstmatige intelligentie. AI-systemen of -modellen die uitsluitend worden ontwikkeld voor wetenschappelijk onderzoek, testen of experimentele ontwikkeling, vallen in beginsel buiten het toepassingsbereik van de verordening (artikel 2, lid 8). Met deze uitzondering wil de Europese wetgever innovatie bevorderen en de wetenschappelijke vrijheid waarborgen, zonder het onderzoeksproces onnodig te beperken.
Voor onderwijs- en onderzoeksinstellingen betekent dit dat zij binnen onderzoeksprojecten vaak vrijgesteld zijn van de reguliere verplichtingen van de AI Act zolang de AI niet wordt gebruikt in de dagelijkse praktijk of commercieel wordt aangeboden.
Die uitzondering vervalt echter zodra een AI-systeem of -model op de markt wordt gebracht (bijvoorbeeld via licentie of distributie) of daadwerkelijk wordt ingezet binnen onderwijsprocessen. Vanaf dat moment gelden de volledige nalevingsverplichtingen van de AI Act, waaronder risicoclassificatie, documentatie, toezicht en transparantie.
Een praktisch voorbeeld: stel dat een hogeschool een AI-model ontwikkelt dat het studiesucces van studenten voorspelt op basis van studiegedrag en eerdere resultaten. Zolang dit model wordt getest met gesimuleerde of historische gegevens, valt het onder het onderzoeksvoorrecht. Maar zodra het model daadwerkelijk wordt gebruikt om studieadviezen te genereren of beslissingen te ondersteunen over begeleiding of toelating, geldt het als ‘in gebruik genomen’ en is de AI Act volledig van toepassing.
Hoewel onderzoeksactiviteiten dus een zekere vrijstelling kennen, blijft het essentieel dat instellingen ook in deze fase ethische normen, transparantie en wetenschappelijke integriteit waarborgen. Dat voorkomt juridische risico’s op de lange termijn en draagt bij aan verantwoord en toetsbaar AI-onderzoek binnen het onderwijs.
AI-geletterdheid als juridische verplichting
Artikel 4 van de AI Act verplicht organisaties om te zorgen voor voldoende AI-geletterdheid bij iedereen die met AI werkt. Dat betekent, kort gezegd, dat zowel medewerkers als studenten moeten begrijpen wat AI doet, welke risico’s er zijn en waar menselijke controle noodzakelijk blijft.
De Autoriteit Persoonsgegevens benadrukt dit in haar handreiking Verder bouwen aan AI-geletterdheid (2025). De AP ziet AI-geletterdheid als een compliance-eis en als onderdeel van goed bestuur. De toezichthouder kondigde bovendien aan dat zij in 2026 een landelijke uitvraag zal doen naar de status van AI-geletterdheid bij organisaties.
Hoe bereiden onderwijsinstellingen zich voor op de AI Act?
Een kant-en-klaar stappenplan bestaat niet, maar de richting is duidelijk. Onderwijsinstellingen doen er goed aan hun inzet van AI structureel te verankeren. Dat begint met een helder overzicht: welke AI-toepassingen worden gebruikt, welke beslissingen beïnvloeden ze en wie binnen de organisatie is verantwoordelijk?
Vervolgens is het van belang om beleid te ontwikkelen voor transparantie, datagebruik, toezicht en risicobeheersing, afgestemd op bestaande kaders voor privacy, informatiebeveiliging en academische integriteit.
Daarnaast vraagt de AI Act om een brede bewustwording binnen de organisatie. Bestuurders, docenten, onderzoekers en beleidsmedewerkers moeten begrijpen wat de juridische en ethische implicaties van AI zijn, en hoe deze zich vertalen naar de dagelijkse onderwijspraktijk.
Tot slot is het aan te raden dat instellingen juridische, technische en ethische expertise samenbrengen, bijvoorbeeld in multidisciplinaire werkgroepen, om duurzame en verantwoordelijke AI-toepassingen te waarborgen. Zo ontstaat niet alleen naleving, maar ook vertrouwen in de inzet van AI binnen het onderwijs en onderzoek.
AI Act: juridisch advies voor onderwijsinstellingen
De AI Act stelt nieuwe eisen aan de manier waarop onderwijsinstellingen AI mogen inzetten, van leermiddelen tot administratieve processen en onderzoeksprojecten. Onze AI-juristen helpen om deze verplichtingen te vertalen naar de praktijk.
Wij adviseren en begeleiden onder meer bij de analyse van AI-systemen, risicoclassificatie, beleidsontwikkeling, governance, compliance-documentatie en het versterken van AI-geletterdheid binnen de organisatie. Zo zorgen we dat naleving niet slechts een papieren exercitie wordt, maar een onderdeel van verantwoord onderwijsbeleid.
Heb je vragen over de toepassing van de AI Act binnen jouw instelling? Neem gerust contact op met onze AI-juristen.
