Het is niet verrassend dat deze vraag hoog op de agenda staat bij organisaties die AI ontwikkelen of inzetten.
Het grootste deel van de verplichtingen uit de AI Act richt zich immers op hoogrisico-systemen, en dat maakt de kwalificatie van een AI-toepassing extra belangrijk.
We schreven bij SenS juristen eerder over wat hoogrisico-AI precies inhoudt en wat de verplichtingen zijn voor AI-ontwikkelaars, maar in deze blog gaan we een stapje terug: hoe bepaal je nu eigenlijk of jouw AI in de hoogrisico categorie valt? De AI Act bevat daarvoor een reeks formele criteria. Maar in de praktijk blijkt die toets minder eenvoudig dan organisaties verwachten.
In deze blog lopen we stap voor stap door de formele criteria heen waarmee je bepaalt of een AI onder de hoogrisicocategorie van de AI Act valt.
Checklist om te bepalen of jouw AI-systeem hoog risico is onder de AI Act
Stap 1: Valt jouw toepassing binnen het toepassingsgebied van de AI Act?
De AI Act geldt zodra jouw toepassing op enige manier met de Europese markt is verbonden. Dat is het geval wanneer jouw AI-systeem in de EU op de markt wordt gebracht of in gebruik wordt gesteld, wanneer jouw organisatie zelf in de EU is gevestigd, wanneer de output van het systeem binnen de EU wordt toegepast, of wanneer een product dat jij onder jouw naam aanbiedt een AI-systeem bevat en in de EU wordt verkocht. Als een van deze situaties zich voordoet, valt jouw systeem binnen het toepassingsgebied van de AI Act.
Als jouw toepassing binnen de territoriale reikwijdte van de AI Act valt, ga dan door naar stap 2. Als dat niet zo is, stopt de beoordeling hier omdat jouw systeem buiten het toepassingsbereik van de AI Act valt.
Stap 2: Is het systeem uitgesloten en daarmee bij voorbaat buiten scope?
De AI Act is niet van toepassing op toepassingen die uitsluitend worden gebruikt voor militaire, defensie- of nationale veiligheidsdoeleinden, of die alleen worden ingezet in internationale rechtshandhavingssamenwerking met derde landen. Hetzelfde geldt voor systemen die enkel worden ontwikkeld of gebruikt voor wetenschappelijk onderzoek, of die zich nog in de onderzoeks-, test- of ontwikkelfase bevinden en nog niet op de markt worden gebracht.
Als jouw toepassing binnen een van deze uitgesloten categorieën valt, eindigt de beoordeling hier omdat het systeem buiten het bereik van de AI Act valt. Als dat niet zo is, ga dan door naar stap 3.
Stap 3: Voldoet jouw toepassing aan de wettelijke definitie van een AI-systeem?
Op dit punt gaat het erom of jouw toepassing in juridische zin als AI-systeem wordt aangemerkt. De AI Act gebruikt een technische definitie: het systeem moet op een machine draaien, zelfstandig kunnen opereren binnen een bepaalde bandbreedte, en na inzet in staat zijn om relaties of patronen uit input af te leiden. Op basis van dat afgeleide verband genereert het vervolgens output, zoals voorspellingen, aanbevelingen, gegenereerde inhoud of beslissingen die effect hebben op een digitale of fysieke omgeving.
In de praktijk draait de toets vooral om twee kenmerken. Het eerste is autonomie: doet het systeem méér dan het stap voor stap uitvoeren van vooraf ingestelde regels. Het tweede is inferentie: leidt het systeem zelf iets af uit de input om tot een resultaat te komen. Als beide aanwezig zijn, val je vrijwel zeker binnen de definitie van artikel 3(1).
Als jouw toepassing deze kenmerken heeft, wordt zij onder de AI Act beschouwd als een AI-systeem en ga je door naar stap 4. Als dat niet zo is, stopt de beoordeling hier omdat de AI Act dan niet van toepassing is.
Stap 4: Welke rol vervul jij onder de AI Act?
Voordat je kunt bepalen welke verplichtingen voor jouw organisatie gelden, moet duidelijk zijn in welke hoedanigheid je binnen de AI Act optreedt. Dat kan als aanbieder die een systeem onder eigen naam op de markt brengt, als gebruiker die het systeem onder eigen verantwoordelijkheid inzet, of als importeur, distributeur of gemachtigde vertegenwoordiger die een rol speelt in het beschikbaar stellen van de technologie. Ook wanneer je een product aanbiedt waarin een AI-systeem is geïntegreerd, word je juridisch als fabrikant gezien.
Deze kwalificatie bepaalt welke verplichtingen op jouw organisatie rusten, maar zegt nog niets over de risicocategorie van het systeem zelf. Zodra helder is welke rol jij vervult, ga je door naar stap 5.
Stap 5: Is het AI-systeem een verboden praktijk volgens artikel 5?
De AI Act kent een kleine categorie toepassingen die in geen enkele context is toegestaan. Het gaat om systemen die gedrag op manipulerende wijze beïnvloeden, kwetsbaarheden van personen benutten, vormen van sociaal scoren toepassen of individuele voorspellingen over criminaliteit doen wanneer die uitsluitend zijn gebaseerd op profilering. Ook het grootschalig verzamelen van gezichtsbeelden voor databanken valt hieronder, net als emotieherkenning op de werkvloer of in het onderwijs, behalve in strikt omschreven veiligheids situaties. Tot slot is realtime biometrische identificatie in de publieke ruimte voor opsporingsdoeleinden in principe verboden.
Als jouw systeem binnen een van deze verboden categorieën valt, stopt de beoordeling hier omdat de toepassing onder de AI Act simpelweg niet is toegestaan. Valt jouw systeem daar niet onder, ga dan door naar stap 6.
Stap 6: Valt jouw systeem onder productregelgeving in Bijlage I?
De AI-verordening houdt er nadrukkelijk rekening mee dat een technische toepassing zowel een AI-systeem kan zijn als onderdeel kan uitmaken van een product dat al onder bestaande EU-productveiligheidsregels valt. Denk aan medische apparatuur, industriële machines, voertuigen of zelfs speelgoed. Artikel 6(1) bepaalt dat een AI-systeem binnen deze categorie valt wanneer het zelf zo’n gereguleerd product is, of wanneer het een veiligheidscomponent vormt van dat product. De lijst in Bijlage I is breed en omvat twintig verschillende productregimes, wat betekent dat AI die in fysieke producten wordt geïntegreerd sneller binnen deze route terechtkomt dan organisaties vaak verwachten.
Als jouw systeem onder deze productregelgeving valt, ga dan door naar stap 7. Is dat niet het geval, sla stap 7 over en ga direct verder naar stap 8.
Stap 7: Is een derde-partij-conformiteitsbeoordeling (CE-keuring) verplicht?
Als jouw systeem onder een van de productregimes uit Bijlage I valt, komt hier een cruciale vervolgvraag: vereist het product waarvoor jouw AI-component wordt ingezet een conformiteitsbeoordeling door een onafhankelijke derde, zoals een notified body? Alleen in dat geval kwalificeert het AI-systeem als hoog risico op grond van artikel 6(1). Het gaat daarbij om producten waarbij de EU-regelgeving zelf al bepaalt dat een externe keuringsinstantie moet meekijken, omdat het product of de veiligheidsfunctie ervan een hoger risicoprofiel heeft. Wanneer jouw AI-toepassing precies zo’n veiligheidsfunctie vervult binnen dat product, treedt de hoog-risicoclassificatie automatisch in werking.
Als deze derde-partij-beoordeling verplicht is, wordt het systeem als hoog risico aangemerkt en eindigt de beoordeling hier. Is dat niet zo, dan is jouw AI-systeem volgens Bijlage I niet hoog risico en ga je verder met stap 8.
Stap 8: Valt jouw systeem binnen een hoog-risicodomein uit Bijlage III?
Als jouw systeem niet binnen de criteria van artikel 6(1) valt, volgt de tweede mogelijke route naar een hoog-risicoclassificatie: de lijst van functies in Bijlage III. Deze bijlage bevat acht situaties waarin AI geacht wordt een aanzienlijke impact te kunnen hebben op gezondheid, veiligheid of grondrechten. Het gaat om functies die raken aan onder meer kritieke infrastructuur, biometrische systemen, onderwijs en beroepsbeoordeling, arbeidsselectie, toegang tot essentiële diensten zoals krediet of verzekeringen, rechtshandhaving, migratie en grensbeheer, en toepassingen binnen de rechtspraak of het democratisch proces. De vraag is steeds of jouw toepassing binnen zo’n aangewezen functie valt, niet of je in een bepaalde sector actief bent.
Als jouw toepassing binnen een van deze hoog-risicofuncties valt, ga dan door naar stap 9. Is dat niet het geval, dan kwalificeert het systeem niet als hoog risico.
Stap 9: Voert jouw systeem profilering van natuurlijke personen uit?
Artikel 6(3) bepaalt dat AI-systemen die in Bijlage III staan alleen kunnen worden uitgezonderd wanneer ze geen significant risico vormen. Die ruimte vervalt direct zodra het systeem profielen van natuurlijke personen genereert. Een toepassing die binnen een Annex III-domein valt én profielen vormt — zoals een HR-tool die sollicitanten op basis van afgeleide kenmerken rangschikt — wordt automatisch als hoog risico aangemerkt.
Als jouw systeem profielen maakt, eindigt de beoordeling hier omdat het automatisch hoog risico is. Als dat niet zo is, ga dan door naar stap 10.
Stap 10: Kan jouw systeem onder de uitzonderingen van artikel 6(3) vallen?
Ook wanneer een AI-systeem binnen een functie uit Bijlage III valt, kan het in uitzonderlijke gevallen toch buiten de hoog-risicocategorie blijven. Dat is bijvoorbeeld mogelijk wanneer de toepassing uitsluitend een beperkte procedurele taak uitvoert of het resultaat van een eerdere menselijke handeling verfijnt. Wel geldt dat je vooraf moet vastleggen waarom de uitzondering in jouw geval van toepassing is en dat het systeem verplicht in de EU-databank moet worden geregistreerd, inclusief een openbare samenvatting van de onderbouwing.
Als jouw toepassing aantoonbaar binnen een uitzondering valt, wordt het systeem niet als hoog risico geclassificeerd, al blijven documentatie en registratie verplicht. Als dat niet het geval is, kwalificeert het systeem als hoog risico onder artikel 6(2).
Nuance bij Bijlage III: veel ruimte voor interpretatie
Hoewel Bijlage III op het eerste gezicht een duidelijke lijst met hoog-risicofuncties biedt, merken we in de praktijk dat de classificatie minder eenduidig is dan organisaties vaak verwachten. De omschrijvingen in de bijlage zijn functioneel geformuleerd en laten ruimte voor interpretatie, vooral waar het gaat om begrippen als toegang tot essentiële diensten, beoordelings- of selectieprocessen, en de grens tussen analyse en besluitvorming. Daardoor zien we regelmatig dat verschillende partijen — aanbieders, gebruikers of interne compliance-teams — tot uiteenlopende conclusies komen over dezelfde toepassing.
Daar komt bij dat de AI Act bewust breed inzet op beoogd en redelijkerwijs voorzienbaar gebruik. Dat maakt de beoordeling nog complexer, omdat de kwalificatie niet alleen afhangt van hoe een systeem vandaag wordt ingezet, maar ook van hoe het in de praktijk waarschijnlijk zal worden gebruikt.
Vooralsnog geldt dat veel van deze interpretatievragen niet volledig zijn uitgekristalliseerd. We verwachten dat aanvullende richtsnoeren van de Europese Commissie en het AI Office noodzakelijk zijn om in de praktijk tot meer consistentie te komen. Tot die tijd is het verstandig om de classificatie zorgvuldig te documenteren, inclusief de onderliggende aannames, zodat later kan worden onderbouwd waarom een bepaalde keuze is gemaakt.
Risicoclassificatie AI-Act laten uitvoeren door onze ICT-juristen
Als je ondersteuning nodig hebt bij de risicoclassificatie van een AI-toepassing, denken we graag met je mee. Neem gerust contact met ons op.
