AI in onderwijs
De AI Act voor scholen: wat moet je écht weten?
8 min lezen
Sinds augustus 2024 is de Europese AI Act van kracht. Voor veel sectoren is dit een abstract nieuwsbericht, maar voor scholen heeft het directe consequenties. AI-systemen die gebruikt worden voor toegang tot onderwijs, beoordeling van leerlingen of bewaking van examens vallen onder de categorie "hoog-risico AI". Dat brengt verplichtingen mee voor zowel de leverancier als de gebruiker — jouw school. Dit artikel vertaalt de juridische taal naar concrete actiepunten.
Wat is de AI Act?
De AI Act is de eerste Europese regelgeving voor artificiële intelligentie. Het classificeert AI-systemen in vier risiconiveaus: minimaal, beperkt, hoog en onaanvaardbaar. Onderwijs valt consistent in de "hoog-risico" categorie omdat AI-beslissingen hier directe impact hebben op toekomstkansen van leerlingen.
Wat valt onder "hoog-risico AI" in onderwijs?
Niet elke toepassing van AI op school is hoog-risico. Wel deze:
- • AI die toegang tot onderwijs bepaalt (bijv. selectie-algoritmes voor richtingen)
- • AI die leerlingen beoordeelt of examens corrigeert
- • AI die leerlingen monitort tijdens toetsen (proctoring, gedragsdetectie)
- • AI die leerpaden aanbeveelt op basis van profilering
Verplichtingen voor scholen als "gebruiker"
De AI Act richt zich primair op "aanbieders" (leveranciers), maar gebruikers hebben ook verplichtingen. Voor scholen komen die neer op:
- • Menselijk toezicht: er moet altijd een mens beschikbaar zijn om AI-beslissingen te overrulen.
- • Transparantie: leerlingen en ouders moeten geïnformeerd worden over het gebruik van AI.
- • Datakwaliteit: inputdata moet correct en up-to-date zijn.
- • Risicobeheersing: een systatische risicoanalyse bij implementatie.
Wat moet je van je leverancier eisen?
Als school ben je afhankelijk van je softwareleverancier voor technische compliancy. Vraag expliciet naar:
- • Conformiteitsverklaring (CE-markering voor AI)
- • Technische documentatie en risicobeheersplan
- • Transparantierapport: hoe werkt het model, welke data is gebruikt, welke bias-bestendigheid is getest?
- • DPA (verwerkersovereenkomst) met expliciete "no-train" clausule
- • EU-dataverblijf of adequaat beschermingsniveau
De valkuil: "wij gebruiken geen AI"
Veel scholen denken: "wij gebruiken geen AI, dus de AI Act raakt ons niet." Maar als je een digitaal toetsplatform, een leerlingvolgsysteem of een adaptieve leermodule gebruikt, zit er vrijwel altijd AI in — ook als de leverancier het niet expliciet noemt. De vraag is niet "gebruiken wij AI?" maar "welke AI zit er in onze tools?"
Praktisch: 3 actiepunten voor dit semester
Je hoeft geen jurist te zijn. Start met deze drie stappen:
- • 1. Inventariseer: welke tools in je school gebruiken AI? Vraag het expliciet aan je leveranciers.
- • 2. Documenteer: noteer per tool het risiconiveau, de leveranciersverklaring en het menselijk toezicht.
- • 3. Communiceer: informeer het team, de leerlingenraad en de ouderraad over het gebruik van AI in beoordeling.
De AI Act is geen drempel maar een kader dat verantwoord gebruik faciliteert. Scholen die nu investeren in transparantie en menselijk toezicht, lopen voor op regulering die onvermijdelijk strenger wordt. Begin met inventarisatie — het meeste werk zit in het weten, niet in het doen.