Hoewel er (nog) geen specifieke Vlaamse wetgeving is die AI-gebruik in het onderwijs voor 2,5- tot 18-jarigen reguleert, moeten scholen en onderwijsinstellingen bij de implementatie van AI-toepassingen voldoen aan de Algemene Verordening Gegevensbescherming (AVG) en de Europese AI-act. Via deze AI-act wil de Europese Unie het gebruik van artificiële intelligentie reguleren. Deze wet is juridisch bindend en heeft als doel om AI in Europa veilig, mensgericht en betrouwbaar toe te passen. Ook het onderwijs moet hiermee rekening houden.
Volgens de huidige gebruiksvoorwaarden van de meeste AI-tools moet je minstens 13 jaar zijn om ze te mogen gebruiken. Wie 13 jaar of ouder is, maar nog geen 18 jaar, moet toestemming vragen en krijgen van ouders of voogd. De EU AI Act benadrukt dat gebruikers van AI-systemen verplicht zijn om de gebruikersinstructies van de aanbieder te volgen. Dit is een belangrijk onderdeel van de regelgeving die ervoor zorgt dat AI-systemen op een veilige, betrouwbare en ethische manier worden gebruikt. Het naleven van deze instructies helpt ongewenste gevolgen te voorkomen en draagt bij aan transparantie en verantwoordelijkheid in het gebruik van AI.
Daarnaast is het essentieel om ethische richtlijnen te volgen en te zorgen voor transparantie, privacybescherming en inclusiviteit bij het gebruik van AI in de klas.
Het kenniscentrum digisprong heeft ethische richtsnoeren voor het gebruik van artificiële intelligentie en data bij onderwijzen en leren voor onderwijsactoren opgesteld voor het gebruik van artificiële intelligentie (AI) in het onderwijs, met nadruk op transparantie, menselijke controle, privacy en het vermijden van discriminatie. Hieronder worden deze principes verder toegelicht.
Hoewel de AI Act geen specifieke leeftijdsgrenzen oplegt voor het gebruik van AI-systemen, benadrukt ze wel het belang van verantwoord gebruik en AI-geletterdheid. Scholen die AI inzetten, worden geacht hun personeel én andere gebruikers (zoals leerlingen) op een correcte manier te begeleiden in het gebruik ervan.
Daarnaast wijst UNESCO (blz 21 van de Guidance for generative AI in education and research - UNESCO Digital Library) erop dat de meeste generatieve AI-tools ontwikkeld zijn voor volwassenen, en vaak onvoldoende afgestemd zijn op de ontwikkelingsnoden van kinderen en jongeren. De inhoud die AI genereert, kan onnauwkeurig zijn of onvoldoende pedagogisch gefilterd. Daarom adviseert UNESCO om bij het gebruik van AI in het onderwijs leeftijdsbeperkingen en begeleiding te voorzien, met bijzondere aandacht voor jonge leerlingen.
Bovendien leggen veel aanbieders van AI-tools in hun eigen gebruiksvoorwaarden vast dat hun diensten niet toegankelijk zijn voor kinderen onder de 13 jaar, tenzij met ouderlijke toestemming. Voor jongeren tussen 13 en 18 jaar kan ook ouderlijke toestemming vereist zijn, afhankelijk van de tool.
AI-systemen moeten helder en begrijpelijk zijn in hun werking en besluitvorming. Gebruikers moeten kunnen achterhalen hoe een AI-systeem tot bepaalde conclusies of aanbevelingen komt. Dit houdt in dat de algoritmen en gebruikte data inzichtelijk en transparant zijn, zodat zowel leerkrachten als leerlingen begrijpen op welke basis beslissingen worden gebaseerd. Een gebrek aan transparantie kan leiden tot wantrouwen en onbegrip, wat de effectiviteit van AI in het onderwijs ondermijnt.
Hoewel AI-systemen ondersteuning kunnen bieden, moeten leraren en leerlingen altijd de uiteindelijke controle en verantwoordelijkheid behouden. AI mag nooit volledig autonoom beslissingen nemen zonder menselijk toezicht. Dit betekent dat educatieve AI-toepassingen zo ontworpen worden dat menselijke interventie mogelijk is en dat leraren de mogelijkheid hebben om in te grijpen of beslissingen van het systeem te herzien.
Het beschermen van persoonsgegevens is fundamenteel bij het gebruik van AI in het onderwijs. AI-systemen moeten voldoen aan de Algemene Verordening Gegevensbescherming (AVG) en ervoor zorgen dat data van leerlingen en leerkrachten veilig en vertrouwelijk wordt behandeld. Dit omvat het minimaliseren van data-inzameling, het anonimiseren van gegevens waar mogelijk en het transparant communiceren over welke data wordt verzameld en met welk doel.
AI-systemen moeten eerlijk en onbevooroordeeld zijn. Dit betekent dat ze geen ongelijkheden mogen versterken of bepaalde groepen benadelen. Ontwikkelaars moeten garanderen dat de data waarop AI-systemen worden getraind representatief en divers zijn, om vooroordelen te voorkomen. Daarnaast moeten er mechanismen zijn om eventuele ongerechtvaardige uitkomsten te identificeren en te corrigeren.
Door deze ethische principes te integreren, streeft de Vlaamse overheid naar een verantwoorde en effectieve inzet van AI in het onderwijs, waarbij de rechten en welzijn van alle betrokkenen worden gewaarborgd.
We stellen vast dat nog steeds een duidelijk juridisch kader ontbreekt voor het concreet gebruik van AI in het onderwijs. Daarom is het momenteel moeilijk om concrete tekstvoorstellen te formuleren voor de modellen van schoolreglement voor het schooljaar 2026-2027.
Momenteel loopt er een juridische analyse in opdracht van het departement Onderwijs en Vorming om meer duidelijkheid te krijgen. Er werd ons geadviseerd door het Kenniscentrum Digisprong om het resultaat van deze analyse af te wachten, met het oog op het verschaffen van eenduidige en consistente informatie. Voor scholen is het belangrijk dat zij aandacht besteden aan AI-geletterdheid bij personeel en leerlingen
We voorzien in onze modellen de mogelijkheid om leerlingen te laten werken met generatieve artificiële intelligentie, onder begeleiding van een volwassene en mits naleving van de gebruikersvoorwaarden van de AI-tool.
Leerlingen uit de lagere school mogen daarbij geen eigen account aanmaken.
Voor het secundair onderwijs stappen we af van het vragen van de expliciete toestemming van de ouders. Het is immers de taak van scholen om al hun leerlingen (waarborgen van gelijke kansen) verantwoord en kritisch te leren omgaan met (generatieve) AI.
We proberen de richtlijnen en verdere evoluties op de voet op te volgen en hopen dat er snel meer duidelijkheid komt in deze regelgeving. We zullen indien nodig onze visie en tekstsuggesties aanpassen aan nieuwe evoluties.
