Hoewel er (nog) geen specifieke Vlaamse wetgeving is die AI-gebruik in het onderwijs voor 2,5- tot 18-jarigen reguleert, moeten scholen en onderwijsinstellingen bij de implementatie van AI-toepassingen voldoen aan de Algemene Verordening Gegevensbescherming (AVG) en de Europese AI-act.
AI-gebruik is verboden voor leerlingen jonger dan 13 jaar. Wie 13 jaar of ouder is, maar nog geen 18 jaar, moet toestemming vragen en krijgen ouders of voogd. De EU AI Act benadrukt dat gebruikers van AI-systemen verplicht zijn om de gebruikersinstructies van de aanbieder te volgen. Dit is een belangrijk onderdeel van de regelgeving om ervoor te zorgen dat AI-systemen op een veilige, betrouwbare en ethische manier worden gebruikt. Het naleven van deze instructies helpt ongewenste gevolgen te voorkomen en draagt bij aan transparantie en verantwoordelijkheid in het gebruik van AI.
Daarnaast is het essentieel om ethische richtlijnen te volgen en te zorgen voor transparantie, privacybescherming en inclusiviteit bij het gebruik van AI in de klas.
Het kenniscentrum digisprong heeft ethische richtsnoeren voor het gebruik van artificiële intelligentie en data bij onderwijzen en leren voor onderwijsactoren opgesteld voor het gebruik van artificiële intelligentie (AI) in het onderwijs, met nadruk op transparantie, menselijke controle, privacy en het vermijden van discriminatie. Hieronder worden deze principes verder toegelicht.
AI-systemen moeten helder en begrijpelijk zijn in hun werking en besluitvorming. Gebruikers moeten kunnen achterhalen hoe een AI-systeem tot bepaalde conclusies of aanbevelingen komt. Dit houdt in dat de algoritmen en gebruikte data inzichtelijk en transparant zijn, zodat zowel leerkrachten als leerlingen begrijpen op welke basis beslissingen worden gebaseerd. Een gebrek aan transparantie kan leiden tot wantrouwen en onbegrip, wat de effectiviteit van AI in het onderwijs ondermijnt.
Hoewel AI-systemen ondersteuning kunnen bieden, moeten leraren en leerlingen altijd de uiteindelijke controle en verantwoordelijkheid behouden. AI mag nooit volledig autonoom beslissingen nemen zonder menselijk toezicht. Dit betekent dat educatieve AI-toepassingen zo ontworpen worden dat menselijke interventie mogelijk is en dat leraren de mogelijkheid hebben om in te grijpen of beslissingen van het systeem te herzien.
Het beschermen van persoonsgegevens is fundamenteel bij het gebruik van AI in het onderwijs. AI-systemen moeten voldoen aan de Algemene Verordening Gegevensbescherming (AVG) en ervoor zorgen dat data van leerlingen en leerkrachten veilig en vertrouwelijk wordt behandeld. Dit omvat het minimaliseren van data-inzameling, het anonimiseren van gegevens waar mogelijk en het transparant communiceren over welke data wordt verzameld en met welk doel.
AI-systemen moeten eerlijk en onbevooroordeeld zijn. Dit betekent dat ze geen ongelijkheden mogen versterken of bepaalde groepen benadelen. Ontwikkelaars moeten garanderen dat de data waarop AI-systemen worden getraind representatief en divers is, om vooroordelen te voorkomen. Daarnaast moeten er mechanismen zijn om eventuele ongerechtvaardige uitkomsten te identificeren en te corrigeren.
Door deze ethische principes te integreren, streeft de Vlaamse overheid naar een verantwoorde en effectieve inzet van AI in het onderwijs, waarbij de rechten en welzijn van alle betrokkenen worden gewaarborgd.
