Hoewel er (nog) geen specifieke Vlaamse wetgeving is die AI-gebruik in het onderwijs voor 2,5- tot 18-jarigen reguleert, moeten scholen en onderwijsinstellingen bij de implementatie van AI-toepassingen voldoen aan de Algemene Verordening Gegevensbescherming (AVG) en de Europese AI-act. Via deze AI-act wil de Europese Unie het gebruik van artificiële intelligentie reguleren. Deze wet is juridisch bindend en heeft als doel om AI in Europa veilig, mensgericht en betrouwbaar toe te passen. Ook het onderwijs moet hiermee rekening houden.
Volgens de huidige gebruiksvoorwaarden van de meeste AI-tools moet je minstens 13 jaar zijn om ze te mogen gebruiken. Wie 13 jaar of ouder is, maar nog geen 18 jaar, moet toestemming vragen en krijgen van ouders of voogd. De EU AI Act benadrukt dat gebruikers van AI-systemen verplicht zijn om de gebruikersinstructies van de aanbieder te volgen. Dit is een belangrijk onderdeel van de regelgeving die ervoor zorgt dat AI-systemen op een veilige, betrouwbare en ethische manier worden gebruikt. Het naleven van deze instructies helpt ongewenste gevolgen te voorkomen en draagt bij aan transparantie en verantwoordelijkheid in het gebruik van AI.
Daarnaast is het essentieel om ethische richtlijnen te volgen en te zorgen voor transparantie, privacybescherming en inclusiviteit bij het gebruik van AI in de klas.
Het kenniscentrum digisprong heeft ethische richtsnoeren voor het gebruik van artificiële intelligentie en data bij onderwijzen en leren voor onderwijsactoren opgesteld voor het gebruik van artificiële intelligentie (AI) in het onderwijs, met nadruk op transparantie, menselijke controle, privacy en het vermijden van discriminatie. Hieronder worden deze principes verder toegelicht.
Hoewel de AI Act geen specifieke leeftijdsgrenzen oplegt voor het gebruik van AI-systemen, benadrukt ze wel het belang van verantwoord gebruik en AI-geletterdheid. Scholen die AI inzetten, worden geacht hun personeel én andere gebruikers (zoals leerlingen) op een correcte manier te begeleiden in het gebruik ervan.
Daarnaast wijst UNESCO (blz 21 van de Guidance for generative AI in education and research - UNESCO Digital Library) erop dat de meeste generatieve AI-tools ontwikkeld zijn voor volwassenen, en vaak onvoldoende afgestemd zijn op de ontwikkelingsnoden van kinderen en jongeren. De inhoud die AI genereert, kan onnauwkeurig zijn of onvoldoende pedagogisch gefilterd. Daarom adviseert UNESCO om bij het gebruik van AI in het onderwijs leeftijdsbeperkingen en begeleiding te voorzien, met bijzondere aandacht voor jonge leerlingen.
Bovendien leggen veel aanbieders van AI-tools in hun eigen gebruiksvoorwaarden vast dat hun diensten niet toegankelijk zijn voor kinderen onder de 13 jaar, tenzij met ouderlijke toestemming. Voor jongeren tussen 13 en 18 jaar kan ook ouderlijke toestemming vereist zijn, afhankelijk van de tool.
AI-systemen moeten helder en begrijpelijk zijn in hun werking en besluitvorming. Gebruikers moeten kunnen achterhalen hoe een AI-systeem tot bepaalde conclusies of aanbevelingen komt. Dit houdt in dat de algoritmen en gebruikte data inzichtelijk en transparant zijn, zodat zowel leerkrachten als leerlingen begrijpen op welke basis beslissingen worden gebaseerd. Een gebrek aan transparantie kan leiden tot wantrouwen en onbegrip, wat de effectiviteit van AI in het onderwijs ondermijnt.
Hoewel AI-systemen ondersteuning kunnen bieden, moeten leraren en leerlingen altijd de uiteindelijke controle en verantwoordelijkheid behouden. AI mag nooit volledig autonoom beslissingen nemen zonder menselijk toezicht. Dit betekent dat educatieve AI-toepassingen zo ontworpen worden dat menselijke interventie mogelijk is en dat leraren de mogelijkheid hebben om in te grijpen of beslissingen van het systeem te herzien.
Het beschermen van persoonsgegevens is fundamenteel bij het gebruik van AI in het onderwijs. AI-systemen moeten voldoen aan de Algemene Verordening Gegevensbescherming (AVG) en ervoor zorgen dat data van leerlingen en leerkrachten veilig en vertrouwelijk wordt behandeld. Dit omvat het minimaliseren van data-inzameling, het anonimiseren van gegevens waar mogelijk en het transparant communiceren over welke data wordt verzameld en met welk doel.
AI-systemen moeten eerlijk en onbevooroordeeld zijn. Dit betekent dat ze geen ongelijkheden mogen versterken of bepaalde groepen benadelen. Ontwikkelaars moeten garanderen dat de data waarop AI-systemen worden getraind representatief en divers zijn, om vooroordelen te voorkomen. Daarnaast moeten er mechanismen zijn om eventuele ongerechtvaardige uitkomsten te identificeren en te corrigeren.
Door deze ethische principes te integreren, streeft de Vlaamse overheid naar een verantwoorde en effectieve inzet van AI in het onderwijs, waarbij de rechten en welzijn van alle betrokkenen worden gewaarborgd.
We voegden aan ons schoolreglement een onderdeel toe over AI-gebruik in je school.
In het model van schoolreglement voor secundair onderwijs formuleerden we dat ouders toestemming moeten geven voor het gebruik van generatieve artificiële intelligentie voor leerlingen tussen de 13 en de 18 jaar. Dit is geen wettelijk voorschrift maar staat vermeld in de gebruikersvoorwaarden van heel wat aanbieders van generatieve artificiële intelligentie. Ondertussen lezen we op Kenniscentrum Digisprong van de Vlaamse Overheid onder meer het volgende: “Het is niet omdat je je leerlingen jonger dan 13 zonder toestemming, geen account mag laten aanmaken op generatieve AI-platformen dat je niet met en rond AI kan werken in je klas. Integendeel.”
Bij deze passage stellen we ons de vraag of we a contrario mogen afleiden dat leerlingen jonger dan 13 jaar mits toestemming van de ouders wel generatieve artificiële intelligentie mogen gebruiken met een eigen account.
Vanuit onze organisatie opteren wij ervoor om conform het advies van Unesco én de gebruikersvoorwaarden van de (meeste) generatieve AI-aanbieders leerlingen jonger dan 13 jaar op school niet te laten werken met generatieve AI. We begrijpen dat dit voor het eerste jaar mogelijk heel wat praktische consequenties kan hebben. Je kan als school er daarom voor opteren om leerlingen van het eerste jaar/van de eerste graad niet met een eigen AI-account te laten werken.
Scholen mogen uiteraard ook de visie van Kenniscentrum Digisprong van de Vlaamse Overheid volgen, dewelke momenteel minder streng lijkt te zijn.
In het model van schoolreglement voor basisonderwijs formuleerden we dat het gebruik van artificiële intelligentie verboden is onder de leeftijd van 13 jaar.
Er wordt ons gesignaleerd dat de passage in het schoolreglement basisonderwijs te streng is. Met toestemming van de ouders kan het immers wel. Dit leiden we onder meer af uit het advies van Unesco en de info op de website van Kenniscentrum Digisprong.
We willen daarom verduidelijken dat:
In de praktijk zullen de gebruikersvoorwaarden van de (meeste) AI-tools het niet toestaan dat een kind jonger dan 13 jaar een eigen AI-account aanmaakt.
We kozen voor een korte passage in het schoolreglement om het niet nodeloos ingewikkeld te maken en geen lange tekst en uitleg te moeten geven. Bovendien gaat het louter om een tekstsuggestie.
Aangezien deze passage blijkbaar weerstand oproept bij ouders lijkt het ons niet aangewezen ze in die vorm aan te houden. We leggen de verantwoordelijkheid best helemaal bij de ouders zelf.
Daarom schrappen we volledig onze tekstsuggestie in verband met het gebruiken van artificiële intelligentie bij het maken van huiswerk. Indien je als school wil verbieden dat artificiële intelligentie wordt gebruikt bij het maken van huiswerk (ook al gebeurt dit onder toezicht en begeleiding van een volwassene), dan kan je dat uiteraard vermelden in de opgave van het huiswerk of in het huiswerkbeleid van de school.
We proberen de richtlijnen en verdere evoluties op de voet op te volgen en hopen dat er snel meer duidelijkheid komt in deze regelgeving. We zullen indien nodig onze visie en tekstsuggesties aanpassen aan nieuwe evoluties. NieuwsoverzichtDigiplan
