Via de AI-verordening (ook wel de AI Act genoemd) wil de Europese Unie het gebruik van artificiële intelligentie reguleren. Deze wet is juridisch bindend en heeft als doel om AI in Europa veilig, mensgericht en betrouwbaar toe te passen. Ook het onderwijs moet hiermee rekening houden.
Hoewel de AI Act geen specifieke leeftijdsgrenzen oplegt voor het gebruik van AI-systemen, benadrukt ze wel het belang van verantwoord gebruik en AI-geletterdheid. Scholen die AI inzetten, worden geacht hun personeel én andere gebruikers (zoals leerlingen) op een correcte manier te begeleiden in het gebruik ervan.
Daarnaast wijst UNESCO (blz 21 van de Guidance for generative AI in education and research - UNESCO Digital Library) erop dat de meeste generatieve AI-tools ontwikkeld zijn voor volwassenen, en vaak onvoldoende afgestemd zijn op de ontwikkelingsnoden van kinderen en jongeren. De inhoud die AI genereert, kan onnauwkeurig zijn of onvoldoende pedagogisch gefilterd. Daarom adviseert UNESCO om bij het gebruik van AI in het onderwijs leeftijdsbeperkingen en begeleiding te voorzien, met bijzondere aandacht voor jonge leerlingen.
Bovendien leggen veel aanbieders van AI-tools in hun eigen gebruiksvoorwaarden vast dat hun diensten niet toegankelijk zijn voor kinderen onder de 13 jaar, tenzij met ouderlijke toestemming. Voor jongeren tussen 13 en 18 jaar kan ook ouderlijke toestemming vereist zijn, afhankelijk van de tool.
Bij het gebruik van AI moeten we ook rekening houden met de privacywetgeving. De Algemene Verordening Gegevensbescherming (GDPR) legt geen leeftijdsgrens op voor het gebruik van AI op zich, maar bepaalt wél vanaf welke leeftijd een kind toestemming kan geven voor de verwerking van zijn persoonsgegevens via online diensten. In België ligt die grens op 13 jaar. Voor kinderen jonger dan 13 is ouderlijke toestemming vereist wanneer AI-tools persoonsgegevens verwerken en het gebruik ervan niet onder de onderwijsopdracht van de school valt.
Jullie merken dat we in verband met het gebruik van AI door minderjarigen dus rekening moeten houden met een aantal (reglementaire) kaders.
In het model van schoolreglement voor secundair onderwijs formuleerden we dat ouders toestemming moeten geven voor het gebruik van generatieve artificiële intelligentie voor leerlingen tussen de 13 en de 18 jaar. Dit is geen wettelijk voorschrift maar staat vermeld in de gebruikersvoorwaarden van heel wat aanbieders van generatieve artificiële intelligentie. Ondertussen lezen we op Kenniscentrum Digisprong van de Vlaamse Overheid onder meer het volgende: “Het is niet omdat je je leerlingen jonger dan 13 zonder toestemming, geen account mag laten aanmaken op generatieve AI-platformen dat je niet met en rond AI kan werken in je klas. Integendeel.”
Bij deze passage stellen we ons de vraag of we a contrario mogen afleiden dat leerlingen jonger dan 13 jaar mits toestemming van de ouders wel generatieve artificiële intelligentie mogen gebruiken met een eigen account.
Vanuit onze organisatie opteren wij ervoor om conform het advies van Unesco én de gebruikersvoorwaarden van de (meeste) generatieve AI aanbieders leerlingen jonger dan 13 jaar op school niet te laten werken met generatieve AI. We begrijpen dat dit voor het eerste jaar mogelijks heel wat praktische consequenties kan hebben. Je kan als school er daarom voor opteren om leerlingen van het eerste jaar/van de eerste graad niet met een eigen AI account te laten werken.
Scholen mogen uiteraard ook de visie van Kenniscentrum Digisprong van de Vlaamse Overheid volgen, dewelke momenteel minder streng lijkt te zijn.
We proberen de richtlijnen en verdere evoluties op de voet op te volgen en hopen dat er snel meer duidelijkheid komt in deze regelgeving. We zullen indien nodig onze visie en tekstsuggesties aanpassen aan nieuwe evoluties.
