AI verwijst naar op machines gebaseerde systemen die, op basis van doelstellingen die de mens definieert, beslissingen kunnen nemen en voorspellingen en aanbevelingen kunnen doen die een invloed hebben op reële of virtuele omgevingen. AI-systemen communiceren met ons en beïnvloeden onze omgeving direct of indirect. Vaak lijken ze zelfstandig te werken en passen ze hun gedrag aan door te leren over de context.

Generatieve AI is een specifieke vorm van artificiële intelligentie. Generatieve AI-systemen kunnen de structuur en kenmerken van inputdata nabootsen om op basis daarvan nieuwe, afgeleide output te genereren: tekst, afbeeldingen, video, audio, softwarecode en andere vormen van digitale inhoud. Ze maken gebruik van zogenaamde ‘foundation models’: enorme neurale netwerken die getraind zijn om patronen te herkennen in grote hoeveelheden complexe gegevens en op basis daarvan nieuwe gegevens te kunnen analyseren en genereren.

Generatieve AI verwerkt je opdracht en produceert nieuwe output op basis van patronen in trainingsdata en de context die je meegeeft. Het systeem begrijpt je bedoeling of de inhoud niet zoals een mens. Een duidelijke prompt helpt om relevante output te krijgen, maar voorkomt geen fouten, verzonnen bronnen, vooroordelen of ongepaste antwoorden. Kwaliteitsvol gebruik vraagt daarom meer dan promptvaardigheid: je moet ook passende bronnen en context aanleveren, de output controleren en zelf inhoudelijke keuzes maken.

• Onjuiste informatie en hallucinaties: Het systeem kan overtuigende maar foutieve of verzonnen informatie genereren.
• Bias: De output kan bestaande vooroordelen en ongelijkheden uit de trainingsdata overnemen of versterken.
• Gebrek aan transparantie: Het model, de trainingsdata en de keuzes die bij de totstandkoming gemaakt werden, zijn vaak ondoorzichtig. Daardoor is moeilijk te achterhalen hoe en op basis waarvan het model tot zijn output komt.
• Privacy en vertrouwelijkheid: wat er met je invoer gebeurt, hangt af van de toepassing, het accounttype, de instellingen en de overeenkomst met de aanbieder. Voer geen persoonsgegevens, leerlinggegevens of vertrouwelijke informatie in zonder geldige grond, duidelijke afspraken en een goedgekeurde toepassing. Controleer onder meer of gegevens worden bewaard, voor training worden gebruikt, met derden worden gedeeld of buiten de afgesproken omgeving worden verwerkt.
• Auteursrecht: Trainingsdata en gegenereerde output kunnen auteursrechtelijk beschermd materiaal bevatten.
• Overdreven meegaandheid: een AI-systeem bevestigt soms je aannames in plaats van ze kritisch te onderzoeken.

Net omdat generatieve AI kansen biedt én risico’s inhoudt, volstaat het niet om alleen te weten wat er mis kan lopen. Wie generatieve AI gebruikt, heeft duidelijke afspraken en zorgvuldige gebruiksprincipes nodig. Die afspraken neem je op in je AI-beleid en vertaal je naar concreet, veilig gebruik in de dagelijkse praktijk.

Beoordeel AI-gebruik niet alleen op efficiëntie, veiligheid en leerwinst, maar ook op de waarden die je school wil beschermen. Vraag onder meer of de toepassing autonomie, rechtvaardigheid, inclusie, professionele ruimte en betekenisvolle menselijke interactie versterkt of verzwakt. Een toepassing kan technisch werken en juridisch toegestaan zijn, maar toch niet passen bij je pedagogisch project.