Czy wiesz, że wykorzystanie AI przez nauczycieli bez odpowiednich procedur narusza GDPR /Acta AI

Najważniejsze zagrożenia wynikające z niekontrolowanego użycia AI przez nauczycieli:

• Wyciek danych osobowych uczniów: Wprowadzanie imion, nazwisk czy prac pisemnych do publicznych modeli AI (np. ChatGPT) bez odpowiednich umów powierzenia przetwarzania danych.
• Brak weryfikacji i tzw. halucynacje AI: Generowanie błędnych materiałów dydaktycznych, sprawdzianów lub ocen bez weryfikacji przez człowieka.
• Naruszenie praw autorskich: Wykorzystywanie generowanych treści lub grafik bez znajomości licencji i zasad ich dalszego rozpowszechniania.
• Brak oceny wpływu na prywatność (DPIA): Stosowanie narzędzi klasyfikowanych wg EU AI Act jako systemy wysokiego ryzyka bez wcześniejszej analizy zagrożeń.

Bezpieczne wdrożenie AI w placówce oświatowej wymaga jasnych procedur, przeszkolenia kadry oraz wsparcia ze strony IOD-a i Dyrektora.