Sztuczna inteligencja śledzi aktywność uczniów w szkołach. Monitoring obejmuje także nauczycieli

Uczniowie korzystający ze szkolnego internetu są stale monitorowani przez system oparty na sztucznej inteligencji. Na razie nie do końca wiadomo po co.

Śledzenie uczniów już trwa

Śledzona jest internetowa aktywność dzieci na lekcjach i poza nimi – także ta na smartfonach podłączonych do szkolnego wi-fi. To samo dotyczy innych użytkowników, np. nauczycieli i pracowników administracji.

Obejmuje to wszystkie placówki korzystające z Ogólnopolskiej Sieci Edukacyjnej (OSE). Jest to program zapewniający szkołom z całego kraju bezpłatny dostęp do szybkiego internetu, przygotowany przez Ministerstwo Cyfryzacji i realizowany przez Państwowy Instytut Badawczy NASK – operatora OSE oraz systemu śledzącego aktywność w sieci (nazywanego B3).

Sprawa zaniepokoiła rzecznika praw obywatelskich, więc zwrócił się z pytaniami do resortów edukacji i cyfryzacji oraz do NASK. Wątpliwości RPO budzi to, „czy system nie ingeruje w sposób nieproporcjonalny w życie prywatne uczniów i nauczycieli”.

W odpowiedzi na pytania rzecznika Ministerstwo Edukacji podkreśliło, że „udział w projekcie OSE, którego elementem jest system B3, jest dla szkół dobrowolny”.

Z bezpłatnego internetu korzysta większość placówek w Polsce. Według serwisu Telko.in na koniec czerwca do OSE podłączonych było 20,6 tys. szkół.

NASK zaznacza, że monitoring odbywa się „bez ingerencji w przesyłane treści oraz prywatność użytkowników” i że założenia systemu bezpieczeństwa „zostały zweryfikowane przez kancelarię prawną w roku 2020” – pod kątem ochrony danych osobowych, tajemnicy korespondencji i tajemnicy telekomunikacyjnej.

– Jak wskazuje Trybunał Konstytucyjny w swoim orzecznictwie, warunki dopuszczalności przetwarzania danych osobowych powinna określać ustawa, która w tym przypadku nie wskazuje bezpośrednio na niezbędność przetwarzania danych – uważa jednak radca prawny Małgorzata Topyła-Komosa.

Resort edukacji informuje, że system B3 reaguje „na mowę nienawiści, mobbing, uwodzenie itp.”. Nie wiadomo jednak, czy monitoring faktycznie zwiększa bezpieczeństwo. Jak stwierdzają MEiN i NASK, pierwszy raport o efektach pracy B3 zaplanowano na początek nowego roku szkolnego.

Oparty na sztucznej inteligencji system monitoruje, co uczniowie robią w internecie

W Ogólnopolskiej Sieci Edukacyjnej (OSE), w ramach której państwo zapewnia szkołom dostęp do internetu, monitorowana jest internetowa aktywność użytkowników szkolnej sieci. Dotyczy to wszystkich urządzeń korzystających ze szkolnej sieci, także mobilnych i poza lekcjami. Jeśli uczeń korzysta na przerwie ze smartfona podłączonego do Wi-Fi, to też jest śledzony. Monitoring obejmuje także nauczycieli.

Naukowa i Akademicka Sieć Komputerowa (NASK), będąca operatorem OSE, zapewnia, że system nie sprawdza wiadomości poczty elektronicznej, komunikatorów internetowych ani aktywności na portalach, „które mogą zawierać dane wrażliwe bądź umożliwiające identyfikację użytkownika, w szczególności takich jak systemy transakcyjne banków, portale urzędowe czy służby zdrowia”.

Ingerencja w sferę prywatności jest jednak znaczna, dlatego też sprawą zajął się rzecznik praw obywatelskich.

„Wątpliwości budzi to, czy system nie ingeruje w sposób nieproporcjonalny w życie prywatne uczniów i nauczycieli” – stwierdził RPO w piśmie do dyrektora NASK, ministra edukacji i nauki oraz ministra cyfryzacji. Podkreślił, że ograniczenia konstytucyjnych praw do prywatności i autonomii informacyjnej jednostki są dopuszczalne jedynie „na zasadach określonych w art. 31 ust. 3 konstytucji”, tj. tylko w ustawie i tylko wtedy, gdy są konieczne w demokratycznym państwie m.in. dla zdrowia i moralności publicznej. Ponadto zgodnie z RODO „przetwarzanie danych osobowych musi być adekwatne, stosowne oraz ograniczone do tego, co niezbędne do celów, w których te dane są przetwarzane”.

RPO spytał m.in., kiedy zostaną udostępnione raporty generowane przez system B3 (patrz: ramka) – gdyż dotychczas nic nie wiadomo o efektach jego działania.

Na odwrót

– Mamy tu do czynienia z odwróconym kierunkiem działania. Nie może być tak, że najpierw jakieś rozwiązanie zostaje wprowadzone, a dopiero potem sprawdza się, czy ono w ogóle działa – komentuje dr Paweł Litwiński, adwokat, partner w kancelarii Barta Litwiński. – Aby uzasadnić niezbędność ingerencji w prywatność, należy postępować na podstawie dowodów. Pierwszym krokiem powinno więc być stwierdzenie istnienia zagrożenia dla uczniów w internecie. Potem należałoby zaprojektować system, badając przy tym, czy pożądanego efektu ochrony nie uda się osiągnąć bez ingerencji w prywatność oraz czy planowane rozwiązanie jest skuteczne – wylicza.

Nikt nie neguje istnienia problemu. – Można to uznać za wiedzę powszechną. Natomiast na dwóch kolejnych etapach dowodów zdecydowanie brakuje. A powinny być dostępne przed uruchomieniem systemu – podkreśla prawnik.

Radca prawny Małgorzata Topyła-Komosa zwraca uwagę, że ustawa o OSE nie stanowi wprost, jakie zakresy danych i jak powinny być przetwarzane na potrzeby monitorowania zagrożeń w internecie. – Każda ingerencja w prywatność powinna mieć uzasadnienie w przepisach rangi ustawowej, które w tym przypadku wydają się nie być wystarczająco dookreślone, szczególnie z uwagi na wskazywane przez NASK wykorzystywanie sztucznej inteligencji do przetwarzania pozyskanych od uczniów informacji – stwierdza prawniczka.

Zaufanie do organów

NASK i resort edukacji (minister cyfryzacji nie odpowiedział na pytania RPO) zapewniają, że zbierane dane są anonimizowane „w pierwszym kroku”.

„Sytem B3 nie ingeruje w życie prywatne uczniów i nauczycieli, dotyka jedynie tych treści, które nie zawierają co do zasady danych wrażliwych” – stwierdza MEiN. NASK dodaje, że „usługi bezpieczeństwa OSE mają charakter dobrowolny”. Alternatywnie szkoła może zapewniać ochronę przed treściami szkodliwymi „we własnym zakresie”.

– Anonimizacja to warunek sine qua non. Inaczej doszłoby do nieproporcjonalnej ingerencji w prawo do ochrony danych – zaznacza dr Litwiński. – Jeżeli rzeczywiście odbywa się to tak, jak pisze NASK, dane są dobrze zabezpieczone. Problematyczne jest jednak to, że musimy się w tej kwestii oprzeć na zaufaniu do organów państwa – a w sferze prawa do ochrony danych osobowych nasza władza przez ostatnie lata raczej na takie zaufanie nie zapracowała – mówi prawnik.

Piotr Mieczkowski, dyrektor zarządzający Fundacji Digital Poland, zastanawia się zaś nad procedurą deklarowanej anonimizacji. – Każde urządzenie oprócz IP ma też unikatowy adres MAC, po którym można śledzić użytkownika – zauważa. – Ochrona dzieci przed szkodliwymi treściami jest konieczna, ale powinna być połączona z raportowaniem o zagrożeniach i informacją o skuteczności tych działań – podkreśla.

Owoce po wakacjach

Resort edukacji i NASK poinformowały RPO, że raport o wynikach pracy B3 placówki oświatowe dostaną na początku roku szkolnego 2023/2024. Ministerstwo argumentuje, że oparty na sztucznej inteligencji system nadal się uczy, więc raportowanie na tym etapie „należy uznać za przedwczesne”. NASK zapewnia zaś, że B3 już teraz wspiera pozostałe dwa systemy bezpieczeństwa OSE – uzupełnia ich tzw. bazy reputacyjne. „Rozpoznanie jednej treści potencjalnie szkodliwej w jednej tylko szkole daje możliwość zablokowania jej dla wszystkich szkół w Polsce” – zachwala NASK. Jednak o tym aspekcie działania B3 także brak konkretnych informacji.

Małgorzata Topyła-Komosa powątpiewa w skuteczność zastosowanego rozwiązania. – OSE nie jest ograniczone do uczniów, ale mogą z niego korzystać też administracja szkolna czy nauczyciele. W tym zakresie nie da się wykluczyć, że dane dostarczone systemowi B3 nie odzwierciedlą myśli wyłącznie uczniów, ale całego grona szkolnego – wskazuje. Ponadto do treści, przed którymi ma chronić system, nadal będzie dostęp poza OSE. – Sama kontrola z wykorzystaniem danych osobowych nie może też zastąpić wsparcia w realnym świecie: edukowania czy pomocy psychologicznej – stwierdza prawniczka. ©℗