AI będzie śledzić Europejczyków? Niepokojąca wrzutka w treści unijnego rozporządzenia

Sztuczna inteligencja będzie mogła być wykorzystywana do rozpoznawania osób zarejestrowanych przez monitoring wizyjny, choć nie w czasie rzeczywistym. Taka propozycja pojawiła się w projekcie unijnego rozporządzenia.

Proces legislacyjny dotyczący unijnego rozporządzenia – Akt o sztucznej inteligencji (AI Akt) rozpoczął się w kwietniu 2021 r., gdy Komisja Europejska przedstawiła pierwszą propozycję przepisów. Później długo pracowały nad nimi Rada UE, skupiająca przedstawicieli rządów państw członkowskich, i Parlament Europejski. Był to tzw. trialog. Ostatnie spotkanie odbyło się w pierwszej połowie grudnia 2023 r. i trwało niemal dwie doby – był to najdłuższy trialog w historii tworzenia unijnego prawa, przekroczył nawet czas, jaki politycy spędzili nad ustalaniem limitów emisji CO2.

Dyskusja dotyczyła tego, jakich systemów sztucznej inteligencji będzie można używać, by nadzorować społeczeństwa Wspólnoty, oraz jakie powstaną ramy dla rozwoju biznesu opierającego się na tworzeniu i stosowaniu różnych modeli AI.

Był zakaz

Najgorętsze spory toczono o zdalną identyfikację biometryczną. W czasie rzeczywistym miała być ona zakazana. Natomiast w odniesieniu do biometrii ex post zawarto ostatecznie kompromis między przeciwnikami dopuszczalności takich rozwiązań w PE a ich zwolennikami w Radzie UE. Przewidywał on, że zdalna identyfikacja biometryczna ex post będzie zabroniona – z wyjątkiem kilku przypadków związanych z egzekwowaniem prawa, gdy jest to bezwzględnie konieczne na podstawie ustawodawstwa krajowego i gdy została uzyskana uprzednia zgoda niezależnego organu (art. 5.1.dd projektu AI Aktu z grudnia ub.r).

Jak mówił europoseł współsprawozdawca Brando Benifei (S&D), szczegóły miały zostać „jeszcze doszlifowane”.

Teraz serwis Politico i inne media ujawniły, że po zakończeniu trialogu do uzgodnionego projektu wprowadzono zmiany, m.in. dotyczące właśnie tej newralgicznej sfery. Według Politico stało się to w końcu grudnia ub.r., jeszcze w czasie hiszpańskiej prezydencji w Radzie UE.

Najnowszą wersję projektu ujawnili w mediach społecznościowych Luca Bertuzzi, dziennikarz serwisu Euractiv, i dr Laura Caroli, starszy doradca ds. polityki w Parlamencie Europejskim. Udostępniony przez nich dokument jest datowany na 21 stycznia.

– Zmiana wprowadzona w tej nieoficjalnej wersji AI Act pozwala organom ścigania na więcej w zakresie identyfikacji biometrycznej – stwierdza adwokat Sławomir Kowalski, partner w kancelarii JustLAW.

Zdalna identyfikacja biometryczna ex post nie figuruje już wśród zastosowań AI zasadniczo zakazanych. Awansowała do systemów wysokiego ryzyka. Sztuczna inteligencja będzie mogła zostać wykorzystana do wyszukania konkretnej osoby podejrzanej o popełnienie przestępstwa na nagraniach np. monitoringu miejskiego czy sklepowego.

Artykuł 29 pkt 6a najnowszej wersji projektu przewiduje, że w ramach dochodzenia dotyczącego ukierunkowanego przeszukania osoby skazanej lub podejrzanej o popełnienie przestępstwa organy ścigania będą mogły użyć systemu sztucznej inteligencji do zdalnej identyfikacji biometrycznej. Zasadniczo będzie to wymagało zezwolenia, ale nie będzie ono musiało pochodzić od sądu. Może je wydać organ administracyjny, którego decyzja jest wiążąca i podlega kontroli sądowej.

– Taki kształt przepisów może umożliwiać wykorzystanie technologii biometrycznych do poszukiwania sprawców także mniej poważnych przestępstw, niż pierwotnie projektowano – zwraca uwagę Sławomir Kowalski. – Nadzór nad wykorzystywaniem identyfikacji biometrycznej w celu identyfikacji sprawców przestępstw będzie słabszy, co otwiera przestrzeń do nadużyć – dodaje.

Są furtki

Projekt przewiduje wprawdzie kontrolę nad wykorzystywaniem systemów identyfikacji biometrycznej przez organy ścigania. – Jednak dopuszcza kontrolę następczą, w ciągu 48 godzin, w dodatku nie tylko przez sąd, lecz także przez organ administracji – stwierdza mecenas Kowalski.

W wersji styczniowej czytamy bowiem, że zezwolenie na takie zastosowanie systemu AI organy ścigania muszą uzyskać przed podjęciem czynności „lub bez zbędnej zwłoki”, nie później niż w ciągu 48 godzin. W tym drugim wypadku brak wnioskowanego zezwolenia ma skutkować natychmiastowym wstrzymaniem użycia AI do identyfikacji biometrycznej, a już zebrane w ten sposób dane osobowe trzeba będzie usunąć.

– W ciągu 48 godzin może się wydarzyć dużo – uważa Sławomir Kowalski.

Co więcej, zgoda organu sądowego (lub organu administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej) w pewnych przypadkach w ogóle nie będzie wymagana. Dotyczy to sytuacji, gdy zdalna identyfikacja biometryczna ex post służy do wstępnej identyfikacji potencjalnego podejrzanego na podstawie obiektywnych i możliwych do sprawdzenia faktów, bezpośrednio związanych z przestępstwem.

Patrick Breyer, członek lewicującej niemieckiej Partii Piratów, w oświadczeniu wydanym po ujawnieniu dokumentu był bardzo krytyczny wobec tej wersji regulacji. – Wygląda na to, iż UE zamierza konkurować z Chinami nie tylko technologicznie, lecz także pod względem wysokotechnologicznego ucisku – stwierdził.

W podobnym tonie komentowała Svenja Hahn, europarlamentarzystka z Niemiec. W rozmowie z Politico uznała, że nowe brzmienie projektu rozporządzenia stanowi „atak na prawa obywatelskie” i może umożliwić „nieodpowiedzialne i nieproporcjonalne wykorzystywanie technologii identyfikacji biometrycznej, jakie znamy na razie tylko z państw autorytarnych, takich jak Chiny”.

Jej zdaniem nowy tekst AI Act narusza zawarte w trialogu ustne porozumienie polityczne z 8 grudnia ub.r. Jak podkreśla, przewidywało ono wykorzystywanie zdalnej biometrii ex post „na bardzo rygorystycznych warunkach”. Natomiast w obecnej wersji „niewiele z tego pozostało” i będzie można w ten sposób ścigać najbłahsze wykroczenia.

– Nawet zgoda sądowa to niedoskonały bezpiecznik, bo z praktyki wiemy, że w skomplikowanych technicznie i dotyczących bezpieczeństwa sprawach sądy, m.in. w Polsce, i tak z reguły udzielają zgody na zastosowanie narzędzi inwigilacyjnych – komentuje Filip Konopczyński, prawnik i analityk z Fundacji Kaleckiego. Tym bardziej że tej zgody mieliby móc udzielić nie tylko sędziowie, lecz także urzędnicy.

Bez zarzucania sieci

Filip Konopczyński zwraca jednak uwagę, że w regulacji pozostały bezpieczniki, np. w postaci konieczności rejestrowania przez państwa członkowskie systemów używanych m.in. przez policję. KE będzie więc przynajmniej miała prawo wiedzieć, jakie narzędzia są używane na jej terenie.

– W sytuacji hipotetycznych naruszeń Komisja będzie mogła zainterweniować, np. nakładając karę albo zakaz na firmę dostarczającą oprogramowanie albo instytucję, która z niego korzysta. Natomiast w konkretnych przypadkach potencjalnych nadużyć to może nie wystarczyć – szczególnie jeśli za taki rozwój danego systemu odpowiadają instytucje publiczne – mówi Filip Konopczyński.

Na mocy AI Act będzie również przeprowadzana ocena pod kątem wpływu na prawa podstawowe.

Tomasz Zalewski, radca prawny i partner w kancelarii Bird & Bird, uspokaja, że nawet w najnowszej wersji projektowane przepisy AI Act przewidują, że do zastosowania systemów sztucznej inteligencji przy identyfikacji biometrycznej ex post w większości przypadków będzie potrzebna autoryzacja organu sądowego. – Wyjątkiem będą sytuacje, gdy system jest używany do wstępnej identyfikacji potencjalnego podejrzanego na podstawie obiektywnych i możliwych do sprawdzenia faktów, bezpośrednio związanych z przestępstwem – mówi Tomasz Zalewski.

Ponadto zdalnej identyfikacji biometrycznej nie można będzie stosować w sposób nieukierunkowany, do zarzucania sieci na ślepo, co mogłoby prowadzić do totalnej inwigilacji. Projekt stanowi bowiem, że każde użycie tego narzędzia ma się ograniczyć do tego, co jest ściśle niezbędne do dochodzenia w sprawie konkretnego przestępstwa.

– Najpierw musi być informacja o przestępstwie. Nie można tego narzędzia stosować do poszukiwania przestępców, o których niczego jeszcze nie wiadomo – podkreśla Tomasz Zalewski.

Człowiek też się myli

– To szersze zastosowanie zdalnej identyfikacji biometrycznej niż w poprzedniej wersji projektu – ocenia. – Ale zastanawiam się, czy nie jest to uzasadnione. Powiedzmy, że doszło do kradzieży w sklepie i policja szuka podejrzanego. Funkcjonariusze musieliby więc przejrzeć nagrania monitoringu z tego sklepu. I w tej sytuacji nikt nie ma wątpliwości, że wolno to robić. Co się zmieni, jeśli zamiast człowieka wykona to zadanie system AI, który poradzi sobie z nim szybciej? Obawy wobec takiego zastosowania sztucznej inteligencji wypływają głównie z ryzyka, że system AI może wadliwie zadziałać i błędnie kogoś zidentyfikować. Oraz że będzie nadużywany do śledzenia większej liczby osób, niż to absolutnie niezbędne. Jednak człowiek też może się pomylić. Dlatego, gdy wiadomo, że popełniono przestępstwo i system AI może pomóc w szybkiej identyfikacji podejrzanego, to jego zastosowanie na takich zasadach wydaje się prawidłowym podejściem. Nie widzę tu zagrożenia – ocenia Tomasz Zalewski.

Dodaje, że nowe rozwiązania w AI Act są obwarowane warunkiem, by przetwarzanie danych osobowych było zgodne z RODO. – Ponadto decyzje organów ścigania nie mogą się opierać wyłącznie na wyniku zdalnej identyfikacji biometrycznej. Należy zebrać więcej dowodów – zaznacza.

We wskazanym przypadku kradzieży sklepowej osobie rozpoznanej przez system AI nie będzie więc można postawić zarzutów tylko na tej podstawie. – Trzeba będzie jeszcze ustalić, że faktycznie mogła w tym czasie przebywać w sklepie – wskazuje Tomasz Zalewski.

Zwraca też uwagę, że zdalna identyfikacja biometryczna ex post będzie dozwolona jako system wysokiego ryzyka, a więc podlegający dużym ograniczeniom. – Jestem zwolennikiem postrzegania systemów AI jako narzędzi. Wyniki ich pracy powinien weryfikować i zatwierdzać człowiek. W różnych państwach jest różny poziom zaufania do organów ścigania i z tego mogą się rodzić obawy wobec takiego rozwiązania. Uważam jednak, że organy ścigania muszą mieć dostęp do nowoczesnych narzędzi i być w stanie skutecznie ścigać przestępców. Natomiast zawarte w projekcie AI Act zabezpieczenia są wystarczające, aby nie doszło w Unii Europejskiej do inwigilacji na taką skalę jak w Chinach – stwierdza Tomasz Zalewski.

AI już działa

Ostateczny tekst projektu AI Act rządy państw członkowskich – w tym Polski – powinny otrzymać dzisiaj. Według serwisu Politico czas na ustosunkowanie się do niego będzie do 2 lutego. Europarlament będzie musiał przyjąć rozporządzenie w głosowaniu plenarnym.

W Polsce już dziś są wykorzystywane zaawansowane systemy AI w monitoringu. Polski Holding Obronny (spółka Skarbu Państwa) jest dystrybutorem produktów hiszpańskiej firmy HERTA. Jak słyszymy w biurze prasowym spółki, oferowane przez nią rozwiązania mogą być wykorzystywane m.in. w analityce rozpoznawania twarzy choćby w obiektach sportowych czy miejskim monitoringu.©℗