Ważą się losy sztucznej inteligencji w Europie. Poprawka do AI Act uchyli drzwi dla masowej inwigilacji

Ważą się losy sztucznej inteligencji w Europie. Choć jeszcze w maju europosłowie wynegocjowali zakaz używania jej do śledzenia obywateli w czasie rzeczywistym, przed jutrzejszym głosowaniem członkowie EPL zgłosili poprawki, które wysadziły kompromis w powietrze.

W środę Parlament Europejski zagłosuje nad regulacją dotyczącą sztucznej inteligencji. Tak zwany AI Act to propozycja Komisji Europejskiej. Ma zapewnić, by wykorzystywanie tej technologii było bezpieczne, przejrzyste, etyczne, bezstronne i kontrolowane przez człowieka. Zależnie od generowanego ryzyka zastosowania AI podzielono w dokumencie na cztery kategorie: nieakceptowalne (będą zakazane), wysokiego ryzyka (dopuszczalne pod ścisłą kontrolą), ograniczonego ryzyka (będą podlegać tylko obowiązkom informacyjnym) i minimalnego ryzyka (nie będą regulowane).

Nad tym rozporządzeniem PE pracuje już od kilku miesięcy. W maju akt został przyjęty przez połączone komisje: Rynku Wewnętrznego i Wolności Obywatelskich. Najważniejszą zmianą, jaką europosłowie przyjęli na tym etapie, było wprowadzenie całkowitego zakazu stosowania identyfikacji biometrycznej w miejscach publicznych w czasie rzeczywistym. To potężna technologia – wykorzystuje ogromne bazy danych zawierające wrażliwe informacje o obywatelach i na bieżąco analizuje zachowanie, emocje czy wygląd. Jak pisali sami urzędnicy Komisji Europejskiej: „może wpływać na życie prywatne dużej części społeczeństwa, wywoływać poczucie stałego nadzoru i pośrednio zniechęcać do korzystania z wolności zgromadzeń i innych praw podstawowych”.

Komisje dopuściły tylko wykorzystanie AI do analizy nagrań ex post – za zgodą sądu i tylko wtedy, gdy jest to niezbędne do ścigania już popełnionych poważnych przestępstw o wymiarze transgranicznym (jak terroryzm, handel ludźmi, narkotykami czy nielegalny handel bronią). Po pracach w komisjach wydawało się, że wokół regulacji panuje zgoda i w tym kształcie zostanie ona przyjęta na posiedzeniu plenarnym PE. Tymczasem posłowie Europejskiej Partii Ludowej (EPL) w ostatniej chwili złożyli poprawki, które zakładają, że kontrowersyjna technologia będzie jednak dopuszczona do użytku. O jej zastosowaniu zdecydują sądy lub państwowe agendy, a dopuszczalne przypadki obejmą też planowane przestępstwa.

– W praktyce może to pozwolić władzom stosować rozpoznawanie biometryczne nie tylko pod pretekstem ryzyka ataku terrorystycznego, ale także poszukiwania podejrzanych o wiele innych przestępstw – mówi Filip Konopczyński z Fundacji Panoptykon. – Można wyobrazić sobie sytuację, w której służby informują rząd o możliwości wystąpienia takiego zdarzenia w trakcie antyrządowego protestu czy marszu. Policja czy agencje wywiadowcze zyskałyby możliwość zastosowania systemów rozpoznawania biometrycznego wobec wszystkich, którzy znajdą się w miejscu poddanym inwigilacji – ostrzega i dodaje, że technologie tego typu pozwalają ustalić np., kto brał udział w wydarzeniu, skąd przyjechał, co robił w trakcie, z kim się spotykał.

– Szczególnie w obecnej sytuacji międzynarodowej łatwo wyobrazić sobie, że okazji do wykorzystania takiego prawa byłoby wiele. Jeśli taki lub podobny przepis znajdzie się w treści Aktu o AI, umożliwiłoby to głęboką ingerencję w nasze prawa obywatelskie – przekonuje Konopczyński. Aby uświadomić posłom, do czego zdolna jest identyfikacja biometryczna, włoska organizacja społeczna Hermes uruchomiła stronę Dontspyonus.eu. Można na niej znaleźć profile wszystkich członków EPL, przygotowane przez narzędzia do zdalnej identyfikacji. Maszyna na podstawie oficjalnych fotografii określiła, w jakim nastroju są posłowie, w jakim prawdopodobnie są wieku oraz powiązała ich z kontami na Twitterze. A to i tak tylko ułamek możliwości, które ma ta technologia.

Poprawki dopuszczające użycie identyfikacji biometrycznej w czasie rzeczywistym złożył holenderski europoseł Jeroen Lenaers. Jak przekonuje nas urzędnik PE, który przygląda się sprawie, to jednak efekt nacisków ze strony Francji. Kraj chce stosować systemy masowej inwigilacji w czasie igrzysk olimpijskich w 2024 r.

O to, jak będą głosowali w sprawie AI, zapytaliśmy wszystkich polskich europarlamentarzystów. Odpowiedziało nam siedem osób, nie zdecydował się na to ani jeden poseł Platformy Obywatelskiej. – Jesteśmy świadomi nadużyć, do jakich może prowadzić inwigilacja w miejscach publicznych, szczególnie z wykorzystaniem AI. Sensowne jest wyeliminowanie możliwości wykorzystania zdalnej identyfikacji biometrycznej na bazie tylko decyzji organu administracji – przyznaje Adam Jarubas (PSL).

Wątpliwości budzą jednak szczegóły zakazu. – Co z sytuacjami, gdy istnieją przesłanki o przygotowywanym zamachu terrorystycznym, gdzie wykorzystanie wszelkich dostępnych środków może uratować życie wielu ludziom – pyta europoseł. Jego zdaniem kluczem jest skuteczny nadzór sądowy nad wykorzystaniem AI. – To też kolejny przykład tego, jak istotna jest praworządność. Bez niej nawet najbardziej restrykcyjne przepisy nie pomogą, bo ograniczą tylko tych, którzy i tak przestrzegają prawa. Nieszanujący praworządności, niezależnego nadzoru sądowego i tak zrobią, co chcą – uważa. – Przy wszystkich wartościowych ograniczeniach wykorzystania identyfikacji biometrycznej AI warto rozważyć wyjątki w jasno określonych przypadkach najpoważniejszych przestępstw, pod jasno określonymi rygorami i pod nadzorem sądowym i skoncentrować się, by ten nadzór był realny i skuteczny we wszystkich państwach UE – podkreśla Adam Jarubas.

Głosowanie w Parlamencie Europejskim otworzy drogę do ustalenia ostatecznego kształtu regulacji. Będzie ona wynegocjowana w procedurze trialogu, czyli dyskusji między PE, Komisją Europejską i Radą Unii Europejskiej. ©℗

AI może wydłużyć średnią długość życia

Pamiętajmy, że poza pewnymi zagrożeniami, np. związanymi z ochroną danych, AI niesie ze sobą potencjalne olbrzymie korzyści dla obywateli. Wiele dziedzin życia może zostać zrewolucjonizowanych. Spójrzmy na opiekę medyczną, trudno wykrywalne choroby u pacjentów będą mogły zostać wychwycone przez AI na podstawie informacji o ich dotychczasowym stanie zdrowia i historii leczenia, co znacznie zwiększy średnią długość życia. Oczywiście dostęp do takich danych powinien zostać udzielony tylko w przypadku, gdy obywatel zgodził się na ich udostępnienie. Musimy uważnie obserwować rozwój tej technologii i dostosowywać prawo do istniejących warunków. ©℗

Negocjacje wywołały emocje

Europejski projekt to pierwsza na świecie próba wprowadzenia spójnych ram prawnych dla tworzenia produktów i usług opartych na AI, a także ich wprowadzania na rynek i zarządzania ryzykiem. Negocjacje w PE wywołały wiele emocji. Chcieliśmy zagwarantować bezpieczeństwo produktów i systemów AI, a zarazem przyjazne warunki dla rozwoju innowacji i technologii. Polskie przedsiębiorstwa działające w tej branży to głównie małe firmy, którym należy zapewnić dogodne warunki rozwoju. W moim przekonaniu przepisy, które zostaną poddane pod głosowanie w Strasburgu, spełniają te oczekiwania. Jeśli tekst zostanie utrzymany w wersji po komisjach PE,będę głosować za przyjęciem aktu. ©℗

W komisjach osiągnęliśmy kompromis

Nie będę popierał zasadniczych zmian tekstu w obszarze zakazanych praktyk czy listy systemów wysokiego ryzyka. Uważam, że osiągnęliśmy kompromis, który równoważy interesy konsumentów, producentów i instytucji publicznych. Sztuczna inteligencja szturmem wdziera się do wszystkich sektorów gospodarki, ale także administracji, ochrony zdrowia czy edukacji. Przepisy sektorowe są potrzebne, żeby reagować np. na rozwój modeli generatywnych czy odpowiedzieć na pytanie, kto ponosi odpowiedzialność za błędy AI w całym łańcuchu produkcji i dystrybucji. Potrzebne jest też forum współpracy i wymiany doświadczeń na poziomie UE, którym będzie tzw. AI Office. ©℗

Nie zgadzam się na identyfikację biometryczną

Osobiście zabiegam, aby systemy biometrycznej identyfikacji osób w miejscach publicznych i w czasie rzeczywistym pozostały na liście zakazanych praktyk w zakresie sztucznej inteligencji. Tu różnię się od podejścia frakcji EPL (w której jest PO), która wyraża zgodę na taką identyfikację. Będę głosowała za pozostawieniem zakazu wykorzystywania tych systemów. Wydaje mi się, że propozycja, która wyszła z komisji IMCO i LIBE, jest bardzo dobra. Za główny cel podczas sesji plenarnej PE stawiałabym utrzymanie tego kompromisu. ©℗

Istotne są wymogi przejrzystości

W AI Act jest ważna m.in. wzmocniona ochrona praw podstawowych i demokratyczny nadzór nad sztuczną inteligencją w całej UE. Rozporządzenie wprowadza zakazy pewnych zastosowań AI oraz tworzy listy systemów wysokiego ryzyka, które będą musiały spełnić surowsze kryteria niż inne. Istotne jest także dodanie wymogów w zakresie przejrzystości dla organów publicznych korzystających z systemów sztucznej inteligencji wysokiego ryzyka czy zapewnienie mechanizmów skarżenia decyzji podjętych z udziałem AI. Zamierzam zagłosować „za” i poprzeć wersję wynegocjowaną przez grupy, w tym S&D na poziomie komisji I MCO i LIBE. Do tego zagłosuję przeciw ograniczaniu zakazu zdalnej identyfikacji biometrycznej. ©℗

Dobrych zapisów jest więcej

Akt o sztucznej inteligencji, jako prawna materializacja Białej Księgi AI z 2020 r., to m.in. próba odpowiedzi na dylemat, jak wspierać innowacyjność AI, by nie pozostać w tyle za resztą świata, nie utracić konkurencyjności, móc zaoferować obywatelom UE korzyści z tej technologii, a jednocześnie uregulować ten obszar, by zapobiegać lub odpowiadać skutecznie na zagrożenia nadużyć lub błędów AI.

Grupa EPL nie była jednomyślna w głosowaniu na poziomie połączonych komisji IMCO i LIBE. Osobiście, jak pozostali posłowie z polskiej delegacji w EPL, poparliśmy ostatecznie stanowisko, uznając, że wiele dobrych zapisów przeważa nad tymi, które budzą jeszcze wątpliwości, a które można jeszcze poprawić na dalszych etapach prac. ©℗

„Nie” dla technik podprogowych

AI niewątpliwie niesie ze sobą korzyści, ale również zagrożenia. Nie próbujemy zahamować jej rozwoju, a jedynie naprowadzić rozwój systemów na tory gwarantujące bezpieczeństwo i prywatność obywateli. Wychodzimy tym samym naprzeciw oczekiwaniom obywateli i biznesu. Na ile uda się je pogodzić, to zależy od ostatecznego głosowania. Ważne są przepisy zabraniające wprowadzania do obrotu systemów AI, które wykorzystują m.in. techniki podprogowe lub manipulacyjne. ©℗