Europosłowie w komisjach zaakceptowali treść przepisów, które uregulują sztuczną inteligencję.

Komisje Parlamentu Europejskiego zatwierdziły we wtorek rano tekst rozporządzenia – Akt o sztucznej inteligencji, wypracowany w ub.r. podczas negocjacji instytucji unijnych (trialogu).

Tekstem rozporządzenia zajmowały się: Komisja Rynku Wewnętrznego i Ochrony Konsumentów (IMCO) oraz Komisja Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych (LIBE). Następnym krokiem będzie przyjęcie AI Actu na posiedzeniu plenarnym Europarlamentu, które zaplanowano na 10–11 kwietnia.

Jak informowaliśmy, 2 lutego tekst regulacji przyjął Komitet Stałych Przedstawicieli 27 krajów członkowskich przy Radzie UE (COREPER). Teraz AI Act czeka na formalną akceptację Rady UE.

Obowiązki zależne od ryzyka

Burzliwe negocjacje towarzyszą temu projektowi od początku. Kilka razy ulegał też dużym zmianom.

Pierwszą wersję Komisja Europejska przedstawiła w kwietniu 2021 r. Projekt AI Aktu nie uwzględniał wtedy jeszcze wtedy generatywnych i podstawowych systemów sztucznej inteligencji – czyli tych, które są obecnie najpopularniejsze. Dotyczące ich przepisy dołączono dopiero w trakcie prac nad regulacją – m.in. za sprawą rosnącego zainteresowania Chatem GPT firmy OpenAI, Bardem Google’a i podobnymi rozwiązaniami.

AI Act dzieli zastosowania sztucznej inteligencji na cztery kategorie i zależnie od tego nakłada określone obowiązki. Nieakceptowalne rozwiązania oparte na AI będą zakazane. Zastosowania z kategorii wysokiego ryzyka zostaną dopuszczone do stosowania pod ścisłą kontrolą. Trzecia kategoria - ograniczonego ryzyka – będzie objęta obowiązkami informacyjnymi. Natomiast zastosowania AI minimalnego ryzyka unikną regulacji.

Przedmiotem sporów między przedstawicielami unijnych instytucji od początku było to, do której kategorii trafią zastosowania AI budzące największe obawy.

Burzliwe negocjacje

Największe emocje towarzyszyły ustalaniu treści przepisów dotyczących stosowania AI przy biometrycznej identyfikacji – np. rozpoznawaniu twarzy - w czasie rzeczywistym lub ex post (z nagrań). Europarlamentarzyści starali się wprowadzić ograniczenia w dostępie organów ścigania do tych narzędzi, natomiast w wśród przedstawicieli państw członkowskich w Radzie UE dominowała tendencja liberalizacji tej sfery.

To głównie z tego powodu negocjacje między obiema instytucjami unijnymi w grudniu ub.r. były rekordowo długie. Co więcej, jak pisaliśmy w DGP, już po zawarciu ustnego porozumienia po tych negocjacjach w tekście AI Aktu zaszły zmiany.

Ujawniony przez Euractiv dokument datowany na 21 stycznia – najnowsza dostępna wersja projektu rozporządzenia – obejmuje rozwiązania podobne do tych, które prawie trzy lata temu proponowała KE, ale potem Europarlament je zaostrzył, by ograniczyć ryzyko masowej inwigilacji. Jednak na ostatniej prostej znów wróciły.

Przewidują, że zdalna identyfikacja biometryczna ex post przy użyciu AI będzie dopuszczalna nawet bez zgody sądu, jeśli służy organom ścigania do wstępnej identyfikacji potencjalnego podejrzanego na podstawie obiektywnych i możliwych do sprawdzenia faktów bezpośrednio związanych z przestępstwem.

W innych przypadkach, w ramach dochodzenia dotyczącego ukierunkowanego przeszukania osoby skazanej lub podejrzanej o popełnienie przestępstwa, policja lub inne organy ścigania będą potrzebowały zezwolenia - ale nie musi ono pochodzić od sądu, może je wydać organ administracyjny, którego decyzja jest wiążąca i podlega kontroli sądowej. Zezwolenie trzeba będzie uzyskać przed podjęciem czynności „lub bez zbędnej zwłoki” - nie później niż w ciągu 48 godzin od użycia AI do identyfikacji biometrycznej.