statystyki

Pod kontrolą komputera. Czy sztuczna inteligencja doprowadzi do nowego podziału w społeczeństwie?

autor: Jakub Styczyński08.07.2018, 20:00; Aktualizacja: 10.07.2018, 09:32
Grafika z gry komputerowej „Watch Dogs”

Grafika z gry komputerowej „Watch Dogs”źródło: Dziennik Gazeta Prawna

Sztuczna inteligencja coraz częściej profiluje i ocenia ludzi w internecie. To droga do nowego podziału społeczeństwa.

30 - letni Wong zaspał do pracy. Ubrał się w pośpiechu, wsiadł do auta i, próbując ścigać się z czasem, przekroczył dozwolony w mieście limit prędkości. Chwilę później usłyszał za sobą syrenę i zobaczył w lusterku migające światła radiowozu. Policjant wystawił mandat i poinformował Wonga, że za przekroczenie prędkości odjęto mu kilkanaście punktów w systemie oceny obywateli. Niewiele, ale gdy trzydziestolatek dotarł do pracy, dowiedział się, że jego średnia ocena jest już za niska, by mógł nadal być zatrudniony w firmie wymagającej od pracowników nieposzlakowanej opinii. Nagła utrata zatrudnienia zabolała podwójnie, bo za ten fakt Wong stracił kolejne punkty. I w rankingu obywateli spadł jeszcze niżej.

Czy to fabuła dystopijnej powieści? Nie. Ale choć to wyimaginowana historia, to jej punkt wyjścia jest prawdziwy: od ponad pół roku mieszkańcy 12 chińskich miast są oceniani przez komputer. Do 2020 r. Systemem Oceny Obywateli (Social Credit System, SCS) ma być objęty cały kraj – 1,3 mld ludzi. Aż 17 proc. mieszkańców Ziemi. Jak działa SCS? Zachowania i działania „wybrańców” są analizowane oraz punktowane. Teoretycznie chodzi o zachęcenie do przestrzegania przepisów i regulaminów. Punkty można więc stracić np. za jazdę bez ważnego biletu w komunikacji miejskiej, palenie w niedozwolonych miejscach czy stosowanie w pracy mobbingu. Rating rośnie, gdy spłaca się kredyty w terminie lub ma dobre wyniki w pracy. W praktyce SCS może inwigilować znacząco głębiej, bo system monitoruje też korespondencję wysyłaną przez WeChat, najpopularniejszy komunikator internetowy w Państwie Środka. W przyszłym roku SCS wzbogaci się o kolejny element kontroli, bo wszystkie samochody w Chinach będą musiały mieć zamontowany chip monitorujący lokalizację pojazdu.

Przedstawiciele Pekinu przekonują, że osoby łamiące zasady powinny być karane. A najlepiej, by groziło im bankructwo, bo nic tak nie boli jak utrata majątku. Tylko przymuszając ludzi do wzorcowych zachowań, można zadbać o budowanie godnego zaufania społeczeństwa. Niska ocena wystawiona przez SCS ma swoje konsekwencje. Osobom ze słabym ratingiem odmawia się sprzedaży biletów szybkiej kolei (4,2 mln przypadków tylko w jednym miesiącu) oraz podróży lotniczych (11 mln przypadków).

Chiński panoptikon

Julia Angwin, laureatka Nagrody Pulitzera, amerykańska dziennikarka specjalizująca się w tematyce cyberprzestrzeni, autorka książki „Społeczeństwo nadzorowane” (wyd. Kurhaus), nie ma wątpliwości, że SCS jest kolejnym narzędziem kontroli społeczeństwa. – Nie dziwi mnie, że właśnie reżim w Chinach jest tym zainteresowany. To charakterystyczne dla autorytarnych rządów – mówi. Jej zdaniem SCS to współczesny panoptikon. To nazwa więzienia zaprojektowanego w XVIII w. przez angielskiego filozofa Jeremy’ego Benthama – tak zaplanował budynek, by osadzeni nie wiedzieli, czy są obserwowani przez strażników. Po to, by byli pod ciągłą presją. – Kiedy społeczeństwo wie, że w każdej chwili może być ocenione, bez przerwy musi uważać na to, co robi i co mówi – wyjaśnia Angwin.


Pozostało jeszcze 68% treści

Czytaj wszystkie artykuły
Miesiąc 97,90 zł
Zamów abonament

Mam kod promocyjny
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone. Dalsze rozpowszechnianie artykułu tylko za zgodą wydawcy INFOR Biznes. Kup licencję

Polecane

Reklama

Twój komentarz

Zanim dodasz komentarz - zapoznaj się z zasadami komentowania artykułów.

Widzisz naruszenie regulaminu? Zgłoś je!

Dowiedz się więcej

Galerie

Polecane