Sztuczna inteligencja za głupia na rynek

Wbrew obawom jednych i nadziejom drugich sztuczna inteligencja jest zbyt ograniczona, by skończyć z kapitalizmem.

Położyć kres wyzyskowi oraz pogoni za pieniądzem. Skończyć z szaloną rywalizacją. Skupić się na pasjach lub błogim lenistwie. Bo w końcu, dzięki Socjalizmowi 2.0, uda się zbudować raj na ziemi. Marzenie? Socjalizm 1.0, w wersjach XIX- i XX-wiecznej, okazał się utopijny. Skąd więc pomysł, że Socjalizm 2.0 zadziała? I co to w ogóle za pojęcie?

Nazywam tak socjalistyczne idee, które odżywają w wyniku przełomu związanego ze sztuczną inteligencją (Artificial Intelligence, AI). Na przykład prof. Daron Acemoğlu, wybitny ekonomista z MIT, zasugerował, że wiara w mechanizm rynkowy jako jedyne działające narzędzie koordynacji procesu produkcji jest już bezzasadna. Konkurencję dla rynku ma stanowić właśnie AI.

Marksiści zacierają ręce. Na portalu Marxist.com już pojawiają się zachęty do tego, by klasa robotnicza przejęła kontrolę nad AI, bo to najlepsza droga do raju na Ziemi. Cieszy się pewnie także chiński miliarder Liu Qiangdong, który w 2017 r. wróżył, że w wyniku postępów technologicznych ziści się sen komunistów o świecie równości i bogactwa.

Takich głosów będzie coraz więcej. Każda kolejna wersja ChatGPT będzie otwierać ponownie stronice „Kapitału” Marksa i pism Saint-Simona. Może trzeba tym razem przyjąć to z nadzieją?

Rynek już niepotrzebny?

Przeciwnie. Trzeba demaskować to zjawisko jako niebezpieczne. Bo choć – jak zaraz pokażę – Socjalizm 2.0 jest niemożliwy, to jego zwolennicy mogą (nawet niechcący) doprowadzić do powstania Totalitaryzmu 2.0, przed którym – w przeciwieństwie do tych dawnych – nie będzie ucieczki. Wizje z „1984” i „Nowego wspaniałego świata” zleją się w system najmroczniejszy z możliwych.

Ale po kolei. Zacznijmy od sprawy trudnej: od problemu kalkulacji ekonomicznej w socjalizmie. To wyzwanie uniemożliwiało odgórne zarządzanie gospodarką. Ta trudna sprawa jest w istocie prosta. Bo w gospodarce rynkowej działają mechanizm informacyjny (cenowy) i mechanizm bodźcowy (zysku/straty). Sprzężone z sobą służą wymianie informacji między producentami a konsumentami. Załóżmy, że paliwo w Polsce – w wyniku wojny w sąsiednim kraju – drożeje o 300 proc., lecz popyt na nie – ku zaskoczeniu producenta – spada jedynie o 30 proc. Producent, który jest niemal monopolistą, otrzymuje właśnie informację: ceny są zbyt niskie. I to dlatego – choć wojna się kończy – ceny nie spadają. Tak „chciwy” producent korzysta z pozyskanej wiedzy o rynku. Ale do czasu. Konsument toleruje wyższe ceny dopóty, dopóki nie znajdzie alternatywy, np. przerzucając się na rower albo kupując auto elektryczne. Ale przede wszystkim inwestorzy z innych branż zauważają nagły skok rentowności w branży paliwowej i wchodzą na ten rynek (jeśli, oczywiście, rząd im tego nie utrudnia). Ceny zaczynają spadać. W opisanej sytuacji nikt odgórnie nie koordynuje procesu produkcji i nikt nie narzuca konsumentom decyzji zakupowych. Mimo to popyt i podaż naturalnie dostosowują się do siebie w procesie koordynowanym przez cenę i napędzanym przez zysk. Tymczasem w Socjalizmie 1.0 ceny rynkowe były zniesione i co najwyżej ustalane przez partyjnych nominatów. Dlatego nie działał, prowadząc do niedoborów i ubóstwa. „Bez kalkulacji ekonomicznej nie może być mowy o gospodarce” – pisał sto lat temu Ludwig von Mises, pierwszy ekonomista, który przewidział, czym skończą się eksperymenty bolszewików.

Ale to nie z Misesem dyskutuje prof. Acemoğlu, a z jego uczniem Friedrichem von Hayekiem. On także podejmował problem kalkulacji ekonomicznej. Acemoğlu przywołał jego artykuł o tytule „The Use of Knowledge in Society” (Wykorzystanie wiedzy w społeczeństwie), wskazując na podstawowe założenie Hayeka: istnienie wiedzy rozproszonej. Ty i ja jesteśmy dysponentami unikatowej wiedzy, którą przekazujemy sobie dzięki rynkowi. Rynek skutecznie agreguje informacje poprzez system cenowy. I tu wkracza Acemoğlu, który pyta: „Co by się stało, gdyby moc obliczeniowa centralnych planistów uległa ogromnej poprawie? Niektórzy uważają, że postępy w dziedzinie AI prowadzą nas w tym kierunku”. Ekonomista sugeruje, że może i w swoich analogowych czasach Mises i Hayek mieli rację, ale już jej nie mają. AI będzie mogła równie skutecznie, co rynek, agregować informacje i decydować o alokacji kapitału.

Jakże temu zaprzeczyć? AI już kontroluje nasze tętno, analizuje ruchy gałek ocznych, leczy nas, sprząta nasze mieszkania i udaje, że jest nami, naśladując nasze wypowiedzi. Wkrótce po prostu będzie znała nasze preferencje równie dobrze, co my, i będzie umiała skoordynować je z możliwościami producentów. Na co komu rynek? Acemoğlu jest zaniepokojony. Jego zdaniem w zwykłych warunkach rynek funkcjonuje w tandemie z decentralizacją, ale gdy zarządzanie produkcją przejmie AI, dojdzie do koncentracji procesu decyzyjnego. O tym, co i dla kogo produkować, będą decydować właściciele technologii, wielkie koncerny. Może nie będzie cen, a więc i zysku, ale zostaną one zastąpione przez absolutną niepaństwową kontrolę nad społeczeństwem. Ekonomista twierdzi, że decentralizację, a więc i naszą wolność, można uratować tylko dzięki regulacjom i „demokratycznej kontroli nad technologią”.

Bezkrwawa rewolucja?

Przemyślenia Acemoğlu zbiegają się w interesujący sposób z rozumowaniem Daniela Morleya, autora portalu Marxist.com. W artykule „Artificial Intelligence: doomsday for humanity, or for capitalism?” (Sztuczna inteligencja: Sądny dzień ludzkości czy kapitalizmu?) przedstawia on dwa kierunki dalszego rozwoju cywilizacji.

Najpierw zauważa, że AI nie jest „świadoma” w ludzkim sensie i niewiele wskazuje, że taka może być. Mimo to, stwierdza Morley, jej potencjał w kwestii wpływu na świat jest rewolucyjny. Jako przykład podaje program AlphaFold rozwinięty przez DeepMind, spółkę zależną Google’a. Dzięki zdolności uczenia głębokiego (deep learning) AlphaFold jest w stanie z dużą dokładnością przewidywać coś, czego nie są w stanie przewidzieć ludzie: kształt, a zatem i funkcję białek przy danej kombinacji aminokwasów. Ta technologia może, zdaniem marksisty, znacząco „przyspieszyć opracowywanie leków i zrozumienie chorób”, a do jej stworzenia wystarczyło kilkutygodniowe karmienie superkomputerów DeepMind danymi o kształtach znanych ludziom białek. Problem w tym, ubolewa Morley, że choć potencjał AI jest wielki, to w obecnym systemie, w kapitalizmie, nie może być zrealizowany.

AI, zdaniem Morleya, jest po prostu zbyt zaawansowana dla kapitalizmu. System ten jest oparty na dążeniu do zysku, a AI ma potencjał, by zysk wyeliminować. Pozwala dostarczać na rynek produkty bez udziału pracowników i po coraz niższych cenach. W ten sposób kapitalizm i jego technologie popadają w sprzeczność. Morley twierdzi, że właśnie dlatego „inwestycje i wzrost produktywności są tak niskie, pomimo tworzenia niesamowitych nowych technologii”. Kapitaliści nie pozwalają realizować naturalnego potencjału AI, a wręcz niszczą go, przekierowując jej użycie na zwiększanie kontroli i władzy nad pracownikiem. AI „jest już wykorzystywana do przyspieszenia pracy, a tym samym zwiększenia stopy wyzysku… Kamery i inne czujniki mogą tanio i skutecznie monitorować proces pracy tysięcy pracowników, dyscyplinując ich, aby produkowali więcej za tę samą płacę”.

Gdy Acemoğlu pisze o zagrożeniu, Morley twierdzi, że ono już się urzeczywistnia, a wśród konkretnych przykładów podaje praktyki firmy Amazon, która w 2018 r. opatentowała „opaskę na nadgarstek emitującą ultradźwiękowe impulsy i fale radiowe w celu monitorowania rąk pracowników magazynu, zapewniając haptyczne sprzężenie zwrotne w celu popchnięcia pracownika w kierunku właściwego obiektu”.

Dla Morley’a takie wykorzystanie AI w ramach kapitalizmu to marnotrawstwo niewiarygodnej skali, gdyż „trudno wyobrazić sobie zadanie lepiej dostosowane do AI niż planowanie skomplikowanej gospodarki w celu zaspokojenia potrzeb (wszystkich ludzi – red.)”. Marksista uważa, że czujniki, które opatentował Amazon, można by zainstalować w całej gospodarce i potem, korzystając z analityki AI do zgromadzonych w ten sposób danych, uczynić z Ziemi krainę mlekiem i miodem płynącą. To nie stanie się jednak samo. To zadanie należy do – a jakże – klasy robotniczej, która musi obalić kapitalizm: „Tylko wtedy, gdy ostatecznie obalimy kapitalizm, abyśmy mogli poddać gospodarkę świadomemu, racjonalnemu planowaniu, sztuczna inteligencja i inne postępy technologiczne będą mogły w pełni rozwinąć swój potencjał” – konkluduje Morley, cytując na koniec Lwa Trockiego.

Acemoğlu wierzy w to, że AI da się opanować w ramach istniejącego systemu. Morley chce nowego systemu. Obaj mylą się co do potencjału AI.

Granice AI

Wróćmy do Hayeka. Czy naprawdę uważał, że jedyny problem centralnego planisty to brak danych i odpowiednich mocy obliczeniowych? Gdyby tak było, to faktycznie superkomputery rozwiązywałyby sprawę. Problem jest jednak głębszy i sprowadza się do tego, co można i jak można wiedzieć. W dużym skrócie: wiedzieć wszystkiego się nie da.

Hayek uważał, że istnieją istotne dla rynku rodzaje wiedzy, których centralny planista pozyskać nie może, ergo: jego wysiłki w celu optymalnej alokacji kapitału będą płonne. Jakie to rodzaje wiedzy? Chodząc do szkoły, poznajemy wzory matematyczne albo uczymy się dat ważnych bitew lub wierszy wieszczów. Nabywamy w ten sposób wiedzę deklaratywną. Z kolei ucząc się grać w piłkę albo szachy, jeździć na rowerze albo rozwiązywać wielowarstwowe zagadki detektywistyczne, nabywamy wiedzę proceduralną. Charakteryzuje się ona tym, że trudno przełożyć ją w pełni na spisaną instrukcję. To właśnie ta wiedza stanowi zdaniem Hayeka barierę nie do przejścia dla centralnego planisty i jego superkomputera.

Czy na pewno? Wszyscy się zgodzą, że AI można nakarmić dowolną ilością danych, a ona je „przetrawi”, zapamięta i będzie umiała do konkretnych zadań wykorzystać. Ale przecież także wiedza proceduralna nie jest sztucznej inteligencji całkowicie obca. AI codziennie zachwyca nas albo przeraża, ucząc się wykonywania kolejnych, wcześniej uważanych za ludzką domenę, działań. Roboty o humanoidalnych sylwetkach poruszają się z gracją, a najtrudniejsza gra na świecie – go – jest już w nadludzkim stopniu opanowana przez komputer. AI nieustannie zbiera informacje, na podstawie tych danych szuka wzorców i zależności, a następnie wykorzystuje je do rozpoznawania ich w danych, których nigdy wcześniej nie widziała. Na przykład analizując zbiór N obrazków z kotami, uczy się rozpoznawać obrazki z kotami spoza N, albo analizując zachowania drogowe kierowców z przeszłości, uczy się podejmować decyzje dotyczące kierowania autem w przyszłości.

Dodatkowo modele AI są w stanie ulepszać swoje działanie na podstawie już samodzielnie zebranych danych i doświadczeń. Zwłaszcza przykład z prowadzeniem auta jest w tym kontekście ciekawy. Można by argumentować, że to w głównej mierze umiejętność proceduralna. Zbiór bodźców, na które kierowca musi odpowiadać, jest bardzo szeroki, a mechanizmy reakcji są wysoce zautomatyzowane i częściowo nieopisywalne. Kierowca nie umiałby np. raczej odpowiedzieć, dlaczego naciska pedał hamulca 15 ms, a nie 16 ms po zmianie świateł na drodze. Ale sztucznej inteligencji takich wyjaśnień, jak się okazuje, nie potrzeba. Wystarczy jej odpowiednio duży zbiór zachowań kierowców i odpowiednio szeroki zakres informacji o okolicznościach tych zachowań, by prowadzić pojazdy nie tylko równie dobrze, ale nawet lepiej (statystycznie) niż przeciętny szofer.

Proste stwierdzenie, że istnieją rodzaje wiedzy trudno werbalizowanej, nie wystarcza, by obronić Hayeka przed krytyką Acemoğlu i by zabić utopijne marzenia Morleya.

Słowem, być może Hayek przeceniał znaczenie wiedzy proceduralnej? Może nie jest ona tak niezbędna do efektywnej realizacji zadań, jak sądził?

Wiedza utajona

Ale jest coś jeszcze, co składa się na wiedzę proceduralną, a co pozostanie zakryte dla AI, uniemożliwiając zarządzanie za jej pomocą gospodarką i wprowadzenie socjalizmu. Hayek zwraca uwagę, że wiedza, którą dysponujemy indywidualnie, ma charakter skrajnie subiektywny. Pisze, że to wiedza „agenta nieruchomości”, który jest ekspertem od „przemijających okazji”, „czerpiącym zyski z lokalnych różnic cen towarów”. Spełnia on „jednoznacznie użyteczne funkcje, opierając się na wyspecjalizowanej wiedzy o nieznanych innym ludziom okolicznościach towarzyszących konkretnej ulotnej chwili”.

Co chce przez to powiedzieć? Że istotny dla działania rynku rodzaj wiedzy to wiedza będąca funkcją czasu i miejsca oraz subiektywnej percepcji. Taka ukryta wiedza (to pojęcie pochodzi od Michaela Polanyi’ego) nieustannie kształtuje preferencje ludzi, a ich wybory są z kolei źródłem decyzji konsumenckich i producenckich. To w obszarze tej wiedzy jednostka reaguje na zmienność świata. Kształtuje się ona w ramach naszego wyjątkowego doświadczenia życiowego, jest też współokreślana kontekstem kulturowym i społecznym, a także psychologicznym. Stąd np. dwie różne osoby postawione w tej samej sytuacji i w tym samym czasie będą różnie ją odbierać i różne decyzje wskutek tej różnicy podejmować.

Żeby zrozumieć te dość abstrakcyjne rozważania, wystarczy uświadomić sobie, że na świecie żyje 8 mld ludzi i każdy z nich w każdym momencie dokonuje jakiegoś wyboru: zrobić coś czy tego zaniechać, powiedzieć coś czy przemilczeć. Każdemu zdarzają się też wypadki niezależne od jego woli. Ktoś mógł ostatnie pięć lat oszczędzać na nowe auto, by nagle zapaść na ciężką chorobę wzroku i zaoszczędzone środki przeznaczyć na jej leczenie. Ktoś już miał kliknąć „sprzedam”, by pozbyć się akcji spółki X, lecz zadzwonił dzwonek do drzwi, co na jakiś czas odwróciło uwagę inwestora, dając mu czas do namysłu, w wyniku czego zachował papiery i uniknął straty. 8 mld ludzi to 8 mld decyzji na sekundę, które powstają na bazie i w wyniku wiedzy, która nie istnieje jako stała i dana, a tylko jako subiektywna, niewidoczna dla zewnętrznego obserwatora. Taką wiedzą nie można „nakarmić” żadnego modelu AI. Takiej wiedzy nie zgromadzi żaden GUS. Po taką wiedzę nie można sięgnąć, bo ona się nigdzie nie znajduje – dlatego nie można ludziom zainstalować odpowiedniego czujnika. Myli się więc też Yuval Noah Harari, który w „Homo Deus” przekonuje, po trosze jak Morley, że AI może poznać nas lepiej niż my sami. Nie może – sztuczne sieci neuronowe nie są w stanie połączyć się z czymś tak nieuchwytnym, jak wiedza ukryta. Jest ona naturalnym mechanizmem absorbowania zmiany – jedynej prawdy o świecie, której nie sposób zaprzeczyć.

Hayek pisze: „Gdyby można było z góry przyjąć szczegółowe plany ekonomiczne na dość długie okresy, a następnie ściśle się ich trzymać, to oczywiście zadanie nakreślenia pełnego planu rządzącego całą aktywnością ekonomiczną nie byłoby tak ogromne”, ale „problemy ekonomiczne pojawiają się zawsze (i wyłącznie) w konsekwencji zmiany”. Rynkowy mechanizm cenowy to jego wybitnie magiczna właściwość, nie potrzebuje jednak głębokich analiz wiedzy ukrytej. Mimo tego, że nasze informacje jednostkowe są tak efemeryczne, tak niedookreślone, to jest on w stanie wycisnąć z nich to, co najistotniejsze, i przekazać innym. „Najbardziej istotną cechą tego systemu jest oszczędność wykorzystania wiedzy, na której się on opiera, czyli niewielka ilość wiedzy, jaką muszą posiadać poszczególni jego uczestnicy, by byli w stanie podejmować właściwe działania” – uważa ekonomista.

Jeśli przyjmujemy hayekiański obraz świata, to musimy dojść do wniosku, że o ile AI może zastąpić agentów nieruchomości czy kierowców, o tyle nie może zastąpić całego rynku.

Bilioner AI albo stagnacja

Amerykański biznesmen Mark Cuban w roku 2017 stwierdził, że pierwszym bilionerem zostanie osoba, której uda się skomercjalizować AI w jak największej liczbie dziedzin. Cuban dodał rónież, że biorąc pod uwagę rozwój technologii, „wolałby być magistrem filozofii” niż księgowym, bo właśnie takie odtwórcze zawody znikną jako pierwsze. Bardzo możliwe, że uban ma rację. W wykonywaniu konkretnych zadań ukryta wiedza okazuje się dla AI zbędna. Jednak sztuczna inteligencja nie zastąpi rynku, system cen nie zniknie, podobnie jak podążanie za zyskiem – i dlatego właśnie prognoza Cubana może się spełnić. Może faktycznie za kilka lat to twórcy OpenAI (ChatGPT), a nie Musk czy Bezos, będą najbogatszymi ludźmi na ziemi.

W jednym zgadzam się zarówno z Acemoğlu, jak i Morleyem. AI nie ma historii, życia emocjonalnego i nie dokonuje samodzielnego wartościowania, wynikającego często wręcz z alogicznego ciągu myślowego, nie kieruje się własnymi celami i nie zmienia w ostatniej chwili zdania. Jest narzędziem i wykorzystana źle, wypchnie ludzkość na bardzo niespokojne wody. A będzie wykorzystana źle, jeśli rozpowszechni się nieracjonalna wiara w jej wszechmoc.

Możliwe, że faktycznie nastąpią oligarchizacja rynku i przejęcie AI przez niewielką grupę koncernów. Do takiego zjawiska może dojść, jeśli regulacje dadzą takim firmom nienależne im przywileje, cementując ich pozycję. Z powodzeniem można wyobrazić sobie skostniały globalny rynek, pozbawiony realnej walki konkurencyjnej i nastawiony na maksymalne wyciskanie soków z już istniejących zasobów bez ich jednoczesnego rozbudowywania. Warto pamiętać, że powiększanie zasobów może się odbywać tylko w wyniku prawdziwej, głębokiej innowacyjności i wymaga wysokiego poziomu konkurencji rynkowej.

Jest też scenariusz jeszcze niebezpieczniejszy, a polega on na zwycięstwie idealistów. Ludzi przekonanych, że odebranie AI i innych nowych technologii możnym tego świata to droga do raju na ziemi. Liczy na to nie tylko Morley, lecz także choćby Aaron Bastani, który w książce „Fully Automated Luxury Communism” przedstawia, jak pisze, polityczny program wyeliminowania głównej przyczyny wszystkich nieszczęść: skończoności zasobów. Zdaniem Bastaniego dziś już „istnieje więcej niż wystarczająca ilość technologii, aby każdy na Ziemi mógł prowadzić zdrowe, szczęśliwe i satysfakcjonujące życie”.

Obawiam się, że niezrozumienie ograniczeń i prawdziwych możliwości nowych technologii takich jak AI może zasiać także w zwykłych ludziach ziarno ideologii, które – jak mogłoby się wydawać – pogrzebaliśmy dawno temu. Tym razem jednak rezultat może być bardziej trwały. „Elity” takich postrewolucyjnych systemów będą mieć znacznie lepsze środki kontroli niż III Rzeszy, ZSRR czy ChRL. Wyobraźcie sobie sytuację, w której Stalin ląduje w Pekinie i zastępuje Xi Jinpinga. To rodzaj zagrożenia, o jakim mówię. ©℗