Świat, Weekend

Doctorow: Sztuczna inteligencja udaje, że pracuje

Szefowie nie śpią, bo martwią się o twoją wydajność. W USA dobrze znany jest „paradoks wydajności” – szybki i nieprzemijający spadek dynamiki wydajności, który zaczął się w latach 70. i trwa do dziś. Ów paradoks dotyczy rozwoju technologii komputerowej, którą od początku wciskano firmom jako cudowny eliksir na wzrost wydajności pracy.

Niedawno zaproszono mnie do Nowej Zelandii na spotkania autorskie. Pojechałem tam z dziećmi i z radością odkryłem, że tamtejsze supermarkety mają specjalne alejki, w których nie wykłada się na półki słodyczy na wysokości dziecięcych oczu – po to, by dzieci mniej naciągały rodziców. Znakomity pomysł!

Na całym świecie ogranicza się kierowanie reklam do dzieci – z dwóch powodów. Po pierwsze, dzieci nie są głupie, ale są niedoświadczone, a przez to łatwowierne. Po drugie, dzieci nie mają własnych pieniędzy, kiedy więc zapragną czegoś, co pokaże im reklama, mogą to otrzymać jedynie w ten sposób, że będą suszyć głowę rodzicom. Wyłania się więc naturalny elektorat złożony z naciąganych rodziców, który opowiada się za ograniczeniem reklam kierowanych do dzieci.

W kierowaniu reklam do łatwowiernych osób, które potem w imieniu reklamodawcy będą zamęczać innych ludzi, jest coś szczególnie wrednego. Firmy od sztucznej inteligencji na przykład wydają miliony dolarów na urabianie twojego szefa, by go przekonać, że można cię zastąpić prostym chatbotem, który z całą pewnością nie jest w stanie wykonać twojej pracy.

Idealni frajerzy

Twój szef, który nie ma zielonego pojęcia, na czym polega twoja praca, jest święcie przekonany, że pasożytujesz na jego krwawicy i zjawiasz się w robocie tylko dlatego, że wstyd ci stać w kolejce po zasiłek, a nie dlatego, że twoja praca jest dla ciebie ciekawa i opłacalna.

Tacy szefowie są idealnymi frajerami dla naciągaczy wciskających im chatboty. Wiadomo, że szef z przyjemnością wręczy ci wypowiedzenie i zastąpi cię taką maszynką. Maszynki nie wstępują do związków, nie kontestują durnych poleceń i nie odczuwają moralnego dyskomfortu, gdy każe im się pogorszyć dobry produkt.

Szefowie to marksiści z tamtej strony lustra. Doskonale rozumieją, jak marksiści, że każdy dolar wypłaty, którą zabierasz do domu, to dolar, którego oni nie mogą przeznaczyć na premię, dywidendę czy wykup akcji. Szef aż przebiera nóżkami, żeby cię wylać i zastąpić jakimś kawałkiem oprogramowania. Oprogramowanie jest tańsze i nie nigdy prosi o podwyżkę.

Magiczny prezent od Reagana dla Boeinga, czyli jak zarobić i się nie narobić

Właśnie dlatego twój szef jest wymarzoną ofiarą dla każdego dilera AI – i to (przy okazji) wyjaśnia kolosalną różnicę między wyceną firm technologicznych oferujących sztuczną inteligencję a rzeczywistą przydatnością AI dla klientów kupujących produkty tych firm. Z punktu widzenia inwestora zakup akcji firm z sektora AI, owszem, może oznaczać wiarę w użyteczność tej technologii. Jednak w przypadku wielu takich inwestorów obstawianie branży AI oznacza jedynie głęboką pogardę dla ciebie i twojej pracy oraz świadomość, jak wielkim naiwniakiem jest twój szef.

Jednak podobieństwa między szefami a paroletnimi dziećmi nie kończą się na łatwowierności. Kiedy dziecko koniecznie chce zjeść batonik (sprytnie umieszczony na wysokości jego oczu), na drodze stoją mu przemęczeni rodzice. A kiedy szefowi marzy się obiecany przez handlarza AI wzrost wydajności, na drodze stoisz mu ty.

Eliksir wydajności

Nowe badanie opublikowane przez Upwork Research Institute pozwala wejrzeć w tę dziwaczną rozgrywkę, jaka toczy się w miejscach pracy, których bossowie najpierw dali się nabrać na zakup systemów AI, a teraz kombinują, co zrobić, by te systemy działały tak wspaniale jak w reklamach.

Oto cała ta historia w skrócie:

96 proc. szefów oczekuje, że sztuczna inteligencja podniesie wydajność pracowników.
85 proc. firm albo wymaga od pracowników stosowania sztucznej inteligencji, albo usilnie do tego zachęca.
49 proc. pracowników nie ma pojęcia, w jaki sposób sztuczna inteligencja miałaby poprawić ich wydajność.
77 proc. pracowników twierdzi, że stosowanie sztucznej inteligencji obniża ich wydajność.

Kto skontroluje algorytmy w pracy? Związki zawodowe nie wystarczą

Szefowie nie śpią, bo martwią się o twoją wydajność. W USA dobrze znany jest „paradoks wydajności” – szybki i nieprzemijający spadek dynamiki wydajności, który zaczął się w latach 70. i trwa do dziś.

Ów paradoks dotyczy rozwoju technologii komputerowej, którą od początku wciskano firmom jako cudowny eliksir na wzrost wydajności pracy. Powstała już niejedna teoria, która próbuje go wyjaśnić. Jedną z nich, szczególnie ciekawą, przedstawił nieżyjący już David Graeber (niech pamięć o nim będzie naszą siłą!) w eseju Of Flying Cars and the Declining Rate of Profit (Latające samochody i malejąca stopa zysku) z 2012 roku.

Graeber sugeruje, że rozwój IT wpisał się w szerszą zmianę podejścia do badań naukowo-technicznych. Przez długi czas badania były dziedziną zdominowaną przez ekscentryków, szalonych naukowców w rodzaju Roberta Oppenheimera czy twórcy silników rakietowych Jacka Parsonsa, którym pozwalano działać w miarę swobodnie, nie krępując ich fantazji nadmierną biurokracją. Natomiast gwałtowny rozwój komputerów zbiegł się w czasie z triumfem „menedżeryzmu” – manii nadzorowania, kwantyfikowania i nade wszystko dyscyplinowania siły roboczej. Technologie komputerowe w wielkim stopniu ułatwiły gromadzenie takich danych, co z kolei sprawiło, że ich zbieranie i przechowywanie szybko uznano za rzecz naturalną.

Zanim się spostrzegliśmy, każdy pracownik – w tym ci „kreatywni”, których inwencji przypisywano wzrost wydajności przez całe amerykańskie stulecie aż do lat 70. – zaczął poświęcać ogrom czasu, niekiedy nawet większość godzin pracy, na wypełnianie formularzy, dokumentowanie wykonanych zadań i, najogólniej ujmując, wytwarzanie czytelnego raportu z każdego przepracowanego dnia. Na tych masowo dostępnych danych upasła się nowa klasa menedżerska, która skolonizowała wszelkie instytucje – nie tylko prywatne przedsiębiorstwa, ale także uniwersytety i urzędy państwowe, które same zaczęły się „restrukturyzować” na modłę korporacji (aż po czasy obecne, gdy wyborców, pacjentów i studentów nazywają „klientami”).

Strajk w Tesli: Niech Musk się nauczy naszych zasad gry

Nawet jeśli przyjąć, że ze wszystkich tych gromadzonych bez ustanku danych może wynikać jakiś pożytek, trudno zaprzeczyć, że im więcej czasu poświęca się na dokumentowanie własnej pracy, tym mniej czasu zostaje na jej wykonywanie. Rozwiązanie wydawało się oczywiste: jeszcze więcej komputerów, bo nic tak nie ułatwia gromadzenia i archiwizowania danych jak komputery. Tyle że zwiększanie liczby komputerów w biurokracji przypomina poszerzanie drogi o nowe pasy: im łatwiej jest rejestrować drobiazgowe dane, tym więcej takich danych każe się nam rejestrować.

Bossware i kop outsourcingu

Ale na tym nie kończy się wpływ technologii IT na miejsca pracy. Jest kilka obszarów, w których komputery z pewnością podniosły wydajność firm, które w nie zainwestowały.

Przede wszystkim, systemy komputerowe pozwoliły korporacjom przenosić produkcję do krajów na globalnym Południu, gdzie płace są niskie, ochrona środowiska i praw pracowniczych marginalna, a ustawodawcy bywają przekupni. Produkowanie towarów w fabrykach oddalonych o tysiące kilometrów jest piekielnie trudnym zdaniem. Tak samo – nadzorowanie zatrudnionych tam pracowników. Dopiero komputery i internet zniwelowały każdą odległość, zniosły strefy czasowe i obaliły bariery językowe. Korporacje, które nauczyły się, jak przy pomocy IT zwalniać personel w kraju, a wyzyskiwać pracowników i dewastować środowisko na innych kontynentach, rosły jak pączki w maśle. Dyrektorzy prowadzący takie projekty awansowali. Tim Cook został na przykład prezesem firm Apple właśnie dlatego, że pomyślnie przeprowadził operację przeniesienia produkcji z USA do Chin.

Outsourcing dał firmom energetycznego kopa, który na jakiś czas wynagrodził im spadek wydajności. W końcu jednak wszystkie korzyści z outsourcingu zostały zrealizowane, a firmy zaczęły się rozglądać za innymi sposobami wyciskania zysku tanim kosztem. Wtedy pojawiło się oprogramowanie nazywane „bossware”: takie, które automatyzują proces monitorowania i dyscyplinowania pracowników. Bossware pozwoliło menedżerom nadzorować pracowników w najdrobniejszych szczegółach i mierzyć absolutnie wszystko, od uderzeń w klawisze po ruchy gałki ocznej.

Zwalnia, pozbawia mieszkań, szpieguje pracowników. AI to nie „problem przyszłości”

Jednocześnie dramatycznie słabła pozycja negocjacyjna pracowników. To miły dla szefów skutek uboczny masowych zwolnień i outsourcingu, bo pozostali pracownicy, którzy nie stracili jeszcze swoich miejsc pracy, zostali zastraszeni tak skutecznie, że nie mieli już żadnej ochoty się wychylać. I nawet nie pisnęli, gdy przy użyciu bossware powiązano komputerowe pomiary z ich płacami. Dziś firmy biją po kieszeni już nie tylko kurierów i kierowców Ubera, kiedy nie wyrabiają non-stop pięciu gwiazdek, ale również pracowników „kreatywnych” na YouTube czy TikToku, obcinając im płace za łamanie zasad, których nie mają prawa znać, bo gdyby je znali, mogliby je obchodzić niepostrzeżenie dla pracodawcy i bezkarnie.

Bossware wprowadzono na masową skalę w szkołach państwowych i szpitalach, w restauracjach i telefonicznych centrach obsługi klientów, a jeśli pracujesz w domu (czyli mieszkasz w pracy), takie oprogramowanie działa najpewniej w twoim mieszkaniu i samochodzie. To samo, jeśli jesteś kierowcą w Uberze czy Amazonie.

Komputery dały więc pracodawcom podkładkę do kradzieży wynagrodzeń, a w ten sposób mogły czasem podnieść rentowność firmy, nawet jeśli zarazem zmniejszyły ogólną wydajność pracy.

Automatyzacja działa na dwa przeciwstawne sposoby: w branżowym żargonie mówi się o „centaurach” i „antycentaurach”. „Centaur” to człowiek wspomagany przez dowolne narzędzie automatyzujące. Kiedy na przykład szef monitoruje ruch twoich gałek ocznych, by kraść twoje wynagrodzenie, jest centaurem – głową człowieka na ciele maszyny, która wykonuje robotę, jakiej żaden człowiek by nie podołał.

Rojenia panów w średnim wieku na temat Pokolenia Z

„Antycentaur” (ang. reverse centaur) to pracownik, który jest jedynie pomagierem zautomatyzowanego systemu. Pracownik zaprzężony do skomputeryzowanego systemu, który obserwuje jego oczy, zlicza naciśnięcia klawiszy i monitoruje wyjścia do toalety, jest antycentaurem, używanym (i ostatecznie zużywanym) przez maszynę do wykonywania zadań, których maszyna nie jest w stanie wykonać bez pomocy człowieka.

Nie da się jednak wyciskać z człowieka pracy bez końca. Istnieje pewna granica, za którą pracownik po prostu się przepala i odpada z gry. Jak pokazały wewnętrzne badania przeprowadzone w Amazonie, firma przepala pracowników w takim tempie, że może „zużyć” wszystkich zdolnych do pracy ludzi w Ameryce.

To z kolei wyjaśnia drugą część wyników badania Upwork Research Institute: w ciągu ostatniego roku 81 proc. szefów zwiększyło wymagania stawiane pracownikom, a 71 proc. pracowników czuje się „wypalonych”.

Moment zen

Gdy szef słyszy, że sztuczna inteligencja przyczynia się do wypalenia pracowników, reaguje tak samo jak wtedy, gdy się dowiaduje, że nieustanne wypełnianie formularzy na komputerze obniża wydajność – idzie w zaparte. Czyli robi to samo co do tej pory, tylko bardziej. Firma Cisco wypuściła na przykład nowy produkt, który próbuje wykryć, kiedy obelgi miotane przez zirytowanych klientów doprowadzają pracownika na krawędź załamania nerwowego i dla uspokojenia serwuje mu wtedy „moment zen”: wyświetla miłe dla oka zdjęcie kogoś z rodziny.

To tylko najnowsza z serii coraz bardziej obmierzłych i nieludzkich technologii „dobrostanu w miejscu pracy”, które szpiegują pracowników rzekomo po to, by pomóc im „zarządzać stresem”. Wszystkie co do jednej mają ten sam przewidywalny efekt: podnoszą u pracowników poziom stresu.

Permanentna inwigilacja zmienia pracowników w więźniów

Jest bowiem tylko jedna osoba, która się nie domyśla, że poddanie człowieka nieustannej inwigilacji przez sztuczną inteligencję, która na bieżąco donosi o wszystkim szefowi, nikomu nie robi dobrze na stres. Tą osobą jest twój szef. Niestety, w tej konkurencji masz z góry przechlapane. Handlarze AI doskonale o tym wiedzą i z wielką uprzejmością sprzedadzą twojemu szefowi system typu „antycentaur”, od którego odechciewa ci się żyć, a wkrótce potem wciskają mu jeszcze jeden system, który ci chęć do życia automatycznie przywróci.

I tak cały paradoks wydajności zostaje na naszych oczach rozwiązany. Wydajność przeciętnego pracownika w Ameryce spadała, ponieważ bardziej się opłacało przenosić miejsca pracy do krajów bez regulacji, a powstałą w ten sposób prekaryjność zatrudnienia wykorzystać do jeszcze bardziej brutalnego wyzyskiwania pracowników na miejscu. Pracowników, którzy wyrażali niezadowolenie z takiego układu gromiono za „brak etosu pracy”, chociaż średnia liczba godzin przepracowanych przez przeciętnego robotnika w Ameryce wzrosła między 1976 a 2016 rokiem o 13 proc.

I tak od 40 lat, zamiast poprawiać efektywność procesów i technologii, firmy zwiększają zyski jedynie przez to, że wyciskają z pracowników siódme i siedemnaste poty. Sztuczna inteligencja to tylko kolejny chwyt z tego samego podręcznika wyzysku. Ten układ nie spadł oczywiście z Księżyca: jest bezpośrednim skutkiem stworzonej w czasach Regana teorii korporacyjnej władzy, którą dla niepoznaki nazwano „teorią dobra konsumenta”. W ramach tego podejścia nie próbowano zwalczać monopoli, a wręcz ułatwiano im drogę do rynkowej dominacji – pod warunkiem, że zdobytą w ten sposób przewagę wykorzystywały do tego, by ciąć płace, łupić dostawców i obniżać ceny detaliczne towarów.

„Dobro konsumenta” zakłada, że potrafimy oddzielić naszą rolę pracowników od roli konsumentów i wobec tego nie będziemy narzekać, że płace od lat stoją w miejscu, a warunki pracy schodzą na psy, o ile tylko skończymy robotę o 17 (albo, jak to bywa, o 21) i najemy się w McDonaldzie burgerem za 99 centów. Oraz zapomnimy, że ten burger jest tak absurdalnie tani wyłącznie dlatego, że osoba, która nam go usmażyła, śpi w samochodzie i dostaje od państwa bony na żywność.

Dziś jednak widać już koniec tej drogi. Jasne, twój szef o mentalności trzylatka nadal da się wkręcić. Kupi najnowszą AI, wywali połowę załogi na bruk, a drugą połowę zmusi do tyrania w chomącie AI. Kiedy jednak AI nie jest w stanie tej pracy za człowieka wykonać (a nie jest!), żadne pohukiwania i żadne nowe rygory w regulaminie pracy nie sprawią, że ta praca się magicznie zrobi.

Przykręcanie śruby pracownikom i dostawcom przynosi coraz lichsze efekty, więc firmy coraz częściej zaczynają doić także klientów. Nie dość, że bot obsłuży cię znacznie gorzej niż robił to zatrudniony w firmie człowiek – teraz jeszcze więcej za tę usługę zapłacisz, bo zautomatyzowany algorytmiczny nadzór na bieżąco manipuluje cenami.

Dla firm nastały – jak to celnie ujęli David Dayen i Lindsay Owens w artykule dla The American Prospect – „czasy odbijania sobie”: firmy nadal wyzyskują pracowników, jak tylko mogą, ale nie dzielą się już benefitami z klientami.

Za tym zwrotem stoi założenie, że skoro dotąd tolerowano monopole i pozwolono im urosnąć tak, że stały się są „too big to fail” – zbyt wielkie, by rząd pozwolił im upaść – to są także zbyt potężne, by kogokolwiek z ich zarządów miano wsadzić do paki. Mogą więc spokojnie kantować swoich klientów tak samo, jak dotąd kantowały pracowników.

Podobnie twórcy sztucznej inteligencji nadal zakładają, że każdego szefa da się urobić na tyle, żeby kupił kolejnego chatbota, który nie zastąpi cię przy pracy – ale widać, że inwestorom już kwaśnieją miny. Goldman Sachs, niegdyś zachłystujący się sektorem AI, który miał rosnąć w nieskończoność i przynosić niezliczone miliardy dolarów, dziś pisze w raportach, że firmy, które kupiły systemy AI, nie bardzo wiedzą, co z nimi teraz zrobić.

Zgoda, od banków inwestycyjnych oczekuje się pewnej dozy sceptycyzmu. Ale venture capital, który brawurę i wysokie ryzyko ma w definicji? Może i ma, jednak Sequoia Capital, jeden z największych funduszy VC w Dolinie Krzemowej, publicznie powątpiewa, czy inwestycje w AI komukolwiek się kiedyś zwrócą.

Wizyta w supermarkecie, gdzie na wysokości oczu dziecka nie położono żadnych łakoci, przyniosła mi autentyczną ulgę. Nie mam niestety pojęcia, jak sprawić, by dyrektorzy i menedżerowie przestali wyciągać rączki po świecidełka, które wciskają im handlarze sztuczną inteligencją. Ani jak nas chronić przed konsekwencjami ich impulsywnych zakupów.

**
Cory Doctorow – jeden z najbardziej poczytnych pisarzy science fiction, krytyk nowych technologii, autor wielu książek i esejów. W polskim przekładzie ukazała się m.in. jego powieść Mały Brat i zbiór esejów Kontekst. Eseje o wydajności, kreatywności, rodzicielstwie i polityce w XXI wieku. Na stronie Biblioteki Anarchistycznej opublikowano przekłady zbioru opowiadań Radykalne (Radicalized) i powieści Odchodząc (Walkaway) oraz Dla Wygranej (For The Win).

Artykuł opublikowany na stronie pluralistic.net na licencji Creative Commons. Z angielskiego przełożył Marek Jedliński.

__
Przeczytany do końca tekst jest bezcenny. Ale nie powstaje za darmo. Niezależność Krytyki Politycznej jest możliwa tylko dzięki stałej hojności osób takich jak Ty. Potrzebujemy Twojej energii. Wesprzyj nas teraz.

Zamknij