Świat

Demokracja przegrywa internetowy wyścig zbrojeń

Jeśli masz rzadką chorobę, na którą cierpi tylko jedna osoba na milion, to w sieci są was dwa tysiące i możecie się ze sobą skontaktować. Ale sieć nie dyskryminuje i nie rozróżnia. Ta moc łączenia ludzi jest równie użyteczna dla nazistów, antyszczepionkowców i płaskoziemców.

Demokracja została wciągnięta w groźny wyścig zbrojeń, w którym jak dotąd zwycięża ciemna strona mocy. Mikrotargetowana propaganda cyfrowa, zorganizowane farmy trolli, skoordynowane sieci botów, złośliwe oprogramowanie, internetowe oszustwa, plaga dezinformacji, patologiczne społeczności, takie jak 4chan i 8chan, wreszcie profesjonalnie przygotowane strumienie dezinformacji – wciąż ewoluują, atakują i zatruwają sferę publiczną. Tymczasem potencjalne antidotum edukacyjne – powszechne uczenie krytycznego myślenia, umiejętności korzystania z mediów czy wyczuwania, że ktoś nam wciska kit – w tym wyścigu zbrojeń pozostaje kilka kroków w tyle.


O potencjale, jaki może przynieść komunikacja za pośrednictwem komputera, zacząłem pisać już w 1987 roku, czyli na dziesięciolecia, zanim komunikacja online zaistniała pod powszechnie znanym pojęciem „mediów społecznościowych”. Zastanawiałem się wtedy, w którym miejscu ta łagodna i nieszkodliwa kultura online lat 80. mogłaby rozwinąć się w złym kierunku. Te dociekania doprowadziły mnie do koncepcji „sfery publicznej”, która właśnie wtedy zyskiwała nowe życie dzięki pojawieniu się tłumaczenia na język angielski książki Jürgena Habermasa z 1962 roku [w angielskim przekładzie książka The Structural Transformation of the Public Sphere ukazała się w 1989 roku – przyp. tłum.]. Zadałem sobie pytanie: jaka jest najważniejsza, krytyczna niewiadoma co do masowego zastosowania komunikacji za pośrednictwem komputera?. Uznałem, że najważniejszy wpływ tego powstającego medium będzie dotyczył wolności: czy obywatele zyskają czy też utracą wolność w związku z rosnącą popularnością sieci i mediów cyfrowych.

Jak Facebook projektuje nam politykę?

Chociaż język Habermasa jest ciężki, jego idee są proste. W demokracjach nie chodzi tylko o czynność głosowania na przywódców i decydentów. Społeczeństwa demokratyczne mogą zakorzeniać się i wzrastać tylko w takich populacjach, które są wystarczająco wykształcone i wystarczająco wolne, aby móc rozmawiać o problematycznych kwestiach i kształtować opinię publiczną, która ma wpływ na politykę. Ruchy działające na rzecz praw kobiet i praw obywatelskich stosowały np. nieposłuszeństwo obywatelskie, ale obejmowały także inicjatywy polityczne i procesy sądowe, a wreszcie wymagały pracy w kampaniach wyborczych. Jednak najważniejsze dla tego wysiłku było zmienianie opinii publicznej, które dokonywało się na demonstracjach, w sporach i debatach na temat praw tych wspólnot. Doszukując się początków osiemnastowiecznych republik konstytucyjnych w kawiarnianych dyskusjach uczonych i działaczy politycznych (białych, bourgeois, niemal wyłącznie mężczyzn), Habermas zwrócił uwagę na przyszłe zagrożenia dla rozwoju sfery publicznej, której ramy wyznacza taka debata.

Wolność słowa i mediów jest kluczowa, jednak habermasowska sfera publiczna zależy również od odrobiny „spokojnego, racjonalnego dyskursu” wśród obywateli. Zakłada również, że edukacja i dziennikarstwo są źródłami wiarygodnych informacji, na podstawie których można budować opinie i debatować. Habermas obawiał się, że dziedzina public relations umożliwi możnym i bogatym manipulowanie opinią publiczną, a także, że malejąca różnorodność źródeł wiadomości wypaczy dziennikarską uczciwość.

Cambridge Analytica, Hello Kitty i władcy świata

Nie trzeba wiele wysiłku, aby wykazać, że monopole mediów i PR-u rzeczywiście zaszkodziły sferze publicznej, rozumianej jako przejaw autentycznej społecznej opinii, która powinna się wyłonić ze świadomego dyskursu obywateli. To, czego ani Habermas, ani żaden z jemu współczesnych nie mógł przewidzieć w okolicach roku 1960, to potęga targetowanej cyfrowo dezinformacji i technologicznego wzmocnienia antyspołecznych aktorów, które wypaczają sferę publiczną do tego stopnia, jaki widzimy obecnie w erze Cambridge Analytica i Gamergate. Należę do grona tych, którzy dopiero 30 lat później dostrzegli niebezpieczeństwa manipulacji i zamykania się w „bańkach” internetowych, ale z początku nie pojmowali potęgi wzmocnionego przez internet inwigilującego kapitalizmu, roli big data, inżynierii uwagi oraz fabryk dezinformacji.

Rozwiązanie 1: Kompetencje internetowe

Odkąd w 1987 roku zacząłem pisać o sieciach i mediach cyfrowych, obok innych krytyków i uczonych stawiałem pytanie: „Czy korzyści płynące z tych nowo zdobytych mocy, jakie dają ludziom maszyny wspierające ludzką inteligencję i umożliwiające masową komunikację, ostatecznie przewyższą ich negatywny wpływ na naszą uwagę i koncentrację, dyskurs czy wspólnotę polityczną?”. Uznałem wtedy, że odpowiedź brzmi: „To zależy od tego, co ludzie wiedzą (czyli jakie mają kompetencje w zakresie mediów społecznościowych), oraz od tego, ilu ludzi ma tę wiedzę”. Komputery osobiste i serwisy internetowe nie zawierają instrukcji behawioralnych ani ostrzeżeń epistemologicznych. Wiedza i umiejętności, niezbędne, by osiągać osobiste korzyści z cyfrowej społeczności i tym samym wnosić pozytywny wkład, zamiast niszczyć sferę publiczną, ani nie są wiedzą tajemną, ani nie jest szczególnie trudno je posiąść.

Macie dość polityki? O to chodziło

czytaj także

Jednak gdy w 2010 roku zacząłem pisać o tych umiejętnościach, niewiele instytucji edukacyjnych zajmowało się takimi kwestiami jak wyszukiwanie informacji i ocenianie ich wiarygodności albo tym, jak wygląda racjonalny dyskurs obywatelski. W przeważającej części nadal się nimi nie zajmują. Napisałem więc książkę w nadziei, że wpłynie na zachowania dzisiejszych internautów w sieci. Przewodnik, który rodzice mogą dać nastolatkom, i który sami też mogą przeczytać.

Rozpoczynając pracę nad książką Net Smart: How to Thrive Online, zdecydowałem, że istnieje pięć niezbędnych zestawów umiejętności koniecznych do dobrego funkcjonowania online – i ogólnie do dobrego funkcjonowania oraz rozwoju jednostki, z korzyścią dla dobra wspólnego. Te umiejętności to uwaga, wykrywanie bredni, uczestnictwo, współpraca i świadomość sieciowa:

  • Uwaga, ponieważ jest to podstawa myśli i komunikacji, a już nawet dziesięć lat temu było wiadome, że ekrany komputerów i smartfonów coraz silniej nas do siebie przykuwają, zawłaszczając naszą uwagę.
  • Wykrywanie bredni, ponieważ żyjemy w czasach, gdy wszędzie, o każdej porze możemy zadać dowolne pytanie i w ciągu kilku sekund uzyskać milion odpowiedzi – jednak to odbiorca tych treści musi teraz ustalić, czy są wiarygodne czy też fałszywe.
  • Uczestnictwo, ponieważ narodziny i rozwój sieci internetowej nie były zasługą pięciu gigantycznych cyfrowych monopolistów i nie powinny zależeć od ich widzimisię. Internet został stworzony przez miliony ludzi, którzy umieszczają w nim swoje wytwory kultury i swoje idee oraz pielęgnują swoje społeczności. Wyszukiwarki internetowe wymyślali studenci w akademikach – a sama sieć rodziła się w uczelnianych laboratoriach.
  • Współpraca, ze względu na siłę, jaka drzemie w społecznej twórczości, społecznościach wirtualnych, inteligencji zbiorowej oraz inteligentnym tłumie, zapewnianą przez dostęp do odpowiednich narzędzi i umiejętność korzystania z nich.
  • Świadomość sieciowa, ponieważ żyjemy w czasach, w których społeczne, polityczne i technologiczne sieci wpływają na nasze życie niezależnie od tego, czy rozumiemy, jak działają, czy też nie mamy o tym pojęcia.

W idealnym świecie społeczna i polityczna szkodliwość dzisiejszej kultury online mogłaby zostać radykalnie zredukowana, choć nie wyeliminowana, gdyby wystarczająco duża część internautów była biegła lub przynajmniej obeznana z tymi umiejętnościami. Choć wydaje się niemożliwe, by powstrzymać wzbierającą falę fałszywych treści bezpośrednio u jej źródła, to wpływ dezinformacji mógłby zostać przynajmniej znacznie ograniczony, gdyby większość użytkowników internetu potrafiła wykrywać brednie.

Rozwiązanie 2: Regulacje i reformy

W książce Net Smart wskazałem, że te najbardziej podstawowe narzędzia do wykrywania bredni już mamy pod ręką i są one łatwe w użyciu – choć często nie są wystarczające. Nietrudno jest wyszukać nazwisko autora, aby dowiedzieć się, co inni mówią o jego autorytecie; kompendia narzędzi do weryfikacji twierdzeń medycznych, politycznych czy dziennikarskich są dostępne za jednym kliknięciem. Dziesięć lat temu promowałem przydatność powszechnej edukacji w zakresie wykrywania fałszywych treści jako profilaktyki manipulacji i zaśmiecania sfery publicznej. Teraz nie jestem już pewien, czy nawet powszechna edukacja będzie wystarczająca w obliczu potężnie amplifikowanej dezinformacji.

To właśnie tu odbywa się wyścig zbrojeń.

Nadchodzi technologiczne trzęsienie ziemi, a lewica rozgrywa wojny sprzed wieku

Największą przeszkodą w wyplenieniu fałszu z internetu jest potęga Facebooka, który silnie opiera się wszelkim reformom. Jak twierdzi Siva Vaidhyanathan, „problemem z Facebookiem jest Facebook”. Oznacza to, że Facebook czerpie zyski z gromadzenia drobiazgowych danych o zachowaniu w sieci miliardów ludzi, a następnie sprzedawania reklamodawcom mikrotargetowanego dostępu („kobieta”, „mieszka na przedmieściach”, „millennials”, „wykształcenie średnie” i niezliczone inne szczegółowe cechy) do uwagi tych osób. Jest to nieporównywalnie potężniejsze niż stare PR-owe oprzyrządowanie, którego obawiał się Habermas: przydrożne billboardy czy reklama telewizyjna jako narzędzia docierania do populacji, którą reklamodawca chce zaangażować.

Skandal z Cambridge Analytica pokazał, że dzięki tym metodom można jeszcze skuteczniej sprzedawać nie tylko pastę do zębów, ale i opinie polityczne. Wpływ mikrotargetowanej propagandy cyfrowej jest zwielokrotniony przez skoordynowane działania ludzkich trolli, te zaś są dalej wzmacniane przez armie botów. Facebook nie może po prostu wyłączyć tych mechanizmów, które są w stanie skrycie manipulować sferą publiczną, nie wyłączając zarazem głównego strumienia swoich dochodów.

Facebook nie może wyłączyć mechanizmów, które są w stanie skrycie manipulować sferą publiczną, nie wyłączając zarazem głównego strumienia swoich dochodów.

Tak jak problem z Facebookiem wynika wprost z jego modelu biznesowego, tak wiele z destrukcyjnych wpływów internetu na sferę publiczną wyrasta z tych samych nowych mocy, które jednocześnie przynoszą milionom ludzi korzyści, ponieważ umożliwiają tworzenie społeczności bez względu na fizyczną odległość. Jeśli jesteś jedynym homoseksualnym nastolatkiem w małym miasteczku lub opiekujesz się w domu pacjentem z chorobą Alzheimera, możesz połączyć się z innymi, którzy mierzą się z podobnymi wyzwaniami. Jeśli masz rzadką chorobę, na którą cierpi tylko jedna osoba na milion, to w sieci są was dwa tysiące i możecie się ze sobą skontaktować.

Ale znów: ta moc, jaką daje sieć, nie dyskryminuje i nie rozróżnia, nawet gdybyśmy tego chcieli. Możliwość komunikowania się z ludźmi, z którymi coś nas łączy, chociaż nigdy nie poznamy ich osobiście, jest bowiem równie użyteczna dla nazistów, antyszczepionkowców i płaskoziemców. Propaganda cyfrowa, oparta na inwigilującym kapitalizmie i stosowana do manipulowania opinią miliardów ludzi, wywodzi się natomiast z ogromnych możliwości eksploracji i analizy danych przez gigantów takich jak Facebook czy Google.

YouTube, należący zresztą do Google’a, jest kolejnym przykładem niezamierzonych konsekwencji, które szkodzą sferze publicznej. Algorytm sugerujący widzom kolejne filmy, które mogą ich zainteresować, może przyczyniać się do radykalizacji młodych ludzi. Użytkownicy, którzy np. początkowo interesują się grami, w pewnym momencie zaczynają być kierowani do filmów z ekstremistami. I znów: taki skutek nie został zaplanowany, ale jest on nierozerwalnie związany z tym, w jaki sposób YouTube zarabia. Zaangażowanie – ciągła uwaga – korzystnie wpływa na zdolność YouTube’a do targetowania reklam. A filmy wideo o Holokauście, medyczna dezinformacja i werbowanie terrorystów okazują się dla niektórych osób właśnie takimi angażującymi treściami.

Platformy do wywoływania furii

czytaj także

Tymczasem główna funkcja mediów społecznościowych służąca do osiągania zysków – przyciąganie uwagi – jest właśnie tym miejscem, od którego można zacząć wprowadzać reformy. Jednym z zagrożeń dla świadomego angażowania się w sferę publiczną, którym można zaradzić zarówno poprzez odpowiednie projektowanie mediów społecznościowych, jak i przez edukację, jest zawłaszczanie uwagi i czerpanie z tego zysku. Internetowi giganci gromadzą szczegółowe dane dotyczące zachowania i zwyczajów miliardów ludzi, ponieważ mogą w ten sposób precyzyjnie dostosować wyświetlane treści i reklamy do zainteresowań każdego użytkownika, przyciągając jego uwagę. A im dłużej aplikacja może angażować uwagę użytkownika, tym więcej możliwości prezentacji reklam. Przyciąganie uwagi przez smartfony jest łatwe do zauważenia na ulicach miast, gdzie większość ludzi patrzy w ich ekrany zamiast przed siebie. Jeszcze bardziej przerażający są kierowcy piszący w czasie jazdy esemesy.

Smartfony ze swoimi aplikacjami są zaprojektowane tak, aby promować tego typu zachowania, a my właśnie to możemy zmienić. Utrzymywanie uwagi to podstawa „zaangażowania” – czyli miary skupienia uwagi, będącej składową algorytmów. Te zaś od polecania filmów na temat gier komputerowych szybko przechodzą do serwowania propagandy rekrutującej dżihadystów lub nazistów. Zarówno przechwytywanie, jak i utrzymywanie uwagi stają się coraz bardziej skuteczne. Inżynierowie celowo uwzględniają w projektowanych przez siebie systemach wszystko, co wiedzą na temat funkcjonowania ludzkiej uwagi. W podobny sposób robili to projektanci automatów do gier.

Ludzie dyskryminują, więc algorytmy też

Mamy więc rozpraszające sygnały, które wyzwalają FOMO, [ang. fear of missing out, czyli lęk przed przegapieniem potencjalnie ważnej informacji – przyp. red.] – mała kolorowa kropka wskazująca na nowe emaile, nowe posty, nowe polubienia. Mamy okresowe wzmocnienia (budowanie zależności od dopaminy) oraz inne aspekty projektowania interfejsu użytkownika, które przechwytują i zatrzymują uwagę dla celów reklamowych. Jest to jedno z wyzwań, dla którego etyczne projektowanie, choć być może jest wizją idealistyczną, stanowi realny sposób na poprawienie technologii przyciągającej uwagę dokładnie u jej źródła.

Dla przedsiębiorstw, które kierują się przecież rachunkiem ekonomicznym, niewiele jest jednak zachęt do tego, by dobrowolnie, bez politycznej presji zrezygnowały z tej dochodowej maszynerii (np. YouTube zarobił w 2019 roku 15 miliardów dolarów). Sfera publiczna musi mieć za sobą wystarczające wsparcie społeczne, by móc wpłynąć na regulacje i prawodawstwo.

Jako wykładowca na uniwersytetach w Berkeley i Stanford przez dziesięć lat miałem do czynienia z zagadnieniem uwagi w trakcie zajęć – podobnie jak każdy, kto staje przed salą pełną uczniów czy studentów zapatrzonych w swoje laptopy i telefony. Ponieważ uczyłem zagadnień mediów społecznościowych i umiejętności korzystania z tych mediów, wydawało mi się, że sam zakaz używania telefonów na czas zajęć byłby tylko nieskuteczną próbą ucieczki od tego problemu. Dlatego postanowiliśmy uczynić uwagę jedną z naszych regularnych aktywności. Poprosiłem moje zespoły dydaktyczne (trzyosobowe grupy studentów, które prowadziły dyskusję przez jedną trzecią czasu zajęć), aby opracowały narzędzia do „sondowania uwagi”, które testowałyby nasze przekonania i zachowanie.

Testowanie uwagi jest oczywiście ugruntowaną praktyką. Kiedy badałem dyscyplinę uwagi na potrzeby książki Net Smart, znalazłem mnóstwo dowodów – od tysiącletnich tradycji kontemplacyjnych po współczesną neurologię – na plastyczność uwagi. Proste zwrócenie uwagi na własną uwagę – metodologia leżąca u podstaw praktykowania uważności – może stanowić ważny pierwszy krok do ograniczenia rozproszenia uwagi i rozkojarzenia. Nie wydaje się jednak, aby inżynierowie zajmujący się uwagą, pomimo ich szalonego sukcesu, mieli w tym wyścigu zbrojeń przytłaczającą przewagę w zakresie edukacji uwagi względem inwigilujących kapitalistów, propagandystów obliczeniowych mających do dyspozycji duże zbiory danych, boty i armie trolli.

Teorie spiskowe, dezinformacja i ksenofobia: skrajna prawica wobec koronawirusa

Ten nierówny wyścig zbrojeń prowadzi mnie do wniosku, że edukacja w zakresie wykrywania bzdur i dezinformacji, kontrolowania uwagi, umiejętności korzystania z mediów i krytycznego myślenia jest ważna, ale nie wystarczy do odbudowania sfery publicznej. Niezbędne będzie również wprowadzenie regulacji dla firm, które dysponują tymi nowymi i potencjalnie destrukcyjnymi możliwościami. Nie zamierzam udawać, że wiem na tyle dużo, by móc doradzać przy tworzeniu takich przepisów, ale gdybym mógł wybrać grono ekspertów i ekspertek do przedstawienia takich rekomendacji, z pewnością zaufałbym zaleceniom panelu, w skład którego weszliby danah boyd, Zeynep Tüfekçi, Cory Doctorow, Ethan Zuckerman, Shoshana Zuboff, Brewster Kahle, Tim Berners-Lee, Renée DiResta i Tim Wu. Na tej liście nadreprezentowani są Amerykanie (choć Tüfekçi urodziła się w Turcji, Doctorow w Kanadzie, a Berners-Lee w Wielkiej Brytanii); brakuje na niej osób z innych krajów, zbyt mało jest kobiet i osób niebiałych. Stworzenie takiej gwiazdorskiej komisji nie jest żadną gwarancją, że polityczni aktorzy przełożą jej zalecenia na skuteczną politykę. Jednak w obliczu niebezpieczeństw stojących przed sferą publiczną uważam, że nie powinniśmy wzbraniać się przed marzeniem o takich wielkich rozwiązaniach.

Morozov: Socjalizm cyfrowy, czyli nowa socjaldemokracja na XXI wiek

Istnieje wiele powodów, aby ograniczyć monopolistyczną potęgę cyfrowych megakorporacji, ale jeżeli szkody w sferze publicznej, które nieumyślnie powodują, mają zostać zminimalizowane, to regulacje legislacyjne są koniecznym pierwszym krokiem. Edukowanie młodzieży, jak wyszukiwać informacje, wymaganie, by w szkołach średnich prowadzono naukę krytycznego myślenia w sieci, kształcenie rodziców i studentów – również są konieczne, jednak bez regulacji znajdziemy się w sytuacji, gdy nauczyciele, uzbrojeni zaledwie w podręczniki, staną do masowej walki informacyjnej naprzeciw wroga wyposażonego w arsenał środków na zupełnie innym poziomie.

 

**
Howard Rheingold – intelektualista i krytyk, pionier tematyki internetowej, autor wielu książek poświęconych technologiom cyfrowym. Jeden z założycieli The WELL, najstarszej funkcjonującej do dzisiaj społeczności sieciowej.

Artykuł ukazał się w magazynie Eurozine. © Howard Rheingold / Public Seminar / Eurozine. Z angielskiego przełożyła Marzena Badziak.

***

Ten artykuł nie powstałby, gdyby nie wsparcie naszych darczyńców. Dołącz do nich i pomóż nam publikować więcej tekstów, które lubisz czytać