Wspieraj 
Wspieraj 
Wydawnictwo 
Obserwuj 
Agnieszka Wiśniewska: Dlaczego kwestia młodych ludzi w sieci jest kwestią bezpieczeństwa państwa?
Konrad Ciesiołkiewicz: To jest miękkie podbrzusze systemu bezpieczeństwa. Oddaliśmy młodzież w ręce sił, które Krytyka Polityczna nazwałaby rynkowymi, a w zasadzie – sił dzikich.
Mówisz o platformach?
Nie tylko. Mówię o ekosystemie platform, szczególnie społecznościowych, streamingowych, gamingowych i komunikatorów, który spełnia de facto kryteria środowiska życia opisane przez pedagogów – kształtującego osobowość, takiego, w którym się dorasta i dojrzewa.
Jak kiedyś na trzepaku i podwórku, powiedziałaby dziaderka we mnie…
„Podwórko” nie zniknęło zupełnie, bo to środowisko jest hybrydowe, offline i online funkcjonują jako całość. Tyle że ekosystem sieci jest wyłączony z jakiejkolwiek kontroli społecznej. Czytelnikom Krytyki Politycznej nie muszę tłumaczyć, czym są algorytmy…
…i czemu Big Techy są kapitalistycznym złem – to wielokrotnie opisywaliśmy. Ale wytłumacz mi, jaka jest zależność między dziećmi w sieci a bezpieczeństwem państwa.
To są prawa dżungli, które przeorały system wychowawczy. Jak weźmiemy pod uwagę młodych ludzi i etapy rozwoju emocjonalnego, poznawczego, moralnego, społecznego itd., to zobaczymy, że w konkretnych etapach osoby małoletnie powinny być chronione. We wszystkich sektorach tak jest, dotyczy to edukacji, zdrowia, przemysłu zabawkarskiego czy spożywczego. Dzieci nie mogą pewnych produktów używać, a treści oglądać. Klocki dla dzieci sprzedawane w sklepie są regulowane, ale sektor platform nie.
Teoretycznie konto na popularnej platformie możesz założyć, jak masz 13 lat.
Teoretycznie, bo w praktyce wiemy, że 1,5 miliona polskich dzieci na tych platformach nie skończyła 13. roku życia. Na Tik Toku jest 800 tysięcy takich dzieci, 900 tysięcy na komunikatorach.
To pierwszy problem, jeśli chodzi o bezpieczeństwo. Drugi to wspomniane algorytmy. Jeszcze niedawno eksperci w Polsce mówili, że algorytm się po prostu uczy tego, co oglądający lubi i mu to pokazuje. Dziś dzięki wielu badaniom wiemy, że to nieprawda. Algorytm premiuje treści radykalne, dla chłopców np. mizoginistyczne.
A jak ten algorytm przeorał system wychowawczy?
Wspomniałem o etapach rozwojowych młodego człowieka. Na różnych etapach istotą wychowania jest np. nagroda odroczona w czasie. To odroczenie jest bardzo ważne, żeby inwestować we wzajemny szacunek w grupie i bycie akceptowanym. Algorytmy i platformy zmieniły to zupełnie. Cały układ dopaminowy kręci się non-stop.
Kolejna rzecz, to że jeszcze nigdy nie było pokoleń tak przebodźcowanych – na dodatek treściami, z którymi młody człowiek w ogóle nie powinien mieć do czynienia. Tu wracam do bezpieczeństwa państwa: młodzi ludzie są grupą szczególnie wrażliwą. Kiedyś robiliśmy działania na rzecz seniorów, przekonani, że to oni są narażeni na dezinformację w sieci, bo słabo znają sieć. Dziś wiemy, że jest odwrotnie. W takim sensie, że młodzi ludzie płacą największą cenę obecnego stanu funkcjonowania środowiska platform.
To, co mówisz, jest kontrintuicyjne – młodzi dorastali w sieci, więc powinni się w niej poruszać jak ryba w wodzie. A tymczasem wygląda na to, że poruszają się jak ryba w akwarium i nie wiedzą, że to akwarium istnieje wokół nich.
Jest kontrintuicyjne, bo w jakimś sensie starsze pokolenia się uchroniły. To trochę tak jak polska branża bankowa – ponieważ była zapóźniona przez długi czas, to później się okazała bardziej nowoczesna.
Ale czemu starsi mają premię za zapóźnienie?
Bo są starsi i mają swoją mądrość życiową, a ta po prostu koreluje z wiekiem. Oczywiście nie zawsze, ale wiadomo, o czym mówię. Kiedy starsi zaczęli używać sieci i platform, to jako narzędzia, a nie środowiska życia. Dla młodszych to nie są narzędzia, to jest życie, bo tu są wszyscy. W ekosystemie sieci budują relacje, tam mają poczucie przynależności do grup itd.
W badaniach 80 proc. dzieci deklaruje regularny kontakt z różnymi narracjami spiskowymi. I znów wracamy do tego, że na etapie dorastania, przebodźcowania i wiecznej huśtawki emocjonalnej łatwiej paść ofiarą manipulacji. To jest opisywane jako News Finds Me, który to termin dotyczy dorosłych, ale także dzieci.
Co to znaczy?
Że jak coś ważnego się wydarzy, to mój algorytm, aplikacja czy platforma mi to pokażą. Nie szuka się informacji, bo informacje same mnie znajdą. To bardzo groźne.
Czemu?
Dlatego, że obywatelstwo demokratyczne opiera się na wysiłku, zaangażowaniu, odpowiedzialności, autokrytycyzmie, na poszukiwaniu.
Na tym, żeby włączyć telewizor i obejrzeć program informacyjny czy przeczytać gazetę, albo ulotkę z programem kandydata w wyborach? Przecież my naprawdę gadamy jak dziadersi…
Przemysław Sadura i inni badacze opisali ten mechanizm w raporcie o dezinformacji i klimacie. Mówili o „wypaleniu informacyjnym”, czyli sytuacji, kiedy masz już taki natłok informacji, że odpuszczasz ich sprawdzanie. Tam pisano też o „lenistwie internetowym”, które jest racjonalną adaptacją do przeładowanego informacjami środowiska sieci. Także w naszym raporcie Między faktem a feedem (A. Buchner, K. Fereniec-Błońska, M. Wierzbicak-Tarkowska, A. Murawska, K. Ciesiołkiewicz), dotyczącym podatności młodych ludzi na teorie spiskowe i dezinformację, wydaje mi się to jedną z ważniejszych kwestii. Połowa badanych przyznaje, że odpuszcza weryfikowanie wiarygodności informacji ze względu na przeciążenie poznawcze. Większość sama przyznaje, że informacji w mediach społecznościowych jest za dużo.
Jak rozumiem, ta „wypalona informacyjnie” i podatna na dezinformacje młodzież ogląda w sieci przemoc i seks, ale co jeszcze?
Spotyka przestępców. Dziś 70 proc. rynków przestępczych Unii Europejskiej włącza w swoje działania dzieci. Oczywiście zawsze dzieci mogły spotkać kogoś złego, kto ich wciągnie w przestępczość, ale kiedyś barierami były rodziny, szkoły, miejsce zamieszkania, geografia zawsze miała znaczenie. Dzisiaj wszystko jest na wyciągnięcie smartfona czy komputera.
Faktycznie dostęp do tych młodych ludzi mają osoby, których tam teoretycznie być nie powinno. System ich nie widzi, a przedsiębiorstwa udają, że ich tam nie ma, twierdząc, że użytkownicy są za młodzi, by być na platformie. Powstaje więc podwójna luka. Wciągnięcie dziecka w jakąś brudną wspólnotę stało się niezwykle łatwe. Wystarczy wciągnąć młodych w działania na granicy norm społecznych albo je przekraczające i w zasadzie ma się bardzo łatwy kompromat na dziecko. Na tym polega nihilistyczny wymiar tych sieci.
Czyli istnieją dzisiejsze odpowiedniki zasad typu „nie bierz cukierka od obcego” albo „nie rozmawiaj z obcym na ulicy”.
Na przykład takie jak „nigdy nie wysyłaj nikomu swoich nagich lub półnagich zdjęć” albo „nie podawaj swojego adresu”.
Bo nie wiesz, czy tam dorosły jest po drugiej stronie.
Nie wiesz. I nie wiesz, czy to ktoś obcy. Ostatnio prezentowaliśmy raport Protect Children, w którym pokazaliśmy wyniki badań zrobionych wśród 25 tysięcy pokrzywdzonych w podziale na offline, online i hybrydowo. Okazuje się, że ponad 60 proc. krzywdzonych seksualnie w internecie małoletnich było krzywdzonych przez osoby, które zna. Pytanie, co to znaczy „zna”, bo mogą ich znać z sieci. Niemniej, to oznacza, że myślenie o specyfice tego rodzaju wykorzystania i tzw. obcych, a to ono dominowało przez lata, należy zmienić.
Jak istotne jest w tak zarysowanym systemie wykorzystywanie seksualne?
To jeden z głównych i narastających problemów. W sieci The Com, czyli formie nowej fali ekstremizmu, czy też cyfrowych sekt, powstała forma radykalizacji, bardzo zatomizowana, zindywidualizowana, która ma trzy komponenty. Pierwszy to właśnie włączanie w działania przestępcze, różne. Dzieci i młodzież uczestniczą w cyberprzestępstwach, gdzie np. ataki DDoS-owe czy hejtowanie mają charakter finansowy. Młodzi ludzie są w to wciągani, to jest jeden filar.
Drugi komponent jest związany z szantażem i bardzo często ten szantaż ma kontekst seksualny. Według renomowanej Internet Watch Foundation w ubiegłym roku o 127 proc. wzrosła liczba szantaży na tle seksualnym. Pokrzywdzeni to w 98 proc. chłopcy w wieku 14-17 lat. W sieci w zakresie materiałów CSAM – to materiały prezentujące seksualne wykorzystanie dziecka, od ang. Child Sexual Materials, dotyczących wykorzystywania małoletnich, częściej pokrzywdzonymi są oczywiście dziewczęta, ale chłopcy są szczególnie podatni na szantaż. Stereotypy grają tu rolę. Chłopiec się nie przyzna, bo się wstydzi i boi.
A trzeci aspekt?
To komponent nihilistyczny. Europol, FBI próbowali dojść do istoty tego mechanizmu po kluczu ideologicznym. Okazało się, że te narracje są niespójne. Nazwano to po prostu nihilizmem – w gruncie rzeczy chodzi o destrukcję, pogardę dla świata, który mnie odrzucił, bo to, co skupia te osoby, to najczęściej jakieś trudne doświadczenie życiowe – przemoc rówieśnicza, spektrum autyzmu, czyli de facto doświadczenie odrzucenia, stygmatyzacji czy ostracyzmu wobec osoby w kryzysie zdrowia psychicznego.
Osoby chodzą po forach, próbując znaleźć jakąś relację. Po ostatnich tragediach sam widzę, że niektórzy nagle się obudzili i odkryli sieć 764 itd. Media zaczynają to opisywać dopiero teraz, choć nie wiem, czy warto mówić o szczegółach za dużo.
To jest oczywiście ważne pytanie, jak głęboko informować, żeby nie poszerzać zasięgów groźnych sieci.
W pierwszym dniu nie informować o szczegółach, ale teraz już jest to chyba uzasadnione.
Znasz serial norweski SKAM? Norweska telewizja wykombinowała, jak dotrzeć do młodzieży i opowiedzieć jej o problemach zdrowia psychicznego, anoreksji, hejtu. Zastanawiam się, co w tym zakresie może zrobić państwo?
Państwo ma, a przynajmniej powinno mieć, obowiązki znacznie szersze. Jak się pyta o to, skąd młodzi luzie czerpię informacje o świecie, to pierwszych 6 na 7 źródeł to są platformy streamingowe i społecznościowe.
Oddaliśmy wszyscy prywatność platformom, a jednocześnie twierdzimy, że nie można tych platform teraz kontrolować. To jakiś podwójny paradoks, który bardzo dobrze widać na przykładzie walki o ochronę przed wykorzystaniem seksualnym.
Liczba materiałów, ukazujących seksualne wykluczenie dziecka, rośnie niebotycznie. Sieć punktów kontaktowych, do których zgłasza się treści przestępcze – InHope – pokazuje wzrost liczby materiałów CSAM o 450 proc. rok do roku. Międzynarodowa organizacja WE PROTECT, zrzeszająca ponad 300 podmiotów z całego świata, a od kilku miesięcy także Państwową Komisję ds. przeciwdziałania wykorzystaniu małoletnich poniżej lat 15 jako jedyną instytucję sektora publicznego z Polski (obok Fundacji Dajemy Dzieciom Siłę z sektora społecznego) wydaje co dwa lata raport o zagrożeniach. W ostatnim podała, że wzrost liczby materiałów CSAM powstałych z użyciem AI to ponad 1300 proc. rok do roku.
Poczekaj. Podajesz dane, ale tu naprawdę nie ma żadnych regulacji?
Mamy od kilku lat w Unii Europejskiej na stole tak zwaną regulację CSAM. Jest ona zwalczana przez wiele sił, bo zakładała stworzenie instytucji europejskiej, która współpracowałaby z organami ścigania, z wszystkimi platformami i państwami, żeby usuwać z sieci wszystkie materiały, które by dotyczyły seksualnego wykorzystania dziecka. W Polsce znaleźć można opracowania na ten temat mojej koleżanki z Państwowej Komisji, a jeszcze kilka lat temu pracującej w Europolu, Katarzyny Staciwy.
Jest też DSA, czyli unijny Akt o Usługach Cyfrowych, który okazuje się nagle „cenzurą”, a jest w zasadzie mechanizmem skargowym. Jeżeli blokowanie treści przestępczych jest „cenzurą”, to gdzie my żyjemy? Nie rozumiemy też, że te przepisy wprowadzają ścieżkę sądową.
To sławetna ustawa zawetowana przez prezydenta Nawrockiego.
Prezydent Nawrocki użył narracji, która jest niekonsekwentna. Rozpętał historię „cenzury”. Wszyscy, którzy to robią, dawno oddali już swoje dane platformom i de facto sprzyjają Big Techom, ale co gorsze – pozwalają na wzrost skali przemocy w sieci wobec szczególnie wrażliwych grup społecznych.
Pojawiają się też argumenty, że kontrola nad platformami to zabieranie dzieci spod kontroli rodziców, że to rodzic powinien decydować, jak dziecko ma być wychowane, i niech rodzic zajmie się tym, co dziecko ogląda w sieci.
To prywatyzowanie patologii dziejących się w środowisku społeczno-cyfrowym. Tak naprawdę to też frustruje rodzica na koniec. To jest przerzucanie odpowiedzialności oraz poczucia winy. Rodzic ma oczywiście pewien wpływ, ale nie całkowity.
Rodzic nie ma też narzędzi kontroli.
Parę lat temu byliśmy przekonani, że do działań terrorystycznych potrzebne są kryptowaluty i darknet. Kryptowaluty nadal są głównym mechanizmem finansowania, ale nowy darknet to dziś powszechnie dostępne platformy. To się dzieje na naszych oczach, my to widzimy, ale nie zauważamy. To jest jak gotowanie żaby. I nagle coś wybuchło. Mamy szok społeczny, który w krajach europejskich trwa już od jakiegoś czasu.
W spolaryzowanej Polsce mamy podział na prawicę i liberałów. Prawica, która ma na sztandarach ochronę dzieci, działa przeciw tej ochronie, a liberałowie, którzy mają na sztandarach wolność, chcą regulacji. Co tu się dzieje?
Działania zatrzymujące regulację platform nazywam antypaństwowymi, dlatego że w sytuacji, kiedy mamy wojnę hybrydową, trudno tego rodzaju polityki nazwać inaczej. Wydaje mi się, że to jest narracyjna próba wyjęcia Polski czy Unii Europejskiej i postawienia nas w jednej linii z Chinami czy innymi autorytarnymi reżimami. Rozumiem, że można zarzucać, że panoptykon jest groźny, niebezpieczny, ale jednak żyjemy w warunkach państw demokratycznych. Nie żyjemy w państwie totalitarnym i obawa przed kontrolą instytucji regulacyjnych jest nadmiarowa. Przecież nie chodzi o to, żeby ktoś permanentnie skanował naszą pocztę i żeby czyniły to służby specjalne w trybie operacyjnym. Chodzi o działania chroniące obywateli, szczególnie tych bardziej wrażliwych, czyli małoletnich.
Akt o usługach cyfrowych (DSA) było na to dowodem. Myślę, że wytoczono zupełnie nieadekwatne działa do stanu rzeczy. Ale to samo zrobiono z kryptowalutami. Oddając wszelkie dostępy do prywatności pod szyldem rzekomej wolności, politycy toczą tę samą walkę. Paradoksalnie chcemy chronić prywatność, ale własną, dorosłych, nie młodych, a to jest bardzo egoistyczne. Prywatność dzieci jest łamana na każdym kroku. Już pomijam sharenting, bo trochę wszyscy mamy w naszym kręgu dość dyskusji o sharentingu, chociaż oczywiście nigdy za wiele, bo te dyskusje są wciąż jedynie wyspowe.
Wspieraj nas
Płatność odnawialna. W każdym momencie możesz zrezygnować z płatności.
Ale w ogóle nie akceptujemy argumentów, że dyskusja o bezpieczeństwie dzieci i młodzieży, dotyczy miękkiego podbrzusza całego systemu bezpieczeństwa. I dlatego wydaje mi się, że ruchy antyregulacyjne są totalnie antypaństwowe. Nie w rozumieniu antypolskie, one są antypaństwowe w rozumieniu w ogóle ideowym, metapolitycznym.
W rozumieniu państwa jako instytucji?
Tak. W pewnym sensie państwa są dzisiaj słabsze niż platformy. Wiemy, że wizja świata zmierza w kierunku menedżeryzmu technologicznego. To znaczy, że ci ludzie mają szczególne kompetencje i cnoty do tego, żeby zarządzać światem i polityką publiczną. Może to są mrzonki, ale chyba wielu z nich w to wierzy, od Elona Maska przez właścicieli platform, AI-owych przedsiębiorstw itd. I wydaje mi się, że wzmacnianie ich jest de facto zabijaniem państwa.
W sytuacjach zagrożenia demokracja musi umieć bronić grupy słabsze, bronić także siebie jako ustroju i instytucji. Ja wiem, że to jest bardzo trudne. Ja wiem to wszystko, ale w tym miejscu, w tej dyskusji, o której mówimy, nigdy nikt nie przesunął suwaka. My dzisiaj nie rozmawiamy o przesuwaniu granic praw człowieka. A w środowisku cyfrowym nikt nie mówi o prawach człowieka. Ochrona praw człowieka w sieci praktycznie nigdy nie została wdrożona.
Uważasz, że to moment zmiany w debacie o sieci i platformach? Myśmy już pewnie setki tekstów o tym napisali, że platformy to nie narzędzie i że nie są jak kabel elektryczny, co prąd przesyła, tylko są tym prądem. Taki szeroki namysł nad platformami wymaga też zaufania do państwa i instytucji publicznych. Czy dzwonią do ciebie politycy i proszą o konsultację, z racji tego, że zajmujesz się tematem?
Nie dzwonią. Nie muszą, bo widujemy się na posiedzeniach sejmowych komisji i na konferencjach tego dotyczących. Ale widzę nadzieję. Wikipedyści mi kiedyś powiedzieli, że ochrona małoletnich to będzie główny lewar proregulacyjny. Zdefiniowali to też z pewnym lękiem wobec siebie, ale uznali, że to jest kwestia odpowiedzialności, że ten kierunek jest nieuchronny. Co widzimy w momentach takich wybuchów jak teraz.
Wikipedyści pewni też wiedzą, że jedno państwo, takie jak Polska, nie pokona monopoli Big Techów.
To czytelnicy Krytyki Politycznej na pewno wiedzą, więc nie będę powtarzał. Ważne jest dla mnie powiedzenie, że te zakazy dotyczące platform są de facto nakazami. Oraz że mamy do czynienia z postawami pro- i antypaństwowymi. Młodzi stają się dziś po prostu mięsem armatnim, bo są wypędzani przez dzikie siły w dziki świat.
***
Konrad Ciesiołkiewicz – kierownik Centrum Analiz Społeczeństwa Informacyjnego Uczelni Korczaka, wiceprzewodniczący Państwowej Komisji ds. przeciwdziałania wykorzystaniu seksualnemu małoletnich poniżej lat 15. Jest współautorem analiz i opracowań dotyczących przeciwdziałania radykalizacji, bezpieczeństwa, edukacji informacyjnej, medialnej i cyfrowej, w tym Twarze polskiej radykalizacji, Między faktem a feedem, Empatyczne instytucje, Weaponizacja osób małoletnich i młodych dorosłych, wspólnie z Justyną Kaczmarczyk wydali właśnie książkę Dojrzewanie w sieci. Młode pokolenie na cyfrowym froncie.
Komentarze
Trolle, boty, ścieki zostawiamy platformom. U nas możesz wziąć udział w sensownej dyskusji. Ale najpierw zapoznaj się z jej regulaminem!