Świat

Komputer zadecyduje, kogo odłączyć od respiratora? Niedoczekanie!

Sztuczna inteligencja nie może oceniać wartości ludzkiego życia. Zamiast uczyć się umierać w antropocenie, nauczmy się rozwiązywać problemy naszej epoki tak, by nikt nie musiał ginąć.

Żyjemy w antropocenie, epoce geologicznej, w której to ludzkość kształtuje losy Ziemi. Cechy charakterystyczne tego okresu stwarzają zagrożenie dla naszej egzystencji. Aby przynajmniej częściowo sobie z nimi poradzić, tworzymy programy takie jak Cele Zrównoważonego Rozwoju ONZ. Ale na razie chyba utknęliśmy pomiędzy świadomością, że powinniśmy zmienić nasze zachowanie, a skostniałymi przyzwyczajeniami.

W przeludnionym świecie często pada pytanie: „Jaka jest wartość ludzkiego życia?”. Pandemia COVID-19 przywołała je ponownie, i to w bardzo brutalnym ujęciu: „Kto powinien umrzeć pierwszy, jeśli nie starczy zasobów, by uratować wszystkich?”.

Na początek poświęcimy najbiedniejszych

Problematykę tę porusza wiele powieści fantastycznonaukowych, np. Die Tyrannei des Schmetterlings [Tyrania motyla] Franka Schätzinga. Ich fabuła często „rozwiązuje” problem zrównoważonego rozwoju na okrutne sposoby, przywodzące na myśl najczarniejsze karty ludzkiej historii. A rzeczywistość wcale nie pozostaje daleko w tyle. Kusi nas choćby pomysł, że do rozstrzygania takich dylematów możemy skorzystać ze sztucznej inteligencji. Pod dyskusję poddano np. kwestie depopulacji czy eutanazji na podstawie modelowania komputerowego. Sztucznej inteligencji już używa się do oceny stanu zdrowia pacjentów z COVID-19. Czy jednak powinniśmy pozwalać algorytmom podejmować decyzje o życiu i śmierci?

Naczelnym przykładem takich obliczeń jest słynny dylemat wagonika. Jeśli w ramach tego eksperymentu myślowego nie zrobi się nic, odczepiony wagonik zabije kilkoro ludzi przywiązanych do torów. Jeśli przestawi się zwrotnicę i skieruje wagonik na inny tor, umrze jeden człowiek, ale zabije go świadome działanie tego, kto zwrotnicę przestawił. Mówi się czasem, że w dylemacie wagonika chodzi o ratowanie życia, ale tak naprawdę lepiej opisuje go pytanie: „Jeśli nie każdy może przeżyć, kto musi zginąć?”.

Wychodzisz? Kaszlnij w smartfon. AI potrafi wykryć koronawirusa

Tyle że mniejsze zło to wciąż zło. Jeśli zaczniemy się na nie godzić, dojdą kolejne wstrząsające pytania, które mogą wręcz podkopać fundamenty naszych społeczeństw i ludzkiej godności. Na przykład: jeśli samochód samosterujący nie jest w stanie w porę zahamować, to czy ma zabić babcię, czy bezrobotnego?

Podobne pytania zadawano w eksperymencie o nazwie Maszyna moralna, w ramach którego uczestników z całego świata pytano o preferencje moralne w sytuacjach związanych z samochodami samosterującymi. Badacze debatowali, „jaki wkład te preferencje mogą wnieść do opracowania globalnych, społecznie akceptowanych zasad etyki maszyn”. Warto zaznaczyć, że takie eksperymenty nie stanowią jednak odpowiedniej podstawy dla decyzji politycznych.

Z badań wynika, że ludzie woleliby taki algorytm, który jest sprawiedliwy. Wobec tego być może „najbardziej sprawiedliwe” byłoby podejmowanie decyzji losowo. Nie proponujemy oczywiście uśmiercania losowo wybranych osób – ani zabijania nikogo w ogóle. Stałoby to w sprzeczności z podstawową zasadą zachowania ludzkiej godności – nawet gdyby potencjalna śmierć była bezbolesna. Chcemy tylko przez to powiedzieć, że nie powinniśmy godzić się na to, by na problem niedostatecznych zasobów patrzeć przez pryzmat dylematu wagonika. Skoro ten eksperyment myślowy podsuwa rozwiązania nie do przyjęcia, musimy wspólnie postarać się raczej zmienić jego okoliczności. W przypadku samochodów samosterujących moglibyśmy np. wymagać wolniejszej jazdy albo wyposażać je w lepsze hamulce i inne rodzaje zabezpieczeń.

Okoliczności obecnych problemów społecznych związanych z kryzysem ekologicznym również nie zostały z góry zdeterminowane. Sami je spowodowaliśmy naszym sposobem prowadzenia działalności gospodarczej, naszą infrastrukturą ekonomiczną, naszą międzynarodową mobilnością oraz konwencjonalnym zarządzaniem łańcuchami dostaw. Tak naprawdę – pół wieku po objawieniu, jakim był raport Klubu Rzymskiego Granice wzrostu – pytanie powinno raczej brzmieć: dlaczego wciąż nie wprowadziliśmy gospodarki o obiegu zamkniętym, opartej na zasadzie dobra wspólnego? I dlaczego nie byliśmy przygotowani na pandemię, którą przecież prognozowano?

Kronika zapowiedzianej katastrofy

Wielkie bazy danych, sztuczna inteligencja i liczne technologie cyfrowe wcale nie przygotowały nas lepiej na wyzwania XXI wieku: zmianę klimatu, pandemię COVID-19, zalew fałszywych newsów, szerzenie się mowy nienawiści czy problem cyfrowego bezpieczeństwa. Powód jest prosty: chociaż „optymalizacja” świata dzięki analizie wielkich zbiorów danych brzmi dobrze, bierze ona pod uwagę bardzo jednowymiarowy cel i sprowadza złożoność świata do pojedynczego wskaźnika. Nie jest to ani adekwatne, ani skuteczne. Przy tym niedoceniony pozostaje potencjał niematerialnych efektów sieciowych, a także znaczenie ludzkiej umiejętności rozwiązywania problemów czy pojemności naszego środowiska.

Przyroda, inaczej niż komputery, nie optymalizuje. Przyroda ewoluuje. Znacznie lepiej niż ludzkie społeczeństwo radzi sobie ze zrównoważonym rozwojem i zamkniętym obiegiem zasobów. Zarówno nasza gospodarka, jak i społeczeństwo, mogłyby skorzystać z inspirowanych biologią rozwiązań przypominających ekosystemy, zwłaszcza symbiotyczne.

Inna ekonomia jest możliwa?

To oznacza reorganizację naszego nękanego problemami świata, a także uwzględnianie odporności i elastyczności w polityce i współpracy międzynarodowej. Te fundamenty zrównoważonych systemów są niezbędne, by móc przystosowywać się do wstrząsów, katastrof i kryzysów, podobnych do tych, które przeżywamy dziś – a po wszystkim się z nich podnosić.

Odporność systemów można zwiększać na kilka sposobów: przez stosowanie rozwiązań nadmiarowych i różnorodnych, decentralizację organizacji, podejścia uczestniczące, solidarność oraz – tam, gdzie to adekwatne – wspomagające technologie cyfrowe. Takie rozwiązania powinny być do utrzymania na poziomie lokalnym w długim trwaniu.

Wirus, kryzys i koniec świata

czytaj także

Wirus, kryzys i koniec świata

Hubert Walczyński

Innymi słowy, zamiast „uczyć się umierać w antropocenie”, jak proponował pisarz Roy Scranton, powinniśmy nauczyć się żyć w trudnych czasach. To najlepsze zabezpieczenie przed wydarzeniami, które mogłyby wepchnąć nas do tego moralnego trzęsawiska, jakim jest wycenianie wartości życia ludzkiego.

**
Dirk Helbing jest specjalistą w dziedzinie zastosowania technik obliczeniowych w naukach społecznych, wykładowcą w ETH Zürich.

Peter Seele jest profesorem etyki biznesu w USI Lugano.

Copyright: Project Syndicate, 2020. www.project-syndicate.org. Z angielskiego przełożyła Aleksandra Paszkowska.

***

Ten artykuł nie powstałby, gdyby nie wsparcie naszych darczyńców. Dołącz do nich i pomóż nam publikować więcej tekstów, które lubisz czytać

Zamknij