W XIX wieku uważano, że cechy osobowości – więc i skłonności przestępcze – można rozpoznać po kształcie czaszki. Czy używając dziś sztucznej inteligencji do rozpoznawania twarzy, nie wskrzeszamy aby tej samej skompromitowanej pseudonauki?
Frenologia dawno już odeszła do lamusa. To hasło z leksykonu staroci, wpisane gdzieś pomiędzy bicyklem a upuszczaniem krwi. Wydawałoby się, że ocenianie wartości człowieka na podstawie rozmiaru i kształtu czaszki mamy już dawno za sobą. Jednak w XXI wieku ta pseudonauka znów unosi swój pofałdowany łeb.
Władze i prywatne firmy usłyszały w ostatnich latach wiele obietnic dotyczących bogactwa informacji, które algorytmy maszynowego uczenia się mogą pozyskiwać na podstawie wyglądu ludzi. Kilka start-upów twierdzi dziś, że ich sztuczna inteligencja wyczytuje cechy osobowości osób ubiegających się o pracę z ich mimiki twarzy. Rząd Chin jako pierwszy zaczął wykorzystywać kamery monitoringu do rozpoznawania i śledzenia przedstawicieli mniejszości etnicznych. Ujawniono też, że szkoły instalują sieci kamer automatycznie karzące dzieci za brak skupienia na lekcjach, co wykrywają na podstawie ruchów twarzy i mikroekspresji, takich jak drgnięcia brwi.
czytaj także
Najbardziej niesławny jest chyba przypadek badaczy sztucznej inteligencji Xiaolina Wu i Xi Zhanga, którzy ogłosili kilka lat temu, że opracowali algorytm do rozpoznawania przestępców na podstawie rysów twarzy z dokładnością wynoszącą 89,5 procent. Nie posunęli się co prawda aż do promowania XIX-wiecznych idei na temat związków fizjonomii z osobowością, jakie proponował zwłaszcza włoski kryminolog Cesare Lombroso: że przestępcy to podludzkie bestie o cofniętych czołach i haczykowatych nosach, znajdujące się na niższym szczeblu drabiny rewolucyjnej. Jednak ta rzekomo supernowoczesna próba identyfikacji rysów twarzy związanych z przestępczością zapożycza swoją metodę od fotografii kompozytowej polimata z wiktoriańskiej Anglii, Francisa Galtona, który nakładał na siebie zdjęcia twarzy wielu ludzi przypisanych do określonej kategorii, by odnaleźć cechy wskazujące na zdrowie, chorobę, urodę czy właśnie skłonności przestępcze.
Komentatorzy napiętnowali takie użycie technologii rozpoznawania twarzy jako „dosłownie frenologię”. Wskazali na jego związki z eugeniką – pseudonauką służącą „uszlachetnianiu” rasy ludzkiej przez tworzenie lepszych warunków do rozmnażania osobnikom najsprawniejszym. (Termin „eugenika” ukuł sam Galton, definiując go w 1883 roku jako „wszystkie działania, które w jakimkolwiek stopniu dają sprawniejszym rasom czy odmianom krwi lepszą sposobność szybszego zdominowania osobników mniej odpowiednich”).
czytaj także
W niektórych przypadkach otwarcie deklarowanym celem tych technik jest ograniczenie możliwości życiowych tym, których uznano za mniej pożądanych; w innych przypadkach może ono nie stanowić celu samo w sobie, ale jest łatwym do przewidzenia skutkiem ubocznym. Kiedy jednak krytykujemy algorytmy za pomocą etykietki frenologii, na jaki problem właściwie wskazujemy? Czy mówimy, że te metody są wadliwe z naukowego punktu widzenia i że w rzeczywistości nie działają? Czy też że wykorzystywanie ich jest moralnie naganne niezależnie od skuteczności?
Użycie słowa „frenologia” jako obelgi ma swoją długą i zawiłą historię. Filozoficzna i naukowa krytyka tego nurtu badań zawsze się przeplatały, chociaż sposób ich wzajemnego uwikłania zmieniał się w czasie. W XIX wieku przeciwnicy frenologii protestowali przeciwko temu, że frenolodzy próbowali znaleźć w mózgu ośrodki odpowiadające za różne funkcje umysłowe. Uważano to za herezję, ponieważ nie zgadzało się z chrześcijańską koncepcją jedności duszy. Co ciekawe, próby rozpoznania charakteru i osobowości człowieka na podstawie rozmiaru i kształtu głowy nie uważano z kolei za istotny problem moralny.
Dziś natomiast lokalizowanie funkcji umysłowych raczej nie spotyka się z kontrowersjami. Naukowcy nie uważają już, że zbrodnicze tendencje mieszczą się ponad prawym uchem; jednak przekonanie, że funkcje poznawcze zlokalizowane są w poszczególnych sieciach neuronów, jest standardowym założeniem głównego nurtu współczesnej neurologii.
W XIX wieku frenologia spotykała się również z krytyką na poziomie empirii. Toczono zaciekłe debaty na temat tego, gdzie mieszczą się poszczególne funkcje mózgu i czy pomiary czaszki to wiarygodny sposób określenia, co dzieje się w mózgu. Najbardziej wpływowa empiryczna krytyka dawnej frenologii wzięła się z badań francuskiego lekarza Jeana Pierre’a Flourensa, polegających na uszkadzaniu mózgów królików i gołębi. Flourens wywnioskował, że funkcje umysłowe są w mózgu rozproszone, a nie zlokalizowane w jednym miejscu. (Te badania później zdyskredytowano). Frenologię odrzucano więc wtedy z powodów, których większość współczesnych obserwatorów w ogóle nie uznaje. Tym trudniej zatem zrozumieć, o co oskarżamy daną metodę, kiedy nazywamy ją „frenologią”.
Zarówno „nową”, jak i dawną frenologię krytykowano za niestaranność metod. W badaniu rozpoznawania skłonności przestępczych przez sztuczną inteligencję, o którym tu mowa, pobrano dane z dwóch bardzo różnych źródeł: policyjnych zdjęć osób skazanych oraz zdjęć z profili osób niekaranych, publikowanych na portalach dla pracowników. Samo to może wyjaśnić, dlaczego algorytm tak doskonale rozpoznawał przestępców. W nowej przedmowie do swojego artykułu badacze zresztą przyznali, że zrównanie posiadania na koncie wyroku skazującego z tendencjami przestępczymi było „poważnym niedopatrzeniem”. To jednak autorzy zdają się uważać głównie za wadę badawczą: użycie wyłącznie zdjęć osób skazanych, a pominięcie tych, którym udało się uniknąć kary, wprowadza błąd statystyczny. Napisali przy tym, że „zdumiało ich” oburzenie na treść artykułu, nastawionego na „debatę czysto akademicką”.
Trzeba zauważyć, iż badacze nie odnoszą się w żaden sposób do faktu, że już sam wyrok sądu zależy od tego, jakie wrażenie podejrzany robi na policji, sędziach i przysięgłych – a przez to wygląd „przestępczy” staje się tak zwaną zmienną zakłócającą. Nie wspominają też o tym, że wzmożony nadzór policyjny nad pewnymi społecznościami i nierówny dostęp do pomocy prawnej przyczyniają się do tendencyjności wybranego zbioru danych.
Odpowiadając na krytykę, autorzy artykułu nie wycofują się z założenia, że „przestępcy posiadają szereg nienormalnych (odchylonych od normy) cech osobowości”. Ujęcie to sugeruje, że skłonności przestępcze są cechą wrodzoną, a nie wynikiem warunków społecznych, takich jak przemoc czy bieda. Ich zbiór danych trzeba zakwestionować na gruncie empirii właśnie dlatego, że społeczna identyfikacja „przestępców” nie jest aksjologicznie neutralna.
czytaj także
Jedna z najsilniejszych moralnych obiekcji względem wykorzystywania technologii rozpoznawania twarzy do wykrywania skłonności przestępczych dotyczy tego, że stygmatyzuje ono ludzi już i tak prześladowanych przez policję. Autorzy piszą, że opracowanego przez nich narzędzia nie powinno się używać do egzekwowania prawa, ale powołują się przy tym jedynie na argumenty z dziedziny statystyki. Zauważają na przykład, że odsetek fałszywych wyników pozytywnych byłby wysoki (50 procent), ale nie dodają, co to znaczy w kategoriach ludzkich. Błąd dotyczyłby osób, których twarze przypominają twarze ludzi skazanych za przestępstwa. Biorąc pod uwagę rasowe i inne skrzywienia wymiaru sprawiedliwości, takie algorytmy przeszacowywałyby przestępczość w społecznościach marginalizowanych.
Najbardziej sporną kwestią jest bodaj to, czy dla celów „czysto akademickiej debaty” wolno wskrzeszać XIX-wieczną fizjonomikę. Można się temu sprzeciwić na gruncie empirii: eugenicy przeszłości, tacy jak Galton czy Lombroso, ostatecznie nie rozpoznali żadnych rysów twarzy, które wskazywałyby na przestępcze skłonności. To dlatego, że takiej zależności nie ma. Podobnie psycholodzy badający dziedziczność inteligencji, tacy jak Cyril Burt i Philippe Rushton, bez skrępowania manipulowali danymi, by sfabrykować korelacje między rozmiarem czaszki, rasą a ilorazem inteligencji. Gdyby na tym polu było cokolwiek do odkrycia, przypuszczalnie któryś z badaczy w końcu by się na to natknął – wielu przez lata próbowało.
Eugenicy nie rozpoznali żadnych rysów twarzy, które wskazywałyby na przestępcze skłonności. To dlatego, że takiej zależności nie ma.
Problem ze wskrzeszaniem fizjonomiki nie polega jedynie na tym, że już jej bezskutecznie spróbowano. Badaczom, którzy nadal próbują doprowadzić do zimnej fuzji, chociaż większość naukowców porzuciła już tę hipotezę, też mówi się, że szukają gruszek na wierzbie – jednak poszukiwanie zimnej fuzji nie ociera się nawet o hańbę, a co najwyżej może się okazać stratą czasu. Potencjalna szkodliwość takich badań ma swoje granice.
Zupełnie inaczej jest z technologią rozpoznawania twarzy. Ma ona tak niewiele nieszkodliwych zastosowań, że zdaniem niektórych publicystów powinno się ją regulować tak samo rygorystycznie jak posiadanie materiałów radioaktywnych. Jeśli chce się wskrzesić nieprowadzący donikąd projekt wynaleziony po to, by wspierać nierówne struktury kolonialne i klasowe – a w związku z tym tak naprawdę mierzy się jedynie rasizm występujący w tych strukturach – trudno obecnie udowodnić zasadność zajęcia się nim z czystej ciekawości.
czytaj także
Niemniej jednak zbywanie badań nad maszynowym rozpoznawaniem twarzy jako „frenologii” bez wyjaśnienia, o co toczy się gra, nie jest zapewne najskuteczniejszą strategią zakomunikowania siły tego zarzutu. Jeśli naukowcy mają brać na poważnie swój obowiązek moralny, powinni być świadomi szkód, jakie mogą przynieść ich badania. Mam nadzieję, że wyjaśnienie, na czym polega problem z „frenologią”, odniesie lepszy skutek niż posługiwanie się tym słowem jako pustą obelgą.
**
Catherine Stinson jest adiunktką zajmującą się filozofią i etyką sztucznej inteligencji w Center for Science and Thought na Uniwersytecie w Bonn i w Leverhulme Centre for the Future of Intelligence na Uniwersytecie Cambridge. 
Artykuł ukazał się w magazynie Aeon na licencji CC BY-NC. Z angielskiego przełożyła Aleksandra Paszkowska.
