W rozporządzeniu aż roi się od ustępstw na rzecz technologicznego lobby i wyjątków dotyczących najbardziej niebezpiecznych zastosowań sztucznej inteligencji przez organy ścigania i urzędy imigracyjne, a zakazy obfitują w luki prawne.
6 marca europejscy parlamentarzyści chwalili przyjęcie rozporządzenia w sprawie sztucznej inteligencji, jednak krytycy ostrzegają, że idzie ono na rękę firmom i zawiera niedociągnięcia w istotnych obszarach.
Daniel Leufer, starszy analityk ds. polityki w brukselskim biurze organizacji na rzecz cyfrowych praw obywatelskich Access Now, nazwał przełomowy akt UE w sprawie AI „porażką z perspektywy praw człowieka i zwycięstwem dla branży technologicznej i policji”.
Zwalnia, pozbawia mieszkań, szpieguje pracowników. AI to nie „problem przyszłości”
czytaj także
Pierwsze tak kompleksowe rozporządzenie na świecie dotyczące gwałtownie ewoluującej technologii zostało przyjęte przez członków Parlamentu Europejskiego po grudniowych negocjacjach nad finalizacją aktu stosunkiem głosów 523 do 46 (49 osób się wstrzymało). Po wykonaniu niezbędnych czynności formalnych przepisy mają wejść w życie w maju lub czerwcu, a poszczególne postanowienia zaczną obowiązywać w ciągu kilku lat.
„Choć trzeba przyznać, że przyjęcie pierwszych na świecie przepisów w zakresie rozwoju i korzystania ze sztucznej inteligencji jest kamieniem milowym, to rozczarowuje fakt, że Unia Europejska i 27 państw członkowskich zdecydowało się przedłożyć interes branżowy i organów ścigania nad ochronę ludzi i ich praw” – podsumował Mher Hakobyan, doradca ds. AI w Amnesty International.
Ustępstwa wobec branżowych lobbystów
Akt stosuje „oparte na ryzyku” podejście do produktów i usług wykorzystujących sztuczną inteligencję. Agencja Associated Press informuje:
„Zgodnie z założeniami większość systemów korzystających z AI, jak algorytmy do rekomendacji treści lub filtry spamu, ma wiązać się z niskim ryzykiem. Firmy mogą same zdecydować, czy chcą stosować się do wymogów i kodeksów postępowania. Korzystanie z AI wiążące się z dużym ryzykiem, np. w sprzęcie medycznym lub infrastrukturze krytycznej, takiej jak sieć wodna lub elektryczna, będzie musiało spełniać surowsze wymagania, w tym używać wysokiej jakości danych oraz dostarczać użytkownikom transparentnych informacji.
czytaj także
Niektóre sposoby korzystania z AI zostały zabronione ze względu na ryzyko niemożliwe do zaakceptowania. Są to systemy oceny społecznej, które regulują ludzkie zachowania, niektóre rodzaje systemów prewencyjnych oraz systemy rozpoznawania emocji w szkołach i miejscach pracy. Zakaz obejmuje też policyjne skanery twarzy w miejscach publicznych, korzystające ze zdalnych systemów »identyfikacji biometrycznych« wykorzystujących AI, z wyjątkiem poważnych przestępstw, takich jak porwania czy terroryzm”.
Niektórzy chwalą zdroworozsądkowe przepisy i zabezpieczenia, jednak Leufer uważa, że „w nowym akcie w sprawie AI aż roi się od ustępstw wobec branżowych lobbystów i wyjątków dotyczących najbardziej niebezpiecznych zastosowań sztucznej inteligencji przez organy ścigania i urzędy imigracyjne. Z kolei zakazy obfitują w luki prawne i tak naprawdę nie blokują części najbardziej niebezpiecznych sposobów użytkowania tej technologii”.
Hakobyan wyraża obawy w związku z tym, jak nowe rozporządzenie wpłynie na sytuację imigrantów, uchodźców i osób ubiegających się o azyl oraz podkreśla, że „nie zakazuje ono lekkomyślnego użycia i eksportu drakońskich technologii AI”.
Wzmocnienie „Twierdzy Europa”
Organizacje Access Now i Amnesty International wchodzą w skład koalicji #ProtectNotSurveil, która opublikowała wspólne oświadczenie ostrzegające, że akt w sprawie AI „ustanawia niebezpieczny precedens”, zwłaszcza jeśli chodzi o wyłączenie z niego organów ścigania, urzędów imigracyjnych i agencji bezpieczeństwa narodowego.
Do koalicji należą też organizacje takie jak EuroMed Rights, European Digital Rights czy Statewatch. Dyrektor tej ostatniej, Chris Jones, stwierdza w oświadczeniu, że „akt może i jest nowy, ale wpisuje się w starszą narrację, w której organy i agencje UE, w tym Frontex, od dziesięcioleci naruszają prawa imigrantów i uchodźców”.
czytaj także
Frontex – oficjalnie Europejska Agencja Straży Granicznej i Przybrzeżnej – od dawna jest przedmiotem krytyki ze strony grup broniących praw człowieka z uwagi na postępowanie wobec osób wkraczających na teren UE, zwłaszcza drogą morską.
„Wprowadzone wraz z szeregiem nowych restrykcyjnych przepisów dotyczących azylu i migracji rozporządzenie w sprawie AI prowadzi do wykorzystania technologii cyfrowych w celu wzmocnienia »Twierdzy Europa« i ograniczenia liczby osób przybywających do niej w poszukiwaniu bezpieczeństwa na nowe, szkodliwe sposoby” – ostrzega Jones. „Ugrupowania działające na rzecz społeczeństwa obywatelskiego w całej Europie i poza nią powinny współpracować, aby zniwelować najgorsze skutki tych przepisów i kontynuować tworzenie społeczeństw, które przedkładają opiekę nad inwigilację i kryminalizację”.
Wiele zależy od regulacji w poszczególnych krajach
Laura Lazaro Cabrera, prawniczka i dyrektorka programu Equity and Data, prowadzonego w ramach europejskiego oddziału organizacji Center for Democracy and Technology, pisze, że akt „stanie się punktem odniesienia dla przepisów dotyczących AI na całym świecie, ponieważ mamy do czynienia z wyścigiem z czasem, w którym decydenci muszą mierzyć się z pędzącym naprzód rozwojem technologii o daleko idących konsekwencjach dla podstawowych praw człowieka”.
czytaj także
Cabrera podkreśla, że po jego przegłosowaniu „wiele zależy od wprowadzenia aktu w życie. Gdy wrzawa medialna wokół niego ucichnie, będziemy musieli stawić czoła trudnemu zadaniu, jakim jest stosowanie tych złożonych, obszernych i bezprecedensowych przepisów w praktyce. Nie obędzie się bez bliskiej współpracy z ekspertami i obywatelami, aby interpretacja i zastosowanie regulacji spełniało cele wyrażone w samym akcie: broniło praw człowieka, demokracji i rządów prawa”.
Karolina Iwańska z European Center for Not-for-Profit Law wypowiada się w podobnym tonie: „Postawmy sprawę jasno: akt ma poważne braki z punktu widzenia elementarnych praw człowieka i pod tym względem nie powinien być traktowany jako wzorzec dla przepisów w sprawie AI. Mimo to będziemy starać się wprowadzić go w życie w najlepszy możliwy sposób”.
Yannis Vardakastanis, przewodniczący Europejskiego Forum Niepełnosprawności, w oświadczeniu pisze: „Akt w sprawie AI porusza kwestię praw człowieka, ale nie na tyle, na ile oczekiwaliśmy – wzywamy Unię Europejską do wypełnienia tej luki za pomocą przyszłych inicjatyw”.
Hakobyan z Amnesty International zwraca uwagę, że „państwa spoza UE powinny wyciągnąć wnioski z niepowodzenia bloku w zakresie odpowiedniego uregulowania technologii AI i nie ulec presji ze strony branży technologicznej i organów ścigania na etapie tworzenia przepisów. Poszczególne państwa powinny uchwalić solidne i wiążące akty prawne dotyczące AI, w których najważniejsi są ludzie i ich prawa”.
**
Jessica Corbett – redaktorka magazynu „Common Dreams”.
Przełożyła Anna Opara.
