Rozhodnutie o vytvorení európskej umelej inteligencie už bolo prijaté. Otázkou je, kto ju zaplatí a aká bude. Bude dostatok politickej vôle na zosúladenie európskej UI s demokraciou a ľudskými právami? O tom sa diskutovalo na akčnom summite o umelej inteligencii v Paríži.
This text has been auto-translated from Polish.
Parížsky akčný samit o umelej inteligencii sa niesol v atmosfére vynútených osláv. Semináre a diskusie (časti si môžete pozrieť) sa týkali klímy, energie, práce, kolektívneho úsilia, globálnej konkurencie, energie a historickej nevyhnutnosti. Umelá inteligencia môže podporiť ľudstvo, sprístupniť vedomosti, pomôcť nájsť odpovede na zložité problémy, ale samozrejme nesie so sebou riziko zneužitia a nasmerovania kontroly proti ľuďom - obavy, ktoré vyslovili nasledujúci rečníci, mali tendenciu byť tlmené a každá pochybnosťami naplnená veta bola rýchlo vyvrátená optimistickou vetou.
Pretože rozhodnutie už bolo prijaté. Európa jednoducho nemá inú možnosť, ako vstúpiť do technologických pretekov, ktoré začínajú trochu pripomínať tie z čias studenej vojny, pretože sa odohrávajú v atmosfére napätia, konfrontácie, hrozieb, arogancie a bezohľadnosti najmä amerických korporácií.
Na začiatku funkčného obdobia Donalda Trumpa USA oznámili projekt Hviezdnej brány, na ktorý chcú vynaložiť 500 miliárd dolárov, a politické spojenectvo medzi technooligarchami a Trumpom sa stalo skutočnosťou. V posledných týždňoch medzitým Čína prezentovala projekt čínskeho startupu DeepSeek, ktorý mal byť údajne oveľa lacnejší, čo však má s pravdou málo spoločné a namiesto toho vyvoláva zmätok. A pritom DeepSeek nie je všetko, čo Číňania majú. Odporúčam podcast Techstorie, z ktorého sa dozviete, že v Číne už bolo vytvorených približne 200 rôznych modelov umelej inteligencie.
Takže Európa môže mať vlastnú AI alebo byť odsúdená na cudziu. Voľba je zrejmá. Ak chceme mať UI, ktorá je demokraticky formovaná, ktorá rešpektuje etiku, ktorá pracuje pre naše dobro ("spoločné dobro", "vyššie dobro", "verejné dobro" - rôzne verzie tohto hesla bolo možné počuť v Paríži), potom musí byť naša, európska - čítaj: francúzska. Hostitelia hlasno hrali na národnú hrdosť, čo určite tlmilo nadšenie ostatných európskych krajín. Za francúzskymi návrhmi však nie je žiadna nová ideológia - ani MEGA, ani DOGE -, iba demokracia a európske hodnoty.
Pri komentovaní rozdielov v prístupe medzi USA a Európou sa často používa slogan "USA sú inovácie, EÚ je regulácia". Zdržanlivosť, opatrnosť a nedostatok rozhodnosti EÚ sú niekedy predmetom vtipov, na rovnakej úrovni ako fax v Nemecku alebo oddelené kohútiky na teplú a studenú vodu v Spojenom kráľovstve.
Nemusíme si však vyberať medzi úplnou dereguláciou a úplnou kontrolou. Môžeme mať spravodlivú reguláciu, ktorá neblokuje rozvoj, tvrdili postupne politici Petr Pavel, Justin Trudeau a Emmanuel Macron. Ako? Tým, že si vybudujeme vlastnú európsku umelú inteligenciu. Trochu neskoro oproti Amerike a Číne však stále máme príležitosti. Našou silnou stránkou, povedal Macron, je energia, ktorej má Francúzsko prebytok, a obrovský inovačný potenciál. Do európskeho projektu AI sa má zapojiť aj Kanada a India (Narendra Modi je spoluorganizátorom akčného summitu o AI), čo znamená novú geopolitickú dohodu.
Financovanie má byť odvážne a má pochádzať z rôznych zdrojov. Macron ako príklad uviedol obnovu vyhorenej katedrály Notre Dame, ktorú sprevádzalo nadšenie a široká štedrosť a výsledok prekonal očakávania. Podobné nadšenie chce Macron vyvolať aj teraz. Oznámil, že Francúzsko bude investovať do európskej umelej inteligencie 109 miliárd eur, pričom Spojené arabské emiráty (50 miliárd eur), Kanada (20 miliárd eur) a India prispievajú a trh je podľa Macrona rovnocenný s trhom USA.
Vie umelá inteligencia, ako zabezpečiť fungovanie demokracie?"
Ako spojiť európske demokratické hodnoty s technologickým vývojom, ako používať a ako trénovať umelú inteligenciu, bolo témou samostatného večerného podujatia, na ktorom sa zúčastnilo viac ako tisíc ľudí z 30 krajín. Príklady využitia technológií proti spoločnosti prezentovala Svetlana Tichanovská: deepfake pripravený Lukašenkovými úradníkmi, pričom využila svoju postavu, aby vyhlásila, že je unavená a vzdáva sa. Upozornila, že umelá inteligencia sa môže použiť na prenasledovanie opozície a bezohľadnú kontrolu občanov a občianok.
Pozitívny príklad uviedla programátorka Audrey Tang, bývalá taiwanská ministerka pre digitalizáciu. Porozprávala, ako sa vláda, ktorej podpora vážne klesala, rozhodla využiť umelú inteligenciu, aby pochopila, čo občania potrebujú. Veľmi veľkej, ale náhodne vybranej skupine ľudí boli zaslané otázky o konkrétnych problémoch, napríklad o tom, o ktorej hodine by sa malo začať vyučovanie v škole. Neboli to však referendové otázky s očakávanou odpoveďou ÁNO - NIE, ale otvorené otázky sondujúce nálady, názory, pocity, emócie, skúsenosti.
Taiwanský experiment je niečo, čo poznáme od gréckej agory až po moderné občianske panely - lenže s umelou inteligenciou sa to dá robiť vo väčšom meradle. Nie niekoľko, ale niekoľko stotisíc myslí, skúseností, súvislostí, postojov a záujmov sa môže zapojiť do vypracovania nejakého problému. Klasický civilizačný výdobytok, o ktorom snívajú praktici demokracie usilujúci sa o jej posilnenie.
Keď túto metódu začala používať taiwanská vláda, jej podpora poskočila z 10 na 70 percent. Každé dve hlavy nie sú jedna a múdrosť davu - medián získaný zo súboru odpovedí - nie je horší ako odborné znalosti. Okrem toho má zapojenie občanov emocionálnu hodnotu, buduje zodpovednosť a solidaritu, pomáha pochopiť názory iných a oceniť rozdiely, a predovšetkým dôveru vo vládu. Vláda, ktorej dôveryhodnosť bola takto preverená verejnosťou, si môže trúfnuť na náročnejšie reformy.
V Európe je to taký krásny príbeh, že je takmer neuveriteľný - najmä keď ho vztiahneme na mimoriadne polarizovanú poľskú politickú scénu. Vláda, ktorá chce riešiť skutočné problémy? Vláda, ktorá počúva svojich občanov? Problém deregulácie by sa vyriešil tak, že by taiwanská vláda vyzvala nielen podnikateľov na čele s Rafalom Brzoskom, aby sa vyjadrili, ale aj zamestnancov, spotrebiteľov, odbory - všetkých.
Koniec koncov, UI by sa mohla využiť na prieskum medzi občanmi v celej EÚ o smerovaní samotnej UI. To by umožnilo reagovať na obavy ľudí namiesto ich bagatelizovania a presadzovania riešení, ktoré sú už na úrovni deklarácií pochybné. V Paríži, samozrejme, zazneli ubezpečenia, že európska (t. j. francúzska) AI bude rešpektovať slobodnú vôľu občanov, ale aj slobodnú vôľu spoločností. (Podujatie bolo organizované predovšetkým pre investorov; jediným zástupcom odborov tam bol Oliver Röpke, ktorý zároveň zastupoval mimovládne organizácie a občiansku spoločnosť).
To pripomína kľúčovú úlohu politickej vôle, ktorá určuje, ako sa bude nástroj používať. A politická vôľa potrebuje dôveru spoločnosti, ktorá sa počas konferencie opakovane spomínala.
Pritom skúsenosti so softvérom, ktorý rozhoduje za ľudí, zatiaľ nedokázali vzbudiť dôveru. Stačí si spomenúť na chybu v účtovnom softvéri, ktorá viedla k tomu, že stovky poštových zamestnancov v Spojenom kráľovstve prišli o svoj majetok, zdravie a rodiny a niekedy dokonca k samovražde. Alebo celkom čerstvý a drastický príklad z Gazy, kde umelá inteligencia používaná Izraelom s názvom Lavender mala písať na počítači vodcov Hamasu, ale umožnila zabitie stoviek úplne náhodných ľudí.
Nedôveryhodné sú aj kontrolné a mobilizačné nástroje, ktoré používajú platformy zamestnávajúce kuriérov alebo dohliadajúce na vodičov - nezaujímajú sa o podmienky na cestách, dopravné zápchy, odpor času a priestoru, na prekonanie ktorých ľudia potrebujú veľa úsilia. Aj spoločnosť Amazon ukázala príklad používania umelej inteligencie na prísnu kontrolu zamestnancov.
Návrat štátu
Čo okrem dôvery potrebuje Európa, aby obhájila svoju myšlienku AI? Silná akadémia. Mariana Mazzucato, ktorá bola prítomná medzi panelistami, tvrdila, že prostredníctvom verejných investícií do akadémie sa štát stáva nielen nenávideným regulátorom, ale stimuluje aj vývoj a inovácie. A zároveň si dáva možnosť stanoviť podmienky a zaručiť, že výsledok je vo verejnom záujme.
Je zrejmé, že výzvy v oblasti umelej inteligencie - podobne ako klíma, pandémia alebo hrozba vojny - si vyžadujú, aby štát mohol prijímať trhové rozhodnutia. V Amerike došlo k ovládnutiu štátu oligarchami, Európa môže ponúknuť úplne iný model.
Na takúto historickú nevyhnutnosť budú upozorňovať aj panelisti v rozprave o akadémii. Zástupcovia francúzskych a nemeckých univerzít zhodne uviedli, že investície štátu do vedy sú predpokladom rozvoja a prilákania talentov. Platy, ktoré ponúkajú veľké technologické spoločnosti, sú už na začiatku päťkrát vyššie ako tie, ktorými môže univerzita lákať mladých doktorandov. Na druhej strane veľké technologické firmy, ako to najlepšie vidno v USA, vysávajú verejné zdroje a personál a snažia sa o monopolizáciu. Dôsledkom je úpadok inovácií, pretože všetci sa podriaďujú prevládajúcemu, čisto obchodnému výkladu. To by sa nestalo, zdôraznili diskutujúci, keby štát zahrnul mechanizmy umožňujúce spravodlivú hospodársku súťaž.
Zdá sa, že to je možné práve v Európskej únii a práve - hoci možno paradoxne - vďaka tomu, že je rozdelená na národné štáty. Už sa to pomaly deje: francúzska spoločnosť Mistral AI nedávno uviedla na trh svojho chatbota s vtipným názvom Le Chat (hra asociácií, pričom cudzinci sa smejú, že vo Francúzsku sa každé slovo začína na "le", takže ide o Le Chat, teda mačku, ktorej červený digitálny ňufák s ušami je logom chatbota). A poľský startup Spichlerz (Speak Leash) pracuje na White, ktorý už trénuje ministerstvo, a rozpočet naň vraj nemá dno ani strop. Európske krajiny môžu spoločným využívaním softvéru vyvinúť rôzne modely umelej inteligencie prispôsobené miestnym potrebám.
Túto cestu prezentoval na paneli o zodpovednej AI Peter Wang, legenda AI a spoluzakladateľ Anacondy, bezplatnej softvérovej platformy pre dáta a AI. Skromne sedel medzi publikom a dlho dvíhal ruku, aby mohol hovoriť. Vstal, predstavil sa a vyzval ľudí, aby sa nebáli, ale vytvárali lokálne modely určené pre komunity, priemyselné odvetvia, spoločnosti. Podobne sa vyjadril aj laureát Nobelovej ceny Daron Acemoglu: "budeme úspešní, ak do dvoch rokov 80 % výskumníkov v oblasti umelej inteligencie pôjde za svojimi šéfmi a povie: mojím cieľom je pracovať na technológii, ktorá pomáha pracovníkom, na technológii, ktorá pomáha občanom kontrolovať údaje a informácie o sebe".
Podľa Acemoglua bude proti tomuto smerovaniu pôsobiť kapitál, záujmy spoločností alebo moc, ale je to možné. Stojí za to porovnať jeho vyhlásenie s podmienkami kapitulácie, ktoré v bodoch predniesol J. D. Vance: EÚ má vytvoriť ústretový a otvorený priestor pre ten istý model, ktorý monopolizoval Ameriku.
V Poľsku je pôda jednoznačne úrodná a otvárame sa americkému monopolu už za 1 milión dolárov ročne - na päť rokov. Hoci poľské predsedníctvo práve prebieha, účasť Poľska na tomto európskom podujatí bola zanedbateľná.
Ako vyvolať nadšenie
Ako vyburcovať nadšenie potrebné na to, aby sme dali myšlienke európskej moci umelej inteligencie silu, keď je západná spoločnosť unavená, nemotivovaná zapojiť sa a existuje toľko obáv? Keď kvôli UI strácame pracovné miesta a tí, ktorí sú pri moci, nás strašia "veľkou náhradou" migrantmi? "Spoločnosť Klarna uskutočnila revolúciu v oblasti služieb zákazníkom tým, že nasadila pokročilého asistenta s umelou inteligenciou, ktorý nahradil 700 zamestnancov," - informuje Julia z inštitútu Infuture.institute v bulletine.
V správe World Economic Forum ukazuje, že zmeny obsiahnu väčšinu trhu už do roku 2030, že robotizácia a automatizácia sa budú zrýchľovať, oblasti spracovania dát, výroby, skladovania a distribúcie energie budú rásť a že všetky tieto trendy budú prehlbovať nerovnosť.
Riziká spojené s umelou inteligenciou sa tým však nekončia. Pravdepodobným scenárom je nielen to, že umelá inteligencia nám vezme pracovné miesta, ale aj to, že čoskoro potom začne súťažiť s ľuďmi o energiu a vodu. V roku 2015, teda len pred 10 rokmi, bola v tom istom Paríži dosiahnutá historická dohoda o mobilizácii vlád proti klimatickej katastrofe. Prijatie dohody bolo privítané s veľkým nadšením. Dnes je jasné, že záujmy producentov mäsa a ropných spoločností zvíťazili a mládež Poslednej generácie, ktorá proti tomuto šialenstvu protestuje, sa dostáva do väzenia.
Stojíme na križovatke. Racionálny pohľad na umelú inteligenciu vo verejnom záujme nám môže pomôcť vyriešiť mnohé problémy vrátane energetických a klimatických, a predsa, ako trpko konštatoval jeden z rečníkov - umelá inteligencia potrebuje planétu. Otázkou je, či sa budeme riadiť logikou solidarity alebo zisku. Potom sa ukáže, či nám všetkým bude planéta stačiť.
