Rozhodnutí, že bude vytvořena evropská umělá inteligence, již bylo přijato. Otázkou je, kdo ji zaplatí a jaká bude. Bude dostatek politické vůle sladit evropskou UI s demokracií a lidskými právy? O tom se diskutovalo na summitu AI Action v Paříži.
This text has been auto-translated from Polish.
Pařížský akční summit o umělé inteligenci proběhl v atmosféře vynucených oslav. Workshopy a debaty (části si můžete prohlédnout) se týkaly klimatu, energetiky, práce, kolektivního úsilí, globální konkurence, energie a historické nutnosti. Umělá inteligence může podpořit lidstvo, zpřístupnit znalosti, pomoci najít odpovědi na složité problémy, ale samozřejmě s sebou nese riziko zneužití a nasměrování kontroly proti lidem - obavy, které následující řečníci vyslovili, byly spíše tlumené a každá pochybnostmi naplněná věta byla rychle vyvrácena optimistickou.
Protože rozhodnutí již bylo přijato. Evropa prostě nemá jinou možnost než vstoupit do technologického závodu, který začíná poněkud připomínat ten z dob studené války, protože se odehrává v atmosféře napětí, konfrontace, hrozeb, arogance a bezohlednosti zejména amerických korporací.
Na začátku funkčního období Donalda Trumpa oznámily USA projekt Hvězdné brány, na který hodlají vynaložit 500 miliard dolarů, a politické spojenectví technooligarchů a Trumpa se stalo skutečností. V posledních týdnech mezitím Čína předvedla projekt čínského startupu DeepSeek, který měl být údajně mnohem levnější, ale který má s pravdou pramálo společného a místo toho vyvolává zmatek. A přitom DeepSeek není vše, co Číňané mají. Doporučuji podcast Techstorie, z něhož se dozvíte, že v Číně už bylo vytvořeno asi 200 různých modelů umělé inteligence.
Takže Evropa může mít vlastní AI, nebo být odsouzena k tomu, že ji bude mít někdo jiný. Volba je zřejmá. Chceme-li mít UI, která se utváří demokraticky, respektuje etiku, pracuje pro naše dobro ("společné dobro", "vyšší dobro", "veřejné dobro" - různé verze tohoto hesla bylo možné slyšet v Paříži), pak musí být naše, evropská - čti: francouzská. Hostitelé hlasitě hráli na národní hrdost, což jistě tlumilo nadšení ostatních evropských zemí. Za francouzskými návrhy však nestojí žádná nová ideologie - ani MEGA, ani DOGE - pouze demokracie a evropské hodnoty.
Při komentování rozdílů v přístupu USA a Evropy se často používá slogan "USA jsou inovace, EU je regulace". Zdrženlivost, opatrnost a nedostatečná rozhodnost EU jsou někdy předmětem vtipů, srovnatelných s faxem v Německu nebo oddělenými kohoutky na teplou a studenou vodu ve Velké Británii.
Nemusíme však volit mezi úplnou deregulací a totální kontrolou. Můžeme mít spravedlivou regulaci, která neblokuje rozvoj, tvrdili postupně politici Petr Pavel, Justin Trudeau a Emmanuel Macron. Jak? Tím, že si vybudujeme vlastní evropskou umělou inteligenci. Trochu pozdě oproti Americe a Číně, nicméně stále máme příležitosti. Naší silnou stránkou, řekl Macron, je energie, které má Francie přebytek, a obrovský inovační potenciál. Do evropského projektu AI se má zapojit také Kanada a Indie (Narendra Modi je spolupořadatelem akčního summitu o AI), což znamená novou geopolitickou dohodu.
Financování má být odvážné a pocházet z různých zdrojů. Macron jako příklad uvedl obnovu vypálené katedrály Notre Dame, kterou provázelo nadšení a široká štědrost a výsledek předčil očekávání. Podobné nadšení chce Macron vyvolat i nyní. Oznámil, že Francie bude investovat do evropské umělé inteligence 109 miliard eur, přičemž Spojené arabské emiráty (50 miliard eur), Kanada (20 miliard eur) a Indie přispěly a trh se podle Macrona rovná trhu USA.
Umí umělá inteligence zajistit fungování demokracie?"
Jak skloubit evropské demokratické hodnoty s technologickým vývojem, jak využívat a jak trénovat umělou inteligenci, bylo tématem samostatné večerní akce, které se zúčastnilo více než tisíc lidí z 30 zemí. Příklady využití technologií proti společnosti představila Světlana Tichanouská: deepfake připravený Lukašenkovými úředníky, kdy pomocí své postavy prohlásila, že je unavená a vzdává to. Umělá inteligence může být použita k pronásledování opozice a bezohledné kontrole občanů a občanek, varovala.
Pozitivní příklad uvedla programátorka Audrey Tang, bývalá tchajwanská ministryně pro digitalizaci. Vyprávěla, jak se vláda, jejíž podpora povážlivě klesala, rozhodla využít umělou inteligenci, aby pochopila, co občané potřebují. Velmi početné, ale náhodně vybrané skupině lidí byly zaslány otázky týkající se konkrétních problémů, například v kolik hodin by mělo začít školní vyučování. Nešlo však o referendové otázky s očekávanou odpovědí ANO - NE, ale o otevřené otázky sondující nálady, názory, pocity, emoce, zkušenosti.
Tchajwanský experiment je něco, co známe od řecké agory až po moderní občanské panely - jen s tím rozdílem, že s umělou inteligencí jej lze provádět ve větším měřítku. Do rozpracování problému se může zapojit ne několik, ale několik set tisíc myslí, zkušeností, souvislostí, postojů a zájmů. Klasický civilizační výdobytek, o němž sní praktici demokracie usilující o její posílení.
Když tuto metodu začala používat tchajwanská vláda, její podpora vyskočila z 10 na 70 procent. Každé dvě hlavy nejsou jedna a moudrost davu - medián získaný ze souboru odpovědí - není horší než expertní znalosti. Zapojení občanů má navíc emocionální hodnotu, buduje odpovědnost a solidaritu, pomáhá pochopit názory druhých a ocenit odlišnosti, a především důvěru ve vládu. Vláda, jejíž důvěryhodnost byla tímto způsobem prověřena veřejností, si může troufnout na obtížnější reformy.
V Evropě je to příběh tak krásný, že je téměř neuvěřitelný - zvláště když ho vztáhneme na extrémně polarizovanou polskou politickou scénu. Vláda, která chce řešit skutečné problémy? Vláda, která naslouchá svým občanům? Problém deregulace by vyřešilo, kdyby tchajwanská vláda vyzvala k vyjádření nejen podnikatele vedené Rafalem Brzoskou, ale také zaměstnance, spotřebitele, odbory - všechny.
Koneckonců, AI by mohla být využita k průzkumu mezi občany v celé EU ohledně směřování samotné AI. To by umožnilo reagovat na obavy lidí, namísto jejich bagatelizování a prosazování řešení, která jsou pochybná již na úrovni deklarací. V Paříži samozřejmě zaznělo ujištění, že evropská (tj. francouzská) AI bude respektovat svobodnou vůli občanů, ale také svobodnou vůli firem. (Akce byla organizována především pro investory; jediným zástupcem odborů zde byl Oliver Röpke, který současně zastupoval nevládní organizace a občanskou společnost).
To připomíná zásadní roli politické vůle, která určuje, jak bude nástroj využíván. A politická vůle potřebuje důvěru společnosti, která byla během konference opakovaně zmiňována.
Přitom zkušenosti se softwarem, který rozhoduje za lidi, zatím důvěru nevzbuzují. Stačí si vzpomenout na chybu v účetním softwaru, která vedla ve Velké Británii ke ztrátě majetku, zdraví a rodin stovek poštovních zaměstnanců a někdy i k sebevraždě. Nebo zcela čerstvý a drastický příklad z Gazy, kde umělá inteligence používaná Izraelem s názvem Lavender měla psát na klávesnici vůdce Hamásu, ale umožnila zabít stovky zcela náhodných lidí.
Důvěryhodné nejsou ani kontrolní a mobilizační nástroje používané platformami zaměstnávajícími kurýry nebo dohlížejícími na řidiče - nezajímají je podmínky na silnicích, dopravní zácpy, odpor času a prostoru, k jejichž překonání potřebují lidé velké úsilí. Také společnost Amazon ukázala příklad využití umělé inteligence k přísné kontrole zaměstnanců.
Návrat státu
Co je kromě důvěry potřeba, aby Evropa obhájila svou myšlenku AI? Silná akademie. Mariana Mazzucato, která byla přítomna mezi panelisty, tvrdila, že prostřednictvím veřejných investic do akademie se stát nejen stává nenáviděným regulátorem, ale také stimuluje vývoj a inovace. A zároveň si dává možnost stanovit podmínky a zaručit, že výsledek je ve veřejném zájmu.
Je zřejmé, že výzvy spojené s umělou inteligencí - podobně jako klima, pandemie nebo hrozba války - vyžadují, aby stát mohl rozhodovat na trhu. V Americe došlo k ovládnutí státu oligarchy, Evropa může nabídnout zcela jiný model.
Na takovou historickou nutnost budou upozorňovat i panelisté v debatě o akademii. Zástupci francouzských a německých univerzit shodně uvedli, že investice státu do vědy jsou předpokladem pro rozvoj a přilákání talentů. Platy, které nabízejí velké technologické firmy, jsou již na začátku pětkrát vyšší než to, čím může univerzita lákat mladé doktorandy. Na druhou stranu velké technologické firmy, jak je nejlépe vidět v USA, vysávají veřejné zdroje a zaměstnance a snaží se monopolizovat. Výsledkem je uvadání inovací, protože se všichni podřizují převládajícímu, čistě obchodnímu výkladu. K tomu by nedošlo, zdůraznili diskutující, kdyby stát zahrnul mechanismy umožňující spravedlivou hospodářskou soutěž.
Zdá se, že to je možné právě v Evropské unii a právě - i když možná paradoxně - díky tomu, že je rozdělena na národní státy. To se již pomalu děje: francouzská společnost Mistral AI nedávno spustila svého chatbota, vtipně pojmenovaného Le Chat (hra asociací, cizinci se smějí, že ve Francii každé slovo začíná na "le", takže jde o Le Chat neboli kočku, jejíž červený digitální čumák s ušima je logem chatbota). A polský startup Spichlerz (Speak Leash) pracuje na White, který už koučuje ministerstvo, a rozpočet na něj prý nemá dno ani strop. Evropské země mohou díky sdílení softwaru vyvíjet různé modely AI přizpůsobené místním potřebám.
Tuto cestu představil na panelu o odpovědné AI Peter Wang, legenda AI a spoluzakladatel společnosti Anaconda, bezplatné softwarové platformy pro data a AI. Seděl skromně mezi posluchači a dlouho zvedal ruku, aby mohl promluvit. Vstal, představil se a vyzval lidi, aby se nebáli, ale vytvářeli lokální modely, určené pro komunity, odvětví, společnosti. Podobně se vyjádřil i nositel Nobelovy ceny Daron Acemoglu: "budeme úspěšní, pokud do dvou let půjde 80 procent výzkumníků v oblasti umělé inteligence za svými šéfy a řekne: mým cílem je pracovat na technologii, která pomáhá pracovníkům, na technologii, která pomáhá občanům kontrolovat data a informace o sobě".
Podle Acemoglua bude proti tomuto směru působit kapitál, korporátní zájmy nebo moc, ale je to možné. Stojí za to porovnat jeho prohlášení s podmínkami kapitulace, které v bodech přednesl J. D. Vance: EU má vytvořit vstřícný a otevřený prostor pro stejný model, který monopolizoval Ameriku.
V Polsku je půda zjevně úrodná a otevíráme se americkému monopolu za pouhý milion dolarů ročně - na pět let. Přestože polské předsednictví právě probíhá, účast Polska na této evropské akci je zanedbatelná.
Jak vyvolat nadšení
Jak z nás vyždímat nadšení potřebné k tomu, abychom dali myšlence evropské umělé inteligence sílu, když je západní společnost unavená, nemotivovaná se zapojit a existuje tolik obav? Když kvůli UI přicházíme o pracovní místa a ti, kdo jsou u moci, nás straší "velkou náhradou" migranty? "Společnost Klarna provedla revoluci v zákaznickém servisu tím, že nasadila pokročilého asistenta s umělou inteligencí, který nahradí 700 zaměstnanců," - informuje Julia z Infuture.institute ve svém newsletteru.
Zpráva World Economic Forum ukazuje, že změny zahrnou většinu trhu již do roku 2030, že robotizace a automatizace se bude zrychlovat, oblasti zpracování dat, výroby, skladování a distribuce energie budou růst a že všechny tyto trendy budou prohlubovat nerovnost.
Tím však rizika spojená s umělou inteligencí nekončí. Pravděpodobným scénářem je nejen to, že nám umělá inteligence vezme práci, ale že brzy poté začne s lidmi soutěžit o energii a vodu. V roce 2015, tedy před pouhými deseti lety, byla v téže Paříži uzavřena historická dohoda o mobilizaci vlád proti klimatické katastrofě. Přijetí dohody bylo přivítáno s velkým nadšením. Dnes je jasné, že zvítězily zájmy producentů masa a ropných společností, a mladí lidé z Poslední generace, kteří proti tomuto šílenství protestují, jsou zavíráni do vězení.
Stojíme na křižovatce. Racionální pohled na UI ve veřejném zájmu nám může pomoci vyřešit mnoho problémů, včetně energetických a klimatických, a přesto, jak hořce prohlásil jeden z řečníků - UI potřebuje planetu. Otázkou je, zda se budeme řídit logikou solidarity, nebo zisku. Uvidíme, zda nám všem bude planeta stačit.
