Рішення про те, що європейський ШІ буде, вже прийнято. Питання в тому, хто за нього заплатить і яким він буде. Чи вистачить політичної волі узгодити європейський ШІ з демократією, правами людини? Про це говорили на AI Action Summit у Парижі.
This text has been auto-translated from Polish.
Паризький саміт AI Action пройшов в атмосфері вимушеного святкування. Семінари та дебати (частини можна переглянути) охоплювали клімат, енергетику, працю, колективні зусилля, глобальну конкуренцію, енергетику та історичну необхідність. ШІ може підтримати людство, дати доступ до знань, допомогти знайти відповіді на складні проблеми, але, звичайно, він несе в собі ризик зловживань і спрямування контролю проти людей - побоювання, висловлені наступними спікерами, як правило, були приглушені, і кожне речення, сповнене сумнівів, швидко протиставлялося оптимістичному.
Тому що рішення вже прийнято. Європа просто не має іншого вибору, окрім як вступити в технологічну гонку, яка починає дещо нагадувати часи холодної війни, оскільки відбувається в атмосфері напруженості, конфронтації, погроз, зарозумілості та безжалісності, зокрема, американських корпорацій.
На початку президентського терміну Дональда Трампа США оголосили про проект "Зоряна брама", на який мають намір витратити 500 мільярдів доларів, і політичний альянс між техноолігархами і Трампом став реальністю. В останні тижні, тим часом, Китай продемонстрував проект китайського стартапу DeepSeek, який нібито мав бути набагато дешевшим, але який має мало спільного з правдою, натомість викликав плутанину. І все ж DeepSeek - це не все, що є у китайців. Рекомендую подкаст Techstorie, з якого ви дізнаєтеся, що в Китаї вже створено близько 200 різних моделей ШІ.
Отже, Європа може мати свій власний ШІ або бути приреченою на чужий. Вибір очевидний. Якщо ми хочемо мати ШІ, сформований демократичним шляхом, який поважає етику, який працює на наше благо ("загальне благо", "вище благо", "суспільне благо" - різні версії цього гасла можна було почути в Парижі), то він повинен бути нашим, європейським - читай: французьким. Господарі голосно зіграли на національній гордості, що, безумовно, приглушило ентузіазм інших європейських країн. Але за французькими пропозиціями немає ніякої нової ідеології - ні MEGA, ні DOGE - лише демократія та європейські цінності.
Коментуючи відмінності у підходах між США та Європою, часто використовують гасло "США - це інновації, ЄС - це регулювання". Стриманість, обережність і відсутність рішучості ЄС іноді стають предметом жартів, нарівні з факсом у Німеччині або окремими кранами для гарячої та холодної води у Великобританії.
Але нам не потрібно обирати між повною дерегуляцією та тотальним контролем. Ми можемо мати справедливе регулювання, яке не блокує розвиток, стверджували політики Петро Павел, Джастін Трюдо та Еммануель Макрон, які змінювали один одного. Але як? Створивши власний європейський штучний інтелект. Трохи запізнившись з Америкою і Китаєм, ми все ще маємо можливості, однак. Наші сильні сторони, за словами Макрона, - це енергія, якої у Франції надлишок, і величезний потенціал для інновацій. До європейського проекту зі створення штучного інтелекту також долучаться Канада та Індія (Нарендра Моді є одним з організаторів Саміту з питань штучного інтелекту), що означає нову геополітичну угоду.
Фінансування має бути сміливим і надходити з різних джерел. Макрон навів як приклад відбудову спаленого собору Паризької Богоматері, яка супроводжувалася ентузіазмом і широкою щедрістю, а результат перевершив очікування. Макрон хоче викликати подібний ентузіазм і зараз. Він оголосив, що Франція інвестуватиме в європейський ШІ 109 мільярдів євро, з внеском Об'єднаних Арабських Еміратів (50 мільярдів євро), Канади (20 мільярдів євро) та Індії, а ринок, за словами Макрона, еквівалентний США.
Чи знає ШІ, як змусити демократію працювати?
Як поєднати європейські демократичні цінності з технологічними розробками, як використовувати і як навчати ШІ, стало темою окремого вечірнього заходу, який відвідали понад тисячу осіб з 30 країн світу. Приклади використання технологій проти суспільства були представлені Світланою Тихановською: глибокий фейк, підготовлений чиновниками Лукашенка, з використанням її персонажа, щоб заявити, що вона втомилася і здається. Вона попередила, що штучний інтелект може бути використаний для переслідування опозиції та безжального контролю над громадянами, як чоловіками, так і жінками.
Позитивний приклад навела програмістка Одрі Танг, колишня міністерка цифровізації Тайваню. Вона розповіла, як уряд, підтримка якого серйозно зменшувалася, вирішив використати штучний інтелект, щоб зрозуміти, чого потребують громадяни. Дуже великій, але випадково обраній групі людей були надіслані запитання про конкретні проблеми, наприклад, про те, о котрій годині мають починатися шкільні заняття. Однак це були не питання для референдуму з очікуваною відповіддю "ТАК" чи "НІ", а відкриті запитання, які досліджували настрої, думки, почуття, емоції, досвід.
Тайванський експеримент - це те, що нам знайоме від грецької агори до сучасних панелей громадян. Тільки завдяки штучному інтелекту він може бути проведений у більших масштабах. Не кілька, а кількасот тисяч умів, досвідів, контекстів, позицій та інтересів можуть бути залучені до опрацювання питання. Класичне цивілізаційне досягнення, про яке мріють практики демократії, що прагнуть її зміцнити.
Коли уряд Тайваню почав використовувати цей метод, його підтримка підскочила з 10% до 70%. Дві голови - не одна, а мудрість натовпу - медіана, виведена з набору відповідей, - не поступається експертним знанням. Крім того, залучення громадян має емоційну цінність, формує відповідальність і солідарність, допомагає зрозуміти думки інших і цінувати відмінності, і, перш за все, довіру до влади. Уряд, довіру до якого громадськість перевірила в такий спосіб, може наважитися на складніші реформи.
У Європі це настільки красива історія, що в неї майже неможливо повірити - особливо, коли ми пов'язуємо її з надзвичайно поляризованою політичною сценою Польщі. Уряд, який хоче вирішити реальні проблеми? Уряд, який прислухається до своїх громадян? Питання дерегуляції вирішив би тайванський уряд, запросивши до слова не лише підприємців на чолі з Рафалом Бжоською, але й робітників, споживачів, профспілки - всіх.
Зрештою, ШІ можна було б використовувати для опитування громадян по всьому ЄС щодо напряму розвитку самого ШІ. Це дозволило б реагувати на побоювання людей, а не применшувати їх і проштовхувати рішення, які вже на рівні декларацій є сумнівними. У Парижі, звісно, запевнили, що європейський (тобто французький) ШІ поважатиме вільну волю громадян, але також і вільну волю компаній. (Захід був організований переважно для інвесторів; єдиним представником профспілок на ньому був Олівер Рьопке, який одночасно представляв неурядові організації та громадянське суспільство).
Це нагадує про вирішальну роль політичної волі, яка визначає, як буде використовуватися той чи інший інструмент. А політична воля потребує довіри суспільства, про що неодноразово згадувалося під час конференції.
Тим часом, досвід роботи з програмним забезпеченням, яке приймає рішення за людей, поки що не викликає довіри. Варто лише згадати баг в бухгалтерському програмному забезпеченні, який призвів до того, що сотні поштових працівників у Великобританії втратили свої активи, здоров'я та сім'ї, а іноді навіть до самогубства. Або зовсім свіжий і жахливий приклад з Гази, де ШІ, який використовував Ізраїль під назвою Лаванда, мав набирати лідерів ХАМАСу, але дозволив вбити сотні абсолютно випадкових людей.
Не викликають довіри й інструменти контролю та мобілізації, які використовують платформи, що наймають кур'єрів або контролюють водіїв - їм байдужі дорожні умови, затори, опір часу та простору, на подолання яких людям потрібно докладати чимало зусиль. Також компанія Amazon показала приклад використання ШІ для жорсткого контролю співробітників.
Повернення держави
Що, крім довіри, потрібно Європі, щоб відстояти свою ідею зі штучним інтелектом? Сильна академія. Присутня серед учасників дискусії Мар'яна Маццукато стверджувала, що завдяки державним інвестиціям в академію держава не тільки стає ненависним регулятором, а й стимулює розвиток та інновації. І в той же час дає собі можливість ставити умови і гарантувати, що результат відповідає суспільним інтересам.
Очевидно, що виклики штучного інтелекту - такі як клімат, пандемія чи загроза війни - вимагають від держави дозволу приймати ринкові рішення. В Америці відбулося поглинання держави олігархами; Європа може запропонувати зовсім іншу модель.
Таку історичну необхідність також підкреслять учасники дискусії під час дебатів про академію. Представники французьких та німецьких університетів одностайно заявили, що інвестиції держави в науку є необхідною умовою для розвитку та залучення талантів. Зарплати, які пропонують великі технологічні компанії, вже на старті в п'ять разів вищі, ніж ті, якими університет може спокусити молодих докторантів. З іншого боку, великі технологічні компанії, як це найкраще видно на прикладі США, поглинають державні ресурси та персонал і прагнуть до монополізації. Результатом цього є в'янення інновацій, оскільки всі підкоряються панівній, суто діловій інтерпретації. Цього б не сталося, наголошували учасники дебатів, якби держава передбачила механізми, які б дозволили чесну конкуренцію.
Здається, що це можливо саме в Європейському Союзі і саме - хоча, можливо, парадоксально - завдяки тому, що він розділений на національні держави. Це вже потроху відбувається: французька компанія Mistral AI нещодавно запустила свого чат-бота, дотепно названого Le Chat (гра на асоціаціях, іноземці сміються, що у Франції кожне слово починається на "le", тож це Le Chat, або кіт, чия червона цифрова мордочка з вушками є логотипом чат-бота). А польський стартап Spichlerz (Speak Leash) працює над White, якого вже тренує міністерство, і бюджет на це, кажуть, не має ні дна, ні стелі. Європейські країни, обмінюючись програмним забезпеченням, можуть розробляти різноманітні моделі ШІ, пристосовані до місцевих потреб.
Цей шлях був представлений на панелі, присвяченій відповідальному ШІ, Пітером Ваном, легендою ШІ та співзасновником Anaconda, безкоштовної платформи для роботи з даними та ШІ на основі вільного програмного забезпечення. Він скромно сидів серед аудиторії, довго піднімаючи руку, щоб заговорити. Він підвівся, представився і закликав людей не боятися, а створювати локальні моделі, призначені для спільнот, індустрій, суспільств. Нобелівський лауреат Дарон Ачемоглу говорив схоже: "Ми досягнемо успіху, якщо протягом двох років 80 відсотків дослідників ШІ підуть до своїх босів і скажуть: моя мета - працювати над технологією, яка допомагає робітникам, над технологією, яка допомагає громадянам контролювати дані та інформацію про себе".
За словами Ачемоглу, проти цього напрямку працюватимуть капітал, корпоративні інтереси або влада, але це можливо. Варто порівняти його заяву з умовами капітуляції, викладеними в пунктах Джей Д. Венсом: ЄС повинен створити гостинний і відкритий простір для тієї ж моделі, яка монополізувала Америку.
У Польщі ґрунт явно родючий і ми відкриваємо себе для американської монополії всього за 1 мільйон доларів на рік - протягом п'яти років. Незважаючи на те, що Польща головує в НАТО, її участь у цій європейській події була незначною.
Як генерувати ентузіазм
Як вичавити ентузіазм, необхідний для реалізації ідеї європейської могутності ШІ, коли західне суспільство втомилося, не мотивоване долучатися до цього і має стільки страхів? Коли ми втрачаємо робочі місця через ШІ, а можновладці лякають нас "великою заміною" мігрантами? "Klarna зробила революцію в обслуговуванні клієнтів, розгорнувши просунутого асистента зі штучним інтелектом, який замінив 700 співробітників" - повідомляє Юлія з Infuture.institute у своєму інформаційному бюлетені.
Звіт World Economic Forum показує, що зміни охоплять більшу частину ринку вже до 2030 року, що роботизація та автоматизація прискоряться, зростатимуть сфери обробки даних, генерації, зберігання та розподілу енергії, і що всі ці тенденції призведуть до посилення нерівності.
На цьому ризики, пов'язані зі штучним інтелектом, не закінчуються. Ймовірний сценарій полягає не лише в тому, що ШІ забере наші робочі місця, але й у тому, що незабаром він почне конкурувати з людиною за енергію та воду. У 2015 році, всього 10 років тому, в тому ж Парижі була досягнута історична угода, яка мобілізувала уряди на боротьбу з кліматичною катастрофою. Ухвалення угоди було зустрінуте з великим ентузіазмом. Сьогодні очевидно, що інтереси виробників м'яса та нафтових компаній перемогли, а молодь "Останнього покоління", яка протестує проти цього божевілля, кидають до в'язниці.
Ми стоїмо на роздоріжжі. Раціональний, з точки зору суспільних інтересів, погляд на ШІ може допомогти нам вирішити багато проблем, в тому числі енергетичних і кліматичних, і все ж, як гірко констатував один з доповідачів, ШІ потрібен планеті. Питання в тому, чи будемо ми слідувати логіці солідарності чи вигоди. Ще невідомо, чи вистачить планети на всіх нас.
