Решение о том, что европейский ИИ будет, уже принято. Вопрос в том, кто будет платить за него и каким он будет. Хватит ли политической воли, чтобы совместить европейский ИИ с демократией и правами человека? Этот вопрос обсуждался на саммите AI Action Summit в Париже.
This text has been auto-translated from Polish.
Парижский саммит действий ИИ прошел в атмосфере навязчивого торжества. На семинарах и дебатах (часть можно посмотреть) обсуждались вопросы климата, энергетики, труда, коллективных усилий, глобальной конкуренции, энергии и исторической необходимости. ИИ может поддержать человечество, дать доступ к знаниям, помочь найти ответы на сложные проблемы, но, конечно, он несет в себе риск злоупотреблений и направленного контроля над людьми - опасения, высказанные следующими ораторами, были приглушены, и каждое предложение, полное сомнений, быстро сменялось оптимистичным.
Потому что решение уже принято. У Европы просто нет другого выбора, кроме как вступить в технологическую гонку, которая начинает чем-то напоминать холодную войну, потому что она проходит в атмосфере напряженности, конфронтации, угроз, высокомерия и безжалостности американских корпораций в частности.
В начале президентского срока Дональда Трампа США объявили о проекте "Звездные врата", на который они намерены потратить 500 миллиардов долларов, и политический альянс между технолигархами и Трампом стал реальностью. В последние недели, тем временем, Китай продемонстрировал проект китайского стартапа DeepSeek, который якобы будет намного дешевле, но который имеет мало общего с правдой, вместо этого вызывая путаницу. И все же DeepSeek - это не все, что есть у китайцев. Рекомендую подкаст Techstorie, из которого вы узнаете, что в Китае уже создано около 200 различных моделей ИИ.
Так что Европа может иметь свой собственный ИИ или быть обреченной на чужой. Выбор очевиден. Если мы хотим иметь ИИ, который формируется демократическим путем, соблюдает этические нормы, работает на наше благо ("общее благо", "высшее благо", "общественное благо" - различные варианты этого лозунга можно было услышать в Париже), то он должен быть нашим, европейским - читай: французским. Хозяева громко сыграли на национальной гордости, что, конечно, приглушило энтузиазм других европейских стран. Но за французскими предложениями не стоит никакой новой идеологии - ни MEGA, ни DOGE - только демократия и европейские ценности.
Когда комментируют различия в подходах между США и Европой, часто используют лозунг "США - это инновации, ЕС - это регулирование". Сдержанность, осторожность и отсутствие решительности ЕС иногда становятся предметом шуток, наравне с факсом в Германии или отдельными кранами для горячей и холодной воды в Великобритании.
Но нам не нужно выбирать между полным дерегулированием и тотальным контролем. Мы можем иметь справедливое регулирование, которое не блокирует развитие, утверждают последовательные политики Петр Павел, Джастин Трюдо и Эммануэль Макрон. Как? Построив наш собственный европейский ИИ. Немного опоздав к Америке и Китаю, мы все же имеем возможности. Наши сильные стороны, по словам Макрона, - это энергия, которой у Франции в избытке, и огромный потенциал для инноваций. В европейский проект по созданию ИИ также войдут Канада и Индия (Нарендра Моди является одним из организаторов саммита AI Action Summit), что позволяет говорить о новой геополитической сделке.
Финансирование должно быть смелым и поступать из разных источников. Макрон привел в пример восстановление сгоревшего собора Нотр-Дам, которое сопровождалось энтузиазмом и повсеместной щедростью, а результат превзошел ожидания. Макрон хочет вызвать такой же энтузиазм и сейчас. Он объявил, что Франция будет инвестировать в европейский искусственный интеллект 109 миллиардов евро, причем свой вклад внесут Объединенные Арабские Эмираты (50 миллиардов евро), Канада (20 миллиардов евро) и Индия, а рынок, по мнению Макрона, будет эквивалентен американскому.
Знает ли ИИ, как заставить демократию работать?
Как совместить европейские демократические ценности с технологическими разработками, как использовать и как обучать ИИ, стало темой отдельного вечернего мероприятия, в котором приняли участие более тысячи человек из 30 стран. Примеры использования технологий против общества представила Светлана Тихановская: глубокий фейк, подготовленный чиновниками Лукашенко, с использованием ее персонажа, чтобы заявить, что она устала и сдается. Искусственный интеллект может быть использован для преследования оппозиции и безжалостного контроля над гражданами мужского и женского пола, предупредила она.
Положительный пример привела программист Одри Танг, бывший министр цифровизации Тайваня. Она рассказала, как правительство, чья поддержка серьезно ослабевала, решило использовать ИИ, чтобы понять, что нужно гражданам. Очень большой, но случайно выбранной группе людей были разосланы вопросы о конкретных проблемах, например о том, во сколько должны начинаться занятия в школе. Однако это были не референсные вопросы с ожидаемым ответом "ДА - НЕТ", а открытые вопросы, прощупывающие настроение, мнение, чувства, эмоции, опыт.
Тайваньский эксперимент - это то, что нам знакомо от греческой агоры до современных панелей граждан, только с искусственным интеллектом его можно проводить в больших масштабах. Не несколько, а несколько сотен тысяч умов, опыта, контекстов, позиций и интересов могут быть вовлечены в решение проблемы. Классическое цивилизационное достижение, о котором мечтают сторонники демократии, стремящиеся ее укрепить.
Когда правительство Тайваня начало использовать этот метод, его поддержка подскочила с 10 до 70 процентов. Две головы - не одна, а мудрость толпы - медиана, выведенная из множества ответов, - не уступает экспертным знаниям. Более того, участие граждан имеет эмоциональную ценность, воспитывает ответственность и солидарность, помогает понять мнение других и оценить различия, и, самое главное, доверие к правительству. Правительство, чей авторитет был проверен общественностью таким образом, может решиться на более сложные реформы.
В Европе это настолько красивая история, что в нее почти невозможно поверить - особенно если соотнести ее с крайне поляризованной политической сценой Польши. Правительство, которое хочет решать реальные проблемы? Правительство, которое прислушивается к своим гражданам? Вопрос дерегулирования можно было бы решить, если бы правительство Тайваня пригласило высказаться не только предпринимателей во главе с Рафалом Бжоской, но и рабочих, потребителей, профсоюзы - всех.
В конце концов, ИИ можно использовать для опроса граждан по всему ЕС о том, в каком направлении развивается сам ИИ. Это позволило бы реагировать на опасения людей, а не преуменьшать их и продвигать решения, которые уже на уровне деклараций вызывают сомнения. В Париже, конечно, были даны заверения, что европейский (то есть французский) ИИ будет уважать свободную волю граждан, но также и свободную волю компаний. (Мероприятие было организовано в первую очередь для инвесторов; единственным представителем профсоюзов там был Оливер Рёпке, который одновременно представлял НПО и гражданское общество).
Это заставляет задуматься о решающей роли политической воли, которая определяет, как будет использоваться тот или иной инструмент. А политическая воля нуждается в доверии общества, о чем неоднократно говорилось на конференции.
Между тем опыт использования программного обеспечения, принимающего решения за людей, до сих пор не вызывал доверия. Достаточно вспомнить баг в бухгалтерском ПО, из-за которого сотни почтовых работников в Великобритании потеряли свое имущество, здоровье и семьи, а иногда и дошли до самоубийства. Или совсем свежий и радикальный пример из Газы, где используемый Израилем ИИ под названием Lavender должен был вычислить лидеров ХАМАС, но позволил убить сотни совершенно случайных людей.
Инструменты контроля и мобилизации, используемые платформами, нанимающими курьеров или контролирующими водителей, также не вызывают доверия - их не волнуют дорожные условия, пробки, сопротивление времени и пространства, для преодоления которых людям требуется много усилий. Также Amazon показала пример использования ИИ для жесткого контроля сотрудников.
Возвращение государства
Что, кроме доверия, необходимо Европе для защиты своей идеи ИИ? Сильная академия. Мариана Маццукато, присутствовавшая среди участников дискуссии, утверждала, что благодаря государственным инвестициям в академию государство не только становится ненавистным регулятором, но и стимулирует развитие и инновации. И в то же время оно дает себе возможность устанавливать условия и гарантировать, что результат отвечает общественным интересам.
Очевидно, что вызовы искусственного интеллекта - как и климат, пандемия или угроза войны - требуют, чтобы государству было позволено принимать рыночные решения. В Америке произошел захват государства олигархами; Европа может предложить совершенно иную модель.
На такую историческую необходимость указывают и участники дискуссии об академии. Представители французских и немецких университетов единодушно заявили, что государственные инвестиции в науку являются необходимым условием для развития и привлечения талантов. Зарплаты, предлагаемые крупными технологическими компаниями, уже на начальном этапе в пять раз выше, чем те, которыми университет может прельстить молодых докторантов. С другой стороны, крупные технологические компании, как это хорошо видно на примере США, высасывают государственные ресурсы и персонал и стремятся к монополизации. Результатом становится угасание инноваций, поскольку все подчиняются господствующей, чисто деловой интерпретации. Этого бы не произошло, отмечали участники дебатов, если бы государство предусмотрело механизмы, обеспечивающие честную конкуренцию.
Похоже, что это возможно именно в Европейском союзе и именно - хотя, возможно, это и парадоксально - благодаря тому, что он разделен на национальные государства. Это уже постепенно происходит: французская компания Mistral AI недавно запустила своего чат-бота, остроумно названного Le Chat (игра ассоциаций, иностранцы смеются, что во Франции все слова начинаются на "le", поэтому это Le Chat, или кот, чья красная цифровая мордочка с ушками является логотипом чат-бота). А польский стартап Spichlerz (Speak Leash) работает над White, которого уже тренирует одно из министерств, и бюджет на него, как говорят, не имеет ни дна, ни потолка. Европейские страны, обмениваясь программным обеспечением, могут разрабатывать различные модели ИИ, адаптированные к местным потребностям.
Этот путь был представлен на дискуссии об ответственном ИИ Питером Вангом, легендой ИИ и соучредителем Anaconda, бесплатной платформы для работы с данными и ИИ на основе программного обеспечения. Он скромно сидел среди аудитории и долго не поднимал руку, чтобы выступить. Он встал, представился и призвал людей не бояться, а создавать локальные модели, предназначенные для сообществ, отраслей, обществ. Нобелевский лауреат Дарон Асемоглу сказал аналогичным образом: "Мы добьемся успеха, если в течение двух лет 80 процентов исследователей ИИ придут к своим боссам и скажут: "Моя цель - работать над технологиями, которые помогают работникам, над технологиями, которые помогают гражданам контролировать данные и информацию о себе"".
По словам Асемоглу, против этого направления будут работать капитал, корпоративные интересы или власть, но это возможно. Стоит сопоставить его заявление с условиями капитуляции, выдвинутыми в пунктах Джей Ди Вэнсом: ЕС должен создать гостеприимное и открытое пространство для той же модели, которая монополизировала Америку.
В Польше почва явно плодородна, и мы открываемся для американской монополии всего за 1 миллион долларов в год - на пять лет. Несмотря на то, что Польша уже председательствует в ЕС, ее участие в этом европейском событии было незначительным.
Как вызвать энтузиазм
Как вызвать энтузиазм, необходимый для того, чтобы придать идее европейского ИИ силу, когда западное общество устало, не мотивировано к участию и испытывает столько страхов? Когда мы теряем рабочие места из-за ИИ, а власть имущие пугают нас "великой заменой" мигрантами? "Компания Klarna совершила революцию в обслуживании клиентов, внедрив продвинутый ИИ-ассистент, который заменил 700 сотрудников", - сообщает Джулия из Infuture.institute. - сообщает Джулия из Infuture.institute в своем информационном бюллетене.
Отчет World Economic Forum показывает, что изменения охватят большую часть рынка уже к 2030 году, что роботизация и автоматизация будут ускоряться, области обработки данных, производства, хранения и распределения энергии будут расти, и что все эти тенденции усилят неравенство.
Риски, связанные с ИИ, на этом не заканчиваются. Вероятный сценарий заключается не только в том, что ИИ займет наши рабочие места, но и в том, что вскоре он начнет конкурировать с человеком за энергию и воду. В 2015 году, всего 10 лет назад, в том же Париже было достигнуто историческое соглашение, призванное мобилизовать правительства на борьбу с климатической катастрофой. Принятие соглашения было встречено с большим энтузиазмом. Сегодня очевидно, что интересы производителей мяса и нефтяных компаний победили, а молодежь "Последнего поколения", протестующая против этого безумия, оказывается в тюрьме.
Мы стоим на перепутье. Рациональный взгляд на ИИ с точки зрения общественных интересов может помочь нам решить многие проблемы, включая энергетику и климат, и все же, как с горечью заявил один из выступавших, ИИ нужна планета. Вопрос в том, будем ли мы следовать логике солидарности или выгоды. И тогда еще предстоит выяснить, хватит ли планеты на всех нас.
