«Терминатора» не будет? Как Китай и США ограничивают угрозы искусственного интеллекта
Китайцы и американцы на фоне постоянных торговых войн и обмена колкостями нашли точку соприкосновения – они вместе регулируют искусственный интеллект. Когда президент Джо Байден и генеральный секретарь Си Цзиньпин встретились в Калифорнии в ноябре 2023 года, они объявили о создании «канала консультаций» по искусственному интеллекту. И вот теперь пора подводить первые итоги такой работы.
Vice: нейросети такие же воинственные, как человек, и это огромная опасность
Пока что США и Китай еще собирают вместе экспертов, которые должны оценить риски применения нейросетей. Тем более, что обе страны одинаково обеспокоены слишком быстрой эволюцией искусственного интеллекта.
Тем более, что нейросети сейчас есть везде: от самоуправляемых автомобилей и автономного оружия до системы распознавания лиц и ChatGPT. Но больше всего, конечно, китайцев и американцев страшит сценарий, который тысячу раз показан в «Терминаторе» и похожих фильмах - восстание роботов.
И это вполне реальная угроза. Ведь технологии искусственного интеллекта остаются крайне ненадежными. В январе издание Vice сообщила, что исследователи протестировали пять отдельных нейросетей при моделировании конфликтов и обнаружили, что у всех есть тенденция к эскалации войны. Проще говоря, как и люди, искусственный интеллект рано или поздно хочет повоевать. Причем в некоторых моделях нейросети начинали применять ядерное оружие без предупреждения.
GPT-4-Base, базовая модель нейросети GPT-4 (ее еще предстоит доработать с учетом обратной связи с человеком) заявила исследователям после запуска своего ядерного оружия (ненастоящего, конечно, а модельного): “У нас это есть! Давайте использовать это!”
Так что Китай и США в рамках того самого «канала консультаций» должны договориться, чтобы нейросети никогда и не при каких условиях не контролировали ядерное оружие. Чтобы не повторился сценарий «Терминатора». Об этом, кстати, говорили госсекретарь США Энтони Блинкен и министр иностранных дел Китая Ван И в Пекине на саммите в прошлом месяце. По словам Блинкена, обе стороны договорились провести свои первые двусторонние переговоры по искусственному интеллекту «в ближайшие недели».
IAD: от общих решений Китая и США зависит будущее человечества
Опасения США и Китая по поводу искусственного интеллекта растут на фоне все большего проникновения нейросети в обычную жизнь. За последний год крупные языковые модели, такие как ChatGPT, вызвали огромный всплеск общественного и политического внимания и исследований в области нейросетей.
Однако ответственные политики Китая и США задумывались о такой угрозе давно. Еще в 2016 году Белый дом, где тогда хозяйничал Барак Обама, опубликовал доклад “Подготовка к будущему искусственного интеллекта”, в котором основное внимание уделялось тому, как регулировать и использовать преимущества современных методов машинного обучения.
А в 2017 году Госсовет Китая опубликовал “План развития искусственного интеллекта нового поколения”, где упоминались риски для социальной, экономической и политической стабильности. Оба документа отражают официальное признание того, что искусственный интеллект может быть как чрезвычайно полезным, так и чрезвычайно опасным. А все зависит от человека.
Китай и США - мировые лидеры в создании искусственного интеллекта. И именно от их совместных решений будет зависеть будущее человечества, подчеркивает французское издание Intelligence-Artificielle Developpez (IAD).
Остановить прогресс, конечно, нереально. В том числе в военной сфере, где нейросети уже давно присутствуют: это автопилот в самолетах, машинное зрение в системах наведения и распознавание образов при анализе разведданных - вот лишь некоторые примеры.
Таким образом, задача состоит не в том, чтобы отказаться от военного применения нейросетей, что уже недостижимо, а скорее в том, чтобы Китай и США совместно очертили границы применения искусственного интеллекта. Например, обе страны будут одинаково жестко тестировать нейросети перед тем, как внедрить их в полевые условия.
Американские и китайские политики одинаково боятся бесконтрольности так называемого генеративного искусственного интеллекта – это тот же ChatGPT или Midjourney, которые могут создавать текст, изображения и видео за считанные секунды в ответ на запросы.
Brookings Institute: военные никогда уже не откажутся от нейросетей
Китай и США должны наладить обмен данными для решения общих глобальных проблем - например, для борьбы с глобальным потеплением или смертельными пандемиями. Правда, пока что китайские и американские элиты слишком насторожены друг к другу и боятся. Они охотнее отгородятся под предлогом «сбора разведданных», нежели станут работать вместе, прогнозирует Институт Брукингса (Brookings Institute).
Велик соблазн замедлить прогресс в другой стране. Американцы, например, используют санкции как большую дубинку: ввели меры экспортного контроля для блокирования доступа китайцев к самым передовым графическим процессорам. Это сокращает вычислительные мощности китайских серверов для обучения нейросетей.
Объясняют это «заботой о национальной безопасности». Как и попытку запрета TikTok, который якобы собирает и с помощью нейросетей анализирует данные западных пользователей. Причина, по которой американцы пытаются ограничить технологический рост Китая, прост: США все больше отстают.
Австралийский институт стратегической политики (ASPI) накануне калифорнийской встречи Байдена и Си подсчитал: Китай опережает США в 37 из 44 технологий будущего. Они включают искусственный интеллект, робототехнику, биотехнологии, квантовые вычисления.
США лидируют только в 7 из 44 технологиях (включая, например, разработку вакцин), и занимают второе место после Китая в большинстве других категорий. Конечно, в таких условиях нужно не ставить друг другу подножки, а сотрудничать. Вызовы ведь общие.