Россия и США объединили роботов против Китая
Управляемые не по воле человека, а компьютерными алгоритмами боевые роботы ещё не созданы, но их уже хотят запретить. Но какие бы аргументы не приводили противники таких технических новинок страны-производители всё равно заблокируют любую международную инициативу, считают специалисты. Ошибка без имени Группы экспертов по смертоносным автономным системам вооружений (САС) стран ООН завершают переговоры о запрете использования боевых роботов. Мероприятие проходит в Женеве (27−31 августа) в формате Конвенции ООН по негуманному оружию, в рамках которой родились запреты многих видов вооружений, включая напалм и кассетные бомбы. Правозащитные организации (Human Right Watch, Amnesty International и другие) и общественные активисты ещё в 2013 году начали глобальную компанию Stop Killer Robots. Цель — запретить использование роботов-убийц ещё до их создания. С инициативой ввести превентивный мораторий на создание САС выступили 26 государств, в том числе Бразилия, Австралия, Аргентина, Ватикан, Боливия, Куба, Уганда, Пакистан и Китай. Открытое письмо с поддержкой запрета подписали более 230 организаций и около 3000 предпринимателей. Среди противников «терминаторов» — основатель компаний Tesla и SpaceX Илон Маск. «Решение лишить человека жизни не должно быть делегировано роботу», — цитирует текст письма DW. Сторонники запрета бьют тревогу: автономное смертоносное оружие не создано, но многие производителя уже активно внедряют элементы искусственного интеллекта и автоматизации в новые виды вооружения: беспилотные летательные аппараты, роботы-часовые, аппараты для обезвреживания взрывных устройств, подводные и надводные дроны, «роботы-танки». Следовательно, необходимо заранее выработать международный правовой документ, запрещающий использовать полностью автономные от воли человека аппараты, которые смогут уничтожать цели не по заданию оператора (дистанционному или внесённому в программу заранее), а на основе самостоятельно принятых решений, заложенных в алгоритме. «Мы не можем вживить этим вооружениям чип международного права», — цитирует DW главу немецкой организации Facing Finance, участника кампании Stop Killer Robots Томаса Кюхенмайстера. Самоуправляемые системы, к примеру, не смогут различить военный и гражданский грузовик в зонах вооружённых конфликтов. Координатор кампании Stop Killer Robots Мэри Верхэм выражает надежду, что конвенция, запрещающая использование САС, будет принята, а страны, не поддержавшие её, рискуют «остаться за бортом международной политики». С утверждением противников САС, что в ближайшем будущем у ведущих разработчиков появится возможность создать полностью роботизированные системы с ударными задачами, согласен эксперт в области беспилотных систем Денис Федутинов: «Повышение автономности действий является актуальными задачами для военных различных стран и, соответственно, для компаний-разработчиков. Системы искусственного интеллекта демонстрируют весьма интенсивное развитие». Между тем, эксперт разделяет мнение о недопустимости делегирования вопросов применения оружия «роботам». В настоящее время, подчеркивает Федутинов, когда некий беспилотный летательный аппарат наносит удар по целям противника, это делает не обезличенный искусственный интеллект, а человек-оператор. «У каждой ошибки есть имя, фамилия, и соответствующая ответственность». В случае, если роботам будет позволено самостоятельно принимать решение о применении оружия, ответственность размывается — возможные невинные жертвы будут результатом просто какого-то технического сбоя, добавляет он. Пекин в компании пацифистов Категоричность противников боевых роботов не разделяет большинство ведущих держав: Россия, США, Израиль, Великобритания и другие. В этих странах также заявляют о недопустимости устранения человека от принятия решения на убийство, но считают инициативу законодательного запрета на боевых роботов преждевременной. РФ полагает, что принятые нормы международного права могут быть вполне применимы к САС, и потому нет необходимости создавать отдельные международные законы применительно к несуществующему оружию. В российском МИД указывают на «сложности с чётким разграничением гражданских и военных разработок в области автономных систем», в то же время Москва готова поддержать декларацию о необходимости сохранения человеческого контроля над САС. В Вашингтоне также предлагают отказаться от «поспешных суждений» относительно разрабатываемых видов вооружений. «Проблемы, связанные с автономией в системах вооружений, являются сложными… Для их понимания необходим дальнейший предметный диалог», — передаёт слова представителя Госдепартамента The Washington Times. Промежуточную позицию занимает Германия, которая является сторонницей постепенного запрета САС, но лишь после длительного диалога, на котором стороны придут к общему мнению. В компании слабых в военном отношении государств-сторонников законодательного запрета САС неожиданно оказался Китай — страна, активно разрабатывающая БЛА (в том числе ударные) и подводные дроны. Американские СМИ подозревают Пекин в двуличной позиции: якобы на публику он играет в «хорошего парня», а на деле сам разрабатывает собственных роботов-убийц. «Китай может намеренно придерживаться двусмысленной стратегии в отношении норм международного права. На словах он может активно поддерживать запрет, чтобы отвлекать внимание от собственных разработок смертоносного автономного оружия», — отмечает The Washington Times. С точки зрения международного права эта проблема совершенно надумана, отмечает News.ru эксперт Центра анализа стратегий и технологий Михаил Барабанов: очередная химера по «контролю над вооружениями», проталкиваемая пацифистами и малыми странами — в духе борьбы с кассетным оружием. Автоматизировать работу систем вооружений до такого уровня, что решения о поражении будет принимать робот, можно уже сейчас. Чтобы сбои не приводили к невинным жертвам, нужно не запрещать, а улучшать алгоритмы, считает Барабанов. Китай, по его мнению, присоединился к инициативе из вежливости, полагая, что идею этого бесполезного соглашения и так «затопят» Россия и США. «Крупным, развитым в военно-промышленном отношении странам это совершенно не нужно, но по традициям политкорректности они вынуждены участвовать в мероприятиях и делать дежурные заявления, ожидая, когда обсуждения потеряют смысл», — заключает Барабанов.
