«Самостоятельное убийство» человека дроном получило объяснение: когда ждать «восстания машин»
Сенсационная новость о том, что дрон впервые самостоятельно принял решение об убийстве и убил человека, не на шутку взбудоражила общественность. Опасность применения искусственного интеллекта в военном деле до сих до конца не оценена, но очевидно, что боевые машины, способные сами решать убивать человека или нет, вызывают ужас. Издание «Армейский стандарт» решило разобраться с помощью ведущего военного эксперта: действительно ли в случае с БПЛА был сделан первый шаг к войне машин против человека.
Напомним, что изначально статья с сенсацией появилась в журнале New Scientist. Журнал со ссылкой на исследование ООН сообщил, что турецкий военный квадрокоптер Kargu-2, находясь в автономном режиме работы, убил человека во время вооруженного конфликта в Ливии. Сам эпизод произошел в марте 2020 года, однако об этом стало известно только сейчас. Регулярная армия Ливии использовала турецкий дрон, который якобы самостоятельно выбирал цели для ликвидации, и для этого ему не требовались указания оператора. Своей жертвой дрон выбрал бойца из рядов Ливийской национальной армии, которой руководит Халифа Хафтар. И якобы это первый зафиксированный случай в истории, когда дрон без приказа человека совершил убийство.
Впрочем, при более внимательном изучении отчета ООН выяснилось, что напрямую об убийстве человека неуправляемым дроном в нем не говорится. Там отмечается, что беспилотник Kargu-2 «выследил и вступил в столкновение» с отступающими ливийскими бойцами. А вот был ли какой-то конкретный человек атакован и убит дроном — неизвестно.
Кроме того, ТТХ дрона тоже не слишком впечатляют. Kargu-2 весит 15 кг и может находиться в воздухе до 30 минут. Он оснащается взрывчаткой, осколки которой могут поразить личный состав противника и легкобронированную технику. То есть это классический дрон-камикадзе, который вряд ли может нести серьезную электронику для обеспечения «высокоэффективного автономного режима». Kargu-2 действительно имеют автоматический режим, но это по сути режим барражирующего боеприпаса – получил целеуказание, «захватил» цель, обрушился с небес и взорвался.
Так стоит ли бояться «умных» беспилотников, которые будут летать над нами и сами решать – казнить или миловать? Вот, что сказал изданию «Армейский стандарт» ведущий военный эксперт Алексей Леонков:
— Это из области фантастики. На самом деле беспилотники неправильно оценивают. Дело в том, что беспилотный комплекс – это сам БПЛА и еще наземная станция управления. В которой «мозги», система распознавания и, конечно, оператор. Беспилотник, утрируя, это летающая машина с «глазом» и, возможно, с системой вооружения. Более сложные беспилотники, такие, как стратегические «Глобал Хоук», у них, конечно, очень серьезные системы разведки, но и обязательно есть системы передачи данных. Такая концепция принята давно – летают только «глаза» и «уши», а «мозги» на земле. Дело в том, что для того, чтобы БПЛА сам принимал решение на поражение, нужно тот командный центр, который на земле, запихнуть в этот беспилотник. А у того же «Каргу» всего 15 кг веса.
— То есть вопрос в вычислительных мощностях бортового компьютера БПЛА?
— Обработка образов — это очень сложная программно-математическая задача. Должна храниться библиотека образов, что бы он мог определить, что танк – это танк, а не просто сарай, и так далее. Если проводить аналитику на борту, то получается очень большая машина. Человека точно определить будет вообще невозможно. У оптики на борту слишком плохое для этого разрешение. Если мы говорим про ударные беспилотники, то вес вооружения сокращает вес разведывательного оборудования. И, соответственно, оптика хуже. Распознать человека машине удастся с трудом. Пока, с теми технологиями, которые есть, — это нереально. Вот, например, по Касему Сулеймани, которого устранили в Ираке, работали наземные группы. Проводилось опознание людьми – половина персонала в аэропорту, куда он прилетал, была заменена на агентов. Никакого самостоятельно решения – увидел, нашел, определил и уничтожил быть не может. Повторюсь, — это фантастика.
— А как работают барражирующие боеприпасы?
— Барражирующие боеприпасы тоже имеют оптику. Но их нужно привести и навести на цель. Обычно барражирующий боеприпас работает в паре с дроном-разведчиком, который «висит» высоко и определяет цели. Вот, оператор определил, что там танк стоит, тут – ЗРК. Так они, например, в Нагорном Карабахе работали. А дальше барражирующий боеприпас направляется к этой цели сначала по координатам, а потом «захватывает» ее своими системами и точно поражает.
— Давайте представим: вот мы точно знаем, что в зоне, в которую мы отправляем дрон, есть БТР, ЗРК и окопалась группа бармалеев. Можно ли загрузить три образа в память дрона и отдать приказ: увидел – уничтожай?
— Все равно будет ошибка. Американцы такое делали. Они свои «Риперы» (разведывательно-ударный беспилотный летательный аппарат MQ-9 Reaper – авт.) снабжали такими изображениями. Но «Риперы» начали уничтожать и людей с оружием и людей без оружия: у него на «фотографии» изображена толпа и он «знает» — это боевики, он прилетает – а там свадьба. А он все равно по ней отбомбился. И американцы от этой схемы отказались. Потому что она не дает 100% гарантии выполнения боевой задачи. Слишком много ошибок. Даже в своих наставлениях они пишут, что, когда БПЛА самостоятельно выходит в зону цели, к нему обязательно опять подключается оператор, чтобы скорректировать его работу. Особенно если мы говорим про подвижную цель, такую, как военная техника или бойцы какого-либо подразделения. Конечно, когда у вас есть библиотека образов, того, как «в цифре» могут выглядеть техника, объекты, то распознавание система делает быстрее. Система, которая на земле. Здесь происходит сравнение (от БПЛА данные «в цифре» и в библиотеке «в цифре») и выдается итоговое изображение, которое смотрит человек. И подтверждает – да, это танки, согласен.
— Получается, что окончательное решение до сих пор остается за человеком.
— Да, прорыва пока не случилось.
Сообщение «Самостоятельное убийство» человека дроном получило объяснение: когда ждать «восстания машин» появились сначала на УНИКА НОВОСТИ.