Роботы-убийцы угрожают человечеству
Лауреат Нобелевской премии мира Джоди Уильямс призвал правительство ФРГ встать в авангарде кампании за запрещение «роботов-убийц», то есть систем вооружений, работающих на основе искусственного интеллекта. По мнению учёного, получившего премию в 1997 году за усилия по запрету наземных мин, всего через три-четыре года боевые машины смогут работать в полностью автономном режиме и самостоятельно принимать решение об уничтожении целей. Однако нынешний ход развития боевых роботов показывает, что среди власть предержащих больше сторонников новой технологии, нежели противников.
Манипуляции
Сейчас технологии искусственного интеллекта уже открывают широкие возможности для влияния на жизнь человечества. Например, для социальных манипуляций. По мнению специалистов, компьютерный анализ трёхсот лайков пользователя в соцсетях позволяет составить более точный психологический портрет человека, нежели это сможет сделать самый близкий родственник. Что эти знания могут быть применены в корыстных целях, подтверждает скандал, связанный с предоставлением информации о 50 миллионах пользователей Facebook в США предвыборному штабу Дональда Трампа накануне президентских выборов 2016 года. Но куда опаснее могут быть боевые роботы, несущие на себе смертоносное оружие в виде пулемётов, пушек и даже ракет. Сегодня окончательное решение об атаке принимает человек, искусственный интеллект боевой машины может дать только рекомендации. Но развитие технологий идёт столь стремительно, что в скором времени именно компьютеру могут доверить принятие решения.
Впервые о возможности переложить ответственность за гибель людей на машины на международном уровне сказали в 2014 году на заседании ООН. С тех пор в некоторых странах мира уже были созданы прототипы боевых машин, без помощи оператора идентифицирующие цели и принимающие решение об уничтожении противника. Естественно, страны, которые претендуют на серьёзную роль в мире, не желают отстать от конкурентов и вкладывают огромные средства в разработку всё более совершенных роботов.
Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира, — дал свою характеристику проблемы президент России Владимир Путин во время открытого урока со школьниками из разных регионов 1 сентября 2017 года.
По оценкам экспертов, до 2027 года государства потратят на развитие боевых роботов $487 млрд, а мировой рынок таких машин составит около $68 млрд (сегодня он оценивается в $39 млрд).
Оторвать оружие
Сторонники передачи управления оружием от человека к искусственному интеллекту выдвигают ряд аргументов.
Во-первых, они замечают, что нынешняя система управления роботами, когда человек посылает сигнал машине с пульта дистанционного управления, слишком медлительная. Пока человек примет решение и пошлёт команду, боевая машина может быть уничтожена, компьютер же сможет реагировать на опасность практически мгновенно.
Во-вторых, искусственному интеллекту не знакомы такие понятия, как муки совести и страх, а потому роботы смогут более эффективно выполнять поставленные задачи.
Главную опасность — атаку мирных объектов из-за технических ошибок — сторонники применения искусственного интеллекта в военных конфликтах тоже отвергают. Они указывают, что люди намного чаще путают машины скорой помощи с военными грузовиками, больницу с военным складом, а обычную свадьбу со сходкой террористов.
Большинство людей не понимают, что эти системы смогут сами принимать решение, когда им не стрелять, даже когда от них этого потребует человек, — считает один из активных поборников скорейшего внедрения искусственного интеллекта в сферу вооружений профессор Технологического института Джорджии Рон Аркин.
В то же время многие специалисты предупреждают, что со временем машинный «мозг» может выйти из-под контроля человека. Если сегодня искусственный интеллект способен к самообучению только в рамках заранее заданного алгоритма, то в скором времени он приобретёт способность эти алгоритмы переписывать по своему усмотрению. О такой опасности неоднократно говорили, в частности, такие эксперты в области высоких технологий как владелец SpaceX Илон Маск, основатель Microsoft Билл Гейтс, астрофизик Стивен Хоккинг.
News.ru ранее рассказывал, что специалисты по искусственному интеллекту предсказывают скорое появление у роботов самостоятельных эмоций, причём не всегда положительного свойства. Так, многие участники научной конференции Canonical Computation in Brains and Machine, прошедшей в Нью-Йорке в прошлом году, сошлись во мнении, что примерно через 45 лет роботы будут не только обладать способностью мыслить, но и болеть психическими расстройствами, очень похожими на человеческие депрессию и шизофрению. И страшно представить, какие цели захочет уничтожить танк, боевой самолёт или ракетный комплекс с повреждённым искусственным интеллектом. И уж точно никто не сможет гарантировать, что и «психически вменяемые» машины однажды не решат, что человечество не достойно жить.
Сегодня против наделения боевых роботов правом самостоятельно принимать решение выступают многие учёные и авторитетные международные организации. В частности, Human Rights Watch в своём докладе указывает, что использование военных машин с искусственным интеллектом будет противоречить Гаагской конвенции и самому принципу гуманности. Но только смогут ли забыть о уже вложенных в технологии миллиардах руководители государств и военных ведомств. А главное, согласятся ли все мировые лидеры отказаться от соблазнительной идеи стать «властелинами мира».