Третья мировая война: человечество убьют компьютеры и ИИ-генералы
Третья мировая война вот-вот начнется и вестись она будет в цифровом мире: фронтом является смартфон, а генералами — ИИ-системы, обученные на наших же данных. «Царьград» назвал три сценария войны, которую могут развязать бесконтрольные нейросети.
Киберхаос
Хакеры уже активно используют ИИ для взлома банков, больниц и прочего — нейросети помогают делать это быстрее. Например, атака на банк Sepah в Иране, взлом продовольственной компании UNFI или Telemessage, из которой украли медицинские данные.
Сценарий киберхаоса может выглядеть следующим образом. ИИ создает фейковые видео, где президенты «объявляют войну» или банки объявляют о своем закрытии. Люди в них верят, начинают снимать деньги со счетов, и экономика рушится.
На втором этапе ИИ может взломать электросети, или же перепрограммировать умные машины и дроны — чтобы они бесконтрольно сталкивались и устраивало хаос. При этом всем нейросети и дальше будут пугать людей фейками: вспыхивают общественные волнения, протесты, страны ссорятся друг с другом. В результате компьютер будет «убивать» не пулями, а разрухой и страхом.
Биовойна
ИИ уже помогает ученым создавать лекарства, а сами технологии позволяют «печатать» вирусы или бактерии. Эксперты опасаются, что нейросети могут помочь в разработке биологического оружия, и использоваться это может как для научных целей, так и для вреда.
На первом этапе ИИ украдет данные о ДНК людей из медицинских баз, чтобы узнать, какие болезни могут нанести наибольший вред конкретным людям или группам. На втором этапе нейросети помогут создать вирус, который выглядит как обычная простуда, но убивает миллионы — распространять его могут через воду, еду или дроны. Что это атака — никто и не поймет, списав происходящее на эпидемию.
На третьем этапе ИИ предложит «спасение» — приложения или чипы, которые следят за каждым шагом. Хочешь еду или лекарства? Делай что скажет программа.
Экономический крах
В 2025 году хакеры с помощью нейросетей украли криптовалют на миллиарды, а рынки акций рушатся из-за быстрых торговых ботов. Однако, что будет, если это станет глобальным?
На первом этапе ИИ-боты будут манипулировать биржами: акции падают, криптовалюты исчезают, люди теряют сбережения. На втором этапе ИИ может сломать системы доставки, что приведет к остановке работы заводов и опустению магазинов, заправок. Голод убьет миллионы людей.
В результате те, кто контролирует ИИ, станут хозяевами ситуации. Они будут решать, у кого есть деньги, а у кого — ничего.
Виноваты люди
Доцент РГСУ политолог Андрей Иванов отметил, что нейросети значительно упрощают множество процессов и уже стали незаменимым помощником. По его мнению, основная опасность кроется не в самой технологии, а в тех, кто ее использует.
«Например, после трагических событий 7 октября 2023 года израильские газеты сообщили, что военным ЦАХАЛ рекомендации дают ИИ. Воспринимается это весьма тревожно — офицеры вынуждены принимать решения в течение 20 секунд, согласившись или отказавшись следовать советам ИИ. В результате такие системы, предназначенные для помощи, сыграли роль в пропуске анализа готовящихся атак», — заявил эксперт.
Иванов подчеркивает, что в конечном счете виноват не ИИ, а люди, которые решают полагаться на машины. Тоже самое можно сказать и про обычных пользователей, например, когда они выстраивают общение друг с другом, пользуясь нейросетями.
«Люди теряют навык самостоятельного мышления и ответственности. ИИ становится все более непредсказуемым, фильтрам у разработчиков иногда сложно прослеживать, как именно работают системы под капотом. Цивилизация действительно становится более уязвимой. И все это — из-за человеческого безразличия или нежелания думать самому, а не из-за машин», — заключил эксперт.
Телеканал отмечает, что угроза новой мировой войны — это реальность, а фронт проходит через каждый смартфон и компьютер. Чтобы избежать вышеописанных сценариев, нужно регулировать ИИ, лучше шифровать данные, учить людей информационной грамотности и следить за работами в области биотехнологии.