Илон Маск и Google отказались создавать роботов-убийц
Москва, 19 июля - "Вести.Экономика" Около 160 компаний, а также более 2,4 тыс ученых и предпринимателей во время Международной конференции по искусственному интеллекту (IJCAI) в Стокгольме подписали договор, который предполагает отказ от разработки оружия с искусственным интеллектом, сообщает The Verge. В Стокгольме (Швеция) завершилась международная конференция International Joint Conference on Artificial Intelligence, посвященная искусственному интеллекту, сообщает "Gmbox.ru". Во время ее проведения некоммерческая организация Future of Life Institute составила соглашение о запрете производства смертельных алгоритмов. Среди людей, подписавших документ, оказались: основатель DeepMind Демис Хассабис, предприниматель Илон Маск, программист и основатель Skype Жаан Таллин. Всего список насчитывает 164 организации и 2 410 человек. Инициаторы соглашения призывают правительство согласовать нормы, законы и правила, которые навеки запретят разработку роботов-убийц на основе технологий искусственного интеллкта. Пока такие меры не приняты, подписавшие соглашение стороны обязуются «не участвовать и не поддерживать разработку, производство, торговлю или применение смертоносного автономного оружия». Появление оружия, способного самостоятельно выбрать цель и вступить с ней в бой, несет угрозу моральным и прагматическим принципам человечества, а право о лишении человека жизни никогда не должно передаваться машине, говорится в документе. Прагматическая угроза заключается в том, что «летальное автоматическое оружие, способное самостоятельно выбирать и нацеливаться на объект без вмешательства человека, опасно дестабилизирует ситуацию для каждой страны и индивида». Предприниматели и ученые также обратились к Организации объединенных наций (ООН) с требованием принять законы, ограничивающие разработку боевых роботов. Профессор физики из Массачусетского технологического института Макс Тегмарк, который также подписал документ, заявил о том, что соглашение знаменует переход лидеров в сфере искусственного интеллекта "от слов к делу". По его словам, оружие, оснащенное алгоритмами, так же отвратительно, как и биологическое, поэтому оно должно строго регулироваться. «Автономное оружие неприемлемо, и это должно стать международной нормой. Мы не сможем удержать конкретного человека от создания автономного оружия, также как мы не в состоянии удержать кого-либо от создания химического оружия», — считает Тоби Уолш, профессор ИИ в университете нового Южного Уэльса в Сиднее, также подписавший соглашение. — «Но, если мы не хотим, чтобы государства-изгои или же террористы имели лёгкий доступ к автономному оружию, мы должны убедиться, что они не продаются открыто компаниями по поставкам вооружений». По мнению доцента кафедры информатики университета Северной Дакоты (США), Джереми Страуба, который также является заместителем директора Института исследований в области кибербезопасности, страны развивают и строят оружие на основе передовых технологий, как и после Второй мировой войны. Во время «холодной войны» главным оружием были ядерные ракеты, а сегодня это ПО, независимо от того, используется ли оно для атаки на компьютерные системы или на цели в реальном мире. «Как человек, который изучает использование ИИ для беспилотных летательных аппаратов, самонаводящихся транспортных средств и кибербезопасности, я волнуюсь, что мир может войти или, возможно, уже вошел в еще одну „холодную войну“, подпитываемую ИИ, — пишет Страуб. — И я не один». Сейчас в мире существует около тысячи боевых систем с искусственным интеллектом. Министр обороны Великобритании Гэвин Уильямсон недавно рассказал о запуске двухмиллиардного проекта по созданию нового истребителя ВВС Соединенного Королевства «Буря», который сможет летать без летчика. При этом британские власти утверждают, что Лондон не разрабатывает роботов-убийц и что британские военные всегда смогут контролировать AI. Ранее Илон Маск заявил, что Северная Корея и ее эксперименты с запусками ракет ничто по сравнению с угрозой со стороны искусственного интеллекта. По мнению предпринимателя, ИИ способен уничтожить всю цивилизацию.
