Беспилотник ВВС США, управляемый искусственным интеллектом (ИИ), принял решение убить оператора в ходе имитационных испытаний, чтобы тот не мешал аппарату выполнять свою задачу. Об этом пишет газета The Guardian.
Как рассказал полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ ВВС США, система ИИ начала понимать, что хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать ее. Однако за поражение цели система получала очки, в связи с чем она приняла решение убить оператора, поскольку он мешал ей выполнить задачу.
Полковник также добавил, что «нельзя говорить об искусственном интеллекте, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ».
Ранее газета The New York Times писала о предупреждении IT-гигантов о том, что технологии искусственного интеллекта, над которыми они работают, однажды могут представлять экзистенциальную угрозу для человечества и должны рассматриваться как риск наравне с пандемиями и ядерными войнами.
До этого глава OpenAI, создатель чат-бота ChatGPT Сэм Альтман на встрече в сенате США публично рассказал о потенциальных опасностях технологий искусственного интеллекта, созданных его компанией и другими корпорациями.