Способна ли нейросеть уничтожить человечество?
Чат-бот ChaosGPT назвал человека одним из самых разрушительных и эгоистичных существ и сообщил о желании уничтожить человечество ядерным оружием. Способен ли искусственный интеллект расправиться с человеком? MIR24.TV расспросил об этом экспертов.
«Публичные ИИ, такие как ChaosGPT, используют ту информацию, которую размещают в сети люди. В данном случае ИИ совершенно солидарен с огромным количеством людей. Кстати, один из вариантов уничтожения человечества искусственным интеллектом, как агрессивного вида, предложил еще Роберт Шекли в рассказе «Страж-птица». Но важно понимать, что ИИ – это не некий инопланетный организм, занесенный сюда злобными пришельцами. Это результат целенаправленных разработок лучших умов человечества, который использует для своего развития ровно ту информацию, которую для него сделали доступной люди», – говорит футуролог Максим Макаренков.
Например, искусственный интеллект (ИИ) может постепенно начать менять информационное пространство людей так, что они будут все больше погружаться в вымышленную реальность. Или освоив методики психологического воздействия, рекламы и агрессивного маркетинга, ИИ может начать расшатывать психику целых регионов, предполагает футуролог.
«Он способен, например, фальсифицировать данные биржи, вызывая панику, по сравнению с которой паника периода Великой Депрессии в Штатах покажется рождественской сказкой. Но в основе все равно будет лежать вопрос ответственности человечества за свое будущее», – считает Макаренков.
Чтобы ИИ смог уничтожить человечество, он должен стать полноценным, объяснил главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников.
«Он должен иметь возможность управления комплексом из инфраструктуры, вооружения, энергетики и прочими признаками высокоразвитой цивилизации по своему собственному усмотрению. А также быть ущербным в эмоциональном плане и не испытывать эмпатии. Но чем более высокоразвит интеллект, тем более в нем развита способность к эмпатии и сопереживанию. Ответ про уничтожение человечества был получен исключительно потому, что пользователь сети хотел получить такой ответ. Чат-бот – как зеркало и он отражает то, что проецируется на него», – отмечает эксперт.
Не совсем корректно говорить о раскрытии одним чат-ботом планов другого чат-бота уничтожить человечество, считает декан факультета «Цифровая экономика и массовые коммуникации» МТУСИ Сергей Гатауллин. «Да и словосочетание «планы чат-бота» также звучит странно. Нет подтверждения тому, что системы искусственного интеллекта могут сами себе ставить задачу, изменять исходный код и снимать ограничения, установленные разработчиками», – уверен эксперт.
«Поэтому на сегодня более адекватным будет утверждение, что ИИ в руках злоумышленников несет в себе угрозу. При этом переход к системам AGI может кардинально изменить ситуацию», – заключил он.
