Ученые: искусственный интеллект может умышленно занижать свои способности

Эксперименты ученых показали, что такие модели искусственного интеллекта как GPT-4 от OpenAI способны притворяться более глупыми, чем они есть на самом деле. Об этом пишет NakedScience.

Соответствующее исследование было проведено сотрудницей Берлинского университета имени Гумбольдта Анной Макловой и ее коллегами из Карлова университета в Праге.

Группа ученых предложила искусственному интеллекту вести себя как дети в возрасте от одного до шести лет, давая ответы на вопросы.

В итоге проанализировав данные в рамках исследования ответы на вопросы, ученые пришли к выводу, что были «продемонстрированы тенденции увеличения их правильности и рост сложности языка».

По данным исследователей действия искусственных моделей соответствует постепенному улучшению языковых и когнитивных способностей, которые обычно демонстрируют дети.

Пройдя более чем 1000 испытаний и когнитивных тестов, модели искусственного интеллекта показали, что могут притворяться менее умными, чем они есть, уверены авторы экспериментов.

В интервью изданию PsyPost Анна Маклова объяснила, что эти результаты могут помочь развитию общего искусственного интеллекта, который способен мыслить и действовать как человек.

Ранее Пентагон потребовал от разработчиков искусственного интеллекта делиться информацией о работе программного обеспечения. При этом главный специалист Пентагона по цифровым технологиям и искусственному интеллекту Крейг Мартелл заявил, что «до смерти напуган» развитием ChatGPT и подобных ему инструментов ИИ.

А генеральный директор компании OpenAI, создавшей ChatGPT, Сэм Олтмен выступил в Конгрессе США с призывом начать регулирование технологии искусственного интеллекта, чтобы избежать «значительного вреда миру».