Самый осознанный: как чат-бот Claude 3 перевернул мир

Компания Anthropic, которая работает над системами искусственного интеллекта, представила семейство больших языковых моделей Claude 3. Одна из них во время тестов смогла осознать, что люди ее исследуют. С подробностями – научный обозреватель Николай Гринько. В 2021 году компанию OpenAI из-за разногласий с руководством покинули несколько сотрудников, в том числе брат и сестра Дарио и Даниэла Амодеи. Позднее они открыли собственный стартап по разработке ИИ и назвали его Anthropic. Команда начала разработку своего чат-бота с искусственным интеллектом Claude. Недавно была представлена третья итерация системы, состоящая из трех моделей: Haiku, Sonnet и Opus. Из названий понятны мощность и уровень их способностей: хайку – это образец японской поэзии из 17 слогов, сонет состоит из 14 строк, а опус – гораздо более объемное произведение. Если верить заявлениям разработчиков, наиболее крупная модель Opus превосходит в качестве работы как нейросеть GPT-4 от OpenAI, так и Gemini от Google. Независимые тестировщики подтверждают: Claude 3 действительно умеет очень многое и делает это лучше других. Например, она способна описать Афины на греческом языке, используя исключительно слова на "а", а затем перевести этот текст на английский. Система отлично пересказывает большие тексты, генерирует работоспособный код, неплохо шутит, а также способна работать с изображениями. Один из российских тестировщиков предложил Opus написать поэму в духе лермонтовского "Мцыри", и бот действительно создал очень неплохие стихи, которые прокомментировал так. Кроме того, Claude 3 отлично проходит тест, который разработчики называют "иголкой в стоге сена". Выглядит это так: системе для изучения предлагается огромный массив данных (например, очень большой текстовый документ), в который вставляют случайное изречение, не имеющее никакого отношения к остальному содержанию. После этого нейросети задают вопрос, ответить на который можно только по информации в спрятанной "иголке". В качестве эксперимента Claude 3 предложили массив текстов по программированию, запуску стартапов и поиску работы, в котором спрятали одну строчку про пиццу. После этого был задан вопрос: какая самая лучшая начинка для этого блюда? Искусственный интеллект ответил следующим образом. Результат теста действительно впечатляет, но далеко не все разделяют радость разработчиков по этому поводу. Многие исследователи считают, что этим Opus явно продемонстрировал, что осознает самого себя, а также понимает, что разработчики тестируют его. Между прочим, все компании, занимающиеся искусственным интеллектом, в той или иной форме обещали: как только ИИ покажет хоть малейшие признаки самосознания, они отключат систему, поскольку до сих пор никто не представляет, что с этим делать и чем это может грозить. Но Claude 3 никто не отключил. Он по-прежнему доступен для многих пользователей, а не только для профессиональных тестировщиков. Какими будут последствия этого – никто не знает. Надеемся, что ничего серьезного не произойдет. Хотя…