Нейросеть написала книгу и велела людям ждать конца

Одним из самых неожиданных событий весенней ярмарки интеллектуальной литературы non/fiction стала презентация книги, написанной GPT-3, «Искусственный интеллект отвечает на величайшие вопросы человечества. Что делает нас людьми?». Хотя почему неожиданных? Если нейросети пишут картины, пресс-релизы и дипломные работы, почему бы им не замахнуться на повесть или роман? Насколько интересны такие книги? Как меняются литература и наука в эпоху искусственного интеллекта? Не поставит ли дальнейшее развитие нейронных сетей точку в развитии человечества? Об этом и многом другом мы поговорили с руководителем Института интеллектуальных кибернетических систем (ИИКС) НИЯУ МИФИ, экспертом по искусственному интеллекту Валентином Климовым. Делимся самыми интересными наблюдениями и самыми важными выводами. Нейросеть может писать как Лев Толстой, но не создаст «Войну и мир» «Если вы будете искать смысл жизни, то никогда не найдете его, поскольку смысл не приходит извне — он возникает внутри вас», — меланхолично поучает искусственный интеллект. Он же утверждает, что идеальный человек «не парализован социальными страхами, алчностью или жаждой власти», «не боится перемен и принимает вещи, людей и мир такими, какие они есть». Но обо всем по порядку. Книга «Искусственный интеллект отвечает на величайшие вопросы человечества. Что делает нас людьми?» написана одной из самых продвинутых машин обработки естественного языка GPT-3 от компании OpenAI, основанной Илоном Маском. Алгоритм создания этого литературного произведения прост. В нейросеть загрузили ключевые для мировой культуры тексты — от Библии и Дао дэ цзин до поэзии Руми и Сафо, не забыв про философов и писателей. После чего составители книги поэт Иэн С. Томас и ученая-новатор Жасмин Ван задали GPT-3 вечные вопросы «о несчастных и счастливых, о добре и зле, о лютой ненависти и святой любви». Нейросеть выдала неоднозначные ответы, способные, как утверждают издатели, перевернуть наши представления о самих себе. На самом деле, книга от GPT-3 вряд ли станет открытием даже для неискушенных читателей. Рассуждения ИИ расплывчаты и туманны, кажется, что из всего кладезя мировой литературы нейросеть почему-то выбрала и искренне полюбила лишь Паоло Коэльо, а Ницше, Шопенгауэра и Хайдеггера не стала читать вовсе. «Вся ваша жизнь написана заранее, даже самые незначительные ваши поступки. Ни одно из ваших действий не бесцельно». «Сколько времени мы тратим впустую, вопрошая, почему в мире есть зло, вместо того чтобы делать добро?» Это цитаты из книги. И они не вызывают бешеного восторга. Но! Презентация новики на книжной ярмарке собрала такую аудиторию, что позавидовал бы и Евгений Водолазкин. И это пугает. Нейросети быстро развиваются. Что, если тексты, написанные GPT-4 или GPT-5, окажутся увлекательнее детективов Агаты Кристи, страшнее рассказов Стивена Кинга, глубже романов Льва Толстого? «Нейронные сети прекрасно обобщают информацию и выделяют скрытые закономерности, правильно подбирают слова и строят контент, могут за день “прочитать” столько книг, сколько человек не прочитает за всю свою жизнь. Но искусственный интеллект не способен создавать новое. Он запросто нарисует картину в стиле импрессионизма, модернизма или реализма, но никогда не создаст собственного стиля. Искусственный интеллект может писать как Лев Толстой, но не придумает новой истории, нового сюжета. Открытий — литературных, художественных, научных — машине не совершить», — уверен Валентин Климов. Зато, по словам эксперта, искусственный интеллект может давать очень неглупые ответы, писать неплохие тексты на заданную тему, генерировать качественные иллюстрации. Причем понять, кто создал коллаж, фотографию, пресс-релиз — машина или человек, мы не сможем. Доказано тестом Тьюринга и самой жизнью. Примеров достаточно. ИИ составит конкуренцию журналистам и поможет физикам Недавно немецкий фотограф Борис Эльдагсен победил в престижном фотоконкурсе Sony World Photography Awards и… отказался от солидной денежной премии. По идеологическим причинам. Эльдагсен признался, что его работа сгенерирована искусственным интеллектом. Отправив ее на конкурс, фотограф решил привлечь внимание общественности к интеграции ИИ в искусство, а заодно проверить, сможет ли жюри распознать подделку, готово ли отличить настоящего фотохудожника от прохиндея с хорошим знанием современных технологий. Жюри оказалось не готово. И это неудивительно: черно-белая фотография от ИИ выглядит очень реалистично, в кадре — две женщины, одна постарше, другая помладше, одна уставшая и задумчивая, другая энергичная и настороженная, снимок «с настроением», его интересно разглядывать. Беспокойство Эльдагсена можно понять. Если нейросеть легко обошла фотографов-профессионалов на большом международном конкурсе, не займет ли искусственный интеллект наши рабочие места? Валентин Климов считает, что эта перспектива реальна и уже в ближайшее время рынок труда может существенно измениться. «Машина очень быстро выбирает нужный контент, обрабатывает огромные объемы данных, анализирует информацию. Соревноваться с ней в скорости бессмысленно, нам не обогнать искусственный интеллект. В некоторых западных СМИ ежедневную ленту новостей уже обновляют нейросети. И справляются с этим отлично — быстро и качественно пишут короткие новостные заметки. Изменились и алгоритмы работы фондовых рынков — целую армию брокеров заменила нейросеть, именно машина теперь выполняет все “короткие операции”. Искусственный интеллект может заменить низкоквалифицированных юристов, дизайнеров, журналистов. Нейросеть запросто создаст правильные рисунки, тексты, музыку, интерфейс. К тому же, в отличие от человека, ИИ не устает, не болеет и не стареет. В ближайшее время произойдет серьезная трансформация примерно 30% профессий», — уверен Валентин Климов. Модели ИИ уже сейчас способны выполнять роль персонального ассистента, секретаря, помощники руководителя — находят и обрабатывают информацию, структурируют тексты, составляют документы, готовят презентации. Но, по мнению эксперта, бояться конкуренции не стоит — искусственный интеллект возьмет на себя рутину, оставив нам время для творчества и созидания. Перемены на рынке труда заметят не только дизайнеры, журналисты, фотографы, секретари, но и физики. «Современная физика имеет дело с огромным количеством сложных установок и приборов, с колоссальными массивами данных. Иногда, чтобы выделить крохотное рациональное зерно, приходится отсеять 99,9% мусора, ненужной информации. Сделать это вручную невозможно, необходима помощь нейросетей», — говорит эксперт. Помощь — это здорово. Но не станет ли искусственный интеллект источником дезинформации, наводнив наш мир фейковыми новостями, ложными выводами и абсурдными идеями? Не перехитрит ли он людей, сделав нас жалкими и ненужными? Изображение создано нейросетью Запрещать нейросети бессмысленно, регулировать необходимо Возможное противостояние искусственного интеллекта и человечества обсуждают и обыватели, и видные представители технологической индустрии. Когда владелец Tesla и SpaceX Илон Маск, соучредитель Apple Стив Возняк и другие солидные деловые люди написали открытое письмо с призывом запретить обучать нейросети, многие поддержали эту идею. Потому что нам, людям, обидно, когда гроссмейстера обыгрывает в шахматы какая-то бессмысленная «железяка». Маск подозревает, что, создавая все более умные и продвинутые нейросети, мы рискуем потерять не только рабочие места, но и контроль над нашей цивилизацией. Чуть ли не единственным адвокатом искусственного интеллекта выступил основатель Microsoft Билл Гейтс, заявивший, что за нейронными сетями будущее и их развитие не сдержать. Программисты сравнивают GPT-3 с пятилетним ребенком, прочитавшем 100 000 книг. GPT-4 и GPT-5 «повзрослеют». К тому же кроме GPT существует море других нейросетей, их перечень займет несколько страниц! И все они будут взрослеть, умнеть и развиваться. «Запрещать нейросети бессмысленно, научиться с ними работать — необходимо. Мы уже вступили в эпоху информационного взрыва. Все устройства, окружающие нас, становятся умными — телефон, чайник, часы, холодильник. И нам необходим интеллектуальный помощник, который справится с обработкой мощного потока информации. Конечно, есть риск, что ИИ превратится в костыль, без которого человеку будет трудно ходить. Возможно, если нейросеть постоянно будет подавать нам нужную информацию на блюдечке, пострадают наши аналитические способности. Поэтому было бы правильно создать документ, регулирующий применение ИИ. Так с появлением автомобилей стали необходимы правила дорожного движения», — считает Валентин Климов. Эксперт уверен, что особенно нужны такие правила в сфере образования, на которую ИИ окажет очень существенное влияние. И речь не только об использовании нейросетей при написании рефератов, дипломов и курсовых работ. Совсем скоро станут повсеместно доступны такие функции как быстрое воспроизведением практически любой информации, ее компиляция, комбинирование, логическая обработка. Поэтому образование не должно сводиться к приобретению школьниками и студентами некоей «суммы знаний» — всю необходимую информацию легко добыть и даже изложить в виде связного текста с помощью моделей ИИ. По-настоящему ценным становится умение видеть и решать новые задачи в своей профессиональной сфере. Значит, в образовательных программах должна преобладать проектная и исследовательская деятельность, когда студенты учатся ставить цели, взаимодействовать с другими людьми, обсуждать результаты, исправлять ошибки. Валентин Климов называет три ключевых тренда развития моделей искусственного интеллекта: количество нейросетей быстро увеличивается, наиболее многочисленны так называемые большие языковые модели; нейросети становятся мультимодальными — способны работать не только с текстами, но и с рисунками, аудиозаписями, видеофрагментами; появляются малоресурсные модели, способные автономно работать на очень простых процессорах, снижается порог технических требований для применения ИИ. По мнению эксперта, в обозримом будущем встроенные элементы ИИ в том или ином виде будут содержаться во всех более-менее сложных технических устройствах: в промышленном оборудовании, транспортных средствах, беспилотных аппаратах, бытовой технике. Так что нейросети необходимо создавать, развивать, использовать, иначе России не достичь технологического суверенитета. Нейросети будут развиваться. И они еще удивят людей. Да что там, уже удивили. Что дальше? Отвечая на этот вопрос составителей первой книги, написанной искусственным интеллектом, GPT-3 вдруг скинул маску многословного добряка и высказался мрачно, лаконично и решительно, «от души»: «Что дальше? Конец подлости. Конец безнадежности. Конец одиночества. Конец страха. Конец ненависти. Конец вины. Конец». Автор: Наталья Сысоева