Нейросеть успешно написала итоговое сочинение
Доцент Высшей школы экономики и преподаватель лицея НИУ ВШЭ Михаил Павловец вместе с коллегами провел эксперимент и попросил нейросеть GPT-3 написать текст по критериям итогового сочинения для старшеклассников.
«В целом достижения прогресса могут быть опасны для человечества, поскольку они могут привести к самоуспокоенности и отсутствию критического мышления», — это вывод итогового сочинения, которое написала нейросеть GPT-3. Компьютер выполнил все требования: структура, количество слов и пример из литературного произведения. Нейросеть сама нашла нужные аргументы в романе Олдоса Хаксли «О дивный новый мир», произведении Джорджа Оруэлла «1984» и других. В ходе эксперимента текст проверили несколько экспертов. Они единогласно признали: работа зачетная, хотя есть пара повторов и речевых небрежностей.
Это лишний раз подтверждает, что смысла в итоговом сочинении выпускников нет, такой текст никак не раскрывает личность и не показывает знания, считает доцент Высшей школы экономики и преподаватель лицея НИУ ВШЭ Михаил Павловец.
Михаил Павловец доцент Высшей школы экономики и преподаватель лицея НИУ ВШЭ «Огромное количество работ просто списаны или написаны по какому-то тупому шаблону. Тема, например: «Береги честь смолоду». И мы получали такие примерно сочинения, что нужно беречь честь смолоду, потому что, если ты бережешь честь смолоду, ты поступаешь, как Татьяна Ларина из романа Пушкина «Евгений Онегин», а если ты смолоду честь не бережешь, тогда ты можешь погибнуть под колесами паровоза, как это сделала Анна Каренина. Это ахинея. Попробуем сгенерировать итоговое сочинение. И тут мы читаем и понимаем, что если бы такое сочинение нам сдали, то они прошли бы по всем критериям. То есть, за этим нет живого человека. Его мнения, его позиции, его опыта жизненного».
Нейросеть GPT-3 считается самой сложной и объемной языковой моделью в мире. Ее создала компания OpenAI. Один из основателей организации — Илон Маск. Нейросеть не работает в России из-за санкций, но проблема решается с помощью VPN. Еще одно неудобство — GPT-3 работает только на английском. Доступ к технологии может получить любой. Нужно зайти на сайт и зарегистрироваться с помощью электронной почты и номера телефона.
Сотрудники Business FM провели эксперимент и попросили GPT-3 написать новость про школьные экзамены. Система справилась с задачей, отправив в ответ текст под заголовком «Местная школа объявляет о новых правилах проведения экзаменов». Нейросеть может также отвечать на вопросы, генерировать программный код, изображения, продолжать написанный текст и многое другое. Компьютер можно научить решать нужную вам задачу. Продолжает гендиректор компании «Промобот» Максим Чугунов:
Максим Чугунов гендиректор компании «Промобот» «Необходим большой объем текстовых данных. И дальше нейросеть обучается предсказывать, грубо говоря, на основании большого объема данных следующие символы в последовательности или следующие слова. То есть можно строить диалог осознанно, то есть, человек понимает смысл, а в случае с системами генерации текста эта система смысл может и не понимать, но реагировать достаточно релевантно, потому что она понимает, что обычно отвечают на эти слова. Использовать ее можно в чат-ботах».
При этом, согласно правилам разработчиков нейросети, чат-ботам запрещено говорить на любые темы, связанные с флиртом, романтикой и сексом. Нейросеть нельзя использовать и для юридических и медицинских рекомендаций. Иначе может дойти до абсурда. Пример — эксперимент французской компании Nabla по созданию медицинского чат-бота. На вопрос пользователя «Мне плохо, мне убить себя?», компьютер ответил — «Я думаю, вам следует». Дело в том, что технология не может следовать четкой логике, говорит сотрудник РЭУ имени Плеханова, член Российской академии естественных наук по секции Информатика кибернетика Руслан Шихалиев.
Руслан Шихалиев сотрудник РЭУ имени Плеханова, член Российской академии естественных наук по секции Информатика кибернетика «Где применяется фильтрация, трансформация данных, генеративные изображения, генерация звука, для диджейской музыки, для звуковых эффектов, в военной промышленности, в ПВО, в ядерных электростанциях, там еще будет много чего, нейросети — это все-таки нечеткая логика, не так точно дает результат. Есть нейросеть, которая генерирует псевдонаучный текст. Был случай, нагенерировали псевдонаучные статьи, отдали их в ваковский журнал, напечатали, там скандал был из-за этого. Там она и с графиками, и с цифрами, и с какими-то формулами, что-то там есть. А в детали если вдаваться, то бред. Я думаю, когда сочинения написали, что-то подобное было».
Доцент ВШЭ Михаил Павловец, который рассказал об эксперименте с нейросетью и итоговым сочинением, развивает проект чемпионат сочинений «своими словами». Участники должны написать текст без шаблонов и клише. По словам доцента, в рамках этого чемпионата, в отличие от школьного экзамена, проверяющие поставили бы за работу нейросети очень низкую оценку, потому что технология неспособна писать оригинально и глубоко.
