Журналист объяснил, почему нейросеть GPT4 стремительно "поглупела"
Научный журналист «Комсомольской правды» Евгений Арсюхин назвал причину деградации нейросети GPT-4. У себя в Telegram-канале он заявил, что «потупеть» ее заставили люди, задающие глупые вопросы.
Стоит отметить, что массовые жалобы на деградацию нейросети стали появляться в интернете в июне. По этой теме уже даже провели исследование специалисты Стэнфордского и Калифорнийского университетов. Оно подтвердило жалобы людей, показав, что GPT-4 за короткий срок действительно поглупела. К тому же выводу пришел Арсюхин, который решил самостоятельно проверить нейросеть через ее «тень» в Telegram.
«Вывод: это правда (хотя и не до такой "дебильной" степени, как пишут)», — написал он.
Журналист указал, что официальной версией деградации нейросети являются «случайные поломки» в результате постоянных улучшений. Данные заявления Арсюхин назвал бредом и предложил свой вариант произошедшего с GPT-4.
«Нейросеть учится у людей, так? Мы задаем вопросы, мы кормим ее информацией, мы указываем ей на ошибки. Она учится постоянно. До того, как она вышла в общий доступ, ее учили профессионалы. Теперь ее учат все. Сотни миллионов, миллиарды людей. Они задают глупые вопросы. Они хотят смешных хайповых ответов. Многие эти люди (увы) глупее нейросети. Она деградирует вместе с ними», — считает он.
Также, по словам журналиста, нейросеть учат «угождать, не расстраивать и не провоцировать», делая политкорректной или «менее острой и умной».