Эксперт объяснил, почему нейросети «пишут бред умными словами»

Россиянам объяснили причину «галлюцинаций» нейросетей, когда они пишут связный текст, который лишен смысла

Директор Института искусственного интеллекта и цифровых наук НИУ ВШЭ, Денис Деркач, рассказал, что нейросети могут ошибаться при редактировании текста из-за того, что они не всегда понимают общий смысл фраз. По его словам, такая ошибка, известная как «галлюцинация», возникает, когда нейросеть генерирует неожиданные или неуместные предложения. Чтобы снизить количество таких ошибок, Деркач советует пользователям понижать «температуру» генерации текста.

Температура генерации — это показатель, который определяет вероятность того, что нейросеть сделает резкий переход от одной идеи к другой. Если текст, который вводит пользователь, может быть интерпретирован несколькими способами, вероятность галлюцинаций возрастает. Эксперт объяснил, что в этом случае стоит быть готовым к неожиданным результатам, поскольку нейросеть опирается на примеры и может генерировать текст, который выходит за рамки ожидаемого.

Хотя снижение температуры генерации сделает текст более предсказуемым и менее разнообразным, это поможет уменьшить количество галлюцинаций. Таким образом, пользователи смогут получать более точные результаты, если немного снизят этот параметр при работе с нейросетью.