Старший вице-президент Google и глава подразделения Google Search Прабхакар Рагхаван предупредил пользователей о необходимости перепроверки информации, получаемой от чат-ботов, работающих на искусственном интеллекте.
По его словам, ИИ-боты могут быть опасны для пользователей, потому что у них встречаются такие сбои в работе, которые разработчики называют «галлюцинациями». Боты дают убедительные, структурированные, но полностью выдуманные ответы.
Рагхаван подчеркнул, что задача разработчиков — сведение подобных сбоев в работе ИИ-ботов к минимуму.
«Разновидность ИИ, о которой мы сейчас говорим, иногда приходит к тому, что мы называем галлюцинациями. Это выражается в том, что машина даёт убедительный, но полностью выдуманный ответ», — предупредил вице-президент Google.
Ferra.ru: главные новости