«Проблема вышла за рамки»: эксперты о новых угрозах ИИ
Генеративный искусственный интеллект (ИИ), стремительно развиваясь, угрожает достоверности информации, что может привести к утрате научных и энциклопедических знаний. Об этом сообщает РБК.
Как отмечается, в интернете через десять лет может не остаться проверенных данных из-за засилья синтетического контента. Власти ЕС, США и Китая вводят ограничения на ИИ, чтобы предотвратить риски.
«Человечество может потерять доступ к достоверной истории. Из-за засилья синтетического контента, сгенерированного с помощью ИИ, — в интернете через десять лет можно остаться без проверенных научных и энциклопедических данных, предупреждают эксперты. Проблема уже вышла за рамки теоретических споров», — говорится в публикации.
Подчеркивается, что в России энциклопедические сервисы, такие как «Рувики», разрабатывают системы для проверки и публикации контента, контролируемые экспертами. Это помогает минимизировать ошибки ИИ и сохранить достоверность информации. Объем мирового рынка генеративного ИИ к 2030 году может достичь $109,37 млрд с среднегодовым ростом 35,6%. ИИ используется в различных отраслях, от маркетинга до кибербезопасности, напоминают авторы.
Регулирование ИИ важно для обеспечения безопасности без подавления инноваций. В США и ЕС уже введены законы, ограничивающие использование ИИ на защищенном авторским правом контенте и требующие обязательной маркировки синтетического контента. ИИ уже создает фотореалистичные изображения, видео и тексты, что используется в маркетинге, науке и образовании. Однако ИИ склонен к генерации ложной информации, что вызывает сомнения в достоверности данных.
Ученые из Университета Тюбингена обнаружили, что от 13,5 до 40% биомедицинских аннотаций написаны ИИ, что создает риск «цифрового эха» и искажения информации.