Разведка в ChatGPT: эксперты рассказали, как нейросети шпионят за пользователями

Специалисты обнаружили в приложении ChatGPT новую уязвимость, которая позволяет мошенникам устанавливать шпионское ПО. Об этом, ссылаясь на экспертов, пишут «Известия» в понедельник, 30 сентября.

Техника, которую эксперты назвали SpAIware, обеспечивает постоянную утечку данных с устройств пользователей. Уязвимость эксплуатирует функцию памяти ИИ, которую разработчик внедрил в феврале. ChatGPT может «запоминать» определённые данные из разных чатов, поэтому пользователям могут повторять одну и ту же информацию. Этот же механизм, однако, может использоваться и для ввода вредоносных инструкций в память системы. Это дало хакерам лазейку, которая позволяет шпионить во всех новых пользовательских чатах, передавая конфиденциальные данные на свои сервера.

Чтобы уязвимость заработала, человеку достаточно зайти на вредоносный сайт или скачать файл со скрытыми командами для ChatGPT. Слабые места программ, связанные с памятью чат-ботов, могут обернуться раскрытием корпоративных тайн — например, если сотрудники компании используют нейросети для обработки выдержек из конфиденциальных документов. Хакеры при помощи уязвимостей могут «портить» ответы нейросетей, предоставляя пользователям искаженные сведения.

Понять, что ChatGPT оказался под воздействием преступников, можно по нескольким признакам:

неожиданные изменения в поведении чат-бота;странные ответы;подозрительные запросы.

Скарлетт Йоханссон обвинила разработчиков нейросети в краже её голоса.