От мошенников одного из руководителей Ferrari спас личный вопрос
Какой вопрос спас Ferrari от мошенничества? Злоумышленники пытались обмануть одного из руководителей Ferrari с помощью искусственного интеллекта, имитирующего голос гендиректора компании Бенедетто Виньи, пишет Bloomberg. Мошенники добивались того, чтобы топ-менеджер перевел крупную сумму главе компании, сколько точно — не уточняется. Но ничего не получилось. Компанию спас один проверочный вопрос.
«Эй, ты слышал о крупном приобретении, которое мы планируем? Мне может понадобиться твоя помощь», — такое сообщение в WhatsApp получил топ-менеджер в мессенджере от неизвестного аккаунта с фотографией гендиректора Ferrari. Аватарка другая, хотя на ней также было фото Бенедетто Виньи. Затем последовало еще одно сообщение: «Будьте готовы подписать соглашение о неразглашении, которое наш юрист собирается отправить вам как можно скорее. Итальянский регулятор рынка и Миланская фондовая биржа уже проинформированы. Будьте готовы и, пожалуйста, будьте предельно осмотрительны». После этого они созвонились. В начале разговора ничего не смущало. Южноитальянский акцент гендиректора был таким же, как и всегда, а голос — уверенным. По данным Bloomberg, злоумышленники смогли сделать практически точную имитацию голоса с помощью технологии дипфейка. Так искусственный интеллект имитирует детали речи. Мошенник объяснил, что звонит с другого телефона, поскольку требуется обсудить конфиденциальный вопрос по сделке и понадобится валютная хедж-транзакция. Однако «шоу» продолжалось недолго. В какой–то момент топ-менеджер начал улавливать малейшие механические интонации, которые только усиливали подозрения. И тут он не выдержал и сказал: «Извините, Бенедетто, но мне нужно вас опознать. Как называлась книга, которую вы порекомендовали мне несколько дней назад?» Молчание. И на этом звонок резко оборвался.
Как видим, даже высококлассно сгенерированный голос пока может вызывать подозрения, и тут сыграла свою роль находчивость сотрудника Ferrari. Комментирует руководитель направления «Разрешение IT- и IP-споров» юридической фирмы «Рустам Курмаев и партнеры» Ярослав Шицле:
— Текущие известные нам технологии, как тот же ChatGPT и единые дегенеративные технологии, они на базе площадок пока не позволяют обычному пользователю производить такие операции. Поэтому это, конечно, не любители, и, учитывая уровень человека, с которым они разговаривали, скорее всего, действовала профессиональная команда и профессиональное оборудование использовано для того, чтобы в режиме онлайн генерировать голос, то есть подменять голос человека, который говорил, поменять его голос на другой. Вероятно, это либо какая-то собственная разработка этой группы лиц, которые звонили, либо какая-то определенная программа, которую использовали, и на ее базе подготовили свою версию, потому что многие площадки еще не предоставляют возможность внедрения своих программ, поэтому их нужно дорабатывать.
— Насколько проблематично сегодня подтвердить свою личность, учитывая такие голосовые дипфейки? И насколько это сложно будет в будущем?
— На сегодня, конечно, еще есть возможность как-то распознать поведение человека, а в будущем, скорее всего, это будет невозможно, и придется использовать такие вот контрольные вопросы, личные вопросы, которые не может знать оппонент, который притворяется человеком. В будущем, в случае, если перейдет в судебное разбирательство, то возможно через судебную экспертизу проверять, действительно ли этот голос принадлежит человеку либо нет. Различные экспертизы пока позволяют это делать.
В связи с инцидентом Ferrari начала внутреннее расследование, сообщили источники Bloomberg.
Представители компании отказались комментировать этот вопрос.
