Придуман робот, доводящий телефонных мошенников до бешенства
В России заработала фабрика боевых человекоподобных роботов, которая отвлекает мошенников от обмана людей, удерживая их на телефонной линии как можно дольше. Как предполагается, робот выводит мошенников из себя, разрушая скрипты, по которым они беседуют с потенциальными жертвами.
Как отмечают в банке "Тинькофф", средняя продолжительность разговоров роботов с мошенниками составляет 2-4 минуты, отдельные звонки могут длиться свыше 10 минут. Чем дольше злоумышленник "висит" на линии - тем меньшее число потенциальных жертв он успевает обзвонить за день. Это позволяет снизить число успешных атак, в ходе которых граждан вынуждают хитростью расстаться со своими накоплениями, зарплатами и пенсиями.
Разговоры мошенников с человекоподобными прототипами также позволяют собирать новые схемы и уловки злоумышленников для защиты абонентов и обновлять базу мошеннических телефонных номеров, во время звонков с которых защитник включает сценарии человекоподобных роботов. Для создания серии персонажей привлекались психологи и антифрод-эксперты, которые помогали разработать различные архетипы собеседников, к которым привыкли мошенники. Также при разработке сценариев реагирования на мошенников учитывались их типичные скрипты общения с жертвами.
В записи реплик человекоподобных роботов принимали участие сотрудники банка, а также профессиональные дикторы: Петр Гланц (голос Дэдпула в официальном дубляже) и Дарья Блохина.
"Мы уже давно заметили, что мошенники "раскусили" классических телефонных секретарей, которых стали разрабатывать крупные компании и экосистемы. Поэтому мы с помощью экспертов разработали серию персонажей на основе различных архетипов, знакомых мошенникам", - говорят в компании-разработчике.
Там отмечают, что персонажи создавались таким образом, чтобы походить на настоящих людей и "взламывать" скрипты, по которым работают мошенники. В большинстве таких структур разработаны схемы из десятков и сотен вариантов развития беседы и работы с возражениями, что фактически лишает жертву возможности выйти из разговора в рамках диалога. При этом некоторых персонажей делали намеренно грубоватыми для достижения максимально реалистичного эффекта. "Самое интересное, что в таких сценариях меняются роли, теперь добычей становятся сами мошенники. - Защитник Олег вынуждает их играть в свою игру, а не наоборот", - отмечают разработчики.
Среди персонажей, которых изображают роботы, - пожилой мужчина, который во время разговора ищет свои очки, молодая мама, которая пытается справиться с активным ребенком на детской площадке, мужчина, выгуливающий свою собаку в парке, раздраженный мужчина за рулем.
"Мошенники разговаривают с несколькими десятками людей в сутки. Получается, что за неделю это несколько сотен разговоров, несколько сотен голосов. И дальше, если эти роботы смогут варьировать голоса, истории, которые будут затягивать разговор с мошенником, если будет несколько сотен тысяч таких вариантов, то получается, что мошенник не сможет распознать, не сможет вспомнить голос, не сможет вспомнить вот такую же самую какую-нибудь феерическую историю, которую робот ему рассказывает. Получается, что при таком количестве вариативности распознать, что мошенник говорит с роботом, мошеннику будет тяжело", - говорит главный эксперт "Лаборатории Касперского" Сергей Голованов.
Для разработки роботов была создана специальная модель на базе искусственного интеллекта. Модель провела анализ 40 тыс. минут звонков мошенников, а также скрипты их разговоров, фразы-триггеры, после которых злоумышленники готовы продолжить разговор, и эмоциональную реакцию мошенников на разные сценарии событий. На основе собранного массива данных с участием экспертов-психологов были созданы роботы-персонажи, каждый из которых обладает своим характером и специально разработанными речевыми уловками по удержанию мошенника на линии.
Во время разговора роботы реагируют на триггерные фразы и в зависимости от этого включают нужный сценарий разговора. Например: переспрашивают информацию, отвлекаются на внешние события, роботы также могут якобы позвать для участия в разговоре стороннего человека, усомниться в честности собеседника или задавать дурацкие вопросы.
Исследование Group4media, опубликованное еще в октябре 2022 г., показало: 63% жителей России хотя бы один раз за предыдущие полгода пользовались голосовым помощником. Чаще всего взаимодействие с ассистентом происходит через смартфон. По оценкам Just AI, объем российского рынка разговорного искусственного интеллекта в 2020 г. составлял всего $76 млн, или 5,5 млрд руб. При этом к 2025 г. отечественный рынок достигнет $561 млн, эту сумму заработают внешние вендоры голосовых помощников. Совокупный среднегодовой темп роста этого рынка в 2021-2025 гг. составит от 38 до 81%.
Как это работает
Фото: tinkoff.ru
ДИАЛОГ 1
Мошенник: Анастасия Эдуардовна?
Робот: Сейчас, секундочку. Извините, пожалуйста. Дима, Дим! Вылези, пожалуйста, из ракеты, я тебя прошу. Ладно, все, бегай так, чтобы я тебя видела.
Мошенник: Анастасия Эдуардовна.
Робот: Так, и че?
Мошенник: Полиция вас беспокоит, главное управление МВД. Капитан полиции Домышев Денис Владимирович. Обращаю также внимание, наш диалог ведется под запись и будет прикреплен к материалам уголовного производства. Смотрите, нам поступило заявление.
Робот: Пипец, конечно, и че дальше с этим делать?
Мошенник: Поступило заявление от Центрального банка по статье мошенничество совершенное.
Робот: Вы что, дебил? Мужчина, уберите свою собаку, вы ее на детскую площадку привели. Тут маленькие дети играют. Идите, своего цербера на привязи держите.
Мошенник: Вы кому сказали "дебил", мне?
Робот: Алло, да, извините. Давайте с самого начала по порядку, ладно?
Мошенник: Поступило заявление от Центрального банка по статье 159, мошенничество.
Робот: Так, ну и что, вы сами ничего не можете с этим сделать? У вас же голова и руки есть!
Мошенник: Мы понятия не имеем, откуда идет утечка персональных данных. Кто в этом замешан. Поэтому нам необходимо...
Робот: Знаете что, я вообще не буду напрягаться. Вы мне позвонили, вам это надо, вы и давайте делайте что-нибудь. Я жду как бы.
Мошенник: Я вам позвонил, чтобы провести акт дознания...
Робот: Ну и куда ты сел?
Мошенник: То есть слать общую информацию.
Робот: Штаны от песка тоже будешь сам отстирывать? Давай вставай быстро.
Мошенник: Вы сейчас находитесь...
Робот: Так, ну а вы где сидите? Все давай, у меня тут сын хочет кое-что тебе передать.
Жулик, не воруй.
Мошенник: Это кто сейчас со мной говорит?
Робот: Алло.
Мошенник: Я слышу иронию в вашем голосе и в ваших действиях.
ДИАЛОГ 2
Робот: Служба моральной поддержки. Че тебе нужно?
Мошенник: Наталья Викторовна, здравствуйте. Полиция вас беспокоит, главное управление МВД. Капитан полиции Карш Андрей Валерьевич. Связываю...
Робот: А я - полковник-мухомор!
Мошенник: Ставлю вас в известность, что наш разговор далее будет записываться.
Робот: Твое дело, извращенец ты такой.
Мошенник: Вы там со мной шутки шутить думаете, Наталья Викторовна?
Робот: Погоди-ка секунду. Говори, где вы с дружками запрятали чемодан с криптой. У тебя пять минут вспомнить, пока я собираю шмотки.
Мошенник: Наталья Викторовна.
Наталья Викторовна, вас полиция беспокоит. Вы понимаете, с кем вы разговариваете?
Робот: Я вернулся. Мочи, че хотел.
Мошенник: Наталья Викторовна.
Робот: Так, это взял. Извини, отвлекся. Можешь повторить?
Мошенник: Наталья Викторовна, вы знаете, с кем вы разговариваете?
Робот: Со мной. Ты в темноте, что ли, номер набирал?
Мошенник: Наталья Викторовна.
Робот: Так, а дальше?
Мошенник: Я могу расценивать ваше поведение как факт того, что вы намеренно мешаете следствию.
Робот: Эй, ты что вытворяешь? Сиди смирно и хорош мычать. Это я не тебе. Все, я тут.
Кстати
Первое время
По данным платформы безопасности "Тинькофф Защита", первые 5-7 минут разговора со злоумышленниками являются наиболее опасными. В среднем именно столько времени мошенникам требуется, чтобы втереться в доверие жертвы и потом убедить ее передать номера карт, коды из СМС, установить вредоносные программы и осуществить другие необходимые действия для продолжения мошеннического сценария, например, увести абонента в мессенджер.
"Мы не просто делали персонажей, но и писали диалоги с редакторами по законам драмы: завязка/рост/кульминация/концовка. Мы хотели, чтобы для пользователя это была маленькая увлекательная история, а у истории должна быть сочная развязка, иначе не случится катарсис по классическим законам драматургии", - поясняют разработчики.
