Как мошенники используют ИИ, чтобы нас обманывать
К сожалению, генеративный ИИ используется не только для смешных видео и картинок, но и для менее безобидных целей. Искусственный интеллект запустил новую волну киберпреступности, позволив создавать целые кампании по фишингу парой текстовых запросов. Портал makseuseof.com рассказал о том, что представляет собой вайбскамминг.
Простыми словами, вайбскамминг — фишинг с использованием ИИ. Термин произошел от схожего по смыслу «вайб-кодинга» — или процесса создания программы путем написания промптов для генеративного ИИ.
По той же логике, вайбскамминг позволяет почти кому угодно запустить фишинговую схему или кибератаку, просто описав действия ИИ-агенту. Даже люди без навыков программирования или взлома могут генерировать подложные электронные письма, поддельные веб-сайты или вредоносный софт.
Участие ИИ в мошенничестве понижает порог вхождения в киберпреступность до небывалого уровня. В прошлом преступникам могли понадобиться навыки веб-дизайна, правописания или программирования, без которых обмануть человека не получилось бы. Но теперь подобные задачи может взять на себя ИИ.
Другая опасность — скорость и масштабы. ИИ позволяет мошенникам автоматизировать задачи и масштабировать атаки гораздо быстрее, чем это можно сделать вручную. Например, ИИ может быстро персонализировать фишинговые письма для тысяч жертв, собрав данные в открытом доступе. Он также способен адаптироваться в реальном времени: если ссылка на фишинговую страницу попадет в блок, мошеннику ничего не стоит попросить ИИ модифицировать код или текст, чтобы создать новую версию. Таким образом фишинговые компании могут быстро эволюционировать, чтобы обходить защитные меры.
Конечно, в большинство ИИ-чатботов встроены меры безопасности, призванные предотвратить использование бота в опасных целях. Тот же ChatGPT откажется создавать сайт, похожий на страницу входа в учетную запись Microsoft, сославшись как раз на нелегальность фишинга. Но некоторые ИИ более восприимчивы к подобным уловкам, чем другие. К тому же, специфически сформулированные запросы способны хитро обойти внутренние ограничения чатботов.
Подобные трюки были широко популярными на заре генеративных ИИ, но и сегодня они не исчезли. Просто теперь о них распространяются меньше или продают за неплохие деньги. Мошенники и хакеры хранят молчание, чтобы разработчики искусственного интеллекта не могли оперативно залатать дыры в защите.
Хорошая новость в том, что избежать вайбскамов можно примерно так же, как и обычных фишинговых писем.
- Опасайтесь предложений, которые звучат слишком хорошо
- Обращайте внимание на отправителей. Многие мошеннические письма отправляются с бесплатных адресов, даже если они притворяются реальными бизнесами
- Недостаток персонализации. Если в письме не упоминается ваше имя, то, скорее всего, оно является частью массовой фишинговой рассылки
- Эмоциональные триггеры. Подобные письма часто просят о деталях аккаунтов и платежах, или просят кликнуть на подозрительную ссылку, давя на срочность