В Гонконге группа мошенников использовала deepfake для создания фальшивых романтических отношений, которые в итоге обошлись жертвам в более чем 46 миллионов долларов, – пишет GNN.

Deepfake — это технология, позволяющая создавать крайне реалистичные поддельные видео и аудио, используя ИИ. В данном случае мошенники использовали её, чтобы выдать фейковую женщину за реальную, создавая у жертв иллюзию того, что они общаются с настоящим человеком через видеозвонки. Мужчины, проживающие в разных странах Азии, от Тайваня до Сингапура и Индии, стали жертвами этой схемы.

В ходе пресс-конференции гонконгская полиция сообщила об аресте более двух десятков участников мошеннической группировки. Из 27 задержанных — 21 мужчина и 6 женщин, возрастом от 21 до 34 лет. Примечательно, что большинство из них — образованные люди, выпускники университетов с дипломами в области цифровых медиа и технологий. Мошенники работали совместно с IT-специалистами из других стран, чтобы создать фальшивую платформу для инвестиций в криптовалюту, куда жертв заманивали после установления романтических отношений.

Схема мошенничества, прозванная «свиньи на убой», основывается на постепенном «взращивании» доверия жертвы. Мошенники создают фальшивую онлайн-личность и месяцами работают над тем, чтобы установить доверительные отношения с жертвами, прежде чем уговорить их вложить деньги в фиктивные криптовалютные проекты. Deepfake позволил мошенникам сделать процесс обмана ещё более убедительным и правдоподобным.

Схема обычно начиналась с простого сообщения, в котором фальшивый аккаунт привлекательной женщины утверждал, что по ошибке отправил сообщение не на тот номер. Постепенно завязывалось общение, из которого выстраивалась иллюзия романтических отношений. В какой-то момент мошенники начинали говорить о совместных планах на будущее, укрепляя доверие жертвы. Как только уровень доверия достигал пика, мошенники предлагали вложить деньги в «надёжный» инвестиционный проект, который на деле оказывался фиктивным.

Эта схема была тщательно организована, и группа мошенников была разделена на несколько департаментов, каждый из которых отвечал за свою стадию обмана. Полиция обнаружила у них даже обучающие материалы, в которых описывались шаги для успешного обмана жертвы. Один из ключевых аспектов — изучение мировоззрения жертвы для создания «персонализированного» образа и придумывание проблем, таких как неудачные отношения или бизнес, чтобы вызвать сочувствие и доверие.

Мошенничество длилось около года, пока в августе 2023 года полиция не получила информацию об их деятельности. В результате рейда в Гонконге были изъяты более 100 мобильных телефонов, около $26 тысяч наличными, а также несколько дорогих часов.

Рост мошенничеств с применением технологий deepfake вызывает серьёзные опасения у властей. Эта технология делает обман гораздо более реалистичным и затрудняет его распознавание. В Гонконге уже были зафиксированы случаи, когда мошенники использовали deepfake для обмана сотрудников крупных компаний. Например, одна британская компания потеряла $25 миллионов после того, как мошенники с помощью deepfake выдали себя за финансового директора компании.