" Главный сотрудник службы безопасности Binance предупреждает, что технология дипфейков, используемая криптомошенниками для обхода проверки «знай своего клиента» (KYC) на криптобиржах, таких как Binance, будет становиться все более продвинутой.
Дипфейки создаются с использованием инструментов искусственного интеллекта, которые используют машинное обучение для создания убедительных аудио, изображений или видео с изображением человека. Хотя существуют законные варианты использования этой технологии, недобросовестные игроки также могут использовать ее для мошенничества или розыгрыша.
«Глубокий поддельный ИИ представляет серьезную угрозу человечеству, и это уже не просто надуманная идея. Недавно я наткнулся на видео с глубокой подделкой Чанпена Чжао, и оно пугающе убедительно», – сообщил в твиттере DigitalMicropreneur.eth (@rbkasr) 24 февраля 2023 г и приложил следующее видео.
Директор службы безопасности Binance Джимми Су сказал, что число мошенников, использующих эту технологию, растет, чтобы попытаться обойти процессы проверки клиентов биржи.
«Хакер будет искать нормальную фотографию жертвы где-нибудь в Интернете. Исходя из этого, используя инструменты глубокой подделки, они могут создавать видео для обхода процедур KYC».
Су сказал, что инструменты стали настолько продвинутыми, что они могут даже правильно реагировать на звуковые инструкции, предназначенные для проверки того, является ли заявитель человеком, и делать это в режиме реального времени.
«Некоторые проверки требуют от пользователя, например, моргнуть левым глазом или посмотреть влево или вправо, посмотреть вверх или посмотреть вниз. Глубокие подделки сегодня достаточно продвинуты, чтобы действительно выполнять эти команды», — пояснил он.
Однако Су считает, что поддельные видео еще не достигли того уровня, на котором они могут обмануть человека-оператора.
«Когда мы смотрим на эти видео, есть определенные части, которые мы можем обнаружить человеческим глазом», например, когда от пользователя требуется повернуть голову в сторону», — сказал Су.
«ИИ преодолеет [их] со временем. Так что это не то, на что мы всегда можем положиться», – добавил он.
В августе 2022 года директор по связям с общественностью Binance Патрик Хиллманн предупредил, что «команда изощренных хакеров» использовала его предыдущие новостные интервью и выступления на телевидении, чтобы создать его «дипфейковую» версию.
Затем дипфейковая версия Хиллманна была развернута для проведения встреч в Zoom с различными командами криптопроектов, обещая возможность разместить свои активы на Binance — конечно, за определенную плату.
«Хакеры создали «дипфейк» меня и сумели обмануть ряд ничего не подозревающих криптопроектов. Криптопроекты практически постоянно подвергаются атакам киберпреступников. Вот почему мы просим большинство сотрудников Binance сохранять анонимность на LinkedIn», — сообщил Патрик Хиллманн (@PRHillmann) 17 августа 2022 г.
Это очень сложная проблема, сказал Су, когда его спросили о том, как бороться с такими атаками.
«Даже если мы можем контролировать наши собственные видео, есть видео, которые нам не принадлежат. Итак, опять же, одна вещь — это обучение пользователей».
Binance планирует выпустить серию сообщений в блоге, направленных на обучение пользователей управлению рисками.
В ранней версии сообщения в блоге с разделом, посвященным кибербезопасности, Binance сообщила, что использует алгоритмы искусственного интеллекта и машинного обучения в своих целях, включая обнаружение необычных шаблонов входа в систему и шаблонов транзакций, а также других «аномальных действий на платформе».
