Искусственный интеллект и дипфейки
Первым тревожным звонком в отношении вопросов безопасности и искусственного интеллекта (ИИ) стало распространение так называемых дипфейков. Об этом сообщил глава службы безопасности криптовалютной биржи Binance Джимми Су (Jimmy Su). По его мнению, распространение дипфейков будет интенсифицироваться вслед за программным обеспечением, которое используется искусственным интеллектом.
Сам по себе дипфейк представляет собой искусственно созданное изображение человека или видео с ним. Существующие картинки или ролики накладываются друг на друга и получается новый продукт, реалистичность которого очень высока. Отличить голос, мимику или телодвижения от настоящих будет достаточно сложно даже для профессионалов в области искусственного интеллекта.
Естественно, злоумышленники не могли обойти стороной подобные инструменты. Например, в криптоиндустрии мошенники с помощью дипфейков пытаются выдать себя за известных представителей отрасли.
Однако, синтезированные изображения и видео могут играть и позитивную роль. Например, если срочно нужна фотография, а ее нет. Либо же вам необходимо одновременно находиться в зуме и делать что-то еще — вариантов много. Но использование дипфейков мошенниками — совсем иной сценарий.
Так, известен случай с Сэмом Бэнкманом-Фридом (Sam Bankman-Fried). В ноябре 2022 года кто-то под его верифицированным аккаунтом с использованием специального программного обеспечения выпустил видео ролик, на котором бывший генеральный директор FTX якобы обещает компенсировать потери пользователям биржи. Видео достаточно быстро разошлось по интернету. На самом же деле в нем предлагалось перейти по ссылке, после чего криптокошельки доверчивых пользователей были бы опустошены.
По мнению Джимми Су, единственным способом борьбы с дипфейками является обучение пользователей тому, какие просчеты совершает ИИ когда пытается сделать новое изображение или видео.
Дипфейки и KYC
Представители криптовалютной биржи Binance, в том числе глава безопасности площадки, считают, что самым уязвимым местом для атаки дипфейков является система идентификации KYC («знай своего клиента»). Так, скомпрометированы могут быть личная информация и финансы пользователей.
На 2023 год KYC используется почти всеми централизованными биржами (CEX). В связи с этим данная система будет под угрозой не только в Binance, но и на других платформах. Как это будет происходить?
Принцип следующий:
-
Сначала ищутся фотоснимки в интернете для того, чтобы создать новый продукт.
-
С помощью найденных картинок создаются видео.
-
Идет публикация вновь созданных персонажей, которых сложно отличить от настоящих.
Джимми Су полагает, что в основном дипфейки используются для распространения всякого рода скама в сообществах криптоэнтузиастов. При этом, по его мнению, технология еще не достигла того уровня, когда нельзя будет отличить виртуальное от реального. Он сказал:
«Некоторые процессы верификации запрашивают у пользователя моргнуть левым глазом или посмотреть влево или вправо, вниз или вверх. Дипфейки сейчас достаточно продвинуты и могут выполнять такие команды. Однако, когда мы смотрим на эти видео, есть определенные части, которые мы можем обнаружить человеческим глазом, например при запросе повернуть голову в сторону».
Binance уже начала публиковать в своем блоге информацию о том, как правильно управлять рисками, связанными с дипфейками. Представители биржи признают, что они сами используют ИИ и машинное обучение для обнаружения необычных паттернов в логинах и транзакциях, а также других «аномальных» явлений на платформе.
Таким образом, искусственный интеллект используется сразу двумя сторонами. Он может как наносить вред, если применяется мошенниками, так и приносить пользу, защищая от дипфейков.
Специалист по безопасности Web3 под псевдонимом Noerek.eth задается вопросом, а не могут ли использоваться дипфейки в обновлении Ledger «Recover», ведь при потере сид-фразы ее можно запросить, пройдя предварительно верификацию через KYC.
«Что если кто-то взломает ваш Ledger и пройдет регистрацию от вашего имени, используя свой KYC? Если кто-то использует фейковый ID, сгенерированный ИИ, или дипфейк для восстановления от компаний? Пользователь Твиттера @zachxbt на самом деле сделал поддельный ID KYC и успешно присоединился к паре криптовалютных бирж, так же как поступают рагпулы и мошенники для вывода своих денег. Они не разглашали сид-фразу на публику, но они показали новое направление атаки на то, как их можно восстановить и присоединяться к платформам».
Использование ИИ криптовалютными платформами
Все больше криптопроектов стараются интегрировать технологии искусственного интеллекта. Способы при этом используются разные. Очень часто платформы упоминают ИИ просто в маркетинговых целях, в то время как фундаментально за проектами ничего не стоит. Схемы при этом используются достаточно простые. Чаще всего это упоминание какого-то названия, которое на слуху, например, «ChatGPT» или «AI».
Однако, фундаментально сильным проектам это не мешает. Например, 4 криптовалюты из раздела «Top AI & Big Data Tokens» входят в топ 100 по капитализации по данным CoinMarketCap. Это такие проекты, как The Graph (40-место), Render Token (50-е место), Injective (69-е место) и SingularityNET (95-е место). Всего же капитализация данного сегмента криптовалют превышает $5,4 млрд.
Пока, конечно, рано говорить о том, что искусственный интеллект захватил криптоиндустрию — слишком уж мало прикладных проектов, если не учитывать мошеннические. Но уже сейчас капитализация этих токенов больше, чем у Binance USD (14-место). Так что потенциал для развития явно есть.
Чат-боты, автоматизация торговых систем и обнаружение больших данных, безусловно, важны и станут одной из движущих сил, с помощью которых будут развиваться следующие бычьи рынки. Однако нам еще предстоит пройти долгий путь, и нужно создавать более эффективные продукты для настоящей «революции в индустрии».
Данный материал и информация в нем не является индивидуальной или иной другой инвестиционной рекомендацией. Мнение редакции может не совпадать с мнениями автора, аналитических порталов и экспертов.
