У мошенников появилось новое средство для обмана.

      Модератор, который является заместителем председателя правления банка, наглядно показал участникам, как технологии искусственного интеллекта становятся инструментом массового мошенничества. В формате живого диалога они создавали и разоблачали дипфейки прямо на глазах у зрителей.

      Цифры вызывают шок. За последние полтора года количество дипфейков в России увеличилось в 26 раз. Только в этом году убытки от такого мошенничества превысили 2 миллиарда рублей. Средняя сумма одной атаки составляет 16 миллионов рублей, тогда как создание одного дипфейка обходится не более чем в 50 рублей. В теневом интернете уже доступно свыше 40 тысяч готовых шаблонов для различных сценариев. По прогнозам, к концу 2026 года Россия может потерять от дипфейков 250 миллиардов рублей.

      Какая угроза исходила от дипфейков? Они способны дискредитировать политиков или заставить финансового директора перевести миллионы на поддельном заседании совета директоров (такие случаи уже происходили, например, в Сингапуре). Но главной опасностью является то, что они могут затрагивать чувства людей. К примеру, пожилые родственники могут поверить каждому слову «внука» на видео, который якобы попал в беду.

      Представитель банка пояснил, что раньше преступник должен был заранее подготовиться, собрать информацию, сочинить сценарий и завоевать доверие. Теперь это всё делает нейросеть. Постепенно любое сообщение получает максимальный уровень доверия. Наиболее тревожным является, когда ваш ребёнок со слезами на глазах просит о помощи. Рекомендация: как бы страшно это ни звучало, не реагируйте сразу. Перезвоните тому, кто якобы отправил сообщение.

      На сессии обсуждали три типа дипфейков.

      Первый тип — «кружочек»: короткое видео, в котором человек в экстренной ситуации (например, после ДТП) просит денег.

      Второй тип — «фейк-маска»: живой человек «одевает» чужое лицо и говорит чужим голосом. Такие манипуляции могут повлиять на выборы, что представляет собой прямую угрозу доверию к власти.

      Третий и самый опасный тип — «фейк-аватар»: полностью цифровой персонаж, который самостоятельно ведёт диалог, отвечает на вопросы и адаптируется к жертве. К концу года такие аватары станут неотличимы от реальных людей и смогут общаться на разных языках.

      Представитель банка обратил внимание на то, что мы находимся на пороге резкого роста. Сегодня можно приобрести готовый дипфейк любого руководителя за 50 рублей и разослать его тысячам людей. А что будет, когда появятся синтетические личности без физического носителя? На кого тогда возбуждать уголовное дело? Необходимо защищать цифровую личность так же, как и физическую. И это должно происходить совместными усилиями — государства, бизнеса и науки. Банк уже создал сервис (в честь древнегреческой богини истины), который в считанные минуты определяет, является ли перед вами фейк. Все участники форума могут воспользоваться им по QR-коду. Однако одной технологии недостаточно — нужны законы, просвещение и цифровой иммунитет.

      Участники сессии — представители госструктур, правоохранительных органов, депутаты и известные телеведущие — согласились с тем, что государство и общество должны быстро реагировать на фейки, разъяснять и опровергать их, технологически опережать преступников. В противном случае доверие к цифровой среде может окончательно рухнуть. Один из спикеров отметил: подлинность станет самым ценным элементом будущего — и за неё мы будем платить больше, чем когда-либо платили за правду.

      Дискуссию также поддержал цифровой аватар известного телеведущего Владимира Соловьева, который стал наглядным примером легкости подделки публичной личности.