В мире Deepfakes: как отличить правду от вымысла

Какие угрозы потенциально несет развитие технологии Deepfake и как от нее защититься

Сохранить в закладки
28 сентября 2022
Сохранить в закладки

В январе 2021 года Народная прокуратура Шанхая обвинила группу мошенников во взломе государственной системы распознавания лиц с целью подделки налоговых счетов. Интересно, что в этом случае мошенники использовали простейшее приложение для создания дипфейковых видеороликов. С 1 мая 2021 года в Китае вступил в силу закон, ограничивающий «чрезмерный» сбор личной информации пользователей. В связи с этим был определен список минимально необходимых данных для мобильных приложений.

Кирилл Вышегородцев

 

За основу каждой отдельной сети мы взяли предобученную модель. Такая модель получена методом глубокого обучения, для разработки ее архитектуры применялся метод составного масштабирования. При этом для выбора начальной архитектуры исследователи использовали инструменты автоматического машинного обучения (AutoML). Такие модели способны показать высокую точность при быстрой скорости работы. Используя такую нейронную сеть в качестве начальной инициализации, мы обучили свои модели разделять дипфейки и реальные лица. Модели научились обнаруживать артефакты, характерные для используемого алгоритма генерации поддельных изображений.

Кирилл Вышегородцев

 

Наша команда называется лабораторией именно потому, что в работе мы не используем готовые решения и не адаптируем нечто известное под поставленную задачу, а занимаемся собственными разработками. За три года существования лаборатории мы создали 28 патентов и провели более 60 завершенных исследований, в том числе в направлении борьбы с Deepfake. Конечно, для результата требуются время, ежедневные эксперименты, апробация научных подходов, многочисленные исследования, но в итоге мы получаем рабочий прототип решения, четко выполняющий поставленную задачу.

Кирилл Вышегородцев

 

Каждый человек должен внимательно относиться к цифровому следу, который он оставляет в интернете. Если в сети есть хотя бы одна ваша фотография, то уже сегодня ваш дипфейк может как минимум кивать головой, улыбаться и моргать. Это может быть использовано как для безобидных шуток, так и в мошеннических целях. Исходя из анализа открытых источников, можно сказать, что Сбер — первая и пока единственная экосистема, которая внедряет защиту своих клиентов, позволяющую определять дипфейки на высоком уровне. В идеальном будущем все организации, предоставляющие биометрические сервисы, должны внимательно следить за актуальными угрозами и предпринимать превентивные меры для защиты клиентов.