В свете недавних дипфейков фильм 1997 года «Плутовство» кажется предзнаменованием. В фильме Роберт Де Ниро играет специалиста по связям с общественностью, который манипулирует выборами, сфабриковав войну, чтобы отвлечь избирателей от президентского скандала. Он делает это при помощи голливудского продюсера, актеров и студии.
Сегодня для создания обманчивого контента требуется гораздо меньше. Благодаря ИИ, все, что нужно, это один человек с компьютером, несколько изображений и бесплатное программное обеспечение, чтобы убедить общественность в том, чего никогда не было. По мере того как дипфейки становятся более совершенными, станет ли контент, созданный или измененный ИИ, неотличимым от реальности? И что будет, если эта технология попадет в плохие руки в 2024 году, в самый важный год выборов в истории?
Давайте погрузимся в темный, а иногда и смешной мир дипфейков, чтобы увидеть, на что они способны сейчас и в будущем, и что делается для ограничения их злоупотребления.
Что такое дипфейк?
Дипфейк относится к медиа, включая видео, фото и аудио, созданные или измененные ИИ для имитации кого-либо или фабрикации события, которое никогда не происходило. Слово происходит от термина «глубокое обучение», подмножества ИИ, и, по-видимому, появилось в 2017 году благодаря пользователю Reddit. Термины «замена лица» или «клонирование голоса» также используются, когда говорят о дипфейках.
Известные дипфейки включают:
- Список примеров
Как показывают вышеуказанные примеры, дипфейки могут быть от безобидного развлечения до зловещей манипуляции, и последнее вызывает настороженность у политиков и общественности.
Растущая популярность дипфейков
С 2022 по 2023 год количество случаев мошенничества с использованием дипфейков по всему миру выросло в 10 раз, согласно исследованию платформы проверки личности Sumsub. Наибольший всплеск произошел в Северной Америке, где дипфейки использовались для создания поддельных удостоверений личности и захвата учетных записей.
А теперь эксперты предупреждают, что дипфейки используются чаще, чем когда-либо, в попытках распространить дезинформацию на выборах. В сентябре 2023 года, за несколько дней до напряженных парламентских выборов в Словакии, в интернете была опубликована аудиозапись, на которой кандидат-прогрессивист Михал Шмечка якобы обсуждает, как фальсифицировать выборы.
Фактчекеры предупредили, что аудиозапись была дипфейком, но это не остановило ее распространение. Невозможно сказать, каким образом и повлияла ли фальсифицированная запись на результат, но в конечном итоге противник Шмечки одержал победу.
В январе 2024 года, как сообщила NBC News, в «первом известном использовании дипфейка ИИ в президентской кампании» робо-звонки, изображающие президента Джо Байдена, призывали избирателей Нью-Гэмпшира не участвовать в президентских праймериз. Спустя несколько недель FCC запретила робо-звонки с использованием голосов, созданных ИИ.
Насколько легко создать дипфейк?
Легкость – это субъективное понятие, начнем с другого вопроса: насколько убедительным вы хотите сделать дипфейк? Если вы просто хотите создать забавное видео, изображающее вас как Мстителя, такие приложения, как iFace, смогут за несколько секунд вставить ваше лицо в известные сцены из фильмов.
Но создание сложного дипфейка, который способен, например, повлиять на выборы, требует гораздо больше усилий. Как показывают два примера с выборами выше, аудио подделывать легче, чем видео.
Чтобы создать убедительный цифровой фальсификат чьего-то облика, необходимо сначала обучить модель ИИ. Другими словами, она должна изучить лица, чтобы узнать, как выглядят исходные и целевые изображения, и воспроизвести их в высокореалистичных сценариях. Для этого ее нужно кормить изображениями, аудио и видео для изучения – чем больше, тем лучше. Это может занять часы, потребуется много графических процессоров на вашем компьютере и, конечно же, технические навыки, чтобы все это сделать.
Что делается для борьбы с вредными дипфейками
Как вы можете себе представить, регулирование технологии, которая становится все более обманчивой и постоянно развивается, является вызовом. Но в США и за рубежом субъекты как в государственном, так и в частном секторах предпринимают действия.
С 13 марта 2024 года 43 штата США либо внесли законопроекты, либо приняли законодательные акты, регулирующие использование дипфейков на выборах, согласно некоммерческой потребительской организации Public Citizen.
За океаном, в Великобритании, в октябре 2023 года был принят закон о безопасности в интернете, который, среди прочего, запрещает несогласованное распространение фотографий или видеоматериалов интимного характера, включая изображения, «сделанные или измененные с помощью компьютерной графики или иным способом».
