Дипфейк — методика синтеза изображения, основанная на искусственном интеллекте. Мето́дика си́нтеза изображе́ния используется для соединения и наложения существующих изображений и видео на исходные изображения или видеоролики. В подавляющем большинстве случаев для создания таких видео используют генеративно-состязательные нейросети (GAN). Можно в старом фильме заменить лица актеров, которые уже умерли, на любые другие. Или создать фейковый ролик с любым персонажем, например, чтобы скомпрометировать его в глазах людей, в общественном мнении.

Приблизительно в 2017-м году (на самом деле технология появилась гораздо раньше) страны и народы впервые узнали о дипфейках, хлынувших в социальные сети иногда из понятного, а иногда и из очень непонятного источника. Большинство считает дипфейки вставками в видеоряд поддельных изображений лиц, но на самом деле технология гораздо сложнее и шире.

Дипфейки создаются так называемыми генеративно-состязательными сетями, где сам термин говорит о том, что сетей несколько, как минимум две. Одна сеть выступает как генератор нового изображения, вторая как его дискриминатор, то есть она сравнивает новое изображение со старым, находит несоответствия и передает данные назад генератору, чтобы тот поработал над ошибками. В итоге такой прогонки видео по кругу создается видеоряд, который при сравнении с оригиналом будет настолько хорош, что даже нейросеть не определит какой из роликов был взят за исходник.

Доступные широкой публике варианты технологии рассчитаны на мозги этой самой публики, поэтому в социальных сетях все ограничивается порноликами со знаменитостями и разного рода юмором. Киностудии идут дальше и в современных фильмах актеры уже иногда и не приезжают на съемочную площадку – играет дублер, а дальше нужное лицо накладывают.

Например, в сериале «Звездные войны. Книга Бобы Фетта» персонажа Люка Скайуокера играет актер с наложенной на его лицо юной версией Люка Скайуокера из 1970-х. Это позволяет удешевить съемки где-то в 10 раз, а в перспективе вообще выгнать всех актеров.

Но технологии идут вперед и в скором будущем дипфейк станет стандартным пакетом любой новой игры или фильма – в игре человек сможет вставлять свое лицо в своего персонажа, а в кино зритель будет сам себе режиссер, выбирая перед просмотром кто и кого будет играть. Однако и эта перспектива только вершина надвигающегося на цивилизацию айсберга.

Дело в том, что, как давно уже показали исследования психологов, связанных с юридической практикой, память людей можно в той или иной степени менять, например рассказав свидетелю свою версию события со слов другого очевидца. И одного воображения предлагаемой новой картины уже достаточно, чтобы клиент начал путаться в показаниях. Но можно пойти и дальше, о чем пишет 6 июля научный журнал PLOS One. Это целая статья про то, как дипфейками людям или полностью поменяли в голове воспоминая, или каким-то чудом вставили новые.

Суть исследования заключалась в показе испытуемым фрагментов известных официальных ремейков официальных фильмов вперемешку с дипфейками «Матрицы», «Индианы Джонса» и еще пакета фильмов, где главных героев играли менее прославленные актеры.

А дальше у людей начинали спрашивать: а что вы выдели? И люди на полном серьезе стали рассказывать, как в каком-то там году какой-то голливудский режиссер переснял «Индиану Джонса», весь мир это видел и я смотрел вместе с ним. А после этого начинались рассказы про то, насколько ремейк плох или хорош.

Само собой, испытуемые не пытались умничать, скрывая пробелы в эрудиции – они реально все это “помнили”. Главное было подать дипфейк в бутерброде с реальными лентами – и как только мозг это принимал, то дальше все в голове сортировалось и придумывалось автоматически.

All were presented as if they were real and participants were asked if they had seen it and to rate how it compared to the original. pic.twitter.com/MYxzAJnrDy
— Gillian Murphy (@gillysmurf) July 13, 2023

В качестве выводов своего эксперимента исследователи поют старую и известную песню про то, что нейросети – это нехорошо, а Искусственный Интеллект – это еще хуже, что все нужно контролировать и ограничивать. Однако конспирологи, ознакомившиеся с материалом, подумали совершенно о другом – подумали про т.н. эффект Манделы и все, с ним связанно.

Как показывает этот эксперимент любая похожая на настоящую картинка и любой похожий на реальность фильм каким-то непостижимым образом переставляет в голове шарики и винтики. Клиент просто следит за фильмом, внимает сюжету, а кино тем временем его в голове что-то реконфигурирует, создавая ложные воспоминая у целых стран и народов. Или даже у всей планеты, если вся планета посмотрела один и тот же видеоряд. Например, какую-нибудь рекламу зубной пасты.

И новые воспоминания к этому видео могут иметь или очень слабое отношение, или вообще никакого. А потом все удивляются, откуда в «Бриллиантовой руке» взялся арбуз, ведь все помнят, что клиент поскользнулся на банане. Дипфейков на эту тему люди не смотрели – и тем не менее, по какой-то причине воспоминание сформировалось.

Таким образом кино и телевизор – это инструмент, о всех возможностях которого не догадываются даже те, кто его использует, ключики лишь у того, кто все это придумал. А теперь если в этот инструмент добавить еще и видео, сделанное нейросетями, то в головах народов окончательно все перепутается.

30 октября 2023 Просмотров: 4 434