Дмитрий Чикрин: «ИИ-плагиат и фейки формируют дипфейки будущего»

Мы еще не успели отойти от громкой проблемы галлюцинаций ИИ, как на первый план вышли два других вопроса. Первый — дипфейки в их современной ипостаси: уже не только изображения, но и аудио и видео, слабоотличимые от оригинала. Второй — незаконное использование авторской собственности «ИИ-пауками»: программами — интернет-агентами, обеспечивающими подбор и «скармливание» данных для обучения современного искусственного интеллекта.

Мы не зря начали с галлюцинаций ИИ. Современные «большие лингвистические модели» — нейросети, и тем более омниагенты (те же нейросети, но работающие не только с текстом, но и изображениями, звуком и видео) очень правдоподобно врут. Даже когда их о этом не просишь: вернее, просишь дать корректную информацию.

Галюцинирование современных ИИ выявить очень сложно. Даже экспертам для выяснения некорректных\некачественных фактов приходится задавать массу уточняющих вопросов. Даже в тех областях, где они (эксперты) являются глубокими специалистами. Основная причина этого — то, что ИИ учатся на всех данных в Сети подряд, а не соответствующих действительности (некорректных, шуточных, сгенерированных данных) в ней уже от 30 до 50 процентов.

Автор фото: Павел Хацаюк / ИД «Вечерняя Казань»

К чему же мы идем? К очередной антиутопии от замечательного писателя-фантаста Нила Стивенсона. Надо сказать, что предсказывал он много: от киберпанк-будущего («Лавина») до глобальных экологических катастроф («Синдром Отката»). Но здесь мы ближе всего к обществу, описываемому в его редкой, и (он сам правда так считал), наименее вероятно описывающей будущее книге: «Падение или Додж в Аду».

Ни в коем случае не стоит с места в карьер бросаться ее читать! Книга вообще не про этот ИИ, и всё, связанное с ним. Но действие там происходит в ближайшем будущем: будущем победивших фейков, когда люди платят за то, чтобы информация, которую им доставляют, являлась правдой. А самым типичным и знаменитым дипфейком (подделкой материалов с помощью ИИ) в ней является гибель от ядерной катастрофы города Моав. О ней знают все, кроме самих жителей города Моав. Но им так и не удается убедить весь мир, что с ними всё хорошо. Ведь так говорит Всемирная сеть, правда?

Действительно качественные дипфейки — пока еще редкость

Дипфейки бывают самыми разными. Все началось с простейших программ, которые умели на любых фотографиях или видеоряде заменять одно лицо на другое. Продолжилось генерацией аудио с интонацией нужного человека. Заканчивается сейчас физически достоверными видеороликами с сложными сценариями, которые невозможно отличить от реальности.

К счастью, действительно качественные дипфейки (странно так говорить о них, да?) пока еще редкость. За всё действительно качественное нужно платить и тратить время. Условно говоря, сгенерировать хорошее видео в Sora может «не только лишь каждый», да и денег на это нужно потратить немало (вместе с временем!), а вот изменить внешность в Reface — справится и трехлетний ребенок. Поэтому дадим несколько рекомендаций – как распознать дипфейк самостоятельно, по крайней мере его аудио и видео-разновидности.

Автор фото: Павел Хацаюк / ИД «Вечерняя Казань»

Аудио – здесь всё просто. Если на записи говорит знакомый человек, вы должны обратить внимание на его нетипичные выражения (простые аудиофейки подделывают только голос! Для подделки стиля разговора нужно обладать часами записей!), неправильность интонации в начале и конце предложения, неправильное проставление ударений, отсутствие типичных дефектов речи (кто-то присвистывает, кто то картавит, ИИ «не отрабатывает» эти моменты»).

Видео – есть набор правил, которые помогут легко понять: действительно ли оно кого-то компрометирует, или на него не стоит обращать внимание:

- Неровное движение объектов, рывками;

- Действия, не соответствующие физике\логике происходящего. Типа оленей, прыгающих по прилавкам;

- Неправильное количество\плохо прорисованные пальцы. Да, они по прежнему не даются ИИ!

- Странные надписи в кадре из знакомых букв, но не складывающиеся в слова и предложения;

- Неодинаковая форма и цвет глаз;

- Мимика, не совпадающая с речью;

- Не моргающие (или странно, например – по очереди – моргающие глаза).

Пользуйтесь этими правилами: и вас будет сложно провести… ну, еще ближайшие лет пять. Наверное.

Но мы говорили о плагиате?

Вопрос не в том, насколько продвинут ИИ для создания фейков – а в том, насколько люди хотят им пользоваться. Современное общество насквозь пронизано идеей безнаказанности плагиата. Исключение составляют лишь несколько зарегулированных областей – таких как высшее образование, причем именно в РФ (как это не странно, Антиплагиат – вообще уникальный и весьма надежно работающий продукт).

Безнаказанность - именно в тех областях, которые ранее (еще буквально в 90-х) были очень чувствительны. Конкретно – в книгах, фильмах и музыке. Действительно, ведь есть же кинокритики? Редакторы? Продюсеры музыки? Приведу очень яркие примеры, где НИ ОДИН критик не решился сказать, что у него есть какие-то вопросы по части заимствований.

Автор фото: Павел Хацаюк / ИД «Вечерняя Казань»

Лю Цысинь – самый знаменитый китайский фантаст современности.

Блокбастер «Блуждающая Земля» (2000 г.). Пролистайте французский роман Фрэнсиса Карсака «Бегство Земли» (1960 г.). Найдете отличия?

Ребекка Яррос, тетралогия «Четвертое Крыло» (2023 г.). Бестселлер №1 New York Times, процитируем:- «Такого фэнтези вы точно не читали!»

Читали, вплоть до характера основной героини и масти с размером ее дракона. Читали, только без эротических сцен и нецензурной брани. В «Всадниках Перна», гранд-мастер фантастики Энн Маккефри (1968 г.).

Фильм «Эбигейл» (2019 г.). Стимпанк, альтернативная Викторианская Англия с магией. Не смотрите. Лучше почитайте прекрасную трилогию о Молли Блэкуотер Ника Перумова (2016-2017 г.). Да, была Молли – в фильме стала Эбигейл.

Наконец. Абсолютная дикость. Событие научной фантастики и экранизаций в целом! Великолепный фильм! Второй сезон Fallout от Netflix. Здесь позволю себе процитировать создателей игры Fallout New Vegas, практически каждый ракурс которой цитируется в каждом кадре этого сериала.

Прямой перевод речи Джона Гонсалеса, ведущего сценариста New Vegas: — «Очень странно, как твои персонажи используются в других произведениях. Без упоминаний, без ссылок, без ничего».

И это в нашем настоящем считается нормальным? Так мы вполне себе заслужили будущее в версии от Нила Стивенсона. Ведь ИИ, его галлюцинации, фейки и плагиат с его помощью – это не болезнь. Это симптом. Болезнь – отсутствие уважения к творчеству других, кто творил раньше тебя. И пока это уважение не появится, пока мы по крайней мере не научимся говорить «спасибо», засилье Сети враньем и кликбейтом — это то, что мы заслужили.