Размышления на фоне скандала: допустимо ли использовать ИИ в творческой работе?

Оригинал

На прошлой неделе покерный мир сотряс скандал, который, в отличие от большинства бурь, с которыми я сталкиваюсь в покерной части своего твиттера, задел меня за живое.

Несколько недель назад с большой помпой стартовали показы документального фильма о покере под названием NO LIMIT: более 650 часов записей первого супер-мэйна Мировой серии покера на Багамах с бай-ином $25,000 сжали в восемь получасовых эпизодов. Нам обещали человеческие драмы на покерном фоне. Увидим ли мы теперь все эти восемь эпизодов, пока непонятно – первые шесть из интернета уже удалили.

Выяснилось, что создателю сериала, Дастину Ианотти, не хватило 650 часов материала, поэтому он добавил с помощью ИИ реплики героям фильма, включая главных действующих лиц, не информируя их и не заручившись их согласием.

Как об этом стало известно? Не из дисклеймера об использовании ИИ в титрах сериала, не со слов продюсеров, которые и не думали сообщить публике: да, кстати, мы тут добавили немного собственных фантазий, чтобы вам было веселее. Нет. Просто один из игроков, Алан Китинг, заметил неладное, глядя на себя на экране, и рассказал об этом в твиттере:

Полдюжины моих высказываний было сгенерировано с помощью ИИ. Съёмочная группа приписала мне слова, которые я не говорил, не ставя меня в известность.

Что бы вы сделали, оказавшись в подобной ситуации?

Только после публикации Китинга Ианотти сознался в том, что генерировал реплики игроков. И твит Китинга, и ответ Ианотти уже удалены с платформы. По мнению Ианотти, ничего особенного не произошло. Слов добавлено не так уж много, и они помогли продвинуть сюжет.

Выскажусь по опасениям мистера Китинга: мы воспользовались технологией ИИ для двух коротких реплик, во время пост-продакшена сгенерировав 10 секунд из 55 минут пятого и шестого эпизодов. Конечно, нам стоило проконсультироваться с Аланом относительно этого режиссёрского решения.

Пятый эпизод получил исключительно положительные отзывы, и многим зрителям особенно понравились сцены с участием Алана.

Китинга это не впечатлило. «Даже не заслуживает ответа, и тебе известно, почему», – написал он.

Как человек, засветившийся в десятках документальных фильмов, я моментально насторожилась. Когда я подписываю контракт, я обязательно указываю, что мои высказывания нельзя редактировать, меняя смысл фраз. Я тщательно подбираю слова, чтобы продюсер, одержимый собственным наративом, не мог исказить их так, как ему нравится. Я скрупулёзно вычёркиваю любые формулировки, которые могут стать жертвой пристрастного монтажа, и требую, чтобы любые серьёзные изменения согласовывались со мной отдельно. Если продюсеры не идут мне навстречу, я отзываю право использовать эти материалы. (В прошлом году я провела целый день на съёмках крупного канадского шоу, но это время оказалось потраченным напрасно, когда мы не сошлись в некоторых формулировках.)

И всё равно, как ни старайся, дерьмо случается. Никогда толком не знаешь, что сделают с твоими словами. Но то, что устроила команда NO LIMIT, выходит за всякие рамки приличия, нарушает все законы документалистики. Современные документальные фильмы документируют. Прежде всего, они показывают правду – а потом уже заботятся о привлекательной обёртке. Это не реалити-шоу. Документалистика работает по-другому. Если тебе настолько не хватает сотен часов материала, что ты идёшь за помощью к ИИ – это твоя личная проблема как автора, признак интеллектуальной и творческой лени.

Это также признак сбитых моральных ориентиров. Рассуждая с позиций этики, ты обязан работать в открытую. Планируешь использовать ИИ? Отлично, давай. Только предупреди всех заранее и заручись согласием гостей. Некоторые согласятся. Другие откажут. Планируешь придумать диалог, которого никогда не было? Получи разрешение человека на редактирование контента с его участием – и обязательно предупреди публику, что показываешь им не обещанную подлинную историю, а дополненную с помощью ИИ реальность.

У меня как писательницы выработась аллергия на использование ИИ, как тайное, так и явное, цель которого – заменить работу творческих людей. Но моё мнение здесь не имеет значения. Если автор хочет пользоваться ИИ – пожалуйста, я же не луддитка какая-то. ИИ останется с нами, хотим мы этого или нет. Но у автора есть обязательство перед публикой. Необходимо быть честным и играть по правилам. Этот принцип справедлив и для документалиста, и для журналиста, и для сценариста и так далее. Не думаю, что мои читатели, особенно платные подписчики, были бы рады, если бы неожиданно узнали, что мои тексты частично сгенерировал ИИ. (Ни одного слова. Обещаю.) Журналисты теряли работу и за меньшие проступки.

Майкл Шамберг, опытный голливудский кинопродюсер, принимавший участие, среди прочего, в работе над Pulp Fiction, Contagion и Erin Brockovich, находится на другом конце спектра относительно использования ИИ в творческом процессе. Он увлечённо генерирует видео и верит, что ИИ решительно изменит кинематограф. Настоящий фанат новой технологии! Я обрисовала ему ситуацию с этим фильмом, и вот его реакция: необходимо соблюдать нормы. Хочешь дополнить интервью? Окей, но 1) это должно быть сделано с разрешения интервьюируемого и 2) необходимо проинформировать зрителя. Правило очень простое, но жёсткое: зритель обязан знать, что слышит или видит результат работы генеративной нейросети. Скрывать это недопустимо.

Тайное, без дисклеймера, использование ИИ командой сериала – это очень плохо. Что ещё хуже, так это занятая ими позиция, что ничего особенного не произошло. Мол, большая часть материалов сделана без помощи ИИ. Увы, так это не работает. Неважно, 10 часов, 10 минут или 10 секунд. Если публика не знает, что видео сгенерировано, вы её обманываете, и это очень, очень серьёзно.

ИИ радикально меняет мир творческих профессий. К этому можно относиться восторженно или скептически, но игнорировать это бессмысленно. Технологию не остановить. Однако когда её применяешь, нужно соблюдать определённые правила. Только честность и прозрачность позволят сохранить уважение к любимым нами формам искусства в этом новом мире.

Важное дополнение

После публикации этого текста стало известно о ещё одной драме с использованием ИИ в покерном контенте: в статье на сайте Pokerlistings, посвящённой руму WPT, нашлись следы Chat GPT.

Когда поднялся шум, появилась автор статьи и заняла уже знакомую нам позицию: всё нормально, ничего страшного, все так делают.

Привет, @SrslySirius, это ведь ты креативный директор Club WPT Gold, да? «Ух ты, это безумие». Какая мастерская работа. Почему бы тебе не одеть штаны и не обратиться ко мне напрямую?

Почему ты не отвечаешь на конкретные вопросы в статье, а переводишь внимание на то, как она была сделана?

Да, я использовала ИИ, когда писала свой текст. Я этого и не скрываю. ИИ – хороший помощник, но с крупным недостатками, который помогает создавать из сырых идей нечто удобоваримое. Я не перевирала ничьих цитат. ИИ просто помог мне с синтезом идей и формулировками...

Если честно, я просто не верю, что это не очевидно: ЭТО НЕ НОРМАЛЬНО. Нет, нельзя использовать генеративные нейросети, когда пишешь авторский текст. Нет, не все журналисты это делают. Нет, даже близко не все. Да, твои статьи уберут с сайта и перестанут заказывать новые, если ты попробуешь провернуть нечто подобное в любом уважающем себя медиа. Если редакция не уследит и опубликует такую статью, то, когда правда вскроется, отзовёт её и принесёт извинения в колонке редактора.

На прошлой неделе в The Local вышла статья, посвящённая этому феномену. Очень рекомендую прочесть её целиком, но хочу отдельно отметить, что в её автор, Николас Хьюн-Браун, придумал слово для журналистики с использованием ChatGPT и не стесняется им пользоваться. Это слово – скам.

Что именно приписали Китингу

Из статьи на PokerNews:

Первая сгенерированная цитата появляется на отметке 19:18 в 5-м эпизоде, когда Китинг говорит: «Мне нравится ставить соперников в сложные ситуации и проверять их волю». Ианотти утверждает, что собрал это высказывание из нескольких реплик Китинга на данную тему, среди которых, в частности, была следующая: «Я думаю, кэш-игра – это более серьёзная проверка для человека, чем турниры». Он также говорил: «Неприятно это признавать, но я получаю большое удовольствие, когда кто-то по-настоящему раздосадован» и «Думаю, мне комфортнее в сложных ситуациях, чем большинству людей. Если у меня есть преимущество, оно заключается именно в этом». Из этих цитат продюсеры с помощью ИИ сгенерировали его ответ для эпизода.

Второе включение ИИ – 23:00 в 6-м эпизоде, где Китинг говорит: «Мы закончили? Я могу пойти сесть в кэш?»

Другой Китинг, Алекс, также пожаловался, что авторы фильма добавили «фейковый голос» в эпизод с его участием, а также исказили контекст при монтаже. «Я на это не соглашался, – написал он твиттере. – Больше не хочу быть частью этого и не даю согласие на переозвучку и монтаж».