Содержание
Литературный скандал: Бестселлер под подозрением искусственного интеллекта
Недавний случай с гаитянско-канадским писателем Телисоном Орельен и его романом «C’était ça ou mourir» («Или это, или смерть») всколыхнул литературный мир. Произведение, удостоенное похвалы критиков и претендовавшее на престижные французские премии, включая Гонкуровскую, оказалось в центре громкого скандала. Анонимный пользователь в социальной сети X обвинил автора в том, что значительная часть романа была сгенерирована искусственным интеллектом (ИИ).
Несмотря на категорическое отрицание Орельен, один из популярных инструментов для выявления ИИ-контента, Pangram, заявил, что более 95% текста книги создано искусственным интеллектом. Этот вердикт повлек за собой серьезные последствия: роман был исключен из списка номинантов на Гонкуровскую премию. На решение также повлияли предыдущие обвинения писателя в плагиате, за которые он принес извинения. Канадское издательство, разорвавшее отношения с автором, ссылалось на результаты внешней экспертизы, подтвердившей использование ИИ. Сам Орельен, продолжая настаивать на своей невиновности в полном объеме, признал, что обращался к ИИ для проведения исторических исследований в процессе работы над книгой.
Доверие к цифровым детекторам: насколько надежны программы для выявления ИИ?
Ситуация с романом Орельен поднимает фундаментальные вопросы о надежности программ, предназначенных для распознавания текстов, созданных искусственным интеллектом. Швейцарские эксперты в области технологий и творчества попытались разобраться в этой проблеме.
Мануэль Флурин Гендри, швейцарский режиссер, сценарист и преподаватель, считает, что разрушать репутацию писателя на основании баллов, выставленных программным обеспечением, несправедливо. По его мнению, выбор инструментов для работы – это личное дело художника. Гендри подчеркивает, что сама идея анализа текста с помощью Pangram и последующего «социального отстранения» писателя выглядит неприемлемой. Он убежден, что творцы имеют право экспериментировать с любыми доступными им технологиями.
В Швейцарии уже немало художников, которые открыто экспериментируют с ИИ. Например, писатель Шарль Левински включил в свой роман «Täuschend echt» фрагменты, сгенерированные ChatGPT, а фотограф Матье Гафсу использовал инструменты для генерации изображений, такие как DALL·E, в своих художественных проектах.
Сложность заключается в том, как реагировать на неоспоримое и потенциально масштабное использование ИИ в творчестве. Не существует четких правил, определяющих, какой объем сгенерированного контента приемлем в произведении искусства, и можно ли полностью доверять таким инструментам, как Pangram.
В поисках истины: точность ИИ-детекторов и их ограничения
Хендрик Стробельт, старший научный сотрудник IBM, признает, что вопрос надежности Pangram не имеет однозначного ответа. В 2019 году он и его коллеги разработали GLTR – один из первых экспериментальных инструментов для распознавания текстов, написанных языковыми моделями. Тогда, по словам Стробельта, модели ИИ, в частности GPT-2, создавали однообразные и предсказуемые тексты, имитируя преобладающие в интернете материалы. Отличить такие тексты от человеческих было относительно просто, поскольку программы искали наиболее типичные и ожидаемые слова.
Однако с тех пор языковые модели значительно усовершенствовались. Стробельт отмечает, что современные передовые технологии ИИ делают крайне сложным выведение четких стилистических правил для различения искусственного и человеческого текста. «Теперь модели ИИ гораздо более масштабны. Если правильно сформулировать запрос (промпт), они смогут скопировать любой стиль», – говорит эксперт IBM.
Программы, подобные Pangram, используют метод «управляемой классификации». Они сравнивают тексты, написанные людьми до эпохи генеративного ИИ, с их «зеркальными» версиями, созданными различными коммерческими языковыми моделями. В процессе такого обучения программы учатся выявлять различия. Чем более схожими и качественными являются материалы для обучения, тем точнее анализ.
Разработчики Pangram заявляют о 99,98% точности своей программы с долей ложноположительных результатов всего 0,01%. Независимые исследования, опубликованные в этом году, также подтверждают высокую точность программы. Паоло Итальяни, изучающий ИИ и машинное обучение в Университете итальянской Швейцарии (USI), добавляет, что чем длиннее текст, тем точнее вывод детектора. «В таком случае вполне вероятно, что по крайней мере какая-то часть текста действительно создана ИИ», – считает он.
Пределы доверия: «черные ящики» и смешанные тексты
Несмотря на заявления разработчиков, профессор Лоннеке ван дер Плас из USI указывает на то, что мы до конца не понимаем, на какие именно критерии опираются эти инструменты при анализе текста. Поскольку коммерческие программы, такие как Pangram, являются «черными ящиками» с закрытым кодом, независимым ученым почти невозможно выяснить, как именно они приходят к своим выводам.
Теоретически, на работу ИИ могут указывать косвенные признаки, например, излишне линейная и предсказуемая структура аргументации. Однако, как отмечает Ван дер Плас, такие маркеры не могут служить стопроцентным доказательством происхождения текста. Более того, детекторы работают значительно хуже с языками, отличными от английского, и в узкоспециализированных жанрах, поскольку системы обучались на ограниченных данных.
Особенно сложно определить происхождение текста, если над ним работали как человек, так и искусственный интеллект. Точность проверки в таких случаях снижается примерно на 20%. В техническом отчете Pangram также признается, что программа может ошибаться, если в тексте сочетаются предложения, написанные человеком, и сгенерированные ИИ. «Такие программы тренируют преимущественно на контрастах: либо чисто человеческий текст, либо чисто машинный. Как только появляется микс, в системе возникают сбои», – объясняет Ван дер Плас.
Цифра – не приговор: юридические и этические аспекты
С юридической точки зрения, выводы программ, подобных Pangram, не являются прямым доказательством фальсификации со стороны автора. Профессор права интеллектуальной собственности Женевского университета Жак де Верра подчеркивает, что судебные решения не могут основываться исключительно на этих технологиях, поскольку они содержат погрешности. В случае судебного разбирательства, как в деле Орельен, судьям пришлось бы изучать и другие доказательства: оригинальные рукописи, черновики и даже историю запросов автора к ИИ.
Де Верра также напоминает, что использование искусственного интеллекта в творческом процессе не лишает автора автоматических прав на произведение. «Если человек сможет доказать наличие достаточно глубокой творческой связи между его идеей, удачными запросами (промптами) и финальным результатом, то это все еще считается проявлением человеческой креативности», – утверждает он. Ключевым вопросом является весомость творческого вклада автора. При этом, по словам Де Верра, не существует четкой математической границы, определяющей, какой процент текста должен написать человек, чтобы произведение считалось его собственной работой.
Мануэль Флурин Гендри считает, что эта проблема выходит далеко за рамки юридической защиты. Он активно использует технологии на базе ИИ в своей работе, от анализа сценариев до помощи в научных исследованиях. По его мнению, ИИ открывает новые пути для вдохновения, предлагая подходы, о которых раньше он даже не задумывался, и освобождает время для непосредственного творчества. «Настоящее писательство – это мышление в действии. Оно требует определенного внутреннего сопротивления и умения войти в состояние полного сосредоточения на потоке собственных мыслей», – говорит он.
Гендри ставит под сомнение важность того, какая часть произведения создана с помощью ИИ. «Если произведение вас трогает, если оно вам интересно, если оно заставляет вас задуматься, то какие могут быть аргументы против?» – задается вопросом он. Главное, по мнению Гендри, научиться понимать, какие задачи стоит делегировать искусственному интеллекту, а какие лучше выполнять самому. Вместо того чтобы отвергать технологии, творцы должны открыто говорить о том, как именно они их используют. «Если я делаю вид, что это моя работа, хотя она полностью сгенерирована ИИ, тогда это подделка», – заключает Гендри.
