Протягом минулого тижня розпочався новий рух фанфіків, метою якого є виявлення авторів, які використовують генеративний ШІ. Але методи виявлення, які впроваджуються, викликають сумніви, і будь-який автор фанфіку може опинитися під ударом. Широке неприйняття використання Claude, ChatGPT та інших інструментів ШІ вже давно є проблемою в креативних спільнотах, включаючи світ фанфікшну. Читачі та автори обмінюються порадами щодо виявлення нібито створених ШІ творів, посилаючись на все, від ем-тире до загального поняття «пурпурного прозу». Але 29 червня анонімний акаунт у X під назвою @heatedrivalryai обіцяв, здавалося б, більш надійне рішення. Він опублікував шкіру — схожу на розширення — для популярного репозиторію фанфіків Archive of Our Own (AO3), яка нібито ідентифікує артефакти коду, залишені ботом Claude від Anthropic. “Коли відповідь, згенерована Claude, вставляється безпосередньо в AO3, текст обгортається кодом ‘font-claude-response-body’”, — сказав акаунт @heatedrivalryai. “Його присутність однозначно вказує на використання Claude.” Коли користувач відвідує сторінку (наприклад, твір фанфіку) з цим кодом, шкіра змінює весь фон на червоний. Кілька тестових постів були опубліковані на AO3, які дозволяють користувачам перевірити, чи працює це. Екран відразу став червоним, коли я протестував шкіру на цих прикладах, і я опублікував коротку історію, згенеровану Claude, щоб провести свій експеримент на всякий випадок. Червоний екран з’явився, коли я безпосередньо вставив текст з чат-бота в редактор, і зник, якщо я вставив текст (включаючи ту ж саму згенеровану історію), який не походив безпосередньо з Claude. Пост детектора Claude супроводжувався прикладами фанфіків, де були помічені артефакти, які, за словами анонімного творця, мали на меті продемонструвати, що система працює, а не “створити атмосферу недовіри або звинувачувати конкретних користувачів”. Але спільноти фанфіків швидко мобілізувалися, щоб публічно називати та соромити авторів, чиї опубліковані твори були позначені інструментом, і його творець, безумовно, не вважає ШІ позитивним явищем. “Фандом — це унікально зв’язковий, колаборативний простір. Він процвітає завдяки людському елементу та творчому іскрі, які його живлять”, — сказали вони. “Якщо ми ненавмисно дозволимо ШІ зіпсувати ці простори, що залишиться від них?” Anthropic не відповів на мій запит, щоб підтвердити, чи працює детектор, створений фанатами, так, як описано. Однак методологія виглядає обґрунтованою, і наші власні тести це підтверджують. Немає очевидної причини, чому код Claude має бути присутнім у творі, якщо бот не використовувався якимось чином. Але існує чіткий ризик як помилкових негативів, так і надмірних узагальнень. Код обгортки зберігається лише в тому випадку, якщо текст копіюється безпосередньо з Claude в редактор AO3, тому він не зловить нічого, що редагувалося в Google Docs або Microsoft Word, а потім перенесено в AO3 — і як людина, яка пише професійно, я можу підтвердити, наскільки ризиковано писати безпосередньо в CMS. Деякі автори, яких позначили, вже оновили свої твори, щоб видалити артефакти, і майбутні твори можуть легко уникнути інструмента. Навпаки, тег не розкриває, наскільки сильно Claude використовувався в даному творі. Цей яскраво-червоний екран може означати, що вся історія була повністю згенерована ШІ, або що автор вставив кілька речень, написаних людиною, в Claude для перевірки орфографії або перекладу, а потім повернув їх назад в AO3. Це не мало значення для деяких членів фандому, які вважають будь-яке використання генеративного ШІ неприйнятною зрадою ширшій креативній спільноті. Багато людей висловлюють занепокоєння щодо екологічного впливу технології та того, як вона тренується, скануючи відкриту мережу, яка, ймовірно, включає фанфіки, завантажені на платформи, такі як AO3. Цей конкретний інструмент має обмежене застосування — AO3 не є єдиною платформою для публікації фанфіків, і Claude — лише одна з багатьох моделей ШІ. Принаймні одна людина стверджує, що вона написала окремий код, який може виявити використання “Claude, Deepseek і деяких ChatGPT”, але вона не випустила це рішення для публіки і не пояснила, як це працює. Я запитав Google та OpenAI, чи залишають їх моделі якісь відстежувані артефакти в текстовій генерації, які можна було б виявити подібними засобами, але вони не відповіли. Насправді було б дуже дивно, якби існувала універсально надійна система. Я вже кілька років повідомляю про проблеми, пов’язані з виявленням ШІ, і, наскільки мені відомо, наразі немає надійного технологічного рішення для розрізнення згенерованого тексту від того, що написано людськими руками. Системи, такі як C2PA Content Credentials і SynthID від Google, роблять певні кроки до виявлення генеративного ШІ в зображеннях, відео та навіть аудіо, але вони покладаються на невидимі водяні знаки та метадані, які не зберігаються для тексту, скопійованого та вставленого. Це може змінитися в майбутньому, і компанії ШІ мають усі стимули, щоб принаймні вирішити цю проблему внутрішньо. Ранні моделі навчалися на текстах, безсистемно зібраних з інтернету, і оскільки людське письмо витісняється його синтетичним аналогом, вони можуть ризикувати сценарієм “колапсу моделі”, що знизить точність виходу. Але поки що спільноти фанфіків все ще в основному покладаються на відчуття. Більшість фанфіків не оцінюються за допомогою інструмента, як шкіра AO3, а за “ознаками”, які можуть включати все, від специфічних структур речень — таких як відомий “це не X, це Y” — до надмірного використання квіткових метафор. (Принаймні, поки що ніхто у фандомі не забанив чоловіків.) Але ми повинні пам’ятати, що ШІ часто пише так, тому що він навчався на матеріалах, які написали реальні люди. Він намагається нас відтворити. Я не настільки сміливий, щоб ділитися своїми закладками AO3, але я точно читав деякі надто помпезні фанфіки в інтернет-епоху до ChatGPT, які не пройшли б цей сумнівний тест. Найкраще рішення для розрізнення творів ШІ на AO3 вже доступне: надійна система тегів сайту. Існує тег “Створено за допомогою генеративного ШІ”, і багато авторів включають його, щоб розкрити використання таких інструментів, як Claude. Це вимагає чесної прозорості, але немає великого стимулу для чесності, враховуючи реакцію. Також варто пам’ятати, що фанфік має бути хобі, а не регульованою індустрією. З цими зусиллями, щоб запобігти ШІ від відволікання уваги від справжньої творчості, автори, які не відповідають тому, що вважається прийнятною якістю письма, можуть стати невинними жертвами триваючого полювання на відьом. Принаймні один автор вже потрапив у цю ситуацію, оскільки інша особа, якій вони довіряли редагувати їхній фанфік, зробила це за допомогою Claude. Тож якщо наступний фанфік, який ви прочитаєте, здається трохи роботизованим, просто пам’ятайте, що він може не насправді бути продуктом робота. Цікавий факт Фанфікшн — це не лише хобі, а й величезна частина інтернет-культури, яка вплинула на розвиток багатьох популярних медіа.