© Зображення згенеровано ШІ на запит ZN.UA Новий інструмент для AO3 виявляє сліди Claude, однак не гарантує достовірних результатів.
Спільноти фанфіків прагнуть ідентифікувати тексти, створені за допомогою генеративного штучного інтелекту. При цьому нові методи перевірки вже спричинили хвилю дискусій, публічних звинувачень і ризик помилкового переслідування авторів, які могли використовувати ШІ лише для редагування чи перекладу, як повідомляє The Verge.
Наприкінці червня обліковий запис @heatedrivalryai презентував розширення, що шукає в коді сторінок Archive of Our Own (AO3) спеціальний елемент “font-claude-response-body”, який, нібито, здатний визначати, чи вставлено текст безпосередньо з чат-бота Claude від Anthropic. За словами творця інструменту, поява цього коду “беззаперечно свідчить про використання Claude”. Якщо подібний маркер виявляється, сторінка автоматично позначається червоним кольором.
Інструмент швидко здобув увагу фан-спільноти, проте майже відразу почав застосовуватися для публічного викриття авторів. Незважаючи на заяви розробника, що його метою було лише продемонструвати принцип роботи системи, користувачі почали масово звинувачувати письменників у застосуванні ШІ.
Журналістка The Verge Джесс Везербед дослідила роботу інструмента і підтвердила, що він дійсно спрацьовує, якщо текст безпосередньо копіюють із Claude в редактор AO3. Однак система має значні обмеження: вона не функціонує, якщо текст попередньо редагували в Google Docs, Microsoft Word чи іншому редакторі, а також не дозволяє встановити, наскільки активно ШІ використовувався під час створення твору.
Через це однакові позначки можуть отримати як цілком згенеровані історії, так і тексти, де Claude застосовувався лише для перевірки орфографії, перекладу чи редагування кількох речень. Після появи інструмента деякі автори просто оновили свої роботи, видаливши відповідні артефакти коду.
Авторка матеріалу зазначає, що наразі не існує загальноприйнятого способу надійно визначити, чи написав текст генеративний ШІ. На відміну від зображень, відео чи аудіо, для яких поступово впроваджуються технології на кшталт C2PA або SynthID, текстові водяні знаки практично не дають результату після звичайного копіювання.
Тому переважна більшість читачів надалі покладаються на непрямі ознаки — характерні мовні конструкції, надмірну “пишність” стилю чи повторювані фрази. Однак Везербед наголошує, що такі критерії не є надійними, адже сучасні мовні моделі навчаються саме на людських текстах і часто лише імітують стиль реальних письменників.
На думку журналістки The Verge, найкращим рішенням залишається добровільне маркування творів. На AO3 вже існує спеціальний тег Created with Generative AI, який автори можуть використовувати, якщо застосовували генеративний ШІ. Однак через негативне ставлення частини спільноти далеко не всі готові чесно повідомляти про це.
Найзапекліша боротьба з ШІ наразі триває в музичній індустрії. Нещодавно співачка SZA висловила критику щодо музичних систем штучного інтелекту після того, як дізналася, що 238 її композицій використовувалися для навчання алгоритмів. Пол Маккартні, Сем Фендер, Кейт Буш та Ганс Ціммер раніше приєдналися до протесту проти несанкціонованого використання авторських творів для навчання ШІ і випустили беззвучний альбом Is This What We Want?.