Воден знак в текста на ChatGPT: първо в ЕС

7.10

време за четене: 3 мин.

Всеки текст от ChatGPT в Европейския съюз скоро ще носи невидима следа. OpenAI обяви мярката на 5 октомври заедно със собствените си измервания докъде тя стига. По-интересното в съобщението не е знакът, а признанието колко лесно той се изтрива.

В класна стая със смесено осветление робот е положил длан върху лист и оставя върху него невидим печат; до него ученик търка с гума част от думите на свой лист, а учителка с лупа се е навела над изтрития лист и не намира нищо, докато роботът сочи другия лист

Какво обяви OpenAI

Съобщението носи заглавие „Нашият подход към европейските правила за произход на текст" и описва три отделни стъпки. От същия ден разработчиците през интерфейса за програмиране могат да включат маркирането за избрани модели навсякъде по света, но то остава изключено по подразбиране. През следващите седмици невидимият знак влиза в изхода на ChatGPT и Codex за потребителите в Европейския съюз, при всички абонаментни планове. Едновременно с това компанията отваря заявки за достъп до своя детектор.

Основанието е европейско. Член 50 от Акта за изкуствения интелект изисква доставчиците на генеративни системи да правят генерирания текст разпознаваем по машинно четим начин и се прилага от 2 август. Мярката обаче не става глобална по подразбиране, а остава ограничена до Съюза, за да може компанията първо да види как работи в реална употреба.

Колко издържа воден знак в текста

Технологията се нарича textGrain и не добавя видим символ. Тя внася незабележим статистически сигнал в избора на думи на самия модел, а детекторът търси точно този сигнал. Понеже сигналът живее в думите, воден знак в текста пътува заедно със съдържанието, когато то бъде копирано и поставено другаде.

Границите са измерени от самата компания. При зададена честота на фалшиво положителните резултати 1% детекторът е разпознал знака в около 80% от пасажите с дължина 200 токена и в около 95% от пасажите с 400 токена при съдържание като психология. При математика стойностите падат чувствително, защото там свободата в избора на думи е малка. Редакцията тежи още повече: при пасажи от 400 токена замяната на 10% от думите със синоними сваля разпознаването от около 92% на 66%, а замяната на 25% от думите го сваля до 17%.

Какво не доказва откритата следа

OpenAI изброява пет неща, които знакът не показва, и този списък е по-полезен от самата технология. Знакът не измерва човешкия принос, тоест може да покаже, че система на компанията е участвала в пасажа, но не колко преценка, редакция или творчество е вложил човекът. Знакът не установява собственост или отговорност, не идентифицира потребителя и не проверява дали твърдението е вярно.

Петото е най-важното за всеки, който ще се изкуши да ползва детектора като доказателство. Липсата на открит знак не доказва човешко авторство, защото текстът може да е прекалено къс, силно редактиран, преведен, създаден с по-стар модел или с инструмент на друга компания. Отделно от това достъпът до детектора засега е ограничен до одобрени изследователи и експертни организации, тоест училищата и фирмите няма да го имат.

Какво значи това за училището и работното място

Практическият извод е обратен на очакваното. Маркирането не дава на преподавателя или на мениджъра инструмент за проверка, а дава на регулатора машинно четим сигнал. Решение за оценка или за дисциплина не може да стъпи върху резултат от детектор, който самият доставчик описва като ненадежден при къс или редактиран текст. По-устойчивият подход остава процесният: описана методика на работа, видима история на създаването и разговор по същество върху съдържанието.

Качеството на изхода не е цената, която се плаща. По собствените данни на компанията разликите между маркиран и немаркиран текст при челния ѝ модел са в рамките на шума, например 49,57 срещу 49,76 точки по независимия индекс на Artificial Analysis. Любопитно е и сравнението между доставчиците: Anthropic обяви своя знак два месеца по-рано и го сложи на ниво модел в целия свят, а не само в Европа, както описахме в по-ранна наша новина за водния знак от Claude.

Заключение

Маркирането на генериран текст вече е законово задължение в Европейския съюз, но то е сигнал за произход, не доказателство за авторство. Организациите, които ще го ползват като доказателство, ще сбъркат точно там, където доставчикът честно е посочил границата.

Помагаме на български училища, университети и фирми да изградят работещи правила за употреба на AI в писането - така че проверката да стъпва на процес, не на детектор. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при изготвяне на вътрешна политика за генерирано съдържание и при задълженията по член 50 от Акта за изкуствения интелект. [Свържете се с нас за консултация: academy@razvivai.se]