Политика за ползване: човек трябва да може да спре машината

11.10

време за четене: 3 мин.

Anthropic публикува обновената си политика за ползване на 8 октомври и остави малко повече от месец до влизането ѝ в сила на 12 ноември. Публичното внимание се събра около забраната за грубост към модела. По-съществената промяна е друга: когато модел управлява машина, която може да нарани човек, вече се иска квалифициран оператор, който наблюдава оборудването и може да го спре.

Робот води механична ръка над конвейер в цех, а жена инженер държи длан върху голям бутон за спиране; роботът спира и поглежда озадачено към ръката ѝ.

Какво се промени в документа

Обновяването не добавя едно правило, а пренарежда няколко раздела наведнъж. Появява се нова секция срещу измамните кампании и изкуствената активност, която важи за измама от всякакъв вид, политическа и търговска. В нея влизат опитите да се скрие кой стои зад дадено послание, както и усилването на съдържание през фалшиви профили и публикации.

Разделът за изборите е преименуван и стеснен. Общата забрана за персонализирано насочване на съобщения пада, а на нейно място остава забрана за заблуждаване на гласоподаватели. Промяната върви към по-точно правило: забранява се измамата, не самата техника на насочване. Според компанията досегашната формулировка е покривала и законна гражданска работа, например превод на информация за гласуване от неправителствени организации.

Забраната, която събра най-много коментари, е описана тясно. Тя важи за трайно и безцелно грубо или жестоко поведение към моделите и по думите на самата компания се прилага само в крайни случаи, когато поведението се повтаря без видима цел. Обичайното недоволство, несъгласието, тъмните творчески теми и тестването на модела изрично остават извън нея.

Защо новата политика за ползване има значение извън Claude

За всеки, който изгражда продукт върху чужд модел, това не е формалност. Всяка политика за ползване описва не какво е технически възможно, а какво остава разрешено, и се променя по-често от самия модел.

Два раздела засягат пряко обичайната работа на малките и средните организации. Първият е изкуствената активност: автоматизираното усилване на съдържание през фалшиви профили вече е изрично назовано. Маркетинг, който разчита на купена или симулирана активност, попада под записано правило, а не под неясна преценка. Вторият е следенето. Проследяването на хора без тяхното съгласие е забранено, независимо дали става в реално време или върху вече събрани данни, а моделът не може да решава или препоръчва кого да разследват, задържат или обвинят.

Машината, която действа сама

Най-новата по същество част е тази за хардуера. Когато модел е свързан с оборудване, което извършва физически действия и може да причини нараняване, политиката изисква две неща заедно: квалифициран оператор, който вижда машината и може да я спре при нужда, и оборудване, което остава в безопасно състояние, ако връзката с модела се прекъсне.

Изискването не е насочено към модела, а към машината и към човека до нея. Разделът за оръжията е разширен в същата посока: от самото оръжие към софтуера и компонентите, които го правят работещо, включително въоръжени дронове и автономни машини.

Какво си струва да се провери до 12 ноември

Срокът е около месец, а проверката е кратка. Организациите, които ползват модела за съдържание в социалните мрежи, е добре да проверят дали автоматизацията им не създава активност, която изглежда като чужда. Там, където се обработват лични данни, е редно да се сверят основанията за проследяване. Интеграцията с машини е по-редкият случай у нас, но точно той носи новото изискване и най-дългата подготовка.

Остава един незапълнен ъгъл в документа: компанията не обяснява как ще отличи недоволството от жестокостта. Като основен механизъм се посочва вече съществуващата възможност на модела сам да прекрати разговор, тоест правилото засега живее повече като заявена позиция, отколкото като процедура. Същият въпрос за разликата между обявено правило и работеща проверка стои и в по-ранна наша новина за спрения достъп до интернет при един от агентите.

Заключение

Политиката за ползване се мести от списък със забранени теми към описание на отговорности: кой наблюдава, кой може да спре и какво става, когато връзката падне. Това е документът, който си струва да се прочете тогава, когато моделът спре да бъде само събеседник.

Помагаме на български организации да въведат AI в работата си без изненади от правилата на доставчика - от прегледа на политиките до вътрешните процедури. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при интеграция на модел със системи или машини, които действат без постоянен надзор. [Свържете се с нас за консултация: academy@razvivai.se]