Изключен филтър: 133 милиона размени без запис

18.08

време за четене: 4 мин.

Мярката за безопасност съществува в два вида: описана в политиката и работеща в продукцията. Разликата между двете се вижда обикновено чак когато някой я потърси. Anthropic я потърси и намери единайсет месеца, в които филтърът е бил изключен, а самото изключване не е било записано никъде. Втората половина на това изречение е по-тежката.

Робот стои пред огромно табло с угаснали индикатори и държи в ръка изваден шалтер, докато зад гърба му дълга опашка от посетители продължава да минава свободно през широко отворена врата

Какво описва самият доклад

В доклада за рисковете от август 2026 компанията описва пропуск, който е продължил от май 2025 до април 2026. Целият трафик през платформите за събиране на човешка обратна връзка, тоест средата, в която наети хора оценяват отговорите на моделите, е вървял без блокиращи биологични класификатори. Обхватът е около 50 000 души, проверявани само от външните доставчици, и около 133 милиона размени.

Проверката отзад напред стеснява картината. Класификатор е пуснат върху всички човешки реплики от периода и маркира 1197 записа като висок риск. От тях 757 идват от вътрешни екипи на самата компания, а от остатъка всички освен 62 са от упражнения, в които хора съзнателно са изпитвали системата. Ръчно са прегледани тези 62 плюс произволна извадка от 30 упражнения. Прегледът не открива ясно тревожна злоупотреба, която би дала съществено предимство на недобронамерен участник.

Защо изключен филтър остава невидим единайсет месеца

Механизмът се побира в едно изречение и заслужава бавен прочит. Трафикът е бил управляван от флаг, предназначен само за вътрешна употреба, който е изключвал не само блокиращото поведение на класификаторите, но и записването на техните сигнали.

Тоест системата не е мълчала, защото не е виждала нищо тревожно. Тя не е виждала, защото окото и тетрадката са били на един и същ ключ. Изключен филтър, който спира и записа за собственото си изключване, не произвежда сигнал за преглед - и точно това му позволява да издържи единайсет месеца.

Какво не следва от този доклад

Оценката е самооценка. Проверката на съдържанието е направена с промптван модел върху изолирани човешки реплики, а самият доклад отбелязва в бележка, че промптът първоначално е бил замислен за преценка на цял многоходов разговор, не на откъснати реплики. Ръчно погледнати са 92 записа от 1197 маркирани.

Извън обхвата остават и три неща, които компанията заявява изрично: не са достъпени данни на клиенти, вътрешни системи или тегла на модели; пропускът е в средата за разработка при външния доставчик, не в производственото приложно-програмно устройство; и не е констатирана злоупотреба. Заглавие от рода на „50 000 души са имали свободен достъп до опасни знания" не следва от документа и го изкривява.

Следва обаче друго. Заради този пропуск компанията преоценява риска за февруари 2026 от много нисък на нисък, тоест ретроактивно поправя собствената си предишна оценка. И пише, че откриването на празнината я навежда на мисълта за повишена вероятност от други, подобни неизвестни ѝ проблеми.

Какво следва за организациите

Поуката се пренася почти без превод върху всяка фирма, която е пуснала AI функция с филтър пред нея. Три въпроса вършат работа.

Първият е дали филтърът се наблюдава отделно от това, което филтрира. Ако единственият признак, че защитата работи, е че няма оплаквания, признак няма. Вторият е кой има право да изключва мярка и оставя ли това следа. Ключ, който изключва едновременно действието и записа за него, превръща всеки одит в разговор по памет. Третият е дали изключенията за вътрешна употреба стигат до среди, в които работят външни хора, защото точно там разликата между вътрешно и външно престава да е ясна.

Тестът е евтин: изключете съзнателно защитата за пет минути в тестова среда и вижте дали някъде се появява ред в дневник. Ако не се появи, знаете отговора.

Има и четвърта нишка, която засяга българските фирми от другата страна. Компанията заявява, че не проверява сама отделните изпълнители, наети от доставчиците ѝ, и че подборът им е отговорност на доставчика. Точно там се е образувала празнината от 50 000 души. Възложител, който делегира проверката на подизпълнител, не делегира заедно с нея и последствията от нея. За българска фирма, която работи като външен изпълнител за голям технологичен клиент, това е обратната страна на същата монета: изискванията към подбора на хора се затягат тъкмо след такива случаи, а договорите се преподписват по новата рамка.

Заключение

Пропускът е по-малко интересен от начина, по който се е скрил. Мярка за безопасност, чието изключване не оставя следа, не е отслабена мярка, а несъществуваща - и се разпознава като такава едва когато някой я потърси нарочно.

Помагаме на български организации да проверяват дали защитите около AI функциите им наистина работят, а не само съществуват в документацията - с одит на дневниците и на правата за изключване. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при пускане на AI функция, до която достигат външни изпълнители или партньори. [Свържете се с нас за консултация: academy@razvivai.se]