Одит на AI, подписан под наказателна отговорност

преди 4 дни

време за четене: 3 мин.

Проверките на софтуер обикновено завършват с доклад, за който никой не носи лична отговорност. Законопроект, приет от законодателното събрание на Калифорния и внесен при губернатора на 9 септември 2026, сменя това правило. Заключението за безопасност се подписва от външния проверяващ под наказателна отговорност за лъжесвидетелстване.

Жена одитор спира писалката си над подпис, а робот ѝ подава втори, осезаемо по-тънък екземпляр

Какво предвижда текстът

Законопроектът SB 1119 носи името „Adam's Law" и урежда спътниковите чатботове, тоест системите, които поддържат човекоподобен разговор през много взаимодействия и могат да задоволяват социална потребност. Ботовете за клиентско обслужване, тези във видеоигри и самостоятелните гласови колонки изрично остават извън обхвата.

Основните задължения влизат в сила от 1 юли 2027 година. Периодичният преглед идва по-късно: първият е до 1 януари 2029 или преди операторът да предложи публично такъв чатбот, а след това на всеки две години и извънредно при съществена промяна с повишен риск.

Одиторът трябва да е външен за оператора, да няма финансов интерес и възнаграждението му да не зависи от резултата. Дребните участници получават отсрочка: фирми с под 500 милиона долара приход остават извън изискването за преглед до 2032 година.

Защо одит на AI под клетва е различен

Задължителен одит на AI система не е новост и твърдението „за пръв път" не издържа в широката си форма. Ню Йорк изисква независим преглед за пристрастност при инструментите за подбор на персонал още от 2023 година, а щатът Илинойс въведе годишен независим преглед за разработчиците на челни модели през юли 2026.

Регламентът на Съюза за изкуствения интелект също урежда оценка на съответствието през нотифицирани органи. В неговия текст обаче изразът за наказателна отговорност при удостоверяване не се среща изобщо, а спътниковите чатботове по правило попадат само под изискванията за прозрачност, не под режима за високорискови системи.

Новото в калифорнийския текст е по-тясно и точно затова е интересно: рискът се премества от одитираната компания върху проверяващия. В същия раздел обобщението, което операторът изпраща до главния прокурор, изрично се подписва от негов служител без наказателна отговорност.

Обратът е в самия текст

Тук се появява подробност, която преразказите пропускат. Законопроектът съдържа две конкурентни версии на един и същ раздел. Първата влиза в сила само ако съседният законопроект AB 1405 не бъде вписан, а втората - само ако бъде вписан и влезе в сила най-късно на 1 януари 2027 година.

AB 1405 беше одобрен от губернатора и вписан на 9 септември 2026 година. Той създава регистър на одиторите на AI системи към 2029 година, тоест урежда самата професия.

При прочит на дословния текст изброяването в приложимата втора версия свършва по-рано и подписът на водещия одитор под наказателна отговорност не присъства в нея. Официално тълкуване по този въпрос към момента няма, а разминаването може да е техническо и да бъде поправено с последващ текст. Дотогава остава честното описание: механизмът, който прави закона забележителен, може и да не е този, който влиза в сила.

Какво следва оттук

Процесуалното състояние трябва да се чете буквално. Това е законопроект при губернатора, не действащ закон. Срокът е 30 септември 2026 година, а при бездействие текстът става закон и без подпис.

За читател, който мисли накъде расте търсенето на умения, посоката е ясна независимо от изхода. Създава се регистър на професия, която досега не съществуваше, а проверката на AI системи се превръща в работа с лична отговорност, изисквания за независимост и срокове.

Законът носи името на тийнейджър, починал през 2025 година. Родителите му съдят разработчика на чатбот в съд в Сан Франциско; делото е висящо, компанията отхвърля отговорност и съдът не се е произнесъл, тоест изложеното в иска остава твърдение на ищците.

Заключение

Калифорния не въвежда първия одит на алгоритми, а първия, при който проверяващият рискува лично. Дали точно тази част ще влезе в сила зависи от прочита на два текста, приети в един и същи ден.

Помагаме на български организации да подготвят AI системите си за проверка - документиране на риска, проследимост на решенията и вътрешни правила преди външния поглед. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при продукти, до които достигат непълнолетни потребители. [Свържете се с нас за консултация: academy@razvivai.se]