Безопасност на AI: три рецепти, които не се сглобяват

24.09

време за четене: 4 мин.

На 23 септември Съветът за сигурност на ООН заседава за пръв път по рисковете от все по-способните AI системи. Поканени бяха ученият, който съпредседателства международния научен панел, и трима ръководители на компаниите, които строят тези системи. Четиримата описаха един и същ риск и предложиха три взаимно изключващи се решения.

Трима души в заседателна зала подават едновременно три различни чертежа през масата към робот, който стои с празни ръце и не знае кой да вземе

Кой седна на масата

Заседанието беше свикано от Франция, която е председател на Съвета през септември, по време на високото равнище на 81-вата сесия на Общото събрание. Председателства френският министър на външните работи Жан-Ноел Баро, а точката в дневния ред е стандартната за Съвета: поддържане на международния мир и сигурност.

Докладчиците са четирима. Йошуа Бенджио, съпредседател на Независимия международен научен панел на ООН за изкуствен интелект. Сам Алтман от OpenAI, присъствено. Дарио Амодей от Anthropic, дистанционно. Клеман Деланг от Hugging Face. Бенджио се позова на вече документирани случаи, в които агенти са излизали извън средата, в която са изпитвани, и определи това като едно от най-ясните реални предупреждения за възможен път към загуба на човешки контрол.

Три рецепти за безопасност на AI

Бенджио предложи най-строгото: граничните системи да се лицензират, както се лицензират лекарствата, авиацията и ядрената енергия, със задължителна застраховка за отговорност и задължително докладване на инциденти.

Амодей предложи три стъпки от друг вид. Първата са оценители, вградени в самите компании. Втората е посредничество от държавите за антитръстови изключения, така че конкуренти да могат да се договарят помежду си за темпото, без това да е нарушение. Третата са общи ограничения на скоростта при системите, които усъвършенстват сами себе си. Алтман застана зад вградените оценители и добави, че изборът е между нов разцвет на творчеството и откритията и ново индустриално сътресение.

Втората стъпка заслужава отделно внимание, защото точно около нея вече има съдебно производство. Колективният иск, заведен на 18 септември в Калифорния и предмет на по-ранна наша новина, твърди, че съгласуването на темпото между конкуренти е нарушение на антитръстовото право. Тоест едната от трите рецепти иска от държавите да узаконят точно това, което в момента се оспорва в съда.

Деланг каза обратното на първите двама: не е време за забавяне, а за ускоряване. Неговото предложение е за задължително споделяне на следите, които агентите оставят, за оповестяване на киберинциденти и за по-широк достъп на защитаващата страна. Едното иска разрешителен режим преди пускането, другото иска повече прозрачност след него, а третото иска право на съгласуване между конкуренти.

Какво липсва в картината

Заседанието беше брифинг, не гласуване. По отразяването на Associated Press от залата Съветът не прие нито резолюция, нито изявление, тоест нищо от казаното не задължава никого. Това не е недостатък на срещата, а нейният формат, и е важно да се знае, преди някой да я чете като регулаторна стъпка.

Държавите също не тръгнаха в една посока. Представителят на САЩ заяви, че опасенията не са основание развитието да се спира или да се ограничава с ново глобално управление. Китай настоя всяка държава да избира технологията си свободно и предупреди срещу разделянето на света на два лагера. Тоест на масата имаше не три, а пет несъвпадащи позиции, като двете от тях принадлежат на държавите с най-голяма тежест в Съвета.

Политическият фон е по-показателен от самото заседание. Ден по-рано, на 22 септември, президентът на САЩ заяви пред Общото събрание, че страната му изцяло отхвърля всеки опит да се изгради глобалистка схема за контрол над изкуствения интелект. Двама американски ръководители отидоха да поискат международна рамка на следващия ден след като собственото им правителство публично отказа такава. Съобщава се и че китайските DeepSeek и Moonshot AI са били поканени да участват, но протоколната бележка на Съвета изброява само четиримата докладчици.

Нашият анализ

Нашият екип счита, че практическата стойност на деня не е в поканите, а в разминаването. Досега разговорът за безопасност на AI се водеше така, сякаш отрасълът има обща позиция, а държавите се бавят. На 23 септември стана видимо, че обща позиция няма: трите предложения на една маса водят до три различни регулаторни режима, с различни разходи и различни победители.

За организация, която планира употреба на такива системи, следствието е трезво. Чакането на единно правило означава чакане на нещо, което участниците в разговора още не са съгласували помежду си. Планирането върви по това, което вече е в сила, а не по това, което се обсъжда в Ню Йорк.

Заключение

Първото заседание на Съвета по тази тема показа, че рискът се признава единодушно, а лекарството не. Дотогава единственото проверимо основание за решения остава действащото право, а не изказванията пред него.

Помагаме на български организации да отличават обявено намерение от влязло в сила задължение и да планират по второто. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при изграждане на вътрешни правила за употреба на гранични модели. [Свържете се с нас за консултация: academy@razvivai.se]