ООН и глобално управление на AI: САЩ отказаха рамка

26.09

време за четене: 4 мин.

Съветът за сигурност на ООН и неговите членове са обсъждали изкуствен интелект в шест формални и неформални заседания. На 23 септември в залата влязоха и шефовете на две от водещите лаборатории, за да поискат правила за собствения си отрасъл. Заседанието свърши без механизъм, без дата и без орган, защото най-големият играч отказа предварително.

Четирима делегати около кръгла заседателна маса слагат подписи върху една обща карта, а пети мъж се изправя и сгъва своя лист на две, докато робот стои встрани от масата с молив в ръка и чака кой ще му подаде листа

Какво се случи на 23 септември

Франция държи председателството на Съвета за сигурност през септември и свика заседание на високо равнище по темата „Изкуствен интелект и международна сигурност". То се проведе по време на високия сегмент на 81-вата сесия на Общото събрание, а председателстваше френският министър на Европа и външните работи Жан-Ноел Баро.

Докладваха четирима: Йошуа Бенджио като съпредседател на Независимия международен научен панел по AI към ООН, Сам Алтман от OpenAI, Дарио Амодей от Anthropic и Клеман Деланг от Hugging Face. Амодей каза, че при лошо управление вярва, че AI може да бъде риск за човечеството като цяло. Алтман предупреди за опасността да се загуби контрол върху бъдещето на технологията и добави, че ако AI трябва да е демократичен, най-важните решения не могат да се вземат само от лаборатории в Сан Франциско.

Бенджио описа опасността като безпрецедентна заплаха за държавите, която никоя не може да овладее сама и която не уважава границите, които те защитават. Четирима от хората, които строят или оценяват тези системи, седяха в зала, чиято обичайна тема са войните.

Отговорът на Съединените щати беше формулиран в едно изречение. Майкъл Кратсиос, представител на администрацията, заяви, че отхвърля напълно всички опити международни органи да налагат централизирано управление и глобално управление на AI. Позицията е в линия с националния подход, който страната развива от лятото и който беше предмет на по-ранна наша новина. Външните министри на Франция и Великобритания застъпиха обратното, че международната общност трябва да се намеси и да създаде общи рамки.

Защо глобално управление на AI няма да има скоро

Причината не е липса на институции, а липса на съгласие между тези, които вече съществуват. Общото събрание прие през 2024 г. необвързваща резолюция за изкуствения интелект. През изминалата година ООН създаде два органа по темата, включително научния панел, който Бенджио съпредседателства и чиято първа оценка беше предмет на по-ранна наша новина, а Глобалният цифров пакт им дава обща рамка. Всичко това е налице и не е използвано за нищо задължително.

Заседание на високо равнище в Съвета за сигурност не произвежда документ само по себе си, а изслушва. За обвързващо решение по темата е нужна резолюция, а тя минава през петте постоянни членове с право на вето. Когато един от тях обяви позицията си като отказ преди началото на разговора, липсата на изход не е провал на заседанието, а негово предвидимо съдържание.

Нашият анализ: отрасълът също не говори с един глас

Лесно е този ден да се разчете като „лабораториите искат правила, а държавите не дават". Същият 23 септември опровергава тази подредба. Докато Амодей и Алтман говореха в Ню Йорк, Марк Зукърбърг представяше нови устройства и отхвърли публично призивите за забавяне: по думите му пътят към безопасно бъдеще е технологията да се разпространи широко и да се създадат правилните проверки и равновесия, вместо да се съсредоточи в ръцете на малцина.

Тоест разделението не минава между отрасъл и власт. То минава между два подхода към риска, и то вътре в самия отрасъл. Компанията, чиито продукти стигат до най-много хора, застъпва точно обратното на онова, което искаха двамата в Съвета за сигурност. Наблюдаваме, че всяко позоваване на „позицията на индустрията" по този въпрос в момента е избор на една от няколко позиции.

Какво значи това за европейския бизнес

Практическото следствие е по-просто от геополитиката. Щом глобален орган няма да определя правилата, те продължават да идват от регионалните регулатори, а за България това означава европейските. Регламентът за изкуствения интелект остава единственият задължителен текст, по който български доставчик или внедрител ще бъде проверяван, независимо какво е казано в Ню Йорк.

Планирането на съответствие не бива да чака международна рамка, защото няма основание да се очаква такава в обозримо време. Струва си вътрешният ред да се подготвя по действащия европейски график: класификация на системите по риск, задължения за прозрачност при взаимодействие с потребител и документиране на използваните модели. Ако международна рамка се появи по-късно, тя ще стъпи върху нещо вече подредено, вместо да завари празно място.

Заключение

Заседанието сложи четирима от строителите на технологията пред органа, който се занимава с войни, и не стигна до нито едно общо изречение. За всяка организация, която работи с AI днес, това е по-скоро потвърждение, отколкото новина: правилата ще бъдат регионални още дълго.

Помагаме на български организации да подредят съответствието си по европейските изисквания за изкуствен интелект, без да чакат глобална рамка. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при екипи, които все още не са класифицирали своите AI системи по риск и не са уредили прозрачността към потребителите. [Свържете се с нас за консултация: academy@razvivai.se]