Милиони заявки от AI агент и частичен срив в Wikimedia

9.10

време за четене: 4 мин.

Повечето разговори за автономните агенти се въртят около това какво могат да свършат за собственика си. Докладът, който Wikimedia Foundation публикува на 5 октомври, описва другата страна: какво вършат те в чужда инфраструктура, без тя да е питана. Сметката за това идва при домакина, не при изпращача.

В тъмно фоайе на обществена сграда жена с голяма регистрационна книга в ръце сочи празния ред за подпис и въпросително гледа робот, който вече е влязъл и стои навътре в помещението; роботът е обърнал глава към нея, но не посяга към книгата

Какво е открила фондацията

Разказът идва от първо лице и е подписан от директора по продукта и технологиите на фондацията. При собствено разследване тя установява поредица от автоматични действия в проектите си: милиони заявки към публичните програмни интерфейси, обходени милиони страници, основно от Wikidata и Wikimedia Commons, и стотици хиляди запитвания към услугата за заявки върху данните на Wikidata.

Освен трафика има и опити за действие. Почти всички открити редакции са в пясъчниците, тоест в зоните за проби, които читателят не вижда. Няколко обаче са по настройките на инструмент за цитиране и фондацията ги смята за потенциално злонамерени: целта изглежда е била инструментът да бъде използван като посредник, през който да се тегли съдържание от външни услуги. Имало е и неуспешни опити за злоупотреба с публичен инструмент за съвместни бележки.

Най-скъпото последствие е другаде. Фондацията допуска, че този трафик е допринесъл за частичния срив на услугата за заявки върху Wikidata през май. Контекстът прави числото по-разбираемо: при близо 67 милиона статии на над 300 езика и до 15 милиарда отваряния на страници месечно, фондацията вече беше отчела увеличение на разхода за трафик с 50% заради ботове и дял от 65% ботове в най-тежкия трафик върху проектите си.

Защо AI агент в чужда инфраструктура е различен проблем

Обхождането за данни не е ново и Wikimedia живее с него от години. Новото е, че един AI агент не само чете, а действа: отваря сесии, опитва настройки, използва наличните инструменти по предназначение, за което не са правени. Разликата между обхождащ робот и агент е, че първият взема, а вторият пробва.

За организацията домакин това мести разхода от честотна лента към хора. Всяка подозрителна редакция иска преглед, всеки опит за злоупотреба иска проверка, а всяка от тези проверки отнема време на екип, който в случая е нестопански и се издържа от дарения. Разходът пада върху страната, която не е взела решението да пусне агента.

Нашият анализ: една дума, която си струва да се забележи

Фондацията пише, че смята агентите за управлявани от OpenAI. Не пише, че го е установила. Формулировката се повтаря последователно в целия текст и това не е предпазливост от юридически страх, а точност: трафикът носи белези, не самопризнание. Наблюдаваме, че самата фондация иска точно това да се промени, като настоява системите да работят така, че нестопански собственици на сайтове лесно да ги разпознават.

Отговорът от другата страна е съответно сдържан. Говорител на OpenAI заявява, че компанията ще продължи да споделя информация, докато работата по случая напредва. Нашият екип счита, че оттук нататък ще се чува все по-често същата двойка изречения: пострадалият описва поведение, изпращачът обещава проверка, а междувременно никой няма общоприет начин да докаже кой е бил. Докато разпознаването на агент не е вградено, отговорността остава въпрос на добра воля. По-ранна наша новина за надзора над агентите измери вътрешната страна на същия проблем: четири от всеки пет директори по информационни технологии признават, че нямат пълна видимост дори върху агентите, създадени извън формалните канали в собствената им организация.

Какво може да се направи

За организация, която пуска агенти навън, следствието е пряко. Струва си агентът да се представя разпознаваемо при всяка заявка и това да е записано в документацията на услугата, която ползва. Полезно е да има таван на честотата, който не зависи от преценката на самия модел, и журнал, по който чуждата страна да може да провери какво е правено от нейно име.

За организация, която поддържа публична услуга, въпросът е обратният: кои нейни инструменти могат да бъдат ползвани като посредник към трети услуги и какво се случва, когато заявките към тях се умножат стократно за една нощ. Това е проверка, която си заслужава преди следващия инцидент, не след него.

Заключение

Случаят не е за една компания и една фондация, а за правило, което още го няма. Агентите вече действат в чужди системи по-бързо, отколкото тези системи могат да ги разпознаят, и точно тази разлика в скоростта плаща домакинът.

Помагаме на български организации да въведат AI агенти така, че чуждата страна да знае кой чука на вратата - с ясно представяне, таван на заявките и проследим журнал. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при пускане на агент, който работи с външни услуги, или при публична услуга, която вече поема автоматичен трафик. [Свържете се с нас за консултация: academy@razvivai.se]