Работещ експлойт три часа след смяната на модела

19.09

време за четене: 3 мин.

Разговорът за това колко бързо напредват моделите обикновено върви на класации и на усещания. На 18 септември специализирано издание описа случай със стенен часовник в него. Една и съща задача не се получава с модела от предишното поколение и се получава за три часа с новия, пуснат същата вечер.

Инженерка по сигурността стои между два еднакви терминала, на левия робот е спрял пред глуха стена, а на десния същият робот вече е минал през отворена врата, и тя гледа объркано настолния календар помежду им

Какво се е случило

Изследователи от фирмата Hacktron публикуваха на 13 септември дневник на работа, извършена през юли. Веригата започва от пропуск в библиотека за обработка на изображения, която стои под форумния софтуер на публичната общност на OpenAI. Качен нарочно повреден файл води до изпълнение на чужд код на сървъра, а оттам през настройките за единен вход се стига до служебни самоличности, свързани с хранилища за код, вътрешни разговори и поща.

Целият път от откриването до достъпа е отнел под 72 часа. Екипът е отворил заявка за промяна във вътрешно хранилище, за да покаже докъде е стигнал, и изрично посочва, че не е изнасял код. OpenAI е поправила за около 14 часа и е платила 6500 долара, като е отбелязала, че тестовете срещу форума изобщо не са част от програмата ѝ за награди.

Защо работещ експлойт се появи чак при новия модел

Тук е измерването, заради което историята си струва. Защитата, която е спирала екипа, е разбъркването на адресите в паметта - механизъм, който мести разположението на програмата при всяко пускане, така че една и съща атака да не сработва повторно. С модела от предишното поколение екипът е стигнал до работещ експлойт само при изключена защита. С включена защита не се е получило и точно това е записано в дневника.

Вечерта на същия ден излиза следващото поколение. Екипът му подава задачата и описва, че за три часа получава действащо решение за процесорната архитектура на собствената си машина, след което го пренася към средата на сървъра. Времето за пренасянето не е обявено, а сесиите са водени от хора, не са оставени да се самоуправляват - двете уточнения често падат в преразказите.

Стойността на този случай е в това, че двата опита са сравними: една задача, един екип, една вечер разлика. Такива измервания почти не съществуват публично, защото никой не документира провалите.

Какво следва от това за организациите

Първото следствие е за планирането. Ако прозорецът между появата на ново поколение и появата на нови възможности за нападателя е една вечер, тогава оценката на риска не бива да се обновява веднъж годишно. Въпросът не е дали защитата е издържала досега, а колко от нея се крепи на това, че написването на атаката е било скъпо.

Второто е за веригата от компоненти. Пробивът тръгва от библиотека за изображения, която организацията почти сигурно не е избирала съзнателно - тя е дошла с форумния софтуер. Списъкът на компонентите, които се изпълняват върху чужди файлове, е по-къс, отколкото изглежда, и си струва да бъде изписан поименно.

Заключение

Историята се чете като новина за пробив, а е по-скоро измерване. Разстоянието между две съседни поколения модели беше разликата между непостижимо и три часа, при една и съща задача и един и същ екип.

Помагаме на български организации да подредят кои външни компоненти обработват файлове от непознати и колко често се проверява рискът от тях. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при среда, в която публично достъпна услуга приема качени от потребители файлове. [Свържете се с нас за консултация: academy@razvivai.se]