OpenAI забави Astra заради кибер способностите ѝ

9.08

време за четене: 3 мин.

Предварителните оценки на предстоящия модел показали резултат, при който компанията не може да изключи най-високото ниво на риск в киберсигурността. Работата по модела беше ограничена, преди той изобщо да е стигнал до потребители. Формулировката на самата компания е по-предпазлива от заглавията, които я предадоха.

Хуманоиден робот държи ключ пред отворена сървърна врата, а втори робот застава между него и вратата с вдигната длан

Какво точно беше ограничено

Съобщението на OpenAI от 7 август се предаде на много места като спиране на разработката. Точната формулировка е по-тясна: спряна е онази част от вътрешната работа по Astra, която още не отговаря на новите, по-строги изисквания за сигурност. Работата, която ги покрива, продължава.

Разликата не е дребнава. Спряна разработка означава, че моделът е замразен. Спряна несъответстваща работа означава, че се вдига прагът, а всичко под него изчаква да го достигне.

Мерките, които компанията изброява, са конкретни: изолирани тестови среди, по-стеснен мрежов и инструментален достъп, по-силна защита и криптиране на теглата на модела, наблюдение на разсъжденията в реално време и автоматично спиране при рискови действия. Предвижда се и външно тестване съвместно с правителствени агенции и с независими организации за безопасност. Дата за пускане не е обявена. Цени също не са обявени.

Какво значи критично ниво на кибер способности

Вътрешната рамка на компанията за оценка на риска подрежда кибер способности в няколко нива и дефинира най-високото така: модел, който може сам да открива и разработва работещи уязвимости от нулевия ден, при това от всички степени на сериозност, в множество добре защитени реални критични системи и без човешка намеса. Алтернативно определение покрива модел, който измисля и изпълнява изцяло нови стратегии за атака срещу добре защитени цели, получил само обща формулировка на целта.

Тук е и най-важното уточнение. Компанията не заявява, че Astra е достигнала това ниво. Заявява, че предварителните оценки показват достатъчно силно представяне, за да не може нивото да бъде изключено на този етап. Затова моделът се третира като критичен, докато тестването продължи.

Разстоянието между „не можем да изключим" и „потвърдено" е точно там, където повечето преразкази се подхлъзват. Второто е новина за постигнат праг. Първото е новина за въведена предпазливост.

Защо предпазливостта е по-интересна от способността

Досегашните забавяния в сектора идваха след натиск: регулаторен, съдебен или медиен. Тук лабораторията сама обявява, че ограничава собствения си продукт, преди някой да е поискал това от нея, и преди продуктът да съществува публично.

Нашият екип отчита и другата страна. Обявената предпазливост е и позициониране: тя описва модела като толкова способен, че е опасен. Твърдението не подлежи на независима проверка, защото моделът не е достъпен, а оценките са вътрешни. Външното тестване, което компанията обещава, ще бъде първата точка, в която твърдението може да бъде проверено отвън.

Същият модел беше представен на 1 август с решения на десет дълго стояли открити задачи в математиката и теоретичната информатика, придружени с машинно проверими доказателства. Разходът за генерирането на самите доказателства е оценен на около 2000 долара по тарифите за достъп до по-ранен модел. Това е разходът за десетте решения, не цената на обучението на модела.

Какво следва от това за една организация

Практическият извод не е за Astra, а за инструментите, които вече работят. Ако най-способните модели се движат към способност да откриват уязвимости самостоятелно, същата способност ще е достъпна и от другата страна, при това без съпътстващите ограничения.

Полезната стъпка е скучна: обновяване на софтуера в срок, отделяне на достъпите и наблюдение на това какво правят автоматизираните инструменти, на които вече е даден достъп до системи. Тези мерки не зависят от това дали конкретният модел ще излезе.

Заслужава внимание и мащабът, в който защитата се финансира. Отделна програма на същата компания предоставя 10 милиона долара достъп за организации, работещи в киберзащитата, но тя е обявена през април и не е част от новината за Astra. Двете лесно се сливат в един разказ за отговорност, а са различни решения, взети в различни моменти.

Заключение

Новината не е, че е създаден опасен модел. Новината е, че производителят пръв обяви съмнението и че проверката му предстои да бъде направена отвън.

Помагаме на български организации да преценят кои AI инструменти да пуснат до системите си и при какви ограничения - с оценка на реалния риск, а не по заглавия. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при вече работещи автоматизации, които имат достъп до вътрешни данни или до кода на организацията. [Свържете се с нас за консултация: academy@razvivai.se]