AI доказателство, което никой отвън не е чел

преди 6 дни

време за четене: 4 мин.

На 8 септември OpenAI обяви, че около десет хиляди едновременни агента са произвели доказателство по една от седемте задачи от списъка Millennium Prize, а формализацията в Lean е отнела още седемнайсет часа. Самата компания заяви, че няма да претендира за наградата. Текстът на доказателството обаче не е публичен, а математикът, тръгнал по същия маршрут, е слагал черновите си в Codex и на прекия въпрос дали моделът е обучаван върху тях не е получил отговор.

Робот подава затворена папка с восъчен печат на човек, който вече протяга ръце към нея, но между двамата стои дебела стъклена преграда, а по пода са разпилени ръкописни листове, които никой не вдига

Какво обяви OpenAI и какво не показа

Задачата за уравненията на Навие-Стокс описва движението на течности и е една от седемте задачи с награда от 1 милион долара. Официалната ѝ формулировка, написана от Чарлс Фефърман за Clay Mathematics Institute, съдържа четири отделни твърдения и решаването на което и да е от тях е достатъчно. Първите две изискват силата да е нулева. Третото и четвъртото изрично допускат гладка сила, и точно към тях OpenAI насочва резултата си.

Тоест разпространеното из мрежата обвинение, че компанията е решила „грешната" задача, не се потвърждава от самия документ на Clay. Числата, които компанията съобщава, са конкретни: резултатът е дошъл 88 часа след пуска, а формализацията в Lean е минала през GPT-6 Astra. Clay Mathematics Institute обаче продължава да води задачата като нерешена, а самата OpenAI заяви, че няма да иска наградата.

Защо всяко AI доказателство иска публичен текст

Тук е реалната слабост, независимо от математиката. Успоредната работа на Тристан Бъкмастър и Левент Алпьоге, която доказва подобни резултати за три по-прости уравнения, е публикувана изцяло: текст на сайта на Courant Institute и формализация в Lean, качена в публично хранилище. Всеки може да я свали и да я провери сам. Стостраничното доказателство на OpenAI не е видяно от никого извън компанията, включително от математиците, работили по същия маршрут.

Формализацията в Lean е силен инструмент, защото програма проверява всяка стъпка вместо човек. Но тя доказва нещо само на онзи, който я е пуснал. Едно AI доказателство става проверимо от това, че текстът и кодът са публични, а не от съобщението, че някой ги е проверил. Теренс Тао, който описа работата в блога си като силно подпомогната от AI, отбеляза и че резултатът вероятно може да се получи и без члена за силата, тоест и по строгия маршрут.

Под двата резултата стои и трети, изцяло човешки. И Тао, и Бъкмастър приписват изходната стратегия на Диего Кордоба и Луис Мартинес-Зороа, които отварят маршрута с гладката сила години преди тазгодишните обявления. Тоест въпросът за приноса има три слоя: кой е измислил подхода, кой го е довел докрай и кой е съобщил резултата. Само последният слой е видим от съобщението.

Спорът за приноса и черновите в Codex

Бъкмастър публикува подписано изявление от четири страници. В него описва как е попитал дали моделът е обучаван върху техните сесии в Codex, в които екипът е слагал всичките си чернови по проекта. Отговорът бил, че моделът не търси в потребителски данни. На повторния въпрос за обучението отговор не е дошъл.

OpenAI заявява, че нито изследователите, нито агентите са виждали чуждата работа преди публикуването ѝ и че за решаването на задачата не е ползвана конкретна потребителска информация. В същия текст компанията добавя, че не може да изключи възможността обезличени данни от ползването на нейните продукти да са помогнали за подобряването на моделите. Двете изречения не си противоречат, но обещават различни неща.

Бъкмастър описва и спор за авторството, при който съавторът му е бил поискан за отпадане. Себастиен Бубек от OpenAI нарече публично твърденията неверни и подстрекателски. Самият Бъкмастър пише изрично, че не е видял доказателството на OpenAI, не знае какво е направил моделът и не обвинява никого, а само описва какво му е било казано и кога.

Какво следва за всяка организация

Историята изглежда далечна, но положението е познато на всеки, който подава чернова, договор или вътрешен анализ на AI инструмент. Въпросът към доставчика не е „четете ли данните ми", а „обучавате ли се върху производни от тях, и къде точно пише това". Разликата се чете в условията на конкретния план, не в общото съобщение на компанията.

Практическата стъпка е скучна и работи: преди да влезе непубликувана работа в чужд инструмент, се проверява кой точно план е активиран и какво изрично изключва той. Обещанието „не четем вашите данни" и обещанието „не се обучаваме върху нищо, извлечено от тях" са различни обещания и рядко стоят в едно и също изречение.

Заключение

Спорът около Навие-Стокс не е за това дали машина може да прави математика, а за това дали резултатът може да бъде проследен обратно до своя произход. Докато текстът стои затворен, единственото, което остава на външния наблюдател, е доверие, а доверието не е метод за проверка.

Помагаме на български организации да ползват AI инструменти, без да изнасят навън работата си - с ясни правила кой инструмент за какви данни се допуска. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при въвеждане на AI помощници в екипи, които работят с непубликувани разработки, клиентски договори или вътрешни анализи. [Свържете се с нас за консултация: academy@razvivai.se]