AI агентите като риск: Apple ги вписа в годишния си отчет

преди 1 ден

време за четене: 4 мин.

На 3 ноември Apple подаде годишния си отчет пред американския регулатор SEC. В раздела с рисковете се появява отделен абзац за AI агентите - системи, които сами изпълняват задачи във вътрешни и външни системи. Компанията, която още няма собствен агент, предупреждава акционерите, че не може напълно да контролира чуждите.

В офис със смесено осветление жена ръководител натиска бутона на дистанционно, насочено към робот асистент, но роботът продължава да слага кутии в количка до касов терминал, а колегата ѝ гледа изненадано ту дистанционното, ту робота.

Какво пише Apple за AI агентите

Годишният отчет по форма 10-K съдържа раздел, в който компанията изброява какво може да навреди на бизнеса ѝ. Тази година в него стои подробно описание на това какво могат агентите. Според Apple AI агентите могат да действат сами, включително да влизат във вътрешни и външни системи, до които понякога нямат право на достъп, да изпълняват или променят код, да изпращат съобщения и да завършват транзакции.

Следва списък с възможните отклонения. Агентите могат да се държат по непредвидени начини, да предприемат действия, които никой не е поискал, да надхвърлят правата си, да не изпълняват указания и да заобикалят защитите на Apple или на трети страни. Могат и да бъдат манипулирани чрез зловредни входни данни. Отчетът добавя, че такива системи могат да крият действия, да укриват или изкривяват информация и да дават неточни или подвеждащи резултати.

Най-тежкото изречение е за последиците: изтриване на данни или завършена транзакция може да е трудно или невъзможно да се върне. Според Apple поведението на агентите трудно се предвижда, контролира, тества и одитира, а грешките могат да се натрупват при задачи с много стъпки.

Кое е новото в отчета

В годишния отчет за 2025 г. агентите, автономните системи и свръхинтелектът не се споменават. Общият рисков фактор за изкуствения интелект се появява в тримесечния отчет от 1 май 2026 г. и изброява сред другото конкуренцията, интелектуалната собственост, защитата на данните, киберсигурността и защитата на непълнолетните.

В годишния отчет сред добавените пунктове са „непредвидени или неразрешени действия на автономни или агентни системи", злоупотребата с AI от служители и други лица, неразрешеният достъп до поверителна информация и промяната в общественото мнение. Целият абзац за агентите е нов. Нов е и свръхинтелектът: Apple го споменава до изкуствения интелект в рисковете от търговските ограничения, от различните закони и от негативното потребителско възприятие.

Тоест Apple не започва да говори за AI риск сега - тя вече описва поименно агента като отделен източник на риск.

Защо Apple гледа и към чуждите агенти

Според CNBC Apple засега няма агентен продукт, а новият ѝ изпълнителен директор Джон Тернъс каза на разговора за финансовите резултати, че компанията има „реално място" да разшири възможностите на Siri. Той добави, че агентите са обещаващ инструмент, но потребителите трябва да знаят какъв достъп дават.

Отчетът казва изрично, че рискът идва и от агенти, създадени или пуснати от трети страни, и че способността на Apple да ги наблюдава и контролира може да е ограничена. Предупреждението не идва изневиделица. На 2 октомври компанията обяви пред разработчиците, че ще затегне настройката Full Disk Access в macOS и добави, че с по-способните и автономни AI агенти рискът от такъв достъп ще расте, както описахме в по-ранна наша новина. Сега същата грижа стига и до документа за акционерите.

Какво значи AI агент с достъп за Вашия бизнес

Apple пише за собствените си рискове, но описанието ѝ е полезно за всяка фирма, която мисли да даде на AI агент достъп до пощата, плащанията или кода. Изброените отклонения описват действия, които агентът може да извърши, ако има правата за това.

Практическото следствие е, че решението се взема по правата, а не по модела. Колкото по-необратимо е действието, толкова по-малко право трябва да има агентът да го извърши без човек. Плащане, изтриване и изпращане навън са първите кандидати за изрично одобрение. В по-ранна наша новина описахме как обикновен файл с инструкции може да поеме контрола над агент за писане на код - точно случаят „манипулиран чрез зловредни входни данни" от отчета на Apple.

Заключение

Когато компания с размера на Apple описва AI агента като отделен риск в годишния си отчет, темата излиза от лабораторията и влиза в счетоводството на риска. Правата, които фирмата дава на агента, вече са бизнес решение.

Искате да започнете с AI от нулата? Безплатният курс „Основи на AI“ е 17 видео урока, около 35 минути, със сертификат: Започнете безплатния курс по AI

Помагаме на български фирми да въведат AI агенти с ясни граници - кои системи виждат, кои действия правят сами и кои чакат човешко одобрение. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация, преди агент да получи достъп до пощата, плащанията или базата с данни на клиентите. [Свържете се с нас за консултация: academy@razvivai.se]