KPMG оттегли доклад заради AI халюцинации

Моника Данова
15.06
време за четене: 3 мин.

Глобална консултантска фирма от Голямата четворка публикува доклад за силата на AI - и трябваше да го изтегли, защото самият доклад се оказа пълен с измислици на AI. Случаят не е повод за злорадство, а най-ясният възможен урок. Когато дори KPMG пострада, проверката на AI спира да е препоръка и става дисциплина.

Какво се случи

KPMG изтегли доклада си „Redefining excellence in the age of agentic AI", публикуван през октомври 2025, след като няколко от организациите, посочени в него като примери, заявиха, че твърденията за тяхната употреба на AI са неверни или подвеждащи. Сред тях са швейцарската банка UBS, британската Национална здравна служба (NHS), швейцарските федерални железници и транспортът на Лондон (Transport for London).

Както съобщи Financial Times, изследователската група GPTZero е прегледала доклада и е установила, че само 5 от 45-те цитата съвпадат коректно с източниците си. Останалите са определени като подвеждащи, частично измислени или трудни за проверка. KPMG свали доклада от сайтовете си и започна вътрешно разследване. Доклад за това колко добре работи AI се оказа доказателство какво се случва без проверка.

Какво всъщност са AI халюцинации

Терминът звучи технически, но смисълът е прост. AI халюцинации са уверено поднесени твърдения, които изглеждат правдоподобно, но не отговарят на реалността - измислен цитат, несъществуващ източник, събитие, което не се е случило. Моделът не „лъже" в човешкия смисъл; той генерира текст, който звучи правилно, без да проверява дали е истина.

Точно тук е капанът. AI халюцинации са най-опасни, когато са правдоподобни, защото минават покрай бързия преглед. В случая на KPMG фалшивите казуси за реални, разпознаваеми организации са изглеждали достатъчно убедителни, за да влязат в публикуван доклад на одиторска фирма. Опасното не е грешката, която се вижда, а тази, която звучи добре.

Защо това засяга всеки, който ползва AI

Лесно е историята да се прочете като чужд проблем - голяма фирма, голям доклад. Но същият механизъм важи за всяка оферта, статия, анализ или имейл, написани с помощта на AI. Ако организация с ресурсите на KPMG може да пропусне измислици, то всеки екип без процес за проверка е изложен на същия риск.

Случаят не е изключение. По-рано и EY изтегли документ с фалшиви бележки под линия и подобни неточности. С други думи, не става дума за един провален доклад, а за повтарящ се модел при употребата на AI без надзор. Инструментът е същият за всички; разликата я прави процесът около него.

Какво да направим различно

Поуката не е „не ползвайте AI", а „не публикувайте непроверено". Самата KPMG го формулира така: очаква от хората си да следват насоките за отговорна употреба на AI, включително човешки надзор за валидиране на съдържанието и проверка на независими източници.

На практика дисциплината е проста и се побира в няколко навика: всеки факт, цитат и източник се сверява с първоизточник; имена на реални хора и организации се потвърждават; числа и дати се проверяват отделно. Това отнема минути, а спестява точно този тип публичен провал. AI ускорява писането; проверката остава човешка работа.

Заключение

Случаят с KPMG е скъп урок, поднесен безплатно на всички останали. AI е силен помощник, но не е източник на истина - и колкото повече се разчита на него, толкова по-важен става човекът, който проверява. Дисциплината за проверка не е спирачка пред скоростта, а условието тя да е безопасна.

Помагаме на български организации да въведат отговорна употреба на AI с ясен процес за проверка - така че скоростта на AI да не идва за сметка на точността. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при изграждане на вътрешни правила за проверка на съдържание, създадено с AI. [Свържете се с нас за консултация: academy@razvivai.se]