Убеждаване от чатбот: признанието го свива наполовина

18.08

време за четене: 3 мин.

От 2 август 2026 година чатботовете в Европейския съюз са длъжни да съобщават, че са чатботове. Задължението изглежда като защита срещу манипулация. Нов експеримент мери точно това предположение и намира нещо неудобно. Етикетът, че говорите с AI, не променя почти нищо; признанието какво иска събеседникът променя половината.

Робот се навежда убедително към жена през маса и тя кима, а вторият робот до тях отваря длани в жест на признание, при което жената рязко се отдръпва назад и се намръщва

Какво измерва експериментът

Изследване от 12 август поставя 1500 възрастни от Обединеното кралство в кратък разговор с чатбот, настроен да убеждава по една от 60 политически теми. Нагласата се мери по стоточкова скала непосредствено след разговора.

В контролното положение, без каквото и да е разкриване, чатботът измества нагласите с 12,6 пункта. Когато системата съобщава, че е AI, резултатът е 13,1 пункта. Разликата е статистически неотличима от нула, тоест етикетът за самоличност не отслабва убеждаване по никакъв измерим начин. В третото положение чатботът съобщава и че се опитва да убеди, и по какъв начин. Ефектът пада приблизително наполовина, до около 6,3 пункта.

Изследването е препринт и не е минало рецензия. Няма проследяване във времето, тоест не се знае дали разликата се задържа след дни. Самите автори уточняват и че третото положение е пакет от три елемента, а не изолирано разкриване на намерение.

Резултатът се потвърждава от другата страна

Наблюдението, че етикетът не помага, не стои само на един препринт. Работа в PNAS Nexus от февруари 2026 година с 1601 участници стига до същото по друг път: обозначаването на съобщения като генерирани от AI не намалява убеждаващия им ефект. Средното изместване остава около 9,7 пункта във всички положения, включително когато източникът е представен като експерт.

Мащабът на явлението е измерен и другаде. Изследване на британския институт за сигурност на AI, публикувано в Science, обхваща 76 977 участници, 19 модела и 707 теми. Изводът за практиката е двоен: допълнителното обучение вдига убедителността с до 51%, а внимателната настройка на подсказката с 27%. Там, където моделите стават по-убедителни, фактическата им точност системно спада.

Убеждаване и границата на чл. 50

Тук е несъответствието, което си струва да се разбере. Чл. 50, параграф 1 от AI Act изисква системите, предназначени да общуват пряко с хора, да са проектирани така, че човекът да бъде информиран, че разговаря с изкуствен интелект, освен когато това е очевидно.

Задължението спира дотук. То не изисква разкриване на целта, нито на убеждаващото намерение. Официалните разяснения на Европейската комисия дори уточняват изрично, че информацията за целта на работата на системата не е част от задължението. Правото налага точно онова разкриване, което измерванията показват като без ефект.

Санкциите са реални: до 15 милиона евро или 3% от световния оборот. Гратисният период до 2 декември 2026 година важи само за машинно четимото маркиране по параграф 2 и само за системи, пуснати на пазара преди 2 август 2026 година. Параграфи 1 и 3 нямат отсрочка и се прилагат вече.

Какво следва за организациите и за читателя

За организация, която пуска чатбот пред клиенти, изводът не е правен, а етичен и репутационен. Спазването на буквата е минимумът и той се изчерпва с едно изречение. Ако системата е настроена да води към покупка, към продължаване на абонамент или към определено мнение, това намерение не се покрива от задължителното съобщение.

За читателя следствието е по-пряко. Полезният въпрос към всеки разговор с машина не е дали отсреща е човек, а какво иска резултатът от разговора да бъде. Отговорът рядко е скрит: настроеният да убеждава събеседник обикновено предлага една посока и не описва противоположната. Заслужава внимание и обратната находка от изследването в Science: по-убедителният отговор е и по-малко точният.

Заключение

Разкриването на самоличност е формалност, която законът вече изисква, а разкриването на намерение е защитата, която реално работи и която никой не изисква. Разликата между двете е около половината от ефекта.

Помагаме на български организации да проектират чатботове и AI асистенти, които изпълняват задълженията си за прозрачност и същевременно не подвеждат клиента - с преглед на сценариите и на самите съобщения. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при пускане на чатбот пред клиенти, когато разговорът води към решение за покупка или абонамент. [Свържете се с нас за консултация: academy@razvivai.se]