Scale AI: пет жалби за следене на хората, които обучават AI

преди 3 дни

време за четене: 3 мин.

Зад популярни модели като ChatGPT и Gemini стоят хора, които пишат задачи, сравняват отговори и поправят грешки. На 27 октомври европейската организация за защита на личните данни noyb подаде пет жалби срещу един от най-големите организатори на тази работа. Въпросът вече не е само колко се плаща за обучението на AI, а какво се събира от самите хора, които го обучават.

В домашен кабинет вечер жена на свободна практика работи на лаптоп и се обръща с подозрителен поглед към три робота с бележници, които надничат зад рамото ѝ и си записват всяко нейно движение.

Какво твърди noyb

Жалбите са срещу американската Scale AI и нейната платформа Outlier. Подадени са във Франция, Италия, Нидерландия и две в Австрия, заедно с френската Intérêt à Agir, изследователската група DiPLab и Reversing.Works. Според noyb Outlier работи с над 900 000 души на свободна практика, които пишат задачи и подреждат отговорите на моделите. Сред клиентите на Scale AI организацията посочва Meta, OpenAI, xAI, Google, Anthropic и правителството на САЩ, а според Reuters Meta притежава 49% от компанията.

Първото обвинение е за тракери. По техническия анализ на noyb, докато работникът е в платформата, на устройството му се зареждат тракери на TikTok, LinkedIn, Facebook, Sprig и Datadog. Те пращат на всеки няколко секунди IP адрес, данни за контакт, уникални идентификатори и коя страница е отворена. „Защо LinkedIn или Facebook трябва да знаят по коя задача работите?", пита Лиза Щайнфелд Лайзер, юрист по защита на данните в noyb.

Второто е за биометрията. Работниците минават многократно през проверка на самоличността чрез компанията Persona - видеозапис на лицето и качване на документ за самоличност.

Какво иска noyb и какво отговаря Scale AI

Според жалбите Scale AI няма законово основание да слага тракери без съгласие, нарушава принципа за минимално събиране на данни и не е отговорила на исканията на работниците да видят какво се пази за тях. noyb иска пълно разследване от органите по защита на данните и глоба.

Scale AI отхвърля твърденията. В отговор до The Register компанията заяви, че твърденията в доклада са „неоснователни и неточни", че практиките на Outlier са оповестени на участниците и изискват съгласието им, и че ползва стандартни инструменти за проверка на самоличността, срещу измами, за защита на поверителни проекти и за точни плащания. Жалбата е начало на процедура, не решение - органите тепърва ще проверяват.

Нашият анализ: работата зад моделите излиза на светло

Наблюдаваме смяна на фокуса. Според DiPLab досега спорът около данните за AI беше главно за данните на потребителите - от онлайн търговията, социалните мрежи и платформите за видео. Тук предметът са хората, които оценяват отговорите и пишат задачите. Според noyb над 40 милиона души вече работят в организирана чрез платформи работа, а изкуственият интелект разчита все повече на нея.

На 15 октомври DiPLab публикува доклада „Surveillance at Scale", а жалбите вече изваждат тази работа на светло по най-скучния и най-ефективния начин - чрез GDPR. За noyb и по логиката на GDPR човекът, който обучава модела, е работник с права, а не ресурс.

Какво може да се направи

Казусът засяга и фирми далеч от Scale AI. Всяка организация, която ползва платформа за свободни специалисти, инструмент за проследяване на работното време или външна проверка на самоличност, може да се озове в същата ситуация. Струва си да се провери кои външни скриптове се зареждат в работните инструменти, какви данни отиват при трети страни и дали биометрията е наистина необходима за целта.

За хората, които работят в такива платформи, първата стъпка е искането за достъп до данните по GDPR. Отговорът - или липсата му - е най-бързият начин да се разбере какво се събира.

Заключение

Жалбите на noyb срещу Scale AI изваждат на преден план невидимата част от веригата на AI - хората, които учат моделите. Как ще отсъдят органите в четирите държави, тепърва ще стане ясно, но посоката на въпроса вече е зададена.

Искате да започнете с AI от нулата? Безплатният курс „Основи на AI“ е 17 видео урока, около 35 минути, със сертификат: Започнете безплатния курс по AI

Помагаме на български фирми да внедряват AI инструменти и външни платформи така, че данните на служителите и сътрудниците да са защитени от първия ден. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при работа с платформи за свободни специалисти, проследяване на работата или биометрична проверка. [Свържете се с нас за консултация: academy@razvivai.se]