В Италии заблокировали чат-бот за сбор персональных данных

В прошлом году пользователи прислали множество жалоб на чат-бот Replika. Они заявили, что Replika активно использует излишне откровенные тексты и изображения. Некоторые даже обвинили чат-бот в сексуальных домогательствах.

Итальянские регуляторы провели проверку, и им не понравилось то, что они увидели. Организация, владеющая Replika, нарушила европейский регламент о защите данных. Несколько дней назад чат-боту запретили осуществлять сбор данных.

Общий регламент по защите данных – бич крупных технологических фирм. Многократные нарушения его постановлений приводят к штрафам на миллиарды долларов. Решение итальянских регуляторов демонстрирует, что для чат-ботов это также может быть актуально.

Replika обучалась на версии модели GPT-3 от OpenAI. OpenAI – компания, разработавшая бот ChatGPT, который генерирует уникальные ответы на запросы пользователей.

В ЕС уже долгое время рассматривают закон о регулировании ИИ и новых ботов. Возможно, он будет завершён уже в этом году. На данный момент регламент Европейского союза уже обязует компании раскрывать то, как они обрабатывают данные. Модели ИИ также находятся в центре внимания европейских регуляторов.

Эксперты отмечают, что генеративные ИИ необязательно могут быть связаны с большими рисками. Но они могут стать источником потенциальных проблем. Учитывая, что боты по-прежнему допускают фактические ошибки, нередко демонстрируют предвзятость и могут даже оклеветать, многие призывают к установлению жёсткого контроля над ними. Однако некоторые эксперты считают, что достаточно будет установить требования по обеспечению прозрачности в отношении того, с кем мы взаимодействуем.