Производитель чатботов с искусственным интеллектом Replika из Сан-Франциско должен прекратить использование данных итальянцев из-за риска, который сервис «виртуальной дружбы» может представлять для несовершеннолетних и эмоционально уязвимых людей.
Replika предлагает пользователям персонализированные аватары, которые говорят и слушают их, работает с 2017 года и рекламируется как способная улучшить эмоциональное состояние пользователя.
Итальянское агентство по защите данных заявило в пятницу, что его способность влиять на настроение пользователя «может увеличить риски для людей, которые все еще находятся на стадии развития или в состоянии эмоциональной уязвимости».
Агентство также обвинило разработчика Replika компанию Luka Inc в несоблюдении законодательных требований показать, как она использует данные людей, и утверждает, что компания не имеет законного права обрабатывать данные детей в соответствии с законами ЕС о защите данных.
В результате «Реплике» было предписано немедленно прекратить обработку данных итальянцев.
В пресс-релизе регуляторы заявили, что приложение «несет реальные риски для детей — в первую очередь тем, что им предлагаются ответы, совершенно несоответствующие их возрасту», и далее сослались на отсутствие системы проверки возраста, что означает, что платформа не фильтруется и не блокируется для несовершеннолетних и может быть легко доступна для них.
Надзорный орган обязал американскую компанию в течение 20 дней уведомить его о мерах, принятых для изменения политики и практики в соответствии с итальянскими и европейскими директивами. В противном случае компания может быть оштрафована на сумму до 21,8 млн долларов США, что эквивалентно почти 4% ее годового оборота по всему миру.
