Как стать автором
Обновить

Character.ai будет информировать родителей о «круге общения» ребёнка

Время на прочтение1 мин
Количество просмотров2.6K

Служба чат-ботов Character.AI добавляет новую функцию «Parental Insights», которая позволит детям отправлять еженедельный отчёт об использовании чат-ботов на адрес электронной почты родителей. 

Отчёт будет включать среднее время за сутки, проведённое в сети, данные об ИИ-персонажах, с которыми пользователь чаще всего взаимодействовал, а также статистику по каждому из них. 

Для того, чтобы получать эти данные, родителям не требуется заводить учётную запись на платформе. 

Компания отмечает, что функция даёт только обзор активности подростков, но не раскрывает содержимое их разговоров.

Character.AI представляет новые функции для несовершеннолетних с прошлого года. Так, она перевела пользователей младше 18 лет на модель, обученную избегать «чувствительного» вывода, и добавила более заметные уведомления о том, что боты не являются реальными людьми. 

В 2024 году стартап дважды оказывался в центре разбирательств. Сначала Character.AI обвинили в самоубийстве подростка, который до момента смерти много общался с персонажем платформы. После этого стартап столкнулся с иском от родителей двух несовершеннолетних пользователей. Они заявили, что чат-боты компании показывали их детям непристойный контент и писали сомнительные сообщения, включая описание селфхарма и намёки на убийство родителей.

Теги:
Хабы:
+4
Комментарии3

Другие новости

Истории

Работа

Ближайшие события

4 – 5 апреля
Геймтон «DatsCity»
Онлайн
8 апреля
Конференция TEAMLY WORK MANAGEMENT 2025
МоскваОнлайн
25 – 26 апреля
IT-конференция Merge Tatarstan 2025
Казань
20 – 22 июня
Летняя айти-тусовка Summer Merge
Ульяновская область