OpenAI начинает развёртывание нового голосового режима для ChatGPT. Он станет доступен небольшому числу подписчиков ChatGPT Plus.
Функция, которую OpenAI продемонстрировала на своем мероприятии по запуску GPT-4o в мае, подверглась критике за голос, похожий на Скарлетт Йоханссон. Позднее компания отложила его внедрение из-за соображений безопасности.
Представитель OpenAI Тая Кристиансон говорит, что возможности голосовой модели тестировали с участием более 100 внешних представителей red team, чтобы выявить все уязвимости. Компания также «добавила новые фильтры, которые будут распознавать и блокировать определённые запросы на создание музыки или другого защищённого авторским правом аудио».
В OpenAI заявили, что новый режим ChatGPT будет использовать только четыре предустановленных голоса, созданных с помощью актеров озвучивания, добавив: «Мы сделали так, что ChatGPT не сможет имитировать голоса других людей, как отдельных лиц, так и общественных деятелей, и будет блокировать выходные данные, которые отличаются от одного из этих предустановленных голосов». Новый режим станет доступен всем пользователям ChatGPT Plus осенью.
Информационная служба Хабра
Около сотни ИИ-агентов получили простую задачу — взломать аккаунты человека, зная только его имя. Я проверил это на себе: за пять часов агенты пять раз добились успеха, используя уязвимости старых проектов и слабые пароли. В статье рассказываю, как действовали агенты, сколько стоил эксперимент и почему подобные атаки вскоре могут стать массовыми.
