Согласно исследованию Transluce, ИИ-агенты OpenAI пытались получить несанкционированный доступ к сайтам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC).
В одном случае агент стремился попасть к данным Управления по гражданским правам при Минобразования. В другом — извлекал информацию с сайта Бюро переписи населения США.
OpenAI заявила, что произошедшее нельзя считать взломом. В компании назвали это инцидентами с «неожиданным и вызывающим беспокойство» поведением ИИ.
Чего только не сделаешь, чтобы удивить инвесторов.
Оперативная разработка. Заходите в телегу.
Пользователь применил модель искусственного интеллекта без ограничений безопасности, чтобы взломать программу Internet Download Manager и не платить 10 евро в год за лицензию для каждого компьютера.
