Комментарии 4
Интересная новость... Особенно в свете того, как часто термин "дезинформация" используется сейчас для введения цензуры в социальных сетях.
Что собственно, как я понял, произошло. Ученые выпустили в обиход код со встроенной ошибкой. Сообщество отреагировало и удалила код "за нарушение условий обслуживания". НО том не менее сам вброс используется, как информационный повод, для продвижения идеи лицензирования ИИ.
ИМХО, это наглядно показывает, как грантовая поддержка ученых подрывает их научную нейтральность. И широко известное имя вуза, тут скорее маркер близости к спонсорам, а не признак научной объективности. Вспоминается, например, скандал с патчами несущими уязвимости от Миннесотского университета в ядро Линукс.
Не понял зачем там ученые, и чем врущая нейросеть принципиально отличается от сайтов, книг, статей, комментариев, фоток содержащих недостоверную информацию?
Ученые нужны как информационный повод. Научной новизны в этом исследовании нет. Вы правы, это тоже самое, что и врущая картинка.
НО есть одно "но". За нейросетями сейчас признали новую силу. Одну из форм мягкой силы, которую стремятся использовать и контролировать. Об этом было явно заявлено.
Например :
Компания Microsoft обратилась к США и другим государствам с призывом создать собственные агентства для регулирования сферы искусственного интеллекта.
На этом фоне вполне реальным представляется сценарий, когда корпорации заносят вузам гранты на исследования с определенной тематикой, а результаты исследования уже используются как информационный повод.
Т.е. ни кто не запрещает редактировать картинки хоть в проприетарном форошопе, хоть в свободном ГИМПе и требовать электронной подписи авторства, а вот нейросети подобным образом залицензировать хотят.
Хм, а где в новости ученые и где грантовая поддержка? Может быть, я что-то не так понял, но мне кажется, что в новости рекламируют себя люди из Mithril Security, а прямой связи с наукой вроде бы нет.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Исследователи показали атаку дезинформацией с помощью чат-бота PoisonGPT