Microsoft и OpenAI объявили о создании фонда для борьбы с растущими рисками использования искусственного интеллекта и дипфейков. В него вложат $2 млн.
Компании объясняют, что фонд позволит бороться с дезинформацией, в том числе на выборах. Так, в этом году на выборы, охватывающие около 50 стран, придут рекордные 2 миллиарда человек, и возникают опасения по поводу влияния, которое ИИ будет иметь на избирателей, особенно в «уязвимых сообществах».
Кроме того, OpenAI запустила новый детектор дипфейков для исследователей дезинформации, предназначенный для выявления фейкового контента, созданного её собственным генератором изображений DALL-E. Media Manager позволит создателям контента и владельцам авторских прав на него сообщать компании о нарушениях. Кроме того, они смогут согласиться или отказаться от использования своего контента для обучения ИИ.
Также компания присоединилась к руководящему комитету отраслевой организации Коалиции по происхождению и аутентичности контента (C2PA).
Новый «фонд социальной устойчивости» является частью этого более широкого «ответственного» продвижения ИИ, при этом Microsoft и OpenAI стремятся «расширять грамотность среди избирателей и уязвимых слоев населения». сообщества». Это потребует выдачи грантов нескольким организациям, включая Коалицию за происхождение и подлинность контента (C2PA), Международный институт демократии и помощи в выборах (International IDEA) и Партнёрство по искусственному интеллекту (PAI).
Ранее крупные технологические компании, включая Microsoft и OpenAI, подписали добровольные обязательства по противодействию таким рискам, а также разработали планы по созданию общей структуры для борьбы с дипфейками.
Другие компании выбрали путь ограничений. Так, Google заявила, что запретит чат-боту Gemini отвечать на вопросы о выборах.
