Комментарии 12
Вот без обид, но пол минуты думал, что текст вашего поста сгенерирован ИИ.
Это на самом деле самый большой страх современности, что все кругом может быть сгенерировано ИИ.
AI Act описывает модель рисков, например, принятие решений за человека непонятно каким образом. На Хабре вроде не было даже разбора этого акта, только его критика "не читал но осуждаю"
Пытаться придумать защиту, в виде высосанных из пальза регламентов
Любая защита от неизвестного "высасывается из пальца". Но основании аналогий и пережднего опыта. Лучше перебздеть, чем обложатся. Потом, на основании полученных знаний, ненужное убирается.
Пока совершенно непонятно какие угрозы от них исходят и насколько они реальны
Одна из главных угроз любой модели — системный перекос в данных для обучения в сторону конкретного взгляда/мнения. При повальном засилье моделей, имеющих стойкое подкрепление определенных политических, экономических, социальных, религиозных или иных взглядов узостью представленных мнений в данных для обучения и/или их разметкой, общество впоследствии теряет доступ к плюрализму мнений, а тенденции на рынке поисковых систем ведут к замещению поисковиков и выдачи ими ссылок на сырые результаты пережеванной кашкой из весовых наборов моделей. А потеря плюрализма мнений, само собой, ведет к экстремизму во всём многообразии его воплощений.
Беда только в том, что у бюрократов и политиков задача несколько иная, нежели у ширнармасс. В отличие от последних, первые очень даже приветствуют шоры в виде пережеванной кашки, единственное, что их заботит — чтобы шоры открывали то направление пути, которое нужно им, и вот это они и хотят проверить. Чтобы, скажем, не получилось, что модели начинают выдавать рассуждения, опровергающие официальную позицию о Ле Пен. Или, скажем, чтобы модели не вздумали рассуждать о «вере в науку» (что бы этот чудовищный термин ни значил) в негативном ключе. Чтобы модель не вздумала усомниться в легенде о global warning и углеродном первородном грехе каждого живущего простолюдина, но при этом отказывалась проводить сравнительный анализ углеродного следа условного конгрессмена, который в булочную на частном джете летает, и следа условного автомеханика, у которого даже автомобиля личного нет, или, как минимум, всячески замыливала очевидный ответ.
Про энергопотребления это правильно, тут нормальным-то людям электричества не хватает
Китайцам все эти ограничения до одного места. Любой кто будет это соблюдать моментально проиграет им рынок, поэтому американцы и не собираются на это подписываться. А это значит в Европе ИИ не будет (ну или зарегулированный и еле дышащий), и тут или обратно свои хотелки откатывать, или полностью проиграть рынок и технологии. Одним мистралем не обойтись..
Так они не смогут использовать если это китайский ИИ. А проиграть - так они уже давно в мире технологий, - ни операционной системы, ни своей соцсети, ни видимого полупроводникового производства, ни видеохостинга .... и все остальное на подпидке из США , так будет и тут в парадигме "Заграница нам поможет"
вводится понятие модели системного риска — это все модели, на обучение которых ушло > 10²⁵ FLOPs, а также модели, признанные Еврокомиссией по ряду критериев
И для использовании их нужно получить свидельство пользования моделей по аналогии
Да, слишком много новостей про ИИ. Пора бы уже закручивать гайки инфоповодам и будущему
От предупреждений к штрафам до €35 млн: Еврокомиссия уточнила правила AI Act