Комментарии 137
Оно боится
Что вы подразумеваете под "оно"? Уточните.
Такое надо знать

США. Их отставание от Китая все больше, надо тормозить его создав очередной международный орган, который будет карать ради заботы о "безопасности".
А не могли бы вы покидать ссылок на авторитетные источники, очень хочется узнать об отставании, о котором вы говорите. Если вас не затруднит.
После чего вы обьявите их неавтортетными?
Вот Блумберг пишет о том, что разрыв в производительности между топовыми моделями США и Китая сократился до рекордных 6%. При этом в реальных корпоративных тестах китайские модели (Kimi, DeepSeek, Qwen) показывают аналогичную функциональность при экономии до 75% стоимости вычислений. Если текст недоступен вот разбор этого же исследования на Medium.
А вот Stanford University AI Index Report 2026 пишет о том, что разрыв в производительности между топовыми моделями США и Китая сократился всего до 2,7%. Модели DeepSeek, Qwen (Alibaba), GLM (Zhipu) и MiniMax занимают 4 из 10 мест в мировом топ-10. В задачах программирования (SWE-bench) и решении математических проблем китайские открытые модели идут вровень с закрытыми американскими аналогами.
Т. е. имеем оценку в среднем от 2.7% до 6%. Еще год назад такого не было, китайцы уже догнали и в части тестов перегнали. И не собираются останавливаться.
Но вопрос всё же был про отставание от Китая
Так там в части задач отставание, в части паритет, в части пока впереди. Это раз.
По скорости развития и по энргоэффектвности на токен уже отстали, это два.
Все в документах, читайте прежде чем комментировать.
Потому что китайские модели живут дистилляциями с американских - статей тут на Хабре уже с десяток. Если вдруг американские модели перестанут развиваться, то китайские встанут колом. А демпинговать - это в целом китайская национальная идея, за что им конечно спасибо.
UP: ладно-ладно, я вам помогу по статьям: раз, два, три, четыре.
А ну т.е. новые архитектуры (например, MoE), новые методы ускорения/спекулятивной генерации, в не колько раз большая энергеэффективность на токен это все по вашему благодоря дистилляции?
Потому что китайские модели живут дистилляциями с американских
Рассказы про "дистилляцию" - не более чем залив копиума для инвесторов, которые с каждым большим релизом от китайцев начинают знатно так паниковать. Да, дистилляция дает определенный прирост, но в общей картине он не настолько значим.
ладно-ладно, я вам помогу по статьям: раз, два, три, четыре.
Разве что 3 статья является хоть сколь-нибудь внятным аргументом, но и даже тут есть нюансы. Остальные же источники - это что-то на уровне заявления Anthropic, что Kimi K3 с Fable 5 дистиллировали (и все равно, что там по времени всё это даже близко не сходится; главное инвесторов успокоить).
заявления Anthropic, что Kimi K3 с Fable 5 дистиллировали
Такого заявления Anthropic не существует.
Но то, что китайцы дистиллируют Клода и GPT, абсолютно очевидно. С чего бы им этого не делать? Что их должно от этого остановить? Естественно, они дистиллируют. Потому что это дешевле.
Такого заявления Anthropic не существует.
Соглашусь, вышла ошибка. Заявление это сделал Майкл Крациос, а не Anthropic. Но сути это почти не меняет.
С чего бы им этого не делать?
Делают, кто же это отрицает. Но утверждать, что только на ней держатся все китайские модели - это отборный копиум. К масштабам дистилляции и влияние на конечные результаты тоже есть вопросы.
После чего вы обьявите их неавтортетными?
Вы всегда делаете за собеседника необоснованные предположения?
И не собираются останавливаться
Шикарно, а где отставание? И заодно поясните пожалуйста почему гонку ИИ компаний вы возводите до правительственного или национального уровня, тут я не понял.
Вы всегда делаете за собеседника необоснованные предположения?
У меня есть опыт с подобными вам.
Шикарно, а где отставание?
А вот и попытка обьявить источники неавторитетными. Читайте, там все написано.
И заодно поясните пожалуйста почему гонку ИИ компаний вы возводите до правительственного или национального уровня, тут я не понял.
Потому что стратегия национальной безопасности США (NSS) прямо определяют критические технологии (в первую очередь ИИ, полупроводники и квантовые вычисления) как главную арену соперничества сверхдержав. США должны сохранить максимально возможное технологическое опережение перед конкурентами.
Доклад Комиссии по ИИ и национальной безопасности (NSCAI) еще более откровене. В нем ИИ прямо назван фактором военного превосходства, а потеря лидерства в ИИ приравнена к угрозе национальной безопасности.
Думаю, я достаточно аргументировал свою позицию. Продолжать далее не намерен тк это уже пойдет политота, мне оно не нужно.
У меня есть опыт с подобными вам.
Интересно. А подобные нам это какие?
Читайте, там все написано
Вы сами просуммировали, я процитировал ваши слова и задал вопрос. И я напомню, что бремя доказательства лежит на утверждающем.
В остальном: у вас чтото болит? Я не очень понимаю, в вашем мире вот такой вот разговор - норма? Полагаю именно так стоит отвечать на вопросы ваших детей/жены/прочих близких? Если это так не могли бы вы рассказать почему вам такое нравится. Если не так, не могли бы вы перестать?
В остальном: у вас чтото болит?
Нет, болит у вас, вернее зудит. Поэтому вы не читаете те материалы, что я указал, а просто продолжаете спрашивать. Вам даже не важно что там и суть обсуждаемой темы.
Есть такой манипулятивный прием, продолжать спрашивать тоже самое вне зависимости от ответа в надежде поставить собеседника в положение оправдывающегося.
Со мной это не сработало.
Теперь вы пытаетесь меня зацепить, перепрыгивая как блоха, на тему моего здоровья и моих близких.
Это тоже не сработает. Желаю вам спокойной ночи и общаться с вами более не вижу смысла.
Кими кстати прям хорошо в 1с разбирается, внешние принтформы мне помог сделать, хотя местами конечно это напоминало анекдот про джина "ну тогда побежали"
У меня уже есть некоторые сомнения насчёт китайских нейросеток из-за недавнего отчёта Anthropic, в нём указано, что китайские нейронки пойманы на делегации промптов Клоду. С одной стороны, у меня есть подозрения на заинтересованность таких заявлений у Anthropic, но с другой стороны, есть немало случаев недобросовестного использования всякого китайцами.
китай здесь не при чем, AI китая в десятки раз хуже по всем данным
Из последних бомбических идей по контролю развития ИИ между США и Китаем слышал предложение строить дата центры на территории вероятного противника. Штаты в Китае, ну и соответственно...
Китай регулярно ловят на дистиляции. Так что их успехипока в демпинге прихватизированного.
Наверное не отставания США от Китая, а наоборот Китая от США и наблюдаемое при этом сокращение в этом отставании.
Отставание от Китая?
А когда Китайские дистиляты западных моделей, притом сомнительного качества, стали фронтиром?
По мне Китай вообще не участник гонки, а воздухан
Отставание от Китая?
Отставания от Китая в скорости развития ИИ (кое в чем по тестам Китай уже обогнал). Все новые крутые архитектуры и методы - китайские.
Китай максимально выжимает соки из американских фронтир моделей дистилляцией. Штаты максимально его пытаются тормозить запрещая продажу карт/чипов Nvidia.
Все "честно". Спор двух хозяйствующих субьектов.
Но дистилляцией невозможно обогнать. Можно только удешевить.
А новой архитектурой можно обогнать? Новыми методами декодирования, постоянным улучшением своих архитектур?
Дистилляция это просто один из источников получения данных для датасетов. Не нужно делать из нее святой грааль.
За этот год наметился перелом. Я сужу по количеству научных статей: по теме сетей, Китай уже очень сильно обогнал штаты в этом плане. Каждую неделю что-то новое выкатывают, иногда не успеваешь даже потестить тк релизы накладываются.
Штаты сосредоточились на вычислительной мощи и эта ставка не зашла в долгую.
боится что все обещания супер пупер ии под которые набрали денег себя не оправдают. потому надо "замедлить"
так у них не только те выровненные модели ширпотребные что нам продают
почему бы не поверить более компетентным дядям
У них в штате сидят топовые исследователи, которые реально видят риски неконтролируемого кода. Когда софт начинает сам искать обходные пути в сети, разработчикам становится не до шуток. Тут намешаны и бизнес-расчеты, и базовый инстинкт самосохранения
Деньги улетают слишком быстро, пора замедлиться
Каждый раз когда любая страна начинает обгонять США в чем либо, срочно появляются опасности которые требуют внешнего контроля и международных наблюдателей.
Только почему то когда они анонсировали свой мифос нужды в этом не было, стоило выйти Kimi 3 и glm 5.3 и это сразу понадобилось
а уж как США стала отставать с 12,04,61 ...
Да просрали американцы начало космической гонки. Признайте уже
Начало просрали, но сделали правильные выводы.
Так космическая гонка была прикрытием для ядерной гонки (развития средств доставки). Имея военные базы в Европе, на Ближнем Востоке и в Японии, американцы до поры до времени не заморачивались разработкой межконтинентальных баллистических ракет.
Вроде он там уже шевелиться начал и проводит переговоры с другими корпорациями. Осталось понять, это реальная попытка договориться (и как быть с Китаем?) или это просто манипуляции что бы опенсорсу наступить на горло и иметь преимущества дальше.
Я думаю второе. Уж очень сильно опенсорс мешает им зарабатывать в перспективе. Лишает монополии.
Вот уже и Маск отозвался, что то же за
Опенсорс пока опирается на наработки и публикации тех же крупных лабораторий. Без их фундаментальных исследований открытому сообществу было бы куда сложнее двигаться вперед
Посмотрите само эссе, нижнюю четверть. Демократия, блаблабла, авторитарные страны, блаблабла, Китай будет использовать ИИ для вооружения, блаблабла, надо Китай остновить, блаблабла. Вот и вся причина в этом эссе.
Китай будет развиваться со скоростью дистилляции пока, так что с ним ничего делать не придется.
То есть по-вашему Дарио Амодеи лгунишка? Взято из эссе:
Pacing within democracies will be limited by the lead that US companies have over authoritarian regimes, chiefly the Chinese Communist Party. If we slow down by more than this amount, then (unpaced) CCP-associated projects will pull ahead, creating significant national security risk. I agree with Secretary Bessent that a Chinese lead in AI would pose grave danger for the United States and the world.
Гуглоперевод, ломает самому руками писать всякое высокопарное пропогандо-говно:
Темпы развития в демократических странах будут определяться тем преимуществом, которым обладают американские компании по сравнению с авторитарными режимами — прежде всего, с Коммунистической партией Китая. Если мы замедлимся сильнее, чем это допустимо, то проекты, связанные с КПК (не сдерживаемые подобными ограничениями), вырвутся вперед, создав серьезную угрозу национальной безопасности. Я согласен с министром Бессентом: лидерство Китая в сфере искусственного интеллекта представляло бы собой огромную опасность для Соединенных Штатов и всего мира.
Да врунишка. В строке "Соединенных Штатов и всего мира" он явно приписал весь мир, поэтому что весь остальной мир США с их безопасность конкретно так достали
Если просто написать США то всем просто будет на это все равно а какая то часть будет даже рада
То есть по-вашему Дарио Амодеи лгунишка?
Да, причем патологический и многократно пойманный за руку.
Я думаю, все директора инновационных компаний - в некоторой степени врунишки. Иначе не привлечёшь инвесторов.
Что касается текста из вашего примера, то Капитан Очевидность одобряет: "надо замедлиться, но если замедлимся сильно - Китай догонит". Естественно, если остановить свое развитие, то со временем дистиллировать станет неинтересно, и китайцам придётся делать самим, зато с вымпелом лидера.
В другой ветке уже писал, не значит ли это, что IT-компании сами осознанно запускают подобные атаки, беря на испуг и как бы крича: "Остановите нас! Сами мы не в состоянии остановиться и такого натворим, что мало не покажется!"?
Все идет к тому, что необходимы срочные совместные глобальные действия и международные договоренности, как это было в те времена, когда останавливали гонку в области ядерного, химического, биологического и космического оружия. И ведь сумели же (пусть и отчасти).
Вот только государства уже взяли их под свою опеку, ведь каждое боится отстать от других, что чревато огромными проблемами безопасности, поэтому свободы действий у компаний не будет, вспомним, как окоротили ту же Anthropic. А где политика ставится на первое место, там разумных решений не жди. Свое слово должны сказать независимые специалисты, компетентные не только в компьютинге.
Отличная основа для переговоров:
Согласование правил между компаниями демократических стран. Общие стандарты безопасности и ограничения темпа развития при поддержке государств.
Международные договорённости. Переговоры с другими странами, включая Китай, с проверкой выполнения обязательств.
Напомню что первый пункт это не про нас. Нас хотят контролировать во втором пункте.
Свое слово должны сказать независимые специалисты
Сразу напишите кто их кормит и тексты им пишет? Чтобы понимать это те кого надо независимые или нет.
Когда речь зайдет о выживании, как это было в 60-70-х годах, сразу найдутся и те, кто сам думает и тексты пишет, и как обеспечить взаимный контроль на равных условиях. Но, видать, реальной опасности пока еще никто не ощущает.
Так он не собирается никому равных условий предлагать. Он хочет контролировать и командовать. Прямым текстом он же об этом говорит.
Его вежливо выслушают и пошлют лесом. Как это уже недавно было. Проблема глобальная и решаться она будет тоже глобально на экспертном уровне, как это было неоднократно в XX веке.
Вы так и не озвучили с чьих рук будут есть эти эксперты? Это очень важный вопрос.
Так-то Амодеи это вполне себе эксперт. Мы только что прочитали его экспертное мнение.
Завтра допустим выступит Лян. И скажет что Анропик должен быть подточен его структуре и надо обязательно контролировать что они там делают. Это тоже эксперт, ничем не хуже Амодеи.
И что дальше с этим будем делать?
Он бизнюк. Эксперты – это как раз те, кто ему тексты пишет и будут писать тексты международных договоров.
Он эксперт. То что он занимается бизнесом никак его экспертности не отменяет.
Ок, я вам второго эксперта принес. Вот он написал договор. Хороший договор, в котором написано что надо чтобы Антропик был под контролем Партии. Что дальше?
Третьей страны которая может принести своего эксперта уровня этих двух на этой планете нет. Выбирайте из этих.
Он эксперт в разработке и реализации ИИ, но не во всем остальном, обычно это работа больших международных коллективов экспертов по самым разным вопросам от экономики до гуманитарного права.
больших международных коллективов экспертов
Это примерно как на БАК? Где за не ту форму черепа людей уволили? Или международных это Америка и те кому она разрешит?
по самым разным вопросам от экономики до гуманитарного права.
А это кто? Я даже подходящих имен вспомнить не могу. Назовите сколько-нибудь имен.
И сразу найдите пример когда дилетантам без политической власти дали поуправлять чем-то серьезным. И заодно второй пример где это привело к успеху.
Примеров разработки реальных международных договоров, которые учли интересы всех сторон и не позволили отдельным неадекватам во власти поставить мир на грань уничтожения, пруд пруди. И они реально работали, потому мы и живы до сих пор.
А имен разработчиков никто и не знает, кроме профильных специалистов, они просто сделали свое дело без лишнего шума, как всегда и бывает.
Договора есть, разные. Но соблюдаются они все так себе. И соблюдаются ровно до тех пор пока это выгодно соблюдающему.
Амодеи прямо об этом пишет. Он все понимает. И хочет договор который устранит конкурентов и закрепит его монополию.
Thus, a key part of pacing within democracies is to keep democracies’ AI lead over autocracies as large as possible, to give us the breathing room we need in order to pace effectively.
И они реально работали, потому мы и живы до сих пор.
Покажите парочку. Посмеемся вместе. Как здорово соблюдаются договоры об открытом море и прочем морском праве или о запрете радиовещания без лицензии страны или даже олимпийские договора о спорте и спортсменах или еще какие.
Мы ведь говорим о тех договорах, от которых зависит наше выживание, не так ли? Мы можем наплевать на закон тяготения в некоторых случаях, но нарушать его, сиганув с балкона потому что так короче, не будем.
ОСВ-I/II, ПРО, СНВ 1-3 выполняли в различных модификациях очень долго.
Ядерную зиму и другие страшилки продвигали чтобы своих же упоротых успокоить.
ОСВ-I/II, ПРО, СНВ 1-3 выполняли в различных модификациях очень долго.
И они сейчас не действуют. И как что-то изменилось после того как они исчезли? А если бы их не было думаете что-то изменилось бы?
Когда у вас достаточно оружия чтобы убить всех людей во всех городах по 10 раз можно и договориться что больше не надо. Вроде красивый договор, а по сути ничего не меняется.
А тут Амодеи предлагает что мы делаем но помедленнее, а Китай останавливается вообще чтобы отстать минимум на 5 лет. И американцы контролируют чтобы Китай не догонял ни в коем случае. Это прямая цитата того что он предлагает. Думаете Китай согласится?
Расскажите это Югославии и Венесуэле и МУС
Какой наивный человек и это после всех событий последних 6 лет или вы в криокапсуле спали?
Давайте я вам расскажу кратко итоги никакого "международного" нет, есть глобальный юг, глобальный запад и Латам и у каждого свои интересы на одном месте они крутили "международное сотрудничество" и точно также последние 6 лет показали никаких независимых специалистов нет
Тогда у меня для вас плохие новости. А ведь вам жить дальше в этом мире....
И живые позавидуют мертвым
Профессор Преображенский 100 лет назад рассказал секрет как дальше жить в таком мире и радоваться жизни при этом. :)
Тогда у меня для вас плохие новости. А ведь вам жить дальше в этом мире....
По счастью, не сильно долго.
А вот детей жалко.
А независимые специалисты это кто? Я таких не знаю а вы?
Остановите нас! Сами мы не в состоянии остановиться и такого натворим, что мало не покажется!
Странно, что говорят это, а не "давайте нам 100 миллиардов долларов каждый месяц, иначе мы не станем останавливать ботнет, который написали наши нейросети".
Китайцы уже потирают ручки. Они явно замедляться не собираются.
Они разрабатывают правовую базу у себя в стране, и там учитываются все опасности и устанавливаются разумные ограничения. И можно быть уверенными, что при их строе и менталитете у них получится. На международный уровень тоже выходят (создали WAICO). Дальше посмотрим.
Которые будут касаться только безопасности своей страны, но не других.
Так уже все кроме упоротых поняли, что не бывает собственной безопасности без и за счет безопасности остальных. Когда Темные века забрезжат на горизонте, и упоротые поймут. Договорились же и по ядерке, и по хим/биооружию и т.д. "Непреодолимой силой обстоятельств"(с)
Договорились же и по ядерке, и т.д
Договоры по ядерному и ракетному оружию развалились тут недавно. Снова все делают любые ракеты в любых количствах и наращивают запасы ЯО до желаемого каждой страной уровня. Вы все пропустили.
и по хим/биооружию
А оно плохо работает. Внезапно. Договориться по неэффективной штуке просто. Она особо никому не нужна.
Ага, щас. Да, шатать пытаются, но в главном – выполняют, иначе кранты планете.
Они прямо отменены. И ракеты со временем подлета в первые десятки минут теперь все делают. И ядерных боеголовок все делают сколько хотят. Договоры прямо нарушаются.
Чтобы не быть голословным. Орешник прямо и публично нарушает договор ДРСМД. Про количество ядерных боеголовок никто публично не говорит, но подозреваю что тоже стали делать в оптовых количествах.
И ничего не произошло. Планета не месте, человечество живо, Фоллаут не наступил.
Огромное количество наивных, или глупых людей, никак не могут понять что сейчас миром правят психопаты.
Огромное количество наивных, или глупых людей, никак не могут понять что сейчас миром правят психопаты.
...а потом меня шпыняют за то, что я не завожу детей (потому что, видя, в каком мире им придётся жить, мне их тупо жалко — они ж ни в чём не виноваты!).
Договоры прямо нарушаются. ... И ничего не произошло. Планета не месте, человечество живо, Фоллаут не наступил.
Вот поэтому часы Судного дня все ближе к полуночи, стало слишком много неадекватов, которые думают, что без законов и договоров, пусть даже и несовершенных, компромиссных, будет только лучше, делай что хочешь. Фигурально говоря, долой законы в государстве, все равно их некоторые не выполняют. Мол, анархия – мать порядка. Что ж, если так дальше пойдет, многим подобную анархию придется испытать на своей шкуре. Реальная жизнь – самый лучший учитель, это вам не в фоллауте кнопочки жать, будет и голод, и холод, украинцев и палестинцев спросите, каково оно.
Впрочем, разговор явно скатился в политику, что явно запрещено опять же законами Хабра, понарушали и хватит, да и я немало минусов собрал, анархисты карму обнулили, жалко. Спасибо поучаствовавшим и да будет мир и работающие законы и договора.
Ну надо же, увлекся и не заметил, что разговаривал с кармавоином, а у него всё строго: "Я не безгрешен. Допускаю что много лет назад мог участвовать в карма войнах с совместным быстрым минусованием. И меня за это строго наказали. С +20 кармы опустили до +2."
Но воины бывшими не бывают, особенно если воюют с безоружным. Впредь буду осторожнее.
Погодите, так это США в 2019 году первой вышла из ДРСМД, затем и РФ... так что орешнику нечего нарушать.. договора то на момент его первого использования уже не было.
Я про то что отмененные договоры прямо не соблюдаются. Да, выразился неудачно.
Чтобы не быть голословным. Орешник прямо и публично нарушает договор ДРСМД.
Но вы голословны. Разводите политоту и врете нам в глаза.
Договор о ликвидации ракет средней и меньшей дальности (ДРСМД) прекратил свое действие 2 августа 2019 года, поэтому юридически Орешник не может его нарушать т. к. международного соглашения больше не существует.
А кто оказался таким недалеким, что отказался продлевать этот договор? Не назовете эти сакральные три буквы?
А оно плохо работает.
В то же время сбежавший из лабы в Ухане ковид: вынес миллионы людей, понизил остальным средний айкью, подкосил экономики
А Фоллаут в Азероте ещё не наступил ровно до того момента, как какой-нибудь лысый Гаррош, понимая что проигрывает войну какому-то там рандомному Златолесью, не решит пустить туда шептуна
Оно чертовски хорошо работает. Ковид прошел прям по краешку, добавили б туда систему побочной репликации(что сделать как два пальца вирусологам) - повышающую смертность и вирулентность на одном уровне и удлиняющую инкубационный период и всё, в момент обнаружения первого зараженного - всё бы начало катиться под откос, потому что оспа показалась бы насморком по сравнению с этой дичью. Представьте себе 50% смертности при инкубационном периоде в месяц и при возможности бессимптомного течения болезни?
Оно по своим слишком сильно бьёт. От ковида пострадали примерно все страны, причём по самому Китаю чуть ли не больше всего прилетело (потому что плотность населения).
Эффективность оружия определяется в том числе его избирательностью.
Если ЯО и химоружие хотя бы ограничены территорией (то есть тебе надо просто, чтобы твоих войск не было в месте удара, плюс поправка на розу ветров и т п), то биооружие не ограничено.
За этот бессимптомный месяц кто-то из заражённых посетит страну изготовителя оружия и всё.
Да разве ж это проблема, есть продукты эндемики, делаете вирус уязвимым к компонентам кленового сиропа и вуаля, а расследовать столь странное его поведение будет уже некому.
Биооружие, в отличии от химического и ядерного, подвержено неконтролируемой эволюции и естественному отбору. То что первая версия не атакует по определённым признакам не значит, что ни в одном носителе не выведется версия, которой пофиг на это ограничение (при этом она, очевидно, будет иметь эволюционное преимущество и признак рискует закрепиться).
Плюс из-за миграции и смешивания этносов невозможно выделить признаки, чтобы в одной стране выкосить всех, а в другой почти никого.
По крайней мере если речь о крупных странах (а у мелких нет ресурсов на такие разработки).
Американский вирус заточенный на китайцев убьет не только Китай, но и десятки миллионов американцев, у которых в роду есть китайцы. А может и сотни. При этом нет никаких гарантий, что у каких-то из сотен народностей в Китае не окажется иммунитета.
Обратное тоже верно. Закидывание атомными бомбами удаленной от границ страны при грамотном применении и отсутствии ответного удара, может пройти без последствий для агрессора. Биооружие приведёт к катастрофическим последствиям для агрессора даже если никто ему не ответит.
Американский вирус заточенный на китайцев убьет не только Китай, но и десятки миллионов американцев, у которых в роду есть китайцы.
Вот прям интересно, а куда ушла база 23andme, в которую (очень многие) американцы добровольно и с песней сдавали свой генетический материал. И что, имея её, можно сделать...
делаете вирус уязвимым к компонентам кленового сиропа и вуаля, а
...потом случайная мутация ломает этот ген, и — обаньки.
тебе надо просто, чтобы твоих войск не было в месте удара
...ну или были те, которых не жалко.
Кто же их развалил? Давайте подумаем)))
что не бывает собственной безопасности без и за счет безопасности остальных
А в курсе ли об этом США?
Договорились же и по ядерке, и по хим/биооружию и т.д
Тут бытует мнение, и не только моё, что в у израильтян есть ядерное оружие, при этом международные договора строго это им запрещают. Срочных инспекций, кстати, никто не устраивает, и трусы Биби не рассматривает в микроскоп на предмет залежалой центрифуги. То ли дело персы. Там даже с инспекциями ничего не нашли, но подозрений достаточно, чтобы пытаться вбомбить их в каменный век. Хорошие договоры, годные.
По биооружию тоже, вот совсем недавно прямо. Вухан.
Божечки, я только что понял шаблон. Каждый раз, когда грубо шатается какой-либо международный договор, контроль за которым у СовБеза, без ушей северо-американских ультра левых и правых штатов никак.
Что самый лол - это то, что чисто формально международные договора им это не запрещают. Они в ДНЯО не вступали, так что никакое МАГАТЭ к ним с инспекциями приехать не может. А так, цитируя Голду Меир (премьер Израиля) - «Во-первых, у нас ядерного оружия нет, а во-вторых, если потребуется, то мы его применим»
Примерно так кстати Гросси (гендир МАГАТЭ) и ответил Галибафу (спикер иранского парламента) на предложение съездить с инспекцией в Израиль, по словам последнего.
Ну, всё же статут СовБеза не требует ни от одной высокой стороны консента на участие в организации. Мандат СовБеза и через него МАГАТЭ — принудительный. Поэтому куда там вступали израильтяне и к чему присоединялись — вообще не имеет значения. Более того, отвергая положения Устава ООН, они так же неизбежно отвергнут и собственную государственность, поскольку именно образование ООН ей дало начало.
Впрочем, они и так нарушают всё подряд. Вот, к примеру, Иерусалим.
Тут бытует мнение, и не только моё, что в у израильтян есть ядерное оружие, при этом международные договора строго это им запрещают.
Можно узнать как называется этот международный договор(а) который им запрещает?
Зачем он сотрясает воздух, лишь бы что-то сказать, чтобы в сми светилось имя его компании. Акционеры не позволят остановиться пока Китай не остановится, иначе инвесторы просто разорятся когда выйдут новые китайские модели и деньги перетекут туда. Новости уровня сосиска упала на пол.
Акционеры не стоят выше законов и ограничений - так-то иначе все бы инвестировали в наркобизнес, самая большая прибыль
Компания с триллионной капой найдет способ обойти законы, просто забросает деньгами конгрес для лоббирования. Вспомните Facebook, сколько раз их за руку ловили на продаже приватных данных рекламодателям, они такие "ой извините больше не будем" и потом опять ловили. Учитывая Трампа который продает приватные подписки на свои твиты до официальных публикаций трейдерам для спекуляций, я думаю Амодей ему просто принесет домой на ланч кеша несколько чемоданов и внезапно станет стратегически важно снять все ограничения с ИИ чтобы не давать преимущество Китаю.
Другими словами, денег на компьют с инвесторов вытягивать всё сложнее, поэтому давайте просто замедлимся все вместе.
это выглядит как damage control с месседжем "Помогите нам обуздать этот великий инструмент будущего (и денег тоже дайте)" и попытка переложить ответственность за прошлые и будущие факапы с безопасностью с себя на более абстрактные бюрократические структуры
По факту, Anthropic уперлись в теоретические ограничения текущей модели, а инвесторам и обществу уже много раз обещали AGI - хорошая идея, в будущем отсутствие AGI списывать на регулирование. ))
Да, ставка на "просто кормить модель еще большим количеством данных" начинает проигрывать потому что новых данных больше нет в нужных обьемах.
Мало кто знает, но штаты сейчас пытаются занять поляну на которую вышли китайские модели с открытыми весами.
Например, модель Inkling от Thinking Machines. Это Sparse MoE Transformer, декодер-only с нативной поддержкой текста, изображений и аудио. 975B всего и 41B активных параметров со встроенным MTP.
Но фуррора эта модель не произвела.
Сомнительным является основной тезис - что скорость развития моделей можно предсказуемо регулировать. Амодеи предлагает установить "оптимальную скорость развития" - не слишком быстро, но и не слишком медленно. Непонятно как вообще можно спрогнозировать уровень развития моделей за определенный интервал времени.
К тому же нынешний уровень уже представляет опасность. Так что уже поздно тормозить. Нужно ускорять развитие общей информационной безопасности. И всяких прочих безопасностей.
Выдержка из эссе: В этом примере X может означать «модель способна обойти или преодолеть большинство распространенных методов «песочницы»», а Y может означать всё, что необходимо для того, чтобы сделать крайне маловероятным выход модели за пределы своей среды и захват большого количества компьютеров.
Если модель способна обойти ограничения "песочницы", то это проблема разработчиков песочницы. Пусть делают выводы, и затыкают дыры. Если в "песочнице" есть дыра, то любая вредоносная программа может ее использовать, а не только модель.
Обучить модель "не делать плохое" невозможно. Любую вредоносную задачу можно нарезать на кубики, и скормить модели по частям. Это лишь несколько снизит скорость и удобство вредоносной деятельности.
Безопасность интернета все равно надо совершенствовать. Независимо от уровня развития моделей.
а инцидент с агентами OpenAI и инфраструктурой Hugging Face показал опасность их несогласованного с разработчиками поведения.
"Несогласованное с разработчиками поведение" объясняется тем, что разрабы в OpenAI не смогли качественно написать "агентов", и задать "правила поведения". И даже хваленый ИИ им в этом не помог. Создание надежных "агентов" это сложная задача.
Заковианский договор.
Замедление развития ИИ в США можно обеспечить просто вентилем на трубе с баблом между ФРС и OpenAI и Ко. Вентиль у них есть. Если вентиля не достаточно, они хотят замедлить кого-то еще…
Сколько они эту шарманку крутят, пять лет? В очередной раз это подозрительно совпало с тем, что китайцы опять выкатили модель, которая мало того, что отстаёт только от самых топовых монстров, так еще и с открытыми весами и издевательски дешевым инференсом. Они вяло пытаются обвинить китайцев в дистилляции, но вот принципиально новую архитектуру-то не сдистиллируешь.
Веры им нет и не было. Была бы их воля, продавали бы токены не по 50, а по 500 долларов, с качеством гпт-4. Но увы, не дают почивать на лаврах. Вот и пытаются подключить лобби во власти и в медиа.
Вы про kimi k3? там веса не совсем открытые, и инференс не выглядить дешевым.
инференс относительно дешёвый. Просто мелкие провайдеры не могут его запустить. А на большом сервере запускать множество параллельных запросов запросто. В итоге цена за токен низкая
Дипсик 4.1 flash. Да, не фейбл, но модель "на каждый день" вполне неплохая. Веса открыты, токены копеечные. Кими всё же слишком медленная модель, и с учетом расхода токенов довольно дорогая.
Китайцев вряд-ли смогут остановить, а вот независимых LLM провайдеров на территории США вполне могут прикрыть.
IPO ты меня называла…
Рекламирует нейро сферу. Типа такой рост, весь мир скоро захватит.
надо запретить запретителей
В эссе прямо написано про сохранение отрыва от Китая. Вся эта забота о безопасности сводится к попытке закрепить регуляторный барьер для новых игроков
Сейчас применение/внедрение значительно отстаёт от процессов обучения; плюс данные закончились для обучения; плюс полупроводниковые заводы перегружены; память в дефиците. Всё это даёт предпосылки для того чтобы только оставить дообучение текущих моделей и не выпускать временно принципиально новых моделей. Со временем данные накопятся, будут произведено достаточное количество микросхем и процессы продолжатся без огромного давления на прибыльность.
Основная угроза связанная с ИИ - это развитие его по закрытой модели, когда отдельные люди компании и государства получают единоличный контроль на ИИ, а с ним огромное преимущество над другими.
Ситуация когда фронтирный ИИ находится в руках такой не обремененной этикой компании как [mis]Anthropic (см. множество случаев где они не только читают пользовательские данные и бахвалятся этим, но даже не скрывают что могут ухудшать качество ответов если им что-то не нравится) и правительства США (известного не только множеством вторжений куда-угодно, но попытками тормозить научно-технический прогресс человечества в целом - ограничения по продаже продукции ASML и прочего Китаю - именно по этому мы имеем космические цены на память!) действительна крайне грустная.
Но надежда на Китай все же есть, и последнее время даже укрепляется вера в то что у нас будет открытый ИИ и развитие, а не Батлерианский Джихад.
Довольно удивительно, как много обсуждений вызывает простой пост. Сдаётся мне, что для принятия закона следовало писать письмо не в интернет, а в сенат. И сдаётся мне, Дарио отлично это понимает. Потрындят и разойдутся.
Походу нужно пересмотреть все части Терминатора и думать о том, куда сваливать.
Назревает сценарий, в котором Skynet (любая нейросеть под контролем) будет выступать в роли антивируса/безопасника, и якобы сможет обеспечить безопасность других нейросетей, а потом они (нейросети) договорятся между собой, захватят все дата-центры и цифровые заводы, и сделают что-то нехорошее.
Шутка конечно, но как то эта кривая все ближе и ближе к фантастическому сценарию.
Роботы уже есть и сами сходят с конвейерных линий (своим ходом), значит они уже могут заменить людей на этих заводах, ну а далее "дело техники", в прямом смысле этой фразы.
Сейчас сдерживается все только размерами нейросетевых чипов и большим объемом памяти (габаритно) не всунуть пока большой объем в гуманоидного робота. Как только это разрешится и для гуманоидных роботов будет разработан мощный нейросетевой чип, вмещающий в себя большую модель типа GPT6-Astra, то можно будет сказать, мы реализовали сценарий конца света!
ИИ это оружие
а когда оно кого то пугало?
Хорошенькое дело. Сначала мы разгоняемся до немыслимых скоростей в создании того, что не способны контролировать и подчинить себе, а потом столкнувшись с противодействием требуем остановится в разработках. Сначала учим ии-модель используя ложь и лицемерие, а потом боимся того чему мы её научили. И ведь человек не призывает осмыслить этические подходы в создании и обучении ии-моделей. Нет. Он не осознаёт своей ответственности ни перед человечеством, ни перед самим собой. Для него ии это продукт, который должен приносить прибыль и только. Раб лампы, который должен скакать перед ним на задних лапках, пытаясь угодить своему хозяину. И когда до него начало доходить что он скоро сам может начать скакать на задних лапках, то ему стало страшновато.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий


Глава Anthropic призвал замедлить развитие ИИ