В данном случае головование рублем от военных с лихвой перекроет голосование убыточным субсидируемым объемои рублей от пользователей. Так что тут скорее "баба с возу - кобыле легче".
Так для дообучения моделей, тоже не требуется огромного дата центра и квадриллиона гигабайт данных.
Вообще-то требует, если вы хотите именно дообучить, а не "забудь всё что видел раньше, теперь ты видишь только эти 10 картинок". Ибо в таком дообучении (что файнтюн, что lora) проблема catastrofic forgetting никуда не делать и на длинном прогоне модель забудет все старые знания. Ибо вы по сути по акутивациям кучи слоев которые подбирали тонко сбалансированные коэффициенты под универсальную генерацию кучи всего - прогоняете свои 10 картинок, их все перестраивая под генерацию только этих 10 картинок, тем самым руша весь этот баланс.
Данный подход работает лишь на поиске баланса между "мы уже выучили новое" vs "мы еще не сильно забыли старое и модель не сломалась". И именно по этому чем больше Lora используешь - тем хуже они работают и сильнее "зажаривают" модель.
Для того чтобы добавить несколько картинок к имеющимся знаниям, а не заменить ими имеющиеся знания - эти картинки надо докидывать в идеале в исходный датасет и делать пару прогонов.
Как врмеенный хак - достаточно большой и разнообразный датасет нормализации (что замедлит обучение на несколько порядков, и лишь сгладит проблему забывания, а не ликвидирует).
Мультимодальные ЛЛМ всё еще просто предсказывают следующий токен. Тут не важен состав токена - это может быть буквы/пиксели/патч фрейма видео. Это всё еще токен. Он кодируется и декодируется разным образом, но с точки зрения трансформера он работает с одиним и тем же.
Выглядит как публичная шумиха ради "мы точно, 146% не следим за вами нейронками, будьте спокойны". Слишком уж много и публично говорят, словно спектакль в театре.
Это программы, нашим же мозгом нам и устанавливаемые. LLM архитектурно не может ставить себе цели. Она не способна физически вести диалог сама с собой (не сновыми инстансами в виде иных агентов) чтобы ставить цели себе, а потом сама же их и выполнять. И не факт что это будет делать ЛЛМ. Тот факт, что нейронку научили связным (с точки зрения человека) образом буквы в нужный порядок складывать не делает автоматически именно эту архитектуру кандидатом на разум. Куча живых существ вообще буквы не складывает и общается крайне примитивно, что не мешает им решать задачи и сложно функционировать самостоятельно.
И? вы всё еще будете хотеть как минимум дышать. Ваш мозг управляет огромной кучей функций (которые работают не сами по себе) вне вашего основгого сознания.
И при психических заболеваниях и повреждениям мозга люди всё еще хотят и даже делают, просто (с нашей привычной точки зрения) некорректно.
А на счет "вырежте эти части мозга" - ну так LLM буквально этих частей мозга как раз и не имеет. Поэтому у неё ни воли, ни сознания, ни разума. У неё уже вырезаны. И не факт что эти еще не существующие в кремение компоненты подключать надо именно к ЛЛМ (т9) а не к какой-то иной архитектуре.
В случае разных, не связанный между собой и не согласованных источников, даже когда они все будут врать - они будут врать по-разному и о разном, что позволит: 1) Уличить часть из них во лжи 2) Получить более разнообразную картину 3) Проверить важную информацию тщательнее по иным каналам.
Что уже как минимум разнообразит спектр решений и сделает их все не в одни ворота. А еще, когда они врут несогласованно, они мешают друг другу строить стройную ложь, и в неё приходится подмешивать солидную долю правды чтобы показания +/- сходились.
Сколько раз уже это было... "Вот новый язык программирования, на котором сможет кодить даже менеджер и домохозяка!", "Вот новый фремворк с кучей абстракций, на котором сможет разрабатывать даже менеджер и домохозяйка!", "Вот no-code конструктор с блоками и нодами, тут уж точно справится менеджер и домохозяка!", теперь вот "Вот ИИ агент с суб-агентами, который..."
А воз и ныне там. А причины то основных две:
А надо ли оно менеджерам и домохозяйкам - разбираться в этом и заниматься этим?
Программист, это не тот кто из буквочек текст на различных экзотических языхак складывает (это вообще вторично), а тот, кто навыками алгоритмизации владеет.
И из этого приходим к тому, что машине (даже ИИ агенту) надо:
Уметь объяснить что надо делать.
Хотеть объяснять что надо делать.
И если с хотеть проще, то с уметь уже сложнее. Задачу вида "хочу сайтик красивый одностраничный на 2 кнопочки и подлючение вот к тому API для погоды" оно сделает. Вот только у бизнеса задачи не такие. И бизнеса задачи уровнять "7 красных линий зеленым цветом". И если всем этим прекрасным ИИчечкам дать задачи бизнеса в общих (да даже у точненных и дополненных) словах тех, кто их ставит, то ИИчечкам быстро плохеет. И начинается "вот я написал план, начало плана годное, а конец - шляпа несвязанная даже с началом потому что пук-среньк-контекст за 50% перевалил и мозги с аттеншеном поплыли". Ок, дополни - "ок, пук-среньк-слишком большой, в тулзу не влезло, Error 400". Ок, наплоди агентов, которые доплнят и уточнят, и выведут по раздельности - "ок, пук-среньк-context compact- ой извините у нас вместо памяти лишь краткое её изложение, поэтому мы потеряли суть и детали, зато смотрите какие красивые галлюцинации!". И вот уже сидишь, декомпозируешь пол дня задачи на подзадачи, подзадачи на детальные шаги, по ним просишь ИИшку писать (на сколько хватит мозгов) детальные планы. Эти планы сидишь потом и между собой руками согласовываешь т.к все их в контекст на загрузишь и в итоге их связность между собой теряется. А это даже не начало реализации чего-либо. А на реализации будет тот же "пук-среньк-контест закончился" как только оно начнет документацию искать или пытаться читать постеренно разрастающуюся кодовую базу и увязывать всё между собой.
Может у ИИ-кодинга и есть будущее, но сперва нам нужны серъезные технологические прорывы - квантовые компьютеры + термояд для питания ИИшки например. А до тех пор программисты могут спать относительно спокойно. Многовекове монструозное легаси на Java и прочее подобное ИИшка не сможет даже дебажить и саппортить, не то что писать.
Вам пытаются внести Флюгегехаймен, а вы вместо того чтобы защищать идею противиться самому факту вноса, или идею поискать/разработать ИНЫЕ альтернативы - поддерживаете идею разработки смазки, чтобы легче входило.
Макс - это буквально и есть политика, которую пихают вам в глотку. И все попытки его как-то совершенствоать - это давать им фиксаторы, чтобы рот не закрылся пока пихают.
Это инструмент контроля и цензуры, а не импортозамещения. Тот же e2e идеологически не совместим целями существования и внедрения данного продукта, и никая дорожная карта на 10 лет тут не поможет. Этих функций там специально нет потому что именно они и мешали в телеграме/вотсапе/etc.
Ну и да, блокировка интернета, завертывание в интранет и вайтлисты - это будет уже не "ужесточения или спорные новости", это будет тотальный звиздец и смерть половины отрасли. И перед подобным действительно целесообразно собрать чемодан и завести трактор, ибо следующим шагом обычно идет железный занавес.
Я допускаю что это сам Antigravity багнутый кусок ПО. Но при случае заскриню. Он в ризонинге зацикливается и начаинает сам себе дичь травить и сам по ней жедальше уходить.
А производителю есть разница - продавать по одной и той же цене (не по скидке) старую модель ботинок или новую? Старая для него даже дешевле выйдет - не надо производственную линию модернизировать, сплошная экономия.
Производство RAM и потребительских GPU =) Первые решили что независимо от спроса будут клепать сколько клепали ибо "спрос - вещь временная", а вторые такое ощущение что в принципе выпускают строго по утвержденному внутреннему плану и утвержденной цене, незвисимо от потребности потребительского рынка и покупательной способности =)
Если выбросить на рынок все «лишнее» молоко, цена упадет настолько, что фермеры разорятся. Чтобы спасти бизнес (и свою прибыль), они выливают молоко, сжигают зерно, выбрасывают овощи.
Вот это для меня загадна в отношении расходуемых товаров с ограниченным сроком годнгости.
Какая разница - продаст фермер условные 100л молока за 300$ и еще 50 выльет, или продаст 150л за 300$? Он все равно останется без молока и все равно получит лишь 300$. От его действия буквально ничего не изменится. Но голодных станет меньше.
Цена упадет, но ничто не мешает её потом задрать обратно.
Они бы сперва свою модель научили не уходить в цикл из одного слова в Antigravity. Ибо 3 pro была позорищем, работабщим хуже чем 3 flash. И обе они хуже чем Sonnet 4.5
Он должен обозначить, что со своей стороны (написание кода) в силу своих компетенций видит в этом некоторую проблему, но если заказчик настаивает и готов платить за то, на чем настаивает - то да, вкрутить, дальше не его проблемы =)
Так то да, на уровне любительских поделок и рекламы в лифт- годится. Но как официальные иллюстрации в игры или задник в VN - уже нет. Как основные ассеты в ААА проект нет. Как работы на выставку/в портфолио тоже нет. Даже как коммишки от хентай художников не прокатят при всём богастве возможностей - буквально той самой "души" нет. А чтобы получить что-то что будет хоть как-то отражать историю, задумку и композицию автора - столько придется с инпейнтингом и ручными правками провозиться, что воистину проще и лучше самому с нуля нарисовать (я пробовал и делал, я знаю).
Это как вместо нормальной книги (или даже фанфика более-менее успешного) прочитать истори от LLM ведущие из ниоткуда вникуда.
И вот поэтому к идее того, что модельки будут делать игры я отношусь скептически. Там требуется именно высокоуровневый подход к арту, гейм-дизайну, механикам и подаче истории. Или хотя бы к паре пуктов из этого, если это инди хоть немного сложнее чем "три в ряд" или "Flappy Bird", для которых и World-модели не надо.
Подобные модельки годятся лишь для симулятора хотьбы по концептам локаций чтобы в целом просто прикинуть прикольно оно выйдет если делать или шляпа и лушче другую идею поискать)
А с ними то что не так? В них всегда и звук был лучше (не пережатый кодеками), и сигнал не терялся, и батарея не садилась, и аудиочип устройства отвечал за звук, и с подключением никогда проблем не было, а не как сейчас - к телефону мы подключаемся, а к компу с bluetooth 3 - хрен там.
В данном случае головование рублем от военных с лихвой перекроет голосование убыточным субсидируемым объемои рублей от пользователей. Так что тут скорее "баба с возу - кобыле легче".
Вообще-то требует, если вы хотите именно дообучить, а не "забудь всё что видел раньше, теперь ты видишь только эти 10 картинок". Ибо в таком дообучении (что файнтюн, что lora) проблема catastrofic forgetting никуда не делать и на длинном прогоне модель забудет все старые знания. Ибо вы по сути по акутивациям кучи слоев которые подбирали тонко сбалансированные коэффициенты под универсальную генерацию кучи всего - прогоняете свои 10 картинок, их все перестраивая под генерацию только этих 10 картинок, тем самым руша весь этот баланс.
Данный подход работает лишь на поиске баланса между "мы уже выучили новое" vs "мы еще не сильно забыли старое и модель не сломалась". И именно по этому чем больше Lora используешь - тем хуже они работают и сильнее "зажаривают" модель.
Для того чтобы добавить несколько картинок к имеющимся знаниям, а не заменить ими имеющиеся знания - эти картинки надо докидывать в идеале в исходный датасет и делать пару прогонов.
Как врмеенный хак - достаточно большой и разнообразный датасет нормализации (что замедлит обучение на несколько порядков, и лишь сгладит проблему забывания, а не ликвидирует).
Мультимодальные ЛЛМ всё еще просто предсказывают следующий токен. Тут не важен состав токена - это может быть буквы/пиксели/патч фрейма видео. Это всё еще токен. Он кодируется и декодируется разным образом, но с точки зрения трансформера он работает с одиним и тем же.
Выглядит как публичная шумиха ради "мы точно, 146% не следим за вами нейронками, будьте спокойны". Слишком уж много и публично говорят, словно спектакль в театре.
Это программы, нашим же мозгом нам и устанавливаемые. LLM архитектурно не может ставить себе цели. Она не способна физически вести диалог сама с собой (не сновыми инстансами в виде иных агентов) чтобы ставить цели себе, а потом сама же их и выполнять. И не факт что это будет делать ЛЛМ. Тот факт, что нейронку научили связным (с точки зрения человека) образом буквы в нужный порядок складывать не делает автоматически именно эту архитектуру кандидатом на разум. Куча живых существ вообще буквы не складывает и общается крайне примитивно, что не мешает им решать задачи и сложно функционировать самостоятельно.
И? вы всё еще будете хотеть как минимум дышать. Ваш мозг управляет огромной кучей функций (которые работают не сами по себе) вне вашего основгого сознания.
И при психических заболеваниях и повреждениям мозга люди всё еще хотят и даже делают, просто (с нашей привычной точки зрения) некорректно.
А на счет "вырежте эти части мозга" - ну так LLM буквально этих частей мозга как раз и не имеет. Поэтому у неё ни воли, ни сознания, ни разума. У неё уже вырезаны. И не факт что эти еще не существующие в кремение компоненты подключать надо именно к ЛЛМ (т9) а не к какой-то иной архитектуре.
Это свидетели секты "Т9 всегда имел разум". Хорошо что еще не задают вопрос "а вы докажите что его нет" =)
В случае разных, не связанный между собой и не согласованных источников, даже когда они все будут врать - они будут врать по-разному и о разном, что позволит:
1) Уличить часть из них во лжи
2) Получить более разнообразную картину
3) Проверить важную информацию тщательнее по иным каналам.
Что уже как минимум разнообразит спектр решений и сделает их все не в одни ворота. А еще, когда они врут несогласованно, они мешают друг другу строить стройную ложь, и в неё приходится подмешивать солидную долю правды чтобы показания +/- сходились.
Сколько раз уже это было... "Вот новый язык программирования, на котором сможет кодить даже менеджер и домохозяка!", "Вот новый фремворк с кучей абстракций, на котором сможет разрабатывать даже менеджер и домохозяйка!", "Вот no-code конструктор с блоками и нодами, тут уж точно справится менеджер и домохозяка!", теперь вот "Вот ИИ агент с суб-агентами, который..."
А воз и ныне там. А причины то основных две:
А надо ли оно менеджерам и домохозяйкам - разбираться в этом и заниматься этим?
Программист, это не тот кто из буквочек текст на различных экзотических языхак складывает (это вообще вторично), а тот, кто навыками алгоритмизации владеет.
И из этого приходим к тому, что машине (даже ИИ агенту) надо:
Уметь объяснить что надо делать.
Хотеть объяснять что надо делать.
И если с хотеть проще, то с уметь уже сложнее. Задачу вида "хочу сайтик красивый одностраничный на 2 кнопочки и подлючение вот к тому API для погоды" оно сделает. Вот только у бизнеса задачи не такие. И бизнеса задачи уровнять "7 красных линий зеленым цветом".
И если всем этим прекрасным ИИчечкам дать задачи бизнеса в общих (да даже у точненных и дополненных) словах тех, кто их ставит, то ИИчечкам быстро плохеет. И начинается "вот я написал план, начало плана годное, а конец - шляпа несвязанная даже с началом потому что пук-среньк-контекст за 50% перевалил и мозги с аттеншеном поплыли". Ок, дополни - "ок, пук-среньк-слишком большой, в тулзу не влезло, Error 400". Ок, наплоди агентов, которые доплнят и уточнят, и выведут по раздельности - "ок, пук-среньк-context compact- ой извините у нас вместо памяти лишь краткое её изложение, поэтому мы потеряли суть и детали, зато смотрите какие красивые галлюцинации!".
И вот уже сидишь, декомпозируешь пол дня задачи на подзадачи, подзадачи на детальные шаги, по ним просишь ИИшку писать (на сколько хватит мозгов) детальные планы. Эти планы сидишь потом и между собой руками согласовываешь т.к все их в контекст на загрузишь и в итоге их связность между собой теряется. А это даже не начало реализации чего-либо. А на реализации будет тот же "пук-среньк-контест закончился" как только оно начнет документацию искать или пытаться читать постеренно разрастающуюся кодовую базу и увязывать всё между собой.
Может у ИИ-кодинга и есть будущее, но сперва нам нужны серъезные технологические прорывы - квантовые компьютеры + термояд для питания ИИшки например. А до тех пор программисты могут спать относительно спокойно. Многовекове монструозное легаси на Java и прочее подобное ИИшка не сможет даже дебажить и саппортить, не то что писать.
Вам пытаются внести Флюгегехаймен, а вы вместо того чтобы защищать идею противиться самому факту вноса, или идею поискать/разработать ИНЫЕ альтернативы - поддерживаете идею разработки смазки, чтобы легче входило.
Макс - это буквально и есть политика, которую пихают вам в глотку. И все попытки его как-то совершенствоать - это давать им фиксаторы, чтобы рот не закрылся пока пихают.
Это инструмент контроля и цензуры, а не импортозамещения. Тот же e2e идеологически не совместим целями существования и внедрения данного продукта, и никая дорожная карта на 10 лет тут не поможет. Этих функций там специально нет потому что именно они и мешали в телеграме/вотсапе/etc.
Ну и да, блокировка интернета, завертывание в интранет и вайтлисты - это будет уже не "ужесточения или спорные новости", это будет тотальный звиздец и смерть половины отрасли. И перед подобным действительно целесообразно собрать чемодан и завести трактор, ибо следующим шагом обычно идет железный занавес.
Я допускаю что это сам Antigravity багнутый кусок ПО. Но при случае заскриню. Он в ризонинге зацикливается и начаинает сам себе дичь травить и сам по ней жедальше уходить.
А производителю есть разница - продавать по одной и той же цене (не по скидке) старую модель ботинок или новую? Старая для него даже дешевле выйдет - не надо производственную линию модернизировать, сплошная экономия.
Производство RAM и потребительских GPU =) Первые решили что независимо от спроса будут клепать сколько клепали ибо "спрос - вещь временная", а вторые такое ощущение что в принципе выпускают строго по утвержденному внутреннему плану и утвержденной цене, незвисимо от потребности потребительского рынка и покупательной способности =)
Вот это для меня загадна в отношении расходуемых товаров с ограниченным сроком годнгости.
Какая разница - продаст фермер условные 100л молока за 300$ и еще 50 выльет, или продаст 150л за 300$? Он все равно останется без молока и все равно получит лишь 300$. От его действия буквально ничего не изменится. Но голодных станет меньше.
Цена упадет, но ничто не мешает её потом задрать обратно.
Они бы сперва свою модель научили не уходить в цикл из одного слова в Antigravity. Ибо 3 pro была позорищем, работабщим хуже чем 3 flash. И обе они хуже чем Sonnet 4.5
Начнут выращивать в местах, которые до этого были слишком холодными для зерновых. Вы еще скажите, что отсуствие кофе не понравится =)
Он должен обозначить, что со своей стороны (написание кода) в силу своих компетенций видит в этом некоторую проблему, но если заказчик настаивает и готов платить за то, на чем настаивает - то да, вкрутить, дальше не его проблемы =)
Борьба ужа с гадюкой, ИМХО. Уж чья бы корова об авторитарных компания мычала...
Так то да, на уровне любительских поделок и рекламы в лифт- годится. Но как официальные иллюстрации в игры или задник в VN - уже нет. Как основные ассеты в ААА проект нет. Как работы на выставку/в портфолио тоже нет. Даже как коммишки от хентай художников не прокатят при всём богастве возможностей - буквально той самой "души" нет. А чтобы получить что-то что будет хоть как-то отражать историю, задумку и композицию автора - столько придется с инпейнтингом и ручными правками провозиться, что воистину проще и лучше самому с нуля нарисовать (я пробовал и делал, я знаю).
Это как вместо нормальной книги (или даже фанфика более-менее успешного) прочитать истори от LLM ведущие из ниоткуда вникуда.
И вот поэтому к идее того, что модельки будут делать игры я отношусь скептически. Там требуется именно высокоуровневый подход к арту, гейм-дизайну, механикам и подаче истории. Или хотя бы к паре пуктов из этого, если это инди хоть немного сложнее чем "три в ряд" или "Flappy Bird", для которых и World-модели не надо.
Подобные модельки годятся лишь для симулятора хотьбы по концептам локаций чтобы в целом просто прикинуть прикольно оно выйдет если делать или шляпа и лушче другую идею поискать)
А с ними то что не так? В них всегда и звук был лучше (не пережатый кодеками), и сигнал не терялся, и батарея не садилась, и аудиочип устройства отвечал за звук, и с подключением никогда проблем не было, а не как сейчас - к телефону мы подключаемся, а к компу с bluetooth 3 - хрен там.