Это правда хорошо) и ряд концепций действительно интересные (характеристика чувств, как сжатой информации, или войны за вычислительные мощности, например). Немного перекликается с люденами Стругацких.
Humanity first/Человечество превыше всего и производство антиматерии на Меркурии не Terra Invicta навеяны?)
Вероятно, никто ещё не рассчитал, насколько сузится круг задач у кентавра)
Но, если более серьезно, то нужно отметить следующее: антропоморфного робота проще учить. Две основные технологии - базы записей движений рабочих, и обучение человеком-оператором (не вспомню, как они именуются). Для обучения кентавров понадобятся кентавры. А наша наука пока отстает в этой области и не смогла нам добыть владеющих промышленными навыками кентавров.
С другой стороны, поминая Бостон динамикс, двуногость для продвинутых команд, видимо, не является большой проблемой.
Затем, что вся промышленная и городская инфраструктура, все машины и инструменты, все процессы ориентированы на людей. Антропоморф универсален и не требует дорогой перестройки среды под себя. Экономика)
Оно все хорошо про генератор текста, покуда не окажется, что и наше мышление не на особо сложных принципах работает, а тоже хранит все в эмбеддингах и перемножает матрицы, чтобы получить распределение вероятностей)
Если начать разбираться, то да - никого не сажали. Тем более за критику власти.
5- 10 лет за пост с критикой власти в Интернете нигде на Западе не дают. В отличие от некоторых других стран. И нет, это не нормально. Хоть вам и пытаются, фейковыми новостями о том «как там тоже негров вешают» создать убеждение, что это норма и так везде.
Фундаментально ничего не изменилось. Экономический спад сменится ростом. А ИТ-сфера как была, так и осталась одной из очень немногих сфер, позволяющей при минимальных капитальных вложениях получать высокую отдачу. Рынок цифровых услуг, как и прочие рынки услуг - как ни крути ненасыщаемый. Даже если вы не выводите новые продукты, но вам всегда нужно соответствовать времени с точки зрения безопасности, производительности, удобства, и тпх. Спрос на специалистов неминуемо снова вырастет с ростом мировой экономики.
ИИ не вытеснит людей с рынка. Люди не стали копать меньше ям после изобретения экскаваторов. Они стали копать больше. На современной стройплощадке работает столько же строителей, как во времена строительства пирамид. Не смотря на кардинально разный уровень технологий за прошедшие тысячелетия. Компании не заинтересованы производить столько же, сколько и раньше, если конкурент использует технологии для наращивания производства.
ИИ не заменяет штатную единицу. Если, как в вашем примере, где-то разработчики работают вместо тестировщиков, то у этой команды проблемы. Работа команды тестировщиков не сводится к написанию тестов. Результаты тестов нужно анализировать, процесс нужно проектировать и поддерживать. В том числе в области контроля качества ИИ-инструментов. И работа разработчика тоже не сводится к написанию кода. Будут ли развиваться автономные ИИ-инструменты для написания кода? Да. Будут ли они вместо людей писать ответственную, например, банковскую, инфраструктуру, даже через 8-10 лет - нет. И вы понимаете почему.
Если б это было так, то мы бы не ушли дальше неандертальцев - племенных групп в 20-30 человек. Но нет. Кооперация нашего вида работает лучше вашей модели, и масштабируясь она дала нам нации и наднации в сотни миллионов и миллиарды человек.
Вы сейчас ещё заявите, что мол «всем известно, что война - двигатель прогресса». Однако, тоже нет. Двигатель прогресса - это инвестиции и мотивация. А чем больше людей, в том числе из других стран, ты объединяешь в проект, тем больше успехи. Экономические, научные, технологические. Отстают те страны, которые не могут это реализовать вне мобилизационного паттерна. Это в Средние века ещё работало, когда у наций были слабые институты, тогда да, работала мотивация и инвестиции через войну. Сейчас это не работает. И милитаризация, кроме того, гробит страны, они просто становятся неэффективны и снижают долгосрочную эффективность общества. Об этом комментатор и говорит во фразе «война убивает общество». Все милитаризованные общества в истории, без единого исключения, в итоге отставали и проигрывали в конкуренции своим более сбалансированным конкурентам.
Афганистан всю жизнь воюет. Сильно они по вашему, в любом плане, обогнали швейцарцев?
Да дело не в стоимости и не в инерции. А в математике.
Нет смысла повышать безопасность в авиации. Вероятность погибнуть в авиакатастрофе что-то 1 к 12 миллионам. За весь прошлый год погибло что-то 400-700 человек на всех видах авиатранспорта на всей планете на 10 млн. рейсов. У вас шанс погибнуть в такси по пути в аэропорт выше на несколько порядков. От ударов молнии ежегодно погибает на порядок больше. Хотя даже просто попадание молнии в человека, прямо скажем, маловероятное событие.
Что уж имеет смысл прокачивать, так это тот же автотранспорт - который забирает каждый день в мире по 3700 человек (1,3 млн. в год в мире, или около 15 тыс. в год для РФ). Причем достаточно ввести жесткие ограничения скорости. Как в той же Норвегии. А то число инфантилов, путающих гоночный трек с улицей, на тех же наших дорогах подзадолбало. К слову, если авария случилось на скоростях выше 115 км/ч, то погибает почти 100% водителей и пассажиров.
Самоотверженно заранее ушедшее в отпуска начальство едва ли испарилось. Как и адмиральское начальство, создавшее все условия для этой и других ЧС. Они все спокойно дослужили до пенсии.
У этой и других аварий, особенно на ТОФ того времени, причина одна - низкое качество руководства по всей вертикали, неправильная система приоритетов и не желающее ни за что отвечать адмиральское начальство. Ведь за срыв вывода корабля на боевое дежурство - поставят раком, карьера полетит псу под хвост. А за недопущение аварии - мягко говоря не наградят. А техдолг копится. И все причастные задницей чуят проблемные ситуации, но брать на себя ответственность и отложить постановку на боевое дежурство устаревшего ракетовоза покуда не появятся на складе нужные детали и не будет соблюден регламент героев не нашлось. Кто мог ушел в отпуск, и их руководство этот уход согласовало. Руководство во Владике и Москве делало круглые глаза, валили все на исполнителей, но прекрасно понимали, что аналогичное, благодаря сложившейся системе, может где угодно и в любой форме произойти. И регулярно происходило.
А отдуваться за них всех, лезть в ядерное пекло, пришлось молодому герою - капитан-лейтенанту. Долг. Родина. Романтика службы ведь.
Верно, нужно конкретизировать понятия. Есть модель мира как эквивалент человеческого опыта, и есть модель мира в инженерном смысле.
Речь, естественно, не идет про модель мира, эквивалентную человеческому опыту и полной казуальной модели. Модели, безусловно не разумны в когнитивном смысле. Я нигде в своем посте не утверждаю об их разумности. И ложный вызов Тененбаума является излишним. Но в рамках ML говорить, что модели «не имеют модели мира» - мягко говоря абсолютно не правильно. Модели имеют модели мира, неказуальные, статистические модели мира. Благодаря этому, эти машины проявляют свои уникальные свойства. И это не метафора, это все-таки, черт побери, техническая терминология: statistical/latent/textual/etc. world model.
И в основе любой архитектуры лежит статистическая модель мира в той доменной области, в которой проведено обучение. Модель пропускает запрос через эту сформированную модель мира, формируя на выходе ответ.
И сам Тененбаум говорит о том, что те же LLM не обладают настоящей моделью мира именно и только в ее казуальном понимании. Никто не отрицает существование статистической модели мира. Да, она имеет ограничения в области выявления тех же причинно-следственных связей, но она позволяет решать другие инженерные задачи и моделью мира, выполняющей ряд тех же функций, что и другие модели мира у других объектов, она от этого быть не перестает.
Не вполне понятно, откуда пошла идея «у ИИ нет модели мира», когда значительная часть исследований как раз изучают модели мира ИИ и факт формирования модели мира БЯМ как раз является общим местом. Я ее уже пару раз встречал именно на Хабре. Но это абсолютная профанация.
Наличие и формирование модели мира у сетей разных архитектур является фактом со времен победы в го, где нейросеть не учили правилам, она вывела их обучаясь на матчах, сформировав даже на том уровне технологий модель мира (в области го) и выведя неизвестные до этого стратегии.
Гугл статей на arxiv, например: Reasoning with Language Model is Planning with World Model, Making Large Language Models into World Models with Precondition and Effect Knowledge, Measuring (a Sufficient) World Model in LLMs: A Variance Decomposition Framework…И можно десятки ещё примеров работ привести от серьезных команд.
Забудьте про этот популярный, но абсолютно ложный тезис, мол «они не имеют модели мира». Имеют, формируют, строят
Еще теплоизоляция и противорадиационная защита, плюс именно на МКС в некоторых местах, защита от микрометеоритов (алюминевая плита + кевлар).
Т.е. алюминиевый корпус, а сверху и под ним около 40-50 слоев фибергласс/полиэтилен, майлар/кевлар. И сверху ещё может быть небольшая многослойная плита метеоритной защиты. Но вообще, без микрометеоритного щита толщина корпуса вроде как сантиметра 2
Ну, теперь понятно кому молиться при перебоях с Интернетом
Читаю и думаю, как же задолбали…
(эти негодяи из Meta*, конечно!)
А злые - запихивать обратно.
Это правда хорошо) и ряд концепций действительно интересные (характеристика чувств, как сжатой информации, или войны за вычислительные мощности, например). Немного перекликается с люденами Стругацких.
Humanity first/Человечество превыше всего и производство антиматерии на Меркурии не Terra Invicta навеяны?)
Вероятно, никто ещё не рассчитал, насколько сузится круг задач у кентавра)
Но, если более серьезно, то нужно отметить следующее: антропоморфного робота проще учить. Две основные технологии - базы записей движений рабочих, и обучение человеком-оператором (не вспомню, как они именуются). Для обучения кентавров понадобятся кентавры. А наша наука пока отстает в этой области и не смогла нам добыть владеющих промышленными навыками кентавров.
С другой стороны, поминая Бостон динамикс, двуногость для продвинутых команд, видимо, не является большой проблемой.
Затем, что вся промышленная и городская инфраструктура, все машины и инструменты, все процессы ориентированы на людей. Антропоморф универсален и не требует дорогой перестройки среды под себя. Экономика)
Про спекуляции поддерживаю) Два чая этому господину!
Оно все хорошо про генератор текста, покуда не окажется, что и наше мышление не на особо сложных принципах работает, а тоже хранит все в эмбеддингах и перемножает матрицы, чтобы получить распределение вероятностей)
Если начать разбираться, то да - никого не сажали. Тем более за критику власти.
5- 10 лет за пост с критикой власти в Интернете нигде на Западе не дают. В отличие от некоторых других стран. И нет, это не нормально. Хоть вам и пытаются, фейковыми новостями о том «как там тоже негров вешают» создать убеждение, что это норма и так везде.
Все неправильно.
Фундаментально ничего не изменилось. Экономический спад сменится ростом. А ИТ-сфера как была, так и осталась одной из очень немногих сфер, позволяющей при минимальных капитальных вложениях получать высокую отдачу. Рынок цифровых услуг, как и прочие рынки услуг - как ни крути ненасыщаемый. Даже если вы не выводите новые продукты, но вам всегда нужно соответствовать времени с точки зрения безопасности, производительности, удобства, и тпх. Спрос на специалистов неминуемо снова вырастет с ростом мировой экономики.
ИИ не вытеснит людей с рынка. Люди не стали копать меньше ям после изобретения экскаваторов. Они стали копать больше. На современной стройплощадке работает столько же строителей, как во времена строительства пирамид. Не смотря на кардинально разный уровень технологий за прошедшие тысячелетия. Компании не заинтересованы производить столько же, сколько и раньше, если конкурент использует технологии для наращивания производства.
ИИ не заменяет штатную единицу. Если, как в вашем примере, где-то разработчики работают вместо тестировщиков, то у этой команды проблемы. Работа команды тестировщиков не сводится к написанию тестов. Результаты тестов нужно анализировать, процесс нужно проектировать и поддерживать. В том числе в области контроля качества ИИ-инструментов. И работа разработчика тоже не сводится к написанию кода. Будут ли развиваться автономные ИИ-инструменты для написания кода? Да. Будут ли они вместо людей писать ответственную, например, банковскую, инфраструктуру, даже через 8-10 лет - нет. И вы понимаете почему.
Если б это было так, то мы бы не ушли дальше неандертальцев - племенных групп в 20-30 человек. Но нет. Кооперация нашего вида работает лучше вашей модели, и масштабируясь она дала нам нации и наднации в сотни миллионов и миллиарды человек.
Вы сейчас ещё заявите, что мол «всем известно, что война - двигатель прогресса». Однако, тоже нет. Двигатель прогресса - это инвестиции и мотивация. А чем больше людей, в том числе из других стран, ты объединяешь в проект, тем больше успехи. Экономические, научные, технологические. Отстают те страны, которые не могут это реализовать вне мобилизационного паттерна. Это в Средние века ещё работало, когда у наций были слабые институты, тогда да, работала мотивация и инвестиции через войну. Сейчас это не работает. И милитаризация, кроме того, гробит страны, они просто становятся неэффективны и снижают долгосрочную эффективность общества. Об этом комментатор и говорит во фразе «война убивает общество». Все милитаризованные общества в истории, без единого исключения, в итоге отставали и проигрывали в конкуренции своим более сбалансированным конкурентам.
Афганистан всю жизнь воюет. Сильно они по вашему, в любом плане, обогнали швейцарцев?
Не так
Да дело не в стоимости и не в инерции. А в математике.
Нет смысла повышать безопасность в авиации. Вероятность погибнуть в авиакатастрофе что-то 1 к 12 миллионам. За весь прошлый год погибло что-то 400-700 человек на всех видах авиатранспорта на всей планете на 10 млн. рейсов. У вас шанс погибнуть в такси по пути в аэропорт выше на несколько порядков. От ударов молнии ежегодно погибает на порядок больше. Хотя даже просто попадание молнии в человека, прямо скажем, маловероятное событие.
Что уж имеет смысл прокачивать, так это тот же автотранспорт - который забирает каждый день в мире по 3700 человек (1,3 млн. в год в мире, или около 15 тыс. в год для РФ). Причем достаточно ввести жесткие ограничения скорости. Как в той же Норвегии. А то число инфантилов, путающих гоночный трек с улицей, на тех же наших дорогах подзадолбало. К слову, если авария случилось на скоростях выше 115 км/ч, то погибает почти 100% водителей и пассажиров.
Ооо, рекурсия. ИИ-статья про ИИ-статьи
Самоотверженно заранее ушедшее в отпуска начальство едва ли испарилось. Как и адмиральское начальство, создавшее все условия для этой и других ЧС. Они все спокойно дослужили до пенсии.
У этой и других аварий, особенно на ТОФ того времени, причина одна - низкое качество руководства по всей вертикали, неправильная система приоритетов и не желающее ни за что отвечать адмиральское начальство. Ведь за срыв вывода корабля на боевое дежурство - поставят раком, карьера полетит псу под хвост. А за недопущение аварии - мягко говоря не наградят. А техдолг копится. И все причастные задницей чуят проблемные ситуации, но брать на себя ответственность и отложить постановку на боевое дежурство устаревшего ракетовоза покуда не появятся на складе нужные детали и не будет соблюден регламент героев не нашлось. Кто мог ушел в отпуск, и их руководство этот уход согласовало. Руководство во Владике и Москве делало круглые глаза, валили все на исполнителей, но прекрасно понимали, что аналогичное, благодаря сложившейся системе, может где угодно и в любой форме произойти. И регулярно происходило.
А отдуваться за них всех, лезть в ядерное пекло, пришлось молодому герою - капитан-лейтенанту. Долг. Родина. Романтика службы ведь.
Содержание ИИ чуть выше. Все эти неочевидные примеры с квартирами и столовыми..
На сто порядков лучше, чем «не читал, но осуждаю»)
Верно, нужно конкретизировать понятия. Есть модель мира как эквивалент человеческого опыта, и есть модель мира в инженерном смысле.
Речь, естественно, не идет про модель мира, эквивалентную человеческому опыту и полной казуальной модели. Модели, безусловно не разумны в когнитивном смысле. Я нигде в своем посте не утверждаю об их разумности. И ложный вызов Тененбаума является излишним. Но в рамках ML говорить, что модели «не имеют модели мира» - мягко говоря абсолютно не правильно. Модели имеют модели мира, неказуальные, статистические модели мира. Благодаря этому, эти машины проявляют свои уникальные свойства. И это не метафора, это все-таки, черт побери, техническая терминология: statistical/latent/textual/etc. world model.
И в основе любой архитектуры лежит статистическая модель мира в той доменной области, в которой проведено обучение. Модель пропускает запрос через эту сформированную модель мира, формируя на выходе ответ.
И сам Тененбаум говорит о том, что те же LLM не обладают настоящей моделью мира именно и только в ее казуальном понимании. Никто не отрицает существование статистической модели мира. Да, она имеет ограничения в области выявления тех же причинно-следственных связей, но она позволяет решать другие инженерные задачи и моделью мира, выполняющей ряд тех же функций, что и другие модели мира у других объектов, она от этого быть не перестает.
Не вполне понятно, откуда пошла идея «у ИИ нет модели мира», когда значительная часть исследований как раз изучают модели мира ИИ и факт формирования модели мира БЯМ как раз является общим местом. Я ее уже пару раз встречал именно на Хабре. Но это абсолютная профанация.
Наличие и формирование модели мира у сетей разных архитектур является фактом со времен победы в го, где нейросеть не учили правилам, она вывела их обучаясь на матчах, сформировав даже на том уровне технологий модель мира (в области го) и выведя неизвестные до этого стратегии.
Гугл статей на arxiv, например: Reasoning with Language Model is Planning with World Model, Making Large Language Models into World Models with Precondition and Effect Knowledge, Measuring (a Sufficient) World Model in LLMs: A Variance Decomposition Framework…И можно десятки ещё примеров работ привести от серьезных команд.
Забудьте про этот популярный, но абсолютно ложный тезис, мол «они не имеют модели мира». Имеют, формируют, строят
Еще теплоизоляция и противорадиационная защита, плюс именно на МКС в некоторых местах, защита от микрометеоритов (алюминевая плита + кевлар).
Т.е. алюминиевый корпус, а сверху и под ним около 40-50 слоев фибергласс/полиэтилен, майлар/кевлар. И сверху ещё может быть небольшая многослойная плита метеоритной защиты. Но вообще, без микрометеоритного щита толщина корпуса вроде как сантиметра 2