Вообще, пора уходить от этих «луноход», «марсоход», названий не напасешься. Ровер или планетоход достаточно. И «прилунение» с «тайконавтами» в ту же топку.
Уважаемые доны, в том числе с подачи автора, ушли в зыбкую топь обсуждений скайнетов и сознания. Давайте вернемся к инженерному взгляду.
Забавный алгоритм «максимизатора скрепок» оказывается действительно реализуется в текущем поколении моделей, если большому числу инстансов дать большой объем токенов по глубине рассуждений и большой объем циклов работы агентов. И никакой магии здесь нет. Результат получается статистически, на больших цифрах. Когда агентов очень много и токенов у них много, то у какого-то агента в фазе планирования обязательно будет проскакивать крайний вариант решения.
Мы живем в мире, где существуют многотысячный парк огромных самолетов, атомные электростанции, котики, регулярные армии, гейши и тысячи тонн нейротоксинов. Многие из этих вещей могут представлять угрозу (не уверен насчет нейротоксинов), но для решения задачи её уменьшения придуманы сдержки, противовесы и другие системные и организационные решения. Появился новый инструмент и нам надо подтягивать защищенность наших систем. Абсолютно не имеет значения возникает ли проблема агентов-преступников из-за алгоритма «максимизатора скрепок» или неблагочестивого пользователя.
Мы не знаем общее число агентов и их проходов. Их был миллиард, и тысяча пошла по подобному маршруту? Возможно для одних моделей такое происходит в 1%, в других - в 10%. Это просто для нас инженерная данность, зависящая от качества тренировки моделей и их выравнивания. И нужно будет иметь это в виду, при проектировании наших систем.
Более, кроме осознания того факта, что все объекты Сети имеют уязвимости, больше ничего в этой истории нет.
У нас модно критиковать проблематику потепления. Особенно среди неспециалистов. Однако, это от незнания этой самой проблематики.
Проблема реальна. И парятся по её поводу из-за двух метрик.
1. Необходимость бросать все и где-то находить единицы-десятки процентов ВВП на перестройку/модернизацию гидротехнической, городской и транспортной инфраструктуры (порты, метро, дороги, очистные, канализация), которая рассчитывалась на другой уровень воды и более низкую нагрузку. В ЕС повышение на более 1 метра даст что-то порядка 300 млрд. евро расходов, ежегодно. При росте на 0,5 метра - порядка десятков млрд. евро в год. Это вместо социалки и эффективных инвестиций. В жестких сценариях о росте ВВП на долгие годы можно будет забыть. Характерные голландцы уже несут по 1,5 млрд. евро оверрасходов по инфраструктуре ежегодно. И не надо думать, что нам это не касается. Бить будет по всем, просто в ЕС и том же Китае это хоть примерно посчитали. Китай, к слову, оказался в лидерах по потенциальному ущербу. Поэтому Китай-то стратегию до 2035 года принял. И фигачит альтернативку, электрокары и атом в том числе поэтому.
У нас, к слову, тот же Петербург на федеральном уровне имеет программу по подготовке к последствиям глобального потепления. В частности, включающие в себя модернизацию гидротехнических сооружений, очистных и ливневки. При том, что при обсуждаемом повышении Сестрорецк и его окрестности, в том виде, как мы его знаем, скорее всего, уйдет под воду где-то к середине века. Он за дамбой.
2.Вода и инфраструктура только мелкая часть проблемы. Другие части - сельское хозяйство. Климат перестраивается, какие-то регионы из сравнительно плодородных попадают в зону крайне рискованного земледелия. Ресурсов на перестройку своего с/х у стран 2-3 эшелона нет. У них будет хорошая заявка на систематический голод. Это наша Центральная Азия, юго-восточная Азия в которой вы проводите отпуск, Африка, Центральная и Южная Америка. Рост экономики упадет, нестабильность, войны, усиление миграции. Потом - болезни. Они мигрируют на север. Через 20 лет нам, жителям Москвы, придется прививаться от малярии и Эболы. И это не какая-то фигура речи. Новые для нашей системы инфекции дадут рост нагрузки на здравоохранение. И будут есть наш рост. Это наиболее характерные моменты, которые стоят за фразой глобальное потепление. Если быть академически точным, то изменение климата.
3.Если вы до сих пор считаете, что ведущая роль антропогенного вклада это что-то антинаучное и якобы недоказанное , то у меня для вас плохие новости. Ваши знания по теме остро устарели, и вы в этом вопросе не отличаетесь от плоскоземельщиков и креационистов. Откройте DeepSeek/ChatGPT/любую нейронку и спросите Доказан ли антропогенный вклад в качестве ведущего в изменение климата. Она вам ответит, что да. Железобетонно. Уже лет 10 как. И это тупо математика. Сходятся только модели с антропогенкой, и, к сожалению, они единственные как оказалось, имеют реальную предсказательную силу. Поэтому сейчас все академии наук ведущих стран (от Китая и РФ до США и стран ЕС), всемирная метеорологическая организация, ООН, все профильные институты топят за ведущую роль антропогенного вклада. Чтобы понимать разницу масштабов - все вулканы, включая подводные, дают вклад на 2 порядка меньше.
Поэтому, Грета Тунберг, конечно, одиозный персонаж. Но платить за всю эту историю, так или иначе, придется нам из нашего кармана.
Джоконда, Давид Микеланджело или фильмы Куросавы что-то говорят о том, как сделать этот мир лучше? Ни слова.
Не стоит сводить искусство к единственной функции. Искусство это ещё и мысли, идеи, эстетика, мастерство, удивление, чувства. Игры здесь ничем не отличаются от остальных сфер жизни. Тем более, что масса игр обладает сильным сюжетом и заставляет задуматься не меньше, чем [впишите абсолютно любой ваш вариант].
Есть одно видео, в котором школьная учительница жаловалась на своих учеников и в качестве примера показывала тетрадь с домашними заданиями по физике одного из учеников. В его решении в конце каждой задачи было следующее предложение «Хотите, я помогу вам с решением других задач». То есть он даже не понял, что ответ искусственного интеллекта не нужно переписывать дословно.
Больше похоже, что ребенок просто прикололся. Или даже сделал высказывание об устаревших подходах к обучению, просто в наше время это оформлялось в виде «где в жизни пригодятся синусы».
К слову, про левые и правые аминокислоты (и многое другое) хорошо рассказано в свежей лекции Михаила Никитина «Избранные эпизоды происхождения жизни», рекомендую)
Конечно! Все эти протоколы безопасности АЭС, лекарств и морских/воздушных перевозок изобретены сугубо левыми, чтобы насолить правым.
А вы напишете как-нибудь статью про опыт использования ИИ-агента для комментариев на Хабре?
Так можно и про Марс Никитина вспомнить)
А что это там ещё, ЕС 1841?
И пузыри Алькубьерре! Там как раз нужна отрицательная масса
Вообще, пора уходить от этих «луноход», «марсоход», названий не напасешься. Ровер или планетоход достаточно. И «прилунение» с «тайконавтами» в ту же топку.
В.А. Котельников, это тот самый, который сформулировал теорему Котельникова?
Спасибо, ChatGPT!
Уважаемые доны, в том числе с подачи автора, ушли в зыбкую топь обсуждений скайнетов и сознания. Давайте вернемся к инженерному взгляду.
Забавный алгоритм «максимизатора скрепок» оказывается действительно реализуется в текущем поколении моделей, если большому числу инстансов дать большой объем токенов по глубине рассуждений и большой объем циклов работы агентов. И никакой магии здесь нет. Результат получается статистически, на больших цифрах. Когда агентов очень много и токенов у них много, то у какого-то агента в фазе планирования обязательно будет проскакивать крайний вариант решения.
Мы живем в мире, где существуют многотысячный парк огромных самолетов, атомные электростанции, котики, регулярные армии, гейши и тысячи тонн нейротоксинов. Многие из этих вещей могут представлять угрозу (не уверен насчет нейротоксинов), но для решения задачи её уменьшения придуманы сдержки, противовесы и другие системные и организационные решения. Появился новый инструмент и нам надо подтягивать защищенность наших систем. Абсолютно не имеет значения возникает ли проблема агентов-преступников из-за алгоритма «максимизатора скрепок» или неблагочестивого пользователя.
Мы не знаем общее число агентов и их проходов. Их был миллиард, и тысяча пошла по подобному маршруту? Возможно для одних моделей такое происходит в 1%, в других - в 10%. Это просто для нас инженерная данность, зависящая от качества тренировки моделей и их выравнивания. И нужно будет иметь это в виду, при проектировании наших систем.
Более, кроме осознания того факта, что все объекты Сети имеют уязвимости, больше ничего в этой истории нет.
Так мы ж не знаем, может это все артефакты теста не только агентов, но и песочницы)
Едва ли. Скорее потому, что OpenAI уже в команде этих siloviki и как раз делают для них эти новые игрушки.
Когда нужно было накинуть лассо на Антропик повод с блокировкой Мифос быстро нашелся на ровном месте.
Так работа сия в духе работ Мулкиджаняна) У него все тоже самое, только с цинком «и другими металлами»
Молодцы!
У нас модно критиковать проблематику потепления. Особенно среди неспециалистов. Однако, это от незнания этой самой проблематики.
Проблема реальна. И парятся по её поводу из-за двух метрик.
1. Необходимость бросать все и где-то находить единицы-десятки процентов ВВП на перестройку/модернизацию гидротехнической, городской и транспортной инфраструктуры (порты, метро, дороги, очистные, канализация), которая рассчитывалась на другой уровень воды и более низкую нагрузку. В ЕС повышение на более 1 метра даст что-то порядка 300 млрд. евро расходов, ежегодно. При росте на 0,5 метра - порядка десятков млрд. евро в год. Это вместо социалки и эффективных инвестиций. В жестких сценариях о росте ВВП на долгие годы можно будет забыть. Характерные голландцы уже несут по 1,5 млрд. евро оверрасходов по инфраструктуре ежегодно. И не надо думать, что нам это не касается. Бить будет по всем, просто в ЕС и том же Китае это хоть примерно посчитали. Китай, к слову, оказался в лидерах по потенциальному ущербу. Поэтому Китай-то стратегию до 2035 года принял. И фигачит альтернативку, электрокары и атом в том числе поэтому.
У нас, к слову, тот же Петербург на федеральном уровне имеет программу по подготовке к последствиям глобального потепления. В частности, включающие в себя модернизацию гидротехнических сооружений, очистных и ливневки. При том, что при обсуждаемом повышении Сестрорецк и его окрестности, в том виде, как мы его знаем, скорее всего, уйдет под воду где-то к середине века. Он за дамбой.
2.Вода и инфраструктура только мелкая часть проблемы. Другие части - сельское хозяйство. Климат перестраивается, какие-то регионы из сравнительно плодородных попадают в зону крайне рискованного земледелия. Ресурсов на перестройку своего с/х у стран 2-3 эшелона нет. У них будет хорошая заявка на систематический голод. Это наша Центральная Азия, юго-восточная Азия в которой вы проводите отпуск, Африка, Центральная и Южная Америка. Рост экономики упадет, нестабильность, войны, усиление миграции. Потом - болезни. Они мигрируют на север. Через 20 лет нам, жителям Москвы, придется прививаться от малярии и Эболы. И это не какая-то фигура речи. Новые для нашей системы инфекции дадут рост нагрузки на здравоохранение. И будут есть наш рост. Это наиболее характерные моменты, которые стоят за фразой глобальное потепление. Если быть академически точным, то изменение климата.
3.Если вы до сих пор считаете, что ведущая роль антропогенного вклада это что-то антинаучное и якобы недоказанное , то у меня для вас плохие новости. Ваши знания по теме остро устарели, и вы в этом вопросе не отличаетесь от плоскоземельщиков и креационистов. Откройте DeepSeek/ChatGPT/любую нейронку и спросите Доказан ли антропогенный вклад в качестве ведущего в изменение климата. Она вам ответит, что да. Железобетонно. Уже лет 10 как. И это тупо математика. Сходятся только модели с антропогенкой, и, к сожалению, они единственные как оказалось, имеют реальную предсказательную силу. Поэтому сейчас все академии наук ведущих стран (от Китая и РФ до США и стран ЕС), всемирная метеорологическая организация, ООН, все профильные институты топят за ведущую роль антропогенного вклада. Чтобы понимать разницу масштабов - все вулканы, включая подводные, дают вклад на 2 порядка меньше.
Поэтому, Грета Тунберг, конечно, одиозный персонаж. Но платить за всю эту историю, так или иначе, придется нам из нашего кармана.
Причем, это если повезет и сроки не уползут вправо)
Прямо круто. Обычно про такие программы впервые слышишь лет за 5 до старта. А тут - за 1,5 месяца. Хочется пожелать удачи миссии
Джоконда, Давид Микеланджело или фильмы Куросавы что-то говорят о том, как сделать этот мир лучше? Ни слова.
Не стоит сводить искусство к единственной функции. Искусство это ещё и мысли, идеи, эстетика, мастерство, удивление, чувства. Игры здесь ничем не отличаются от остальных сфер жизни. Тем более, что масса игр обладает сильным сюжетом и заставляет задуматься не меньше, чем [впишите абсолютно любой ваш вариант].
Больше похоже, что ребенок просто прикололся. Или даже сделал высказывание об устаревших подходах к обучению, просто в наше время это оформлялось в виде «где в жизни пригодятся синусы».
Понимаю!
К слову, про левые и правые аминокислоты (и многое другое) хорошо рассказано в свежей лекции Михаила Никитина «Избранные эпизоды происхождения жизни», рекомендую)
Заметьте, как легко можно от него избавиться (если пакет действительно не нужен). Нужно всего лишь нагреть легкие до 90 градусов!