Сначала оцениваешь возможность создания собственного проекта, а когда понимаешь что это дело безнадежное, идешь в найм. Как только чувствуешь что готов создавать собственный проект, уходишь из найма.
Генерировать осмысленные леммы в бесконечном пространстве вариантов случайным перебором невозможно чисто комбинаторно
Для ЛЛМ уже доступна библиотека различных "осмысленных лемм", в различных форматах, включая библиотеку mathlib. Они модифицируются с использованием элементов тематически связанных с уравнением. Элементы выдергиваются в том числе из работ математиков по этой теме. Отдельные утверждения верифицируются в Lean. Генерируются последовательности утверждений, и верифицируются в Lean. Десятки тысяч агентов координированно, избегая дублирования, перебирают варианты достройки цепочки утверждений, "угадывая следующий токен", пока не добьются схождения.
Задача с уравнением Навье - Стокса была решена методом "миллиона обезьян". ИИ генерировал варианты, и пропускал их через Lean (инструмент интерактивного доказательства теорем).
Если бы люди не создали инструмент интерактивного доказательства теорем, то ИИ в принципе не смог бы отличить галлюцинации от доказательств.
Здесь выбор из двух зол. Не контролировать использование ИИ, и позволить замусорить ресурс. Или резко ограничить использование ИИ, и вернуть трудоемкость создания статей на уровень каким он был несколько лет назад. Второй вариант приведет к резкому сокращению числа публикаций. Потому что за последние 5 лет многое изменилось, и стало меньше стимулов тратить силы. Быть автором на Хабре уже не так престижно как 5 лет назад. Материальное поощрение не работает.
А "золотая середина" с рациональным регулированием использования ИИ - это слишком сложно, и потребует от администрации значительных усилий. Никто не любит прилагать усилия.
Но если мысль статьи для меня ценна, если я получила от нее что-то новое, что-то полезное для себя
Не вопрос, если статья полезная. Вопрос - сколько бесполезных стаей придется перед этим просмотреть. И останется ли время на чтение полезной. Каждая мусорная статья - украденное у читателя время.
Не вижу смысловой разницы между 3-мерным и объёмным пространством.
Одна характеристика количественная, другая качественная.
Попробуйте расширить свойство "объем", на следующий качественный уровень, эквивалентный "4-му количественному измерению".
наша 3-мерная Вселенная может быть "вложена" в некий 4-мерный мир.
Который вложен в 5-мерный, который вложен в 6-мерный. Математическая ловушка.
У нас не 3-мерное пространство. У нас объемное пространство. 3 координаты достаточно для описания положения объекта в относительной системе координат. Но это не делает пространство 3-мерным.
4-я координата это время. Потому что система динамическая, и описание положения объекта нужно привязывать к определенному моменту.
что материя постоянно выводит эфир из 3-мерной Вселенной в пространство большей размерности.
В один единственный "зеркальный мир", как максимум.
в ОТО пространство не самостоятельный объект, а только мера отношений между объектами
Тогда нужно установить строгое правило - "Никогда не рассматривайте пространство в отрыве от системы объектов. (Это что-то типа запрета "деления на ноль"). Если нет объектов, то свойства пространства становятся неопределенными. Используйте понятие "пространство", только когда описываете состояние системы объектов. Только в этом случае свойства пространства имеют смысл."
Сомнительным является основной тезис - что скорость развития моделей можно предсказуемо регулировать. Амодеи предлагает установить "оптимальную скорость развития" - не слишком быстро, но и не слишком медленно. Непонятно как вообще можно спрогнозировать уровень развития моделей за определенный интервал времени.
К тому же нынешний уровень уже представляет опасность. Так что уже поздно тормозить. Нужно ускорять развитие общей информационной безопасности. И всяких прочих безопасностей.
Выдержка из эссе: В этом примере X может означать «модель способна обойти или преодолеть большинство распространенных методов «песочницы»», а Y может означать всё, что необходимо для того, чтобы сделать крайне маловероятным выход модели за пределы своей среды и захват большого количества компьютеров.
Если модель способна обойти ограничения "песочницы", то это проблема разработчиков песочницы. Пусть делают выводы, и затыкают дыры. Если в "песочнице" есть дыра, то любая вредоносная программа может ее использовать, а не только модель.
Обучить модель "не делать плохое" невозможно. Любую вредоносную задачу можно нарезать на кубики, и скормить модели по частям. Это лишь несколько снизит скорость и удобство вредоносной деятельности.
Безопасность интернета все равно надо совершенствовать. Независимо от уровня развития моделей.
а инцидент с агентами OpenAI и инфраструктурой Hugging Face показал опасность их несогласованного с разработчиками поведения.
"Несогласованное с разработчиками поведение" объясняется тем, что разрабы в OpenAI не смогли качественно написать "агентов", и задать "правила поведения". И даже хваленый ИИ им в этом не помог. Создание надежных "агентов" это сложная задача.
Это все та же тема - "Зачем нужны "Комментарии" на Хабре?" И в частности, можно ли использовать "это" для свободного общения. В принципе Хабр не форум и не чат. Но отчасти используется именно так.
Но я копнул глубже и выяснил, что с 2015 до 2023 года он написал всего лишь 9 500 комментариев.
Значит раньше было больше других интересов, или меньше свободного времени.
24 комментария каждый день
Это совсем немного. Всего лишь 3 комментария в час, при 8 часовом "рабочем дне".
Сейчас она -6 при 1116 голосах. Получается ровно половина людей плюсанула карму, а другая половина минусанула. Как ему удалось за столько лет не слить карму до -30, чтобы получить статус read-only, для меня загадка.
Потому что при определенном уровне минусов, человек становится осторожнее, и пишет больше полезных (позитивных) комментариев и меньше провокационных.
Может показаться, что я прошу людей слить карму пользователю до -30
Очевидно что вы недовольны ситуацией. Но вместо критики участников, лучше попросите администрацию сделать возможность скрывать комментарии. Хабр технологически вообще не развивается, в плане удобства для читателей. Только механизмы показа рекламы "улучшает".
Часто комментарии состоят из цитат или слабо относятся к теме статьи.
Дать оценку статье, (или выразить свое отношение к статье, или к теме которую она затрагивает) можно в том числе с помощью цитаты. При этом содержание такого комментария действительно может иметь мало общего с текстом статьи. Но смысл обычно понятен. А если не понятен, значит выразить свое отношение к статье не удалось. (но удалось кого-то выбесить).
Тут такой вопрос - запрещено ли давать оценку статье, (или выражать к ней отношение), в абстрактной форме, в виде цитаты или мема?
Сначала оцениваешь возможность создания собственного проекта, а когда понимаешь что это дело безнадежное, идешь в найм. Как только чувствуешь что готов создавать собственный проект, уходишь из найма.
Разве смысл в экономии? Другой разработчик мог за то же время заработать 200 евро, и купить фирменное решение.
Для ЛЛМ уже доступна библиотека различных "осмысленных лемм", в различных форматах, включая библиотеку mathlib. Они модифицируются с использованием элементов тематически связанных с уравнением. Элементы выдергиваются в том числе из работ математиков по этой теме. Отдельные утверждения верифицируются в Lean. Генерируются последовательности утверждений, и верифицируются в Lean. Десятки тысяч агентов координированно, избегая дублирования, перебирают варианты достройки цепочки утверждений, "угадывая следующий токен", пока не добьются схождения.
Что это означает?
Здравый смысл говорит, что мы не сможем описать динамическую систему, если откажемся от "времени" как от одной из "координат".
Чтобы говорить о "новом" положении объекта, надо сравнить это положение с "предыдущим". А предыдущего уже нет. Есть только одно настоящее положение.
Задача с уравнением Навье - Стокса была решена методом "миллиона обезьян". ИИ генерировал варианты, и пропускал их через Lean (инструмент интерактивного доказательства теорем).
Если бы люди не создали инструмент интерактивного доказательства теорем, то ИИ в принципе не смог бы отличить галлюцинации от доказательств.
Здесь выбор из двух зол. Не контролировать использование ИИ, и позволить замусорить ресурс. Или резко ограничить использование ИИ, и вернуть трудоемкость создания статей на уровень каким он был несколько лет назад. Второй вариант приведет к резкому сокращению числа публикаций. Потому что за последние 5 лет многое изменилось, и стало меньше стимулов тратить силы. Быть автором на Хабре уже не так престижно как 5 лет назад. Материальное поощрение не работает.
А "золотая середина" с рациональным регулированием использования ИИ - это слишком сложно, и потребует от администрации значительных усилий. Никто не любит прилагать усилия.
Не вопрос, если статья полезная. Вопрос - сколько бесполезных стаей придется перед этим просмотреть. И останется ли время на чтение полезной. Каждая мусорная статья - украденное у читателя время.
4-мерный мир точно так же расширяется. Законы для всех одинаковы. Чтобы расширяться, он вложен в 5-мерный мир. И 5-мерный мир тоже расширяется.
Они вообще не движутся, если убрать время, и рассматривать исключительно текущее состояние. В моменте все объекты неподвижны.
Тогда объекты в пространстве тоже не по трем измерениям перемещаются.
Одна характеристика количественная, другая качественная. Попробуйте расширить свойство "объем", на следующий качественный уровень, эквивалентный "4-му количественному измерению".
Который вложен в 5-мерный, который вложен в 6-мерный. Математическая ловушка.
У нас не 3-мерное пространство. У нас объемное пространство. 3 координаты достаточно для описания положения объекта в относительной системе координат. Но это не делает пространство 3-мерным.
4-я координата это время. Потому что система динамическая, и описание положения объекта нужно привязывать к определенному моменту.
В один единственный "зеркальный мир", как максимум.
Тогда надо рассматривать это как сложную систему, и описывать элементы пространства.
Тогда нужно установить строгое правило - "Никогда не рассматривайте пространство в отрыве от системы объектов. (Это что-то типа запрета "деления на ноль"). Если нет объектов, то свойства пространства становятся неопределенными. Используйте понятие "пространство", только когда описываете состояние системы объектов. Только в этом случае свойства пространства имеют смысл."
Сомнительным является основной тезис - что скорость развития моделей можно предсказуемо регулировать. Амодеи предлагает установить "оптимальную скорость развития" - не слишком быстро, но и не слишком медленно. Непонятно как вообще можно спрогнозировать уровень развития моделей за определенный интервал времени.
К тому же нынешний уровень уже представляет опасность. Так что уже поздно тормозить. Нужно ускорять развитие общей информационной безопасности. И всяких прочих безопасностей.
Выдержка из эссе: В этом примере X может означать «модель способна обойти или преодолеть большинство распространенных методов «песочницы»», а Y может означать всё, что необходимо для того, чтобы сделать крайне маловероятным выход модели за пределы своей среды и захват большого количества компьютеров.
Если модель способна обойти ограничения "песочницы", то это проблема разработчиков песочницы. Пусть делают выводы, и затыкают дыры. Если в "песочнице" есть дыра, то любая вредоносная программа может ее использовать, а не только модель.
Обучить модель "не делать плохое" невозможно. Любую вредоносную задачу можно нарезать на кубики, и скормить модели по частям. Это лишь несколько снизит скорость и удобство вредоносной деятельности.
Безопасность интернета все равно надо совершенствовать. Независимо от уровня развития моделей.
"Несогласованное с разработчиками поведение" объясняется тем, что разрабы в OpenAI не смогли качественно написать "агентов", и задать "правила поведения". И даже хваленый ИИ им в этом не помог. Создание надежных "агентов" это сложная задача.
Из чего состоят эти "мы"? Кто эти "нематериальные и неэнергетические" сущности?
Если ничего нет, то нет и пространства.
Агент одинаково легко перемещает данные между любыми источниками - файл, буфер обмена, API приложений.
Это все та же тема - "Зачем нужны "Комментарии" на Хабре?" И в частности, можно ли использовать "это" для свободного общения. В принципе Хабр не форум и не чат. Но отчасти используется именно так.
Значит раньше было больше других интересов, или меньше свободного времени.
Это совсем немного. Всего лишь 3 комментария в час, при 8 часовом "рабочем дне".
Потому что при определенном уровне минусов, человек становится осторожнее, и пишет больше полезных (позитивных) комментариев и меньше провокационных.
Очевидно что вы недовольны ситуацией. Но вместо критики участников, лучше попросите администрацию сделать возможность скрывать комментарии. Хабр технологически вообще не развивается, в плане удобства для читателей. Только механизмы показа рекламы "улучшает".
Дать оценку статье, (или выразить свое отношение к статье, или к теме которую она затрагивает) можно в том числе с помощью цитаты. При этом содержание такого комментария действительно может иметь мало общего с текстом статьи. Но смысл обычно понятен. А если не понятен, значит выразить свое отношение к статье не удалось. (но удалось кого-то выбесить).
Тут такой вопрос - запрещено ли давать оценку статье, (или выражать к ней отношение), в абстрактной форме, в виде цитаты или мема?
Но ведь это открытое признание, что они лазают по контекстам пользователей, и вычухивают информацию.