Что если ошибочные ответы модели — не мусор, а ценный обучающий материал? В данной статье мы разберём метод Hindsight Instruction Relabeling (HIR), который позволяет дообучать LLM модели иногда даже лучше, чем RLHF. Кроме того, данный метод требует меньшего количества вычислений, не использует дополнительные модели и вдобавок ко всему максимально использует имеющийся датасет.
В предыдущих частях работы (Часть 1, Часть 2) мы разобрали, что такое линейный конгруэнтный метод (ЛКМ), и как на его основе работает функция Rnd(), вшитая в скриптовый язык VBA, созданный Microsoft. Именно эта функция и "ответственна" за генерацию псевдослучайных чисел. Мы поняли, как ведет себя функция, если в качестве ее аргумента ввести число меньшее либо равное 0. Также мы выяснили, что эта функция работает с мнимым и реальными значениями своих аргументов, также мы поняли, как соотносятся некоторые мнимые значения аргумента функции с их реальными значениями.
В третьей части исследования речь пойдет в основном о том, каким образом функция Rnd() взаимодействует с аргументами в виде дробных чисел, а также о том, как ведет себя функция, при вводе в качестве ее аргумента больших (по модулю) чисел. Как оказалось – обе эти темы взаимосвязаны. Итак – поехали!
Российский ученый предложил решение информационного парадокса черных дыр, показав, куда должна деваться исчезающая информация. Работа была опубликована в журнале Modern Physics Letters A. В исследовании удалось показать теоретически, что информационный парадокс исчезает, если предположить, что при испарении черной дыры в нашей Вселенной ее внутренняя часть отделяется и создает новый Большой Взрыв, порождая другую вселенную. В этой модели возникает самосогласованное описание мультивселенной, в котором каждая черная дыра в родительской вселенной является в новой белой дырой или Большим Взрывом.
В исследовании Алексея Морозова из МФТИ не используется дополнительных предположений и проблема решается на том уровне, на котором она возникла.
Чаще всего с векторным произведением мы знакомимся в курсе аналитической геометрии, где мы редко выходим в задачах за размерность три, поэтому может складываться впечатление, что векторное произведение обобщается на любую размерность, по аналогии со скалярным...
Макс Тегмарк - один из самых неординарных мыслителей современной космологии. Его идеи вызывают жаркие дебаты и заставляют пересматривать привычные представления о реальности. Кто же он такой на самом деле, выдающийся ученый, опережающий свое время, или чудаковатый профессор и какие идеи продвигает в своей книге?
На Хабре уже выходило множество статей о том, что наш мир — это симуляция. Но, несмотря на это, прошу дать мне шанс с этой статьёй, в которой мы рассмотрим фундаментальные вещи, к которым все давно привыкли и не подвергают сомнению, хотя они толсто намекают…
А также мы рассмотрим практический вопрос: что это может значить лично для нас, если симуляционная теория верна.
Математика полна удивительных закономерностей. В одном из номеров журнала «Наука и жизнь» была небольшая заметка в разделе «Математические досуги». С двумя примерами на умножение из разряда математических неожиданностей.
20646 × 35211 = 11253 × 64602
203313 × 657624 = 426756 × 313302
Примечательны эти примеры тем, что цифры в них расположены зеркально-симметрично относительно знака равенства. Зеркальные равенства напоминают палиндромы, но с ключевым отличием. Палиндром — это свойство одного числа, а зеркальное равенство — это свойство операции над числами.
Как математический объект исследования зеркальные математические равенства не имеют определённого автора или даты первого упоминания. Это скорее концепция, которая возникает в процессе изучения чисел и их свойств, как естественное развитие темы палиндромов и симметрии в математике.
Как много существует подобных комбинаций?
За любой математической моделью стоит субъект-создатель, который имеет свое видение моделируемых процессов, свою креативность и виртуозность владения мат. аппаратом. Эти и другие источники субьективности формируют определенный почерк автора-разработчика. Но все ли модели хороши?
Выпущено множество книг-рекомендаций про то, как писать "хороший" программный код: "Чистый код", "Совершенный код", "Программист-прагматик", "Чистая архитектура" и др. Такого рода литература задает некоторый стандарт качества и очертания "идеала".
Аналогичный свод рекомендаций существует и для разработчиков оптимизационных мат. моделей. В статье на примере задач целочисленного линейного программирования порассуждаем о хороших моделях. Рассмотрим различные нюансы математического моделирования и их влияние на скорость поиска решения задачи готовыми пакетами - солверами.
«Человек всегда велик в намерениях. Но не в их выполнении. В этом и состоит его очарование» — что-то на глубоком из Ремарка «Три товарища»
В какой-то момент понимаешь, что новый бизнес должен начинаться не с красивого названия и не с логотипа. С чего именно — до конца не ясно, но точно не с этого. Эта статья — о том, как я попытался перепрыгнуть через все эти «обязательные шаги», завайбкодив их, а заодно и большую часть кода проекта с помощью нейросетей, и сосредоточился только на финальных вещах — тестировании аудитории и маркетинге.
А дальше — история о студенческом стартапе для поиска ивентов, который мы собрали на коленке за лето, запускали через тусовки на Патриарших Прудах, но так и не смогли набрать аудиторию.
Самая интересная часть начинается с главы «Возвращение: новая команда и быстрый релиз», но я искренне рекомендую читать статью с самого начала. Так будет проще уловить весь контекст и понять, почему проект получился именно таким, каким он получился.
В этой статье я поясню, как все эти принципы сочетаются, и покажу примеры использования их комбинации.
Привет всем!
Я решил написать эту статью, потому что сам разобрался со всеми деталями работы этой версии шифровальной машины, и убедился, что написанная мною программа работает идентично эмуляторам этой машины. Это было сделать непросто, так как все описания в интернете, что мне удавалось найти, в лучшем случае упускали часть важных деталей работы этого механизма, а в худшем - содержали смесь из описаний работы разных машин. Кроме того, многие описания мне показались не слишком понятными - я постарался здесь всё описать как можно проще и яснее.
В этой статье описываю всё подробно, не опуская детали, и записывая куски кода на Python для иллюстрации. В конце статьи полный код, реализующий алгоритм Энигмы.
Это первая статья из планируемой серии про succinct data structures - класс наиболее компактных структур данных. Канонический пример такой структуры - это представление дерева в виде правильной скобочной последовательности, дерево из
вершин таким образом представляется с помощью
бит в то время как типичная динамическая реализация требовала бы как два указателя по 64-бит на каждый узел (разумеется можно немного сократить простыми оптимизациями, но даже близко 2 бита не получить). Фундамент подобных структур - это rank-select словарь, представляющий собой битовый вектор и дополнительную структуру для выполнению двух операций ранг и селект. В указанном примере с деревом с помощью ранга и селекта можно сделать базовую навигацию: найти номера потомков/родителей, узнать размер поддерева. В статье расскажу как делать эти операции быстро используя при этом всего 3,6% дополнительной памяти.
Откройте для себя, как топология превращается из абстрактной математической дисциплины в мощный инструмент криптоанализа!
Знакомство с языком программирования пролог.
Когда кто-то проходит лабиринт за тебя, то время летит незаметно. Если не происходит зависания, то приходит ответ. А теперь стоит разобраться, как любые вопросы превращать в лабиринты.
Почему за основу взяты именно лабиринты? Потому что «блуждание по лабиринту» — это выраженное стремление прийти к цели через использование разнообразных возможностей, путём выбора действия и повтора всего этого после того как пришёл результат действий, снова и снова. То есть, это кратко описывает решение любой задачи. А если затем ты переходишь пониманием с уровня прохождения на уровень построения лабиринтов, то задача состоит уже в том чтобы правильно понимать, что вообще происходит.
Ну, например, как правильно понимать, построение лабиринтов — это прохождение лабиринтов другого уровня или уже принципиально иное действие, в каком-то смысле противоположность? Вот, кто бы знал. До двух вариантов выбора описание тут может и не сойтись.
С самых первых дней изучения биологии или естествознания нам рассказывают о взаимодействии видов, пищевых цепочках и иерархий. Классический пример: трава, кролики и волки. Если волков исключить из уравнения, то кролики будут размножаться и съедят всю траву и будут потом голодные; если исключить траву, то кролики вымрут и волки будут голодные; если исключить кроликов, то трава разрастется, а волки будут голодными. Этот крайне утрированный пример показывает тесную взаимосвязь всего живого, связь, которую порой крайне сложно описать четким математическим языком. Несмотря на устоявшуюся структурированность, которую мы приписываем межвидовому взаимодействию, оно куда ближе к хаосу, чем к порядку. Группа ученых из Мичиганского университета (Анн-Арбор, Мичиган, США) провели любопытное исследование трех враждующих видов муравьев и хищных мух, которое показало всю сложность попыток какого-либо предсказания динамики их взаимодействия. Что именно удалось установить ученым, какие методы были использованы, и как данное исследование связано с сельским хозяйством? Ответы на эти вопросы мы найдем в докладе ученых.
В этой статье будет описано, как один чересчур поверивший в себя программист пытался взломать один из фундаментальных алгоритмов криптографии. Эта статья признана огородить других от подобных попыток или наоборот заинтересовать новых смельчаков для подобной авантюры. Сначала я опишу суть алгоритма на простом коде, затем перечислю методы и идеи, которыми я пытался его взломать.
Группа математиков из Вены разрабатывает инструменты для расширения возможностей общей теории относительности.
В октябре 2015 года молодой математик Клеменс Земанн летел домой в Австрию с конференции в Турине, Италия, и ему улыбнулось счастье. Он оказался рядом с Михаэлем Кунцингером, ещё одним участником конференции. Кунцингер был профессором математики в Венском университете, где Земанн только начал постдокторскую работу. Вскоре они разговорились и затронули тему, над которой Земанн размышлял ещё в аспирантуре: существует ли математический способ обойти ограничения общей теории относительности Альберта Эйнштейна.
Я уже двадцать лет в теоретической физике. Я изобретаю новые законы природы, этим я зарабатываю на жизнь. Я одна из примерно десяти тысяч исследователей, чья задача — улучшить наши теории в физике элементарных частиц. В храме знаний мы те, кто копает в подвале, изучая фундамент. Мы обследуем трещины — подозрительные изъяны действующих теорий — и, когда что‑то находим, зовем экспериментаторов разрыть более глубокие слои.
Но моему поколению жестоко не везет. Колоссальные усилия были затрачены на эти провалившиеся попытки обнаружить новые законы природы. Уже больше тридцати лет мы не можем усовершенствовать фундаментальные основы физики.
Новый подход к анализу безопасности алгоритма цифровой подписи на эллиптических кривых (ECDSA) через призму алгебраической топологии.
Что если всю физику — от чёрных дыр и войдов до струй на коллайдерах — читать одной линейкой: энергия + геометрия её канала? Мы показываем, как простая фазовая намотка (цилиндр → тор) срабатывает от спинов и мод до «поведения» тёмной материи и ускорения пустот. Чёрные дыры выступают как предельные уплотнители информации, войды — как зоны с самоускоряющимся разрежением, а сильное/слабое/ЭМ сводятся к типу связности и массе носителя. Без новых сущностей — только ясная оптика и конкретные наблюдательные крючки, за которые можно зацепиться уже сейчас.
