Математика *

Механизм внимания (Attention) - это метод в искусственном интеллекте, который позволяет нейросети динамически определять, какие части входных данных наиболее важны для текущей задачи. Он работает через вычисление весов важности для разных элементов входа: более важные элементы получают больший вес, а менее важные - меньший. Затем модель формирует взвешенную сумму представлений, создавая новый контекстный вектор.

Self-attention, в свою очередь, помогает модели понимать, как разные элементы входных данных связаны между собой. Например, как разные части информации взаимодействуют и влияют друг на друга в общем контексте. Этот механизм обеспечивает логическую связность и целостное понимание всей структуры данных

Большой Адронный Коллайдер не обнаружил никаких новых физических явлений. Что же делать дальше?

В июле 2012 года физики Большого Адронного Коллайдера (LHC) в Европе с триумфом объявили об открытии бозона Хиггса, долгожданной частицы — основополагающего элемента субатомного мира. Взаимодействие с полем Хиггса наделяет элементарные частицы инертной массой — благодаря этому они замедляются, объединяются в атомы, а те складываются во всё многообразие материального мира. Через пару месяцев я устроилась в только что созданный журнал — будущий Quanta — первым штатным репортёром. Так я оказалась в первом ряду разворачивающейся драмы.

Она развернулась не вокруг частицы Хиггса, к моменту её обнаружения на LHC в существовании бозона Хиггса почти никто не сомневался. Частица Хиггса была последним элементом Стандартной модели физики элементарных частиц — набора уравнений 1970-х годов, описывающих 25 известных элементарных частиц и их взаимодействия.

Но куда важнее оказалось то, чего в данных не нашлось.

Всем привет! Меня зовут Григорий Дядиченко, и я разрабатываю разные проекты на заказ. Сталкивались ли вы с ситуацией, когда персонаж в вашей игре начинает немного дёргаться, если поиграть достаточно долго? Или пуля иногда пролетает сквозь тонкую стену, хотя коллайдер на месте? Если да — добро пожаловать в мир проблем float precision.

Сегодня хочется поговорить о том, почему тип float — при всей его повсеместности — может создавать тонкие и неочевидные баги в играх. Разберём, как он устроен, где именно он начинает врать, и что с этим делать.

Если вам интересна эта тема — добро пожаловать под кат!

Прочитал на Хабр статью [1], в которой автор простым языком даёт достаточно глубокое представление такого сложного и важного математического объекта как фильтр Калмана и захотел предложить читателям посмотреть на него (фильтр Калмана) несколько с другого ракурса. Сразу хочу предупредить, что перед чтением данной статьи хорошо бы прочесть статью [1], так как даже формулы были специально взяты ровно оттуда, дабы данная статья базировалась на материале упомянутой работы [1].

Представим, что у нас есть объект, работу которого необходимо отслеживать, но для этого нет прямой, а есть только косвенная информация. Например, мы имеем дело с погружным нефтяным насосом и необходима информация о его работе, в частности частота вращения двигателя данного насоса. В своём распоряжении мы имеем информацию лишь о напряжениях и токах его фаз и нам необходимо разработать виртуальный тахометр.

Общая идея такова: берём математическую модель двигателя и в режиме реального времени «запитываем» её показаниями датчиков напряжений фаз работающего двигателя насоса. Показания датчиков тока используем для того, чтобы в реальном времени втянуть виртуальную модель в такой режим, при котором виртуальные показания квазидатчиков тока математической модели станут равны показаниям реальных датчиков тока. То есть в этом случае мы получим виртуальную real time модель из которой можем взять любую информацию, которой она располагает, в частности частоту вращения электродвигателя.

А теперь изложенную идею попробуем воплотить в виде математических абстракций.

В этой статье мы продолжим решать задачу внешней баллистики и разберём четвёртый и пятый случаи. Они более общие.

Мы учтём зависимость коэффициента лобового сопротивления от скорости, а также зависимость плотности воздуха от высоты.

Разбираем теорему о мажорировании систем ОДУ: когда и как можно сравнивать решения, опираясь на квазимонотонность правых частей. Внутри — строгая формулировка, план доказательства и пример.

Вопрос читателю: Как можно сгруппировать натуральный ряд в групп, чтобы внутри каждой лежали только взаимно-простые числа?

Далее в статье я расскажу о том, как я нашел нестандартный способ решения такой задачи.

Иногда в программировании встречаются трюки, которые отлично работают, но почти нигде не объясняется — почему.

Один из таких приёмов в NumPy — вычисление рангов элементов массива с помощью двойного argsort: argsort(argsort(x)). Этот однострочник часто рекомендуют на форумах и в ответах на Stack Overflow, однако строгого объяснения обычно не приводят.

В этой статье я формализую задачу и покажу пошаговое доказательство того, что двойной argsort действительно возвращает ранги элементов массива.

Меня зовут Иван Васильев, я ведущий аналитик в Ви.Tech, IT-дочке ВсеИнструменты.ру. Хочу показать, как из на первый взгляд простой формулы KPI выросла инженерная задача: нам нужно было не просто посчитать интегральный показатель эффективности поставщика, а объяснить, какая именно закупка его ухудшила и почему. В статье разберу, почему для агрегированных метрик не работает наивный подход, как мы пришли к remove-one analysis и где пришлось отдельно фиксировать логику расчета, чтобы результат вообще можно было интерпретировать.

В одной из систем, над которой я работаю, мы рассчитываем интегральный показатель эффективности поставщика. Сначала задача казалась очень простой: несколько метрик, несколько весов, обычная агрегированная формула. Но однажды бизнес задал вопрос:
| Почему показатель поставщика снизился?

Ответить на него можно было бы общими словами. Но затем появился уточняющий вопрос:
| А какая именно закупка ухудшила показатель?

И в этот момент простая аналитическая задача внезапно превратилась в интересную инженерную проблему: с агрегированными метриками, нелинейными функциями и неожиданными эффектами, которые больше похожи на задачи из дискретной математики, чем на обычный backend.

На скрине показано 40 минут графиков с балансировки некоторого эндпоинта. На выделенном участке видно 129.01 рпс успехов и 7.27 ошибок 4xx, которые являлись 429 от рпс-лимитера. Настройка рпс-лимитера находилась на уровне “не более 150 запросов с интервалом в 1 секунду”. Не странно ли видеть такое уверенный и постоянный фон ошибок про превышение лимита?

Этому миру нужна новая теория — теория, которая могла бы описать все существующие теории на планете. Теория, которая смогла бы описать философию, математику, физику и психологию единым формальным языком, чтобы сделать все виды наук исчисляемыми.

Именно над этим мы сейчас работаем. Когда нам удастся добиться успеха, эта теория станет единой мета-теорией всего и коснётся каждого на этой планете.

Прошел год с момента нашей последней публикации, и наша задача — поделиться достигнутым прогрессом с русскоязычной аудиторией. Это всё ещё не финальная версия, а черновик, перевод прошлогодней статьи на английском с улучшениями. Поэтому мы будем рады любым отзывам, а также вашему участию в развитии мета-теории связей.

Как и всё, что мы делали раньше, теория связей публикуется и передаётся в общественное достояние — она принадлежит всему человечеству, а значит, и вам лично. У этой работы много авторов, но сама работа гораздо важнее любого отдельного авторства. Мы надеемся, что уже сегодня она сможет принести пользу ещё большему числу людей.

Мы приглашаем вас стать частью этого захватывающего приключения.

Откройте ваш плейлист и нажмите play на любом треке.

Эта песня попала в ваши наушники благодаря одной идее. Той самой, за которую француза в 1807 году высмеяли на заседании Парижской академии наук. Лаплас был «за», но Лагранж встал и сказал: «Это невозможно.» Француза звали Жан-Батист Жозеф Фурье. Его идея была настолько простой, что учёные отказались ей поверить.

   В данной работе рассмотрим одну из важнейших задач прикладной механики, а именно задачу внешней баллистики(задачу о плоском движении тела, под действием земного тяготения, брошенного под углом к горизонту с некоторой начальной скоростью).

Сформулируем задачу и рассмотрим несколько случаев.

Практически все в природе связано друг с другом либо напрямую, либо опосредованно. Межвидовое взаимодействие проявляется как в пищевых цепочках, так и в симбиотических отношениях. Проще говоря, какой-то конкретный вид существ является источником пользы для другого вида. Даже паразиты, которые по существу своему являться, грубо говоря, эгоистами, также несут некую пользу в контроле популяции. Существа, которые человеком считаются вредителями, также имеют значение, но это понимания этого их вред не становиться менее ощутимым. Это утверждение подходит и для комаров, которые служат пищей для многих организмов (рыбы, птицы, летучие мыши, стрекозы и т. д.). Для нас же комар — это назойливый кровосос, который может быть разносчиком крайне опасных заболеваний. Чтобы лучше бороться с комарами, необходимо полностью понимать их поведение, в частности то, как они «видят» цель, т. е. нас в процессе полета. Ученые из Технологического института Джорджии (Атланта, Джорджия, США) провели исследование, в котором определили параметры, влияющие на поведение комаров, и расшифровали их полет. Как ученые получили эти данные, о чем они говорят, и как могут помочь в сокращении риска заражения переносимыми комарами заболеваниями. Ответы на эти вопросы мы найдем в докладе ученых.

Круглый тензор… Как много в этом словосочетании для сердца обычного млщика. Круглые тензоры пытаются тащить вместо того, чтобы катить, их хотят загнать в круглые GPU и вообще воспринимают несерьёзно. А быть может они этого не заслужили?

Пора сорвать покровы и показать, что круглый тензор не просто реален, но и способен — ни много, ни мало — помочь преодолеть пресловутое проклятие размерности.

Представьте: вам дают 10 терабайт текста и говорят — запихни это в файл на 70 гигабайт. Так, чтобы потом по любому вопросу можно было восстановить нужный кусок. Не точно, но близко. Не побайтово, но по смыслу.

Вы бы сказали: «это lossy-компрессия, часть данных неизбежно потеряется».

И были бы правы. Потому что именно это делает LLM.

Всем добрый день! 

Я уже почти 15 лет работаю в сфере разработки инновационных лекарственных препаратов и диагностических инструментов, и на моей памяти приход новых технологий не раз порождал иллюзию скорого избавления человечества от всех болезней. И, конечно, разного рода открытия в области генной инженерии, иммуно-онкологии и молекулярной биологии поспособствовали появлению инновационных терапий, однако, к сожалению, многочисленные заболевания пока не поддаются излечению.  

В какой-то момент инструментом поиска панацеи стал считаться искусственный интеллект (здесь достаточно вспомнить намерения Цукерберга вылечить все болезни или заявления Билла Гейтса о том, что ИИ заменит большую часть врачей).  Однако, как и во многих других отраслях, вслед за бумом завышенных ожиданий пришло осознание границ применимости методов и более зрелое отношение к технологиям. В этой статье я хотела бы описать взгляд традиционного ученого на “хайп” вокруг нейросетей и громогласные высказывания о том, что скоро нас всех заменит искусственный интеллект.

С определенным успехом методы математического программирования захватили множество задач автоматизации и оптимизации бизнес процессов (маршрутизация доставки, планирование производства или графиков работы сотрудников, планирование сетей и т.д.). Используемые методы решения и классические постановки задач десятилетиями остаются без серьезных изменений. Когда ждать революцию? Кто имеет потенциал для ее организации?

Проведем эксперимент на предмет того, есть ли у RL способности решать оптимизационные задачи. Для исследования возьмем не сложную практическую оптимизационную задачу и оценим как обучение с подкреплением справится.

Материал будет полезен как заядлым специалистам по мат.оптимизации, так и ml-инженерам или data scientist’ам. Рассматриваемая задача может быть интересна специалистам из области логистики/транспортных перевозок.

В 1931 году 25-летний Курт Гёдель написал доказательство, которое перевернуло мир математики с ног на голову. Выводы были настолько поразительными, а само доказательство настолько изящным, что это было… как-то даже забавно. Я хотел поделиться с вами его открытием.

Объединение

На протяжении последних 300 лет математики и ученые делали поразительные открытия, которые привели к появлению одной великой закономерности. Эта закономерность заключалась в объединении: идеи, которые раньше считались разрозненными и непохожими, неизменно оказывались одним и тем же!

Ньютон положил начало этому процессу в физике, когда обнаружил, что то, что удерживает нас на Земле, — это то же самое, что заставляет Землю вращаться вокруг Солнца. Люди думали, что тепло — это особый вид энергии, но оказалось, что его можно объяснить с помощью механики. Люди думали, что электричество, магнетизм и свет — это разные вещи, но Максвелл обнаружил, что их можно объяснить с помощью электромагнитного поля.

Современная наука фактически растворила дихотомию идеального и материального. Если вы откроете любой учебник по философии, то почти гарантированно найдёте там раздел о "главном вопросе": что первично - материя или сознание, бытие или идея? Тысячи лет мыслители делятся на два лагеря, спорят, уточняют, создают подвиды материализма и идеализма. Но что, если сам вопрос сформулирован некорректно? Что если реальность устроена так, что эта бинарная оппозиция просто перестаёт работать на фундаментальном уровне?

Современное естествознание, особенно квантовая теория поля и исследования оснований математики, подводит нас к парадоксальному выводу: дихотомия материального и идеального - это не свойство мира, а артефакт нашего языка и классической интуиции. Физическая реальность оказалась сложнее, тоньше и удивительнее, чем позволяли представить старые категории.