Научпоп

Ок. Я задаю LLM один и тот же вопрос в разных формах. И этот статистический производитель ответов, архив человеческих знаний, даёт ответы, которые иногда кажутся удивительно новыми, а иногда вторичными и банальными.

Хабр говорит, что LLM не способна к новизне и творчеству. Пожалуй, соглашусь.
Хабр видит в ней искры нового разума. Пожалуй, соглашусь.

Проблема в том, что люди пытаются анализировать LLM как объект сам в себе, не до конца понимая, что такое LLM. Эта статья утверждает: вопрос не в том, что LLM знает или умеет, а в том, чем она является.

Вы когда‑нибудь задумывались, как выглядит современная птицефабрика? Та самая, что поставляет яйца в наши магазины и на наши столы. Если у вас в голове всплывают картинки а‑ля курочки мирно клюют зернышки на огороженной лужайке, то у меня для вас две новости. 

Первая — прогресс шагнул далеко вперед.

Вторая — современные агротехнологии могут показаться жестокими. Но именно благодаря им мы можем купить яйца в ближайшей «Пятерочке» и не выложить за них ползарплаты. Итак, приступим.

Одна из особенностей болезни Альцгеймера – повышенный уровень бета-амилоидов или клубки тау-белков. Казалось бы, можно снизить или вовсе «зачистить» мозг от провокаторов и станет лучше! Вот только когда вводили лекарство, симптомы заболевания резко прогрессировали. Все дело в том, что болезнь Альцгеймера растет корнями в генетику и клеточный метаболизм. И впервые в истории, человечество вплотную приблизилось к первопричине болезни Альцгеймера.

30 лет назад москвичи с ужасом осознавали себя строчками в учебнике истории. Ельцин с Хасбулатовым воодушевлённо делили власть, гремело голосом Шевчука «Предчувствие гражданской войны», в центре города палили танки и чернел Белый дом. Никто не знал, что будет завтра, да и будет ли оно – какая уж тут наука, какое творчество. И в то же время в паре сотен километров делали своё дело никому не известные люди – испытатели самого быстрого в мире тепловоза.

В 1987 г. завершился выпуск двухсекционного тепловоза 2ТЭП60. При мощности 6000 л.с. он мог таскать с приличными скоростями пассажирские поезда в 20 вагонов и более, каковые тогда не были редкостью. Увы, могучий локомотив с двухтактными дизелями безнадёжно устарел. Новый ТЭП70, шедший в серию по-советски неторопливо, заменить «старика» не мог – будучи преемником односекционного ТЭП60, он «пас» в моторном отделении всего 4000 лошадей. Попытка вкорячить в него более мощный дизель провалилась – ТЭП75 вышел чересчур тяжёлым для шестиосного экипажа. Нет, идея мощного односекционного пассажирского локомотива не умерла – он проще и экономичнее сплотки типа 2ТЭП60, – но ему требовалась восьмиосная экипажная часть, без малого 16 колёс.

3 июня 1983 года в американский прокат вышел научно-фантастический фильм «Военные игры». В нашей стране он не слишком известен, да и в США не снискал он ни признания кинокритиков, ни эпических сборов — но вызвал многочисленные дискуссии, а на некоторые сегменты общества оказал серьёзное влияние. Многие известные хакеры 80-х и 90-х годов, включая Маркуса Гесса, говорили, что пришли к хакерству под впечатлением от «Wargames». С другой стороны, в силу обстоятельств его незамедлительно посмотрел тогдашний президент США Рональд Рейган — и с собранного им по этому поводу совещания началась вся история американской государственной кибербезопасности. Почему фильм, снятый почти ноунеймами за небольшие деньги с не слишком известными актёрами, оказал такое влияние и стал культовым для целого поколения хакеров?

«Ребята, сегодня мы будем проходить выворачивание канта наизнанку.
— Марья Ивановна, но что же это получается: нравственный закон над головой и звёздное небо внутри меня?»

Некоторое время назад в чате авторов КэтСая случился небольшой диспут, в ходе которого ваш покорный слуга защищал позицию свободы слова в нашем паблике, ограниченную только УК, ГК и КоАП РФ. О чем же был сыр-бор?

Если вкратце, то среди авторов случился раскол: можно ли публиковать «маргинальные» или конспирологические мнения? Конкретным яблоком раздора послужил вопрос допустимости и безопасности существующей практики широкого использования антибиотиков в промышленном сельском хозяйстве. Что лучше - рисковать, что в сельском хозяйстве возникнет очередная супербактерия, устойчивая к большей части существующих антибиотиков, или что коварная бацилла пройдет мимо санинспектора и непрожаренная колбаска убьет случайного потребителя?

Informatix – одна из интересных головоломок игры Puzzle Hunt Мельбурнского Университета 2013 года. Эта игра представляет собой ежегодный квест, цель которого — первыми обнаружить "сокровища", спрятанные где-то на территории кампуса. Задания игры не содержат инструкций. Вместо этого участникам дается сюжет, который постепенно развивается, и в который встраиваются головоломки. Ответом на задание является слово или словосочетание. Таким образом, если решением головоломки является нечто иное, то должен существовать какой-то способ, как получить из него слова.

Сюжет игры в том году был основан на персонажах комиксов про Астерикса и Обеликса, а каждая ее головоломка была связана с одним из жителей деревни галлов или одним из римлян. Informatix – один из жителей деревни. Его головоломка была частью второго акта игры. Ей предшествовало изображение этого персонажа, а также его краткое описание: «Эксперт в области обработки и извлечения данных, Informatix всегда склонен слишком усложнять проблему».

Что говорил и на чём настаивал Вавилов, когда спорил с теориями Лысенко.

Лысенко утверждал что сможет, после отказа от буржуйской генетики, выводить новые сорта за 2 — 3 года. В норме и сегодня на это нужно 10 лет и до 20 — 25, для каких нибудь сложных участков, где скажем высокая кислотность или мало воды. Лысенко и тогда и по нынешним меркам занимался чистым популизмом.

Например, вот — национальный центр зерна имени Павла Лукьяненко. На сайте прямо пишут — 10 лет это минимум, плюс 2 года гос‑испытаний, что бы не было катастроф, как с поздними сортами пшеницы у самого Лукьяненко. Правила написаны голодом и потерями.

Речь идет об импланте, который восстанавливает зрение при возрастной макулярной дегенерации (ВМД). Это постепенная потеря зрения, которая ощущается как постепенно замутнение. Словно запотевает объектив фотоаппарата. Это приводит к географической атрофии, более тяжёлой форме заболевания. Основной причины необратимой слепоты в мире, поражающей более пяти миллионов человек.

Если в процессе установившегося снижения при заходе на посадку воздушное судно резко переходит в набор высоты, это значит что либо экипаж прервал заход и начал «уходить на второй круг», либо Вы стали участником того самого случая о котором пойдет речь.

Каждый, кто прошел через курс линейной алгебры или физики в универе, помнит этот странный дуализм. Нас учили, что у векторов есть целых ДВА вида произведения. Первое, скалярное, съедает два вектора и выдает число. Геометрически — это что-то про проекции и углы. Второе, векторное, тоже съедает два вектора и… внезапно выплевывает третий вектор, перпендикулярный первым двум. Причем работает этот фокус только в 3D и 7D.

Всегда казалось, что это какой-то математический «костыль».

Почему так сложно? Почему два разных продукта для разных задач? Почему один зависит от косинуса, а другой от синуса?

Что, если я скажу вам, что это действительно «костыли»? Что существует единое, универсальное и элегантное геометрическое произведение, которое включает в себя оба этих случая (и многое другое), и которое основано на одной-единственной, кристально ясной идее. Идее, которая меняет взгляд на саму суть математики.

Эта статья — приглашение в мир Геометрической Алгебры. Мы собираемся переизобрести умножение.

Когда объясняешь школьникам или студентам, как работает сортировка, графика говорит громче слов. Наверняка, в интернете полно обзоров и сравнительных анализов различных алгоритмов сортировки, но я не нашел ничего что объединяло бы самые популярные алгоритмы в одном сравнительном экстазе. Поэтому я написал визуализатор, который показывает в реальном времени, как разные алгоритмы сортируют один и тот же массив — одновременно.

Чтобы понимать наш физический мир, нужно обладать одним важным навыком — представлять себе абсолютные и относительные размеры разных объектов этого мира. Представляю вам перевод статьи The Big and the Small Тима Урбана, автора знаменитого блога больших текстов waitbutwhy.com . За несколько минут вы словно прокатитесь на американских горках нашей с вами физической реальности...

Общий принцип того, как тот или иной набор признаков у животного пытаются перекинуть в новое поколение. У нас на глазах идёт один из лучших и масштабнейших экспериментов по передаче признаков от одной птицы к другой - волнистые попугайчики. Их все знают или почти все. Причём начался он задолго до открытия рабочей роли хромосом, но уже после открытия закона генетики Менделя. Мендель между 1856-1863 всячески смешивал окрасы разных семян гороха и вывел законы наследования.

И вот к 1870-м годам волнушки стали очень популярны в Англии и поползли украшать клетки по всему миру. Между 1870 - 1875, заводчики пофиксили первые варианты окрасов, которые не встречаются в дикой природе и при этом передаются следующим поколениям волнушек. И опять таки - каждое новое поколение стало "цеплять" новые варианты окрасов и так каскадом.

Появилось три варианта новых окрасов - размытый зелёный, серокрылый зелёный, лютино-жёлтый - NSLino или SLino. Опять таки - незнание на хорошем уровне принципов наследования для животных и птиц, привело к ошибкам. Продурили первый вариант жёлтого окраса - NSLino, видимо смешали не в правильной пропорции с другими волнушкам и адьё. Однако этого вариант жёлтого окраса вышел между 1931 - 1933 и тогда уж его не потеряли.

Пометка следующая - волнушки в Австралии это буквально стайная птица, выживающая в условиях, когда полёт на водопой может быть на 10 - 60 км в течение дня, помимо еды и сна. Это не воробушки, это наши стрижи, только австралийские. Летают волнушки крайне много, по сути всё время.

Возможно, это немного похоже на научную фантастику, но небольшая группа исследователей добивается реальных успехов в попытках создать компьютеры из живых клеток.

Добро пожаловать в странный мир биовычислений. Среди лидеров в этой области — группа учёных из Швейцарии, с которыми я встретилась. Они надеются, что однажды мы увидим центры обработки данных, заполненные «живыми» серверами, которые будут копировать аспекты обучения искусственного интеллекта (ИИ) и потреблять лишь небольшую часть энергии, по сравнению с существующими сегодня.

Такова концепция доктора Фреда Джордана, соучредителя лаборатории FinalSpark, которую я посетила. Мы все привыкли к понятиям «аппаратное обеспечение» и «программное обеспечение» в компьютерах, которые мы используем в настоящее время. Доктор Джордан и другие специалисты в этой области используют для обозначения того, что они создают, несколько удивительный термин «wetware» («мокрое обеспечение»).

Материал из «Википедии» — свободной энциклопедии

Это список прогнозов относительно автономных автомобилей Tesla, сделанных Илоном Маском, генеральным директором Tesla, Inc. Прогнозы касаются набора функций усовершенстованной системы помощи водителю (advanced driver assistance system, ADAS) компании Tesla, в настоящее время продвигаемой как Full Self‑Driving (Supervised) («Полное автономное вождение (под присмотром)», FSD), и содержат оценки того, когда Tesla достигнет полностью автономного вождения, не требующего вмешательства человека, что, согласно «Обществу автомобильных инженеров» (SAE, Society of Automotive Engineers), соответствует пятому уровню автоматизации. Tesla не привязывает FSD к уровням SAE, но признаёт, что полная автономность «зависит от достижения надёжности, в разы превышающей показатели человеческих водителей и подтверждённой миллиардами миль опыта, а также от регуляторного одобрения, которое в некоторых юрисдикциях может занять больше времени».^[1]

Маск публично озвучивает ориентировочные сроки и предполагаемые возможности системы как минимум с 2013 года.^[2] По состоянию на январь 2024 года FSD и Tesla Autopilot в классификации SAE считается системой помощи водителю (ADAS) уровня 2.^[1][3] В феврале 2023 года инвесторы Tesla подали иск, который утверждает, что Маск совершил мошенничество с ценными бумагами, вводя в заблуждение относительно сроков разработки автономных автомобилей Tesla^[4]. В сентябре 2024 года этот иск был отклонён без права повторного предъявления иска (without prejudice); судья признал, что юристы Tesla успешно доказали, что заявления Илона Маска были «корпоративной бравадой», то есть расплывчатым корпоративным оптимизмом.^[5]

Среди стереотипов о Японии — наряду с самураями, аниме и прочей развесистой сакурой — обязательно присутствуют киберпанк и роботы. Про возникновение японской версии киберпанка и её отличия от американской мы уже говорили, как и про то, как и почему Страна восходящего солнца несколько отстала в компьютеризации, несмотря на мощный старт в своё время. Однако в робототехнике Япония сохраняет очень крепкие позиции: пусть и сильно уступая ныне КНР по эксплуатируемому количеству и темпам внедрения промышленных роботов, она прочно удерживает второе место в мире по обоим этим показателям, опережая США. В современной японской культуре, в том числе в аниме, роботы тоже занимают важное место — достаточно сказать, что первый национальный суперхит с роботом в главной роли появился в 1951 году. Почему же японцы так увлечены роботами — во всех смыслах?

Человечество тысячелетиями рассказывало истории, а теперь на этих историях учатся LLM.

Что такое нарратив? Это история с сюжетом, помните? — Город, герои и возвращение. Но мы не будем углубляться в философскую глубину, где люди создают историю, чтобы осмыслить себя и свой опыт (желающие могут почитать Karl E. Weick), а рассмотрим, как можно применить нарративы в понимании работы LLM.

Коллектив ученых из МФТИ , ИТМО и их коллега из Китая провели глубокое теоретическое и численное исследование, проливающее свет на фундаментальные аспекты взаимодействия света с конечными структурами нанометрового масштаба. Эта работа позволяет лучше понять переход от свойств одиночных наночастиц к сложным оптическим явлениям в протяженных метаматериалах.

Это перевод статьи, в которой дается оригинальный ответ на вопрос Энрико Ферми "Где все?". Если кратко: цивилизация, недавно открывшая электромагнетизм, быстро приблизится к построению ИИ, который придумает такие способы связи, что... В общем, именно ИИ виноват в том, что мы (на текущем этапе) не слышим и не видим иные цивилизации...

Для любителей расшифровки формулы Дрейка и поиска внеземных цивилизаций...