Обновить
1510.29

Научно-популярное

IT в науке и наука в IT

Сначала показывать
Порог рейтинга

Стереоскопический снимок транзита ракеты Falcon 9 на фоне Солнца

Авторы снимка Andrew McCarthy и Joseph Bernardin
Авторы снимка Andrew McCarthy и Joseph Bernardin

Два фотографа — Andrew McCarthy и Joseph Bernardin — волей случая оказались в нескольких метрах друг от друга, и производили съемку на идентичное оборудование одного и того же сюжета.

Внезапно Andrew McCarthy осознал, что, если соединить эти изображения, получится стереопара — объемное изображение пролёта ракеты на фоне Солнца.

Здесь представлена так называемая "перекрестная стереопара" — смотреть её можно без специальных очков — просто пререкрещивая направление взгляда — левым глазом смотреть на правую картинку, а правым на левую.

Теперь Andrew McCarthy занимается созданием подобного, но уже из материалов съемки 11-го полёта Starship. Надеюсь, скоро покажет.

Теги:
+3
Комментарии27
Ночь с 8 на 9 октября 2025 — максимум активности метеорного потока Дракониды
Ночь с 8 на 9 октября 2025 — максимум активности метеорного потока Дракониды

Ночь с 8 на 9 октября 2025 — максимум активности метеорного потока Дракониды

В ночь с 8 на 9 октября 2025 (но вернее всё-таки — вечер 8 октября) ожидается пик активности метеорного потока Дракониды.

В целом, Дракониды — поток слабый — несколько метеоров в час. Он и действует всего-ничего — с 6 по 10 октября.

Но есть нюанс!

Этот поток порожден кометой 21P/Джакобини-Циннера, а она короткопериодическая — делает оборот вокруг Солнца за 6,5 лет. Очередное её возвращение было в марте этого года.

Рой метеороидов распределен вдоль орбиты кометы неравномерно. Рядом с кометой их больше. И получается, что в следующую ночь Земля будет проходить сквозь довольно плотную часть этого роя, а значит, активность потока будет существенно выше, чем обычно.

Ученые предрекают вспышку активности до 400 метеоров в час. Но вероятнее всего она будет кратковременной. Какой части Земного шара повезет — это неизвестно.

Плюс к тому пик активности Драконид в этом году совпадает с полнолунием — это не очень хорошо. Луна наблюдению метеоров сильно мешает. Но яркие метеоры видны даже при полной Луне.

Радиант потока (то место среди звезд, откуда с точки зрения земного наблюдателя вылетают «падающие звёзды») располагается в созвездии Дракона (отсюда и название) — вблизи астеризма «Голова Дракона». В прежние аналогичные совпадения (когда пик активности случался в год возвращения кометы к Солнцу) имели место очень обильные метеорные ливни — вплоть до 1000 метеоров в час.

Астрономический календарь на октябрь 2025

Теги:
Рейтинг0
Комментарии0

С момента релиза Sora 2 прошло 4 дня. Это и модель генерации видео от OpenAI, и приложение – конкурент для TikTok. Разница лишь в том, что в Sora все клипы сгенерированы искусственным интеллектом.

На самом деле смотреть в Sora не на что. Такое впечатление возникло лично у меня, когда я вчера наконец-то сподобился попросить код инвайта у сетевых знакомых. Рекомендации Sora забиты максимально однотипными трендами: сначала кто-то придумывает удачный промпт с интересно выглядящим результатом, а потом остальные подхватывают идею и заменяют персонажей на других.

К примеру, кто-то нащупал промпт для генерации клипов с нательного полицейского видеорегистратора в ситуации, где коп тормознул необычного водителя. Теперь на место автонарушителя подставляют абсолютно любых персонажей: лабрадора, голубого пришельца или даже персонажа анимэ. Казалось бы, можно каждый раз описывать абсолютно разную ситуацию, но создатели либо нажимают на кнопку Remix, либо заменяют в промпте всего одно слово. И каждый раз там будут всё те же Пикачу и Сэм Альтман.

Но это не просто лень, часто этой повторяемости есть объективные причины. Механизмы безопасности в генерации отказывают часто, поэтому легче полагаться на уже исследованный сообществом репертуар. Границы дозволенного понятны: мёртвых можно, живых трогать нельзя. Сервис Sora 2 не будет генерировать Дональда Трампа или живых знаменитостей, но согласится вставить в видео Баха, Хокинга или Майкла Джексона.

А вот персонажей Sora 2 рисует почти любых. С одной стороны, некоторых из них чисто физически нельзя закопирайтить. Если попросить выступление Иисуса на TED, будет именно тот общий образ европеоидного богочеловека, который распространён в американской массовой культуре, а не попытки задуматься о реконструкции облика исторической личности из Передней Азии эпохи античности.

Но вообще-то границ авторских прав будто и не существует. Sora кишит 10-секундными клипами с покемонами, Спанч Бобом, Риком и Морти. Иногда бывают герои игрового кино, например Тони Монтана. Или случается, что тот же коп тормознул DMC Дока Брауна и Марти Макфлая.

Важно также, что модель отлично знает голоса. При генерации аудиодорожки Sora 2 может корректно воссоздать голос Боба Росса и даже знает, как звучит Хацунэ Мику. Обычный голос (не пение) Майкла Джексона звучит похоже на его мягкий и тонкий голосок, разительно отличающийся от сценического высокого тенора.

Кстати, в датасетах обучения модели явно не было артефактов советской культуры. Союзмультфильмовский Винни-Пух не будет говорить ускоренным на магнитофоне голосом Евгения Леонова. Sora 2 даже приблизительно не знает, как выглядит планета Плюк. Если он не умеет себя развлекать самостоятельно, россиянину в приложении Sora будет откровенно скучно.

Итак, этот праздник непослушания и тотального нарушения копирайта длится уже пятые сутки, но только сегодня Интернет внезапно спохватился. Как указал бывший инженер Twitch и ныне глава Ping.gg Тео Браун, правообладатели иногда умудряются удалять результаты сгенерированного на Sora 2. Хотя казалось бы — закопирайтить результаты труда ИИ невозможно.

Другие наблюдения откровенно пугают. DHuskyTron заметил, что один из результатов генерации в Sora 2 полностью совпадает с реальным кадром из «Рика и Морти».

Возможно, с Adult Swim были заключены особые соглашения, но это именно не перерисовка, это полная копия кадра.

Могу также отметить, что Sora 2 годится разве что для производства слопа, этого типичного смешного ИИ-шлака, который быстро наскучивает из-за своей однообразности. Сколько ни бейся над промптом, модель не может составить тысячелетний таймлапс Москвы; зато в Комсомол пилотов Евангелионов у меня без проблем взяли.

Теги:
Всего голосов 8: ↑4 и ↓40
Комментарии2

Метеорный поток Ориониды

Начал свою активность ежегодный метеорный поток Ориониды — рой небольших по размеру космических частиц, порожденных кометой Галлея.

Каждый год со 2 октября по 7 ноября планета Земля проходит в непосредственной близости от орбиты этой кометы, погружаясь в поток сопровождающих её небольших метеороидов.

Комета Галлея периодическая и оказывается вблизи Солнца каждые 76 лет (предыдущий раз в 1986-87 годах, следующий в 2061-м). Солнечное тепло нагревает ядро кометы, и комета тает. А поскольку кометы состоят преимущественно из водяного льда и вкрапленных в лёд камней, то камни эти освобождаются из ледяного плена, но продолжают лететь вдоль орбиты кометы. Встречая на пути нашу планету они сгорают в атмосфере, и если это случается ночью, можно даже увидеть это горение — оно выглядит так, как-будто одна из звезд не удержалась в космической вышине и скользнула вниз по гладкой поверхности небесной сферы.

От ночи к ночи количество "падающих звёзд" будет увеличиваться, пока 21 октября не достигнет максимального — примерно 20-30 метеоров в час, а потом пойдет на убыль.

Радиант потока (точка на небесной сфере, из которой как-будто разлетаются во все стороны метеоры) находится в северной части созвездия Орион. Отсюда и его название.

Теги:
Всего голосов 2: ↑2 и ↓0+4
Комментарии0

Часы и время

 

 У человека есть часы. Солнечные, песочные, маятниковые, кварцевые, атомные. Все они нужны, чтобы измерять то, что мы называем временем. Но стоит спросить: действительно ли они измеряют время? Часы фиксируют не течение, а циклы. Солнце восходит и заходит. Маятник колеблется. Кристалл кварца вибрирует. Атомы цезия совершают предсказуемые переходы. Эти процессы повторяемы, стандартны, обратимы. Их можно пересчитать и положить в основу измерения.

Но реальное время не таково. У него есть направление, стрела, необратимость. Разбитое яйцо не собрать, распавшийся организм не воскресить. Мы можем перевести стрелку часов назад, но не можем повернуть вспять энтропию. Здесь и проявляется различие: часы измеряют циклы, а не течение. Они показывают, сколько раз повторился стандартный процесс, но не способны уловить то, что делает время временем — его неповторимость и необратимость.

Нет такого прибора, который «увидел бы» саму стрелу времени. Нет Хроноскопа, который показал бы направление от прошлого к будущему. Всё, что у нас есть, — это модель, инструмент, упрощение. И в этом парадокс: мы умеем измерять секунды и наносекунды, но не можем измерить то, что важнее всего - само течение. Его мы переживаем только умом и психикой. Время проявляется не в циферблатах, а в старении лица, в необратимости выбора, в ускользающем настоящем. Это неповторимая мелодия, которой аккомпанируют барабаны часов.

Часы нужны для координации, для общества, для науки. Но они всегда лишь костыль, всегда лишь тень самого выдающегося процесса во Вселенной.

Время - это то, что убегает сквозь пальцы, пока стрелка уверенно описывает круг.

И как не разложим поток на капли, так и время нельзя разложить на секунды.

Теги:
Всего голосов 3: ↑2 и ↓1+3
Комментарии1

Красное и белое в очках времени

Мы привыкли думать о времени как о чём-то столь же объективном, как пространство. Но у нас нет органа, который воспринимает его напрямую. Нет сетчатки для времени, нет барабанной перепонки, нет хеморецептора. Мы «видим» время иначе — умом, через память и предвосхищение. Это не делает время иллюзией, а наши представления галлюцинациями, но они могут меняться со временем, потому что непосредственно не ощущаемы. Ведь и атомы мы не видим, и бактерий не различаем глазом, и эволюцию не наблюдаем в прямом эфире. Мы не охватываем взглядом Землю в её полном масштабе. Но всё это реально: оно доступно через инструменты, через науку, через косвенные данные.

То же и с временем. Мы фиксируем изменения, циклы, ритмы, энтропию. Мы строим календари, измеряем секунды, сопоставляем процессы. Течения времени как отдельной «вещи» мы нигде не находим, но без него невозможно описать движение и жизнь. Цвета дают хорошую метафору. В природе есть длины волн, но нет ни «красного», ни «белого». Эти качества рождаются в нервной системе. Так же и с временем: есть физические процессы, но «прошлое» и «будущее» - это уже конструкции нашего сознания. Очки времени окрашивают мир. В них прошлое становится памятью, будущее — ожиданием, а настоящее — точкой свободы, где они встречаются. Эти очки нельзя снять: они — условие нашего существования. Но они не обманывают нас, как галлюцинации. Скорее, они дают возможность ориентироваться. Наши представления о времени могут меняться. Для античности время было циклом, для Средневековья - линией к концу истории, для современной науки - многомерной моделью, где нет единственного «теперь». Но как бы мы ни меняли описание, мы остаёмся существами, чья жизнь пронизана временем.

Возможно, Бог (наблюдатель из балка, существо из тессеракта, какой-либо ещё внешний наблюдатель) - тот, кто видит мир без этих очков. Для Него нет деления на красное и белое, нет прошлого и будущего. Всё пребывает в едином «сейчас». Но человек не может так смотреть. Для нас очки времени не ошибка, а дар. Они не только ограничивают, но и открывают: в их линзах мы учимся помнить, ожидать, выбирать и осмыслять. И если время не иллюзия, а инструмент, то именно им мы строим мосты от себя к миру и к вечности.

Теги:
Всего голосов 4: ↑0 и ↓4-4
Комментарии0

Приложение Sora 2 доступно пока по приглашениям и работает только на устройствах Apple, но видеороликами из него забиты уже все ленты социальных сетей. Хотя это просто очередной генератор видео, OpenAI позиционирует приложение как соперника TikTok в деле разжижения мозгов и уничтожения способности удерживать внимание. Разница лишь в том, что контент создаёт генеративная нейросеть на основе промптов пользователей. Бесполезно проводить время предлагается за просмотром шлака от ИИ.

Заявляется, что относительно первой версии модель Sora 2 значительно более продвинутая. Это очевидно даже по описанию технических характеристик: Sora 2 генерирует 10-секундные клипы с синхронизированной аудиодорожкой, в то время как первая итерация модели умела создавать только видеоряд. Клипы могут быть ремиксом или начинаться со статичного изображения, а особую популярность снискала функция камео.

На практике это означает, что все ленты сейчас заполнены Сэмом Альтманом, ворующим игровые видеокарты из магазинов электроники. Ну а чего вы хотели? Фантазии у первопроходцев мало, да и его лицо в редакторе — это одно из предлагаемых. В лучшем случае он будет ползать по полу офиса OpenAI в кигуруми кота и истошно мяукать.

На самом деле интересные бенчмарки всё же придумывают. К примеру, как показывает Кристофер Фрайант, Sora 2 выдаёт отлично выглядящие 10-секундные клипы геймплея любой популярной видеоигры. Многие хвалят Sora 2 за отличное понимание физики.

Как утверждает дата-саентист из Meta¹ Колин Фрейзер, не всё так однозначно. У себя в микроблоге он показал несколько примеров откровенных косяков Sora 2. Ниже представлена склейка шести из них.

Здесь опробованы разные промпты. Чаще всего они связаны с отделением одного объекта от другого или их совмещением в единое целое. Как показал скептик, с взаимодействием объектов в кадре у Sora 2 откровенно туго:

  1. Вылезающий из автомобиля человек. В ответ на промпт Фрейзера модель зажимает ногу человека дверью.

  2. Прыгающий через обруч пёс никуда не прыгает.

  3. Пиво ведёт себя как желе, у бармена с пальцами случилась каляка-маляка.

  4. Кстати, попытки упростить промпт про вылезание из машины ничего хорошего не приносят.

  5. Даже когда Колин явно задал в промпте состояние стакана, сосуд с апельсиновым соком опустошён до дна не был — уровень жидкости даже не изменился.

  6. Ну и задувание свечей всё так же на реальность не походит.

Твиты Фрейзера вызвали резко негативную реакцию. У себя в микроблоге он пожаловался, что люди в ответ на поиск изъянов начинают злиться. Колин не понимает, почему многие настолько эмоционально инвестированы в какое-то приложение для генерации и листания видеороликов.

(1) Холдинговая компания Meta — экстремистская организация, её деятельность запрещена.

Теги:
Всего голосов 1: ↑1 и ↓0+1
Комментарии0

Так синяя или красная?

Дед забыл выпить таблетки и понеслось...
Итак - давайте представим что мы находимся в далеком и светлом будущем в котором есть супер-МРТ которое может сделать снэпшот любого куска пространства на уровне атомов (ну или глубже), энергия, спины - вот это вот все.
И раз уж мы в будущем, то у нас определенно есть супер кампуктер который может запустить симуляцию куска мира из этого самого снэпшота.

Эксперимент: Олег и случайное число.
Берем условного Олега и садим его в полностью изолированную комнату. Дополнительно к этому вырубаем Олегу чувствительность какой-нибудь супер таблеткой - мозг полностью изолирован от внешнего воздействия.
Просим Васю подумать 10 секунд и назвать любое случайное число (не важно как мы коммуницируем с изолированным мозгом Олега - не надо душнить).
В тот же самый момент снимаем снэпшот мозга и запускаем симуляцию. Что будет через 10 секунд? Очевидно Олег и симуляция выдадут одинаковые ответы? Любые квантовые эффекты и прочие случайности мы не принимаем в рассчет - считаем что в будущем со всем разобрались и нашли все зависимости.

Далее мы повторяем эксперимент. Но кампуктер запускаем на полную мощность - так что он выдает результат практически мгновенно - 42. Через 10 секунд Олег выдает нам те же 42.

Получается что ответ уже есть в мозге на момент задания вопроса, а возможность что-то решить лишь иллюзия.

Более того - то самое текущее состояние мозга - оно тоже не ваше. Оно сформировано другими "нейросетями" в виде родителей и окружения + случайными событиями, которые тоже не случайны.

Вся история уже написана - мы лишь зрители которые смотрят сезон за сезоном этот сериал.

Осень, грустно, пойду пить таблетки

Теги:
Всего голосов 9: ↑4 и ↓5+3
Комментарии21

Почему связаны web и оса

  1. В русском языке (вернее в праславянском) начальная буква "в" иногда выпадает:

    воз, но обоз

    вязать, но обязать

    власть, но область

    влечь, но облечь

    витать, но обитать

  2. В английском языке существует такое явление как умлаут, выраженный, в частности, чередованием e / a, например:

    men (множественное число), но man (единственное число)

    tell рассказывать, но tale рассказ

    fell валить, но fall падать

  3. Английское "a" в ряде случаев сообразно русскому "о" (Германский сдвиг гласных)

    lame хромой, но ломать

    mane грива, но монисто

    spare беречь, но спорый (экономный)

  4. В русском языке встречается оглушение звонких согласных, например:

    древнерусское бьчела, но русское пчела

    русское кобчик (птица), но копчик (часть позвоночника)

    сравни латинское coccyx (в значении и кукушка и копчик)

  5. В русском языке существует унаследование из праславянского упрощение групп согласных (в частности выпадение буквы "п"), например:

    топить, но топнуть

    купать, но окупнуть

    вепсы (народ) , но весь (племя)

    Английскому языку также, отчасти, присуще подобное явление, однако оно затрагивает только произношение, а не написание:

    psychology /saɪˈkɒl.ə.d͡ʒɪ/

    pterodactyl /ˌtɛɹəˈdæktɪl/

    pneumatic /n(j)uːˈmæ.tɪk/

  6. Праиндоевропейскому языку (а в месте с ним и русскому как его далёкому потомку) характерно расширение (или более по-научному - деривативное усложнение) корней, например:

    колоть, но колос

    чаять, но час

    7. окончание "а" является показателем грамматического родового отличия:

    ра́б / раба́

    черёд / череда́

    во́рон / воро́на

    по́друг / подру́га

Теги:
Всего голосов 10: ↑4 и ↓60
Комментарии3

Читает ли кто-нибудь в современном мире диссертации или это считаетеся какой-то фигней чтобы поставить галочку? Вспомним что вся цифровая электроника, все айфоны, интернет-роутеры и ИИ-ускорители - построены на двух диссертациях: 1) магистерской диссертации Клода Шеннона, который в 1937 году повысил уровень абстракции проектировщиков с переключателей (на основе реле и ламп) до булевской логики и/или/не и 2) диссертации 1954 года Дэвида Хаффмана в MIT, который обобщил более ранние потуги и сформулировал модель Хоффмана для последовательностной логики: комбинационное облако вычисляет следующие значения элементов состояния (сейчас это в 99+% случаев D-триггеры), которые записываются по фронту тактового сигнала.

У истории были альтернативные ветки (например электроника могла бы строится на C-элементах Мюллера), но в нашей параллельной вселенной они не прижились.

Теги:
Всего голосов 9: ↑8 и ↓1+10
Комментарии10

SpaceX Dragon поднял орбиту МКС почти на 2 км — российский Прогресс останется без работы?

Грузовая версия корабля Dragon подняла орбиту МКС на 1,8 км. Раньше на это был способен только российский «Прогресс», и разочек почти то же самое сделал Cygnus. Илон Маск отберёт функцию по маневрированию МКС у России?

МКС — самый большой и самый тяжёлый рукотворный объект в космосе. Высота её орбиты около 420 км, но даже на этой высоте есть атмосфера, которая понемногу тормозит станцию, поэтому периодически её поднимают. Законы орбитальной механики таковы, что для этого выгодно станцию толкать не снизу, а сзади — если смотреть по ходу полёта станции. Как раз в этой части находится модуль «Звезда» с двигателями, которые уводят станцию от космического мусора и поднимают орбиту при необходимости. Топливо в модуль «Звезда» перекачивается с российских грузовых кораблей «Прогресс», а если остаётся запас, корабли сами толкают станцию и за 7–10 минут увеличивают её среднюю высоту на 1,5–2 километра.

Теперь понятно, что NASA несколько приукрасило возможности SpaceX. Места стыковки Dragon — в передней части станции. Вряд ли её разворачивали целиком ради маневра, скорее «повернули» на 90 градусов. Чтобы сохранять устойчивость 100-метровой конструкции в нерасчётном положении, надо было «подруливать» — делать это способны были только двигатели «Звезды» на другом конце станции. Так что без российского сегмента пока не обойтись.

Двигатели SpaceX отработали всего 5 минут, чего явно не хватило бы для поднятия средней высоты МКС на 1,8 км. Так что это было сделано только по одной из осей эллиптической орбиты. Если проще, высота подъёма была раза в 1,5 меньше, чем у «Прогресса».

Наконец, для подъёма использовались не собственные двигатели Dragon, а две дополнительные установки в негерметичном отсеке корабля. Из-за них корабль привёз на МКС в 1,5 раза меньше грузов, чем обычно.

Кажется, что смысла в коррекции орбиты SpaceX Dragon немного. Посмотрим на два шага вперёд. К 2031 году планируется свести МКС с орбиты, что обойдётся NASA примерно в 1 млрд долл. Чтобы не отдавать эту работу российским «Прогрессам», американское аэрокосмическое агентство пообещало её SpaceX, и последняя разрабатывает мощную версию Super Drago, чтобы тремя кораблями затормозить МКС и «уронить» в океан. Чтобы создать такую модификацию, SpaceX и пригодятся данные текущего эксперимента с увеличением высоты МКС. Благо, что со стыковкой в передней части станции SpaceX даже удобнее будет тормозить станцию, чем сейчас — разгонять.

Теги:
Всего голосов 18: ↑18 и ↓0+30
Комментарии0

«Техническая эстетика» — легендарный советский журнал (1964–1992), один из самых самобытных и недооцененных проектов эпохи. Он стал каноном дизайн-мышления для СССР, выходя далеко за рамки прикладного формообразования.

Это было не про, как красиво покрасить трактор. Это была настоящая революция в мышлении с принципом «дизайн = наука».

Здесь впервые серьезно заговорили, что стул — это не просто доска на ножках, а еще и эргономика, материалы, психология комфорта. Как форма чайника влияет на наше настроение? Журнал знал ответ, как сделать мир не просто красивым, а умным, удобным, человечным.

Он поднимал темы, о которых молчали. Как жить среди серых панелек? Можно ли впихнуть красоту в плановую экономику? Это было непривычно и дерзко.

А лично меня зацепила концепция универсальности одного элемента что для автомобиля, что для кухонного гарнитура. Все по Папанику и ТРИЗ

Теги:
Всего голосов 7: ↑6 и ↓1+6
Комментарии2

Андрей Бурков — канадский специалист по машинному обучению из Квебека. Он руководил командами машинного обучения в Gartner и TalentNeuron, много лет возится с обработкой естественного языка, а прославился «The Hundred-Page Machine Learning Book», компактным учебником, который разошёлся по университетским курсам. В 2024—2025 годах он выпустил продолжение — «The Hundred-Page Language Models Book», где объясняет путь от простых счётных моделей и свёрточным нейросетям к трансформерам и БЯМ.

Впрочем, Бурков не просто повис где-то в сухой академии и написании учебников — он активно ведёт микроблог в X. Тон его микроблога и интервью легко узнать: он любит сбивать хайп и говорить про реальные ограничения моделей. Давайте хотя бы посмотрим, как озаглавлены его недавние беседы: «БЯМ — полезные лжецы» и «Вокруг БЯМ и агентов слишком много хайпа». По его мнению, большие языковые модели полезны, но склонны обещать больше, чем могут, а агенты без аккуратной инженерии разваливаются на форматировании, таксономиях и хрупких пайплайнах.

Аналогично скептичен и недавний твит Буркова. Андрей язвительно приводит следующее остроумное наблюдение: «БЯМ дообучили врать почти во всех ответах по написанию кода». Исследователь обратил внимание, что когда генерируется ответ, сначала модель торжественно выдаёт в тексте «я реализовал такую-то фичу», а сам код рождается позже — токен за токеном. По сути, БЯМ врёт, она ещё не написала никакого кода.

Однако в комментарии пришёл не менее маститый исследователь искусственного интеллекта Андрей Карпатый со своей фирменной иронией. Карпатый — один из одиннадцати основателей OpenAI, он возглавлял компьютерное зрение в Tesla и просто преподавал культовый курс CS231n.

Карпатый с юмором пишет: «Код был написан на слоях 22–30 и хранится в value-активациях, ты просто не можешь его прочитать. Мне кажется, тебе нужно извиниться перед БЯМ».

На самом деле шутка не на пустом месте: в трансформерах мысли о продолжении действительно заранее складываются в активациях, а суммарная память шага течёт по так называемому residual stream. Модули внимания и многослойные перцептроны читают из него и записывают обратно векторы, которые затем превращаются в следующий токен. До того как вывести первую строку функции, модель уже набрала внутренний, так сказать, замысел будущего кода, хотя это не готовый текст, а распределённые признаки будущего ответа.

Теги:
Всего голосов 4: ↑2 и ↓20
Комментарии0

Ближайшие события

Германский умлаут и славянская третья палатализация
Кто интересовался историей славянских языков (в частности праславянским), тот наверняка слышал, что современные буквы ъ и ь ранее обозначали звуки ŭ и ĭ, сравните, например древнерусское мьзда, стькло и готское mizdo, stikls или древнерусское кънѧзь и финское kuningas. При этом вследствие третьей палатализации «твёрдый знак» мог переходить в «мягкий», например (в дореформенной орфографии) другиня другъ, но княгиня князь. Причиной палатальной перегласовки в данном случае является наличие в слове князь буквы «я», которая как некоторые любознательные читатели, наверное, уже слышали, может переходить в «ин» размять разминать, распять распинать, ну а «и» может переходить в «ь» липнуть, но льнуть (сравните капать / кануть). Иными словами, тем самым фактором из-за которого отражавшийся ранее на конце слов «ъ» перешёл в слове князь в «ь» является засевший в корне ещё один ерь «ь» «сингармонически» уподобляющий идущие за ним гласные себе. Такое уподобление называется прогрессивным.

Теперь же плавно перейдём к умляуту в германских языках по-иному именуемому i-mutation. Сравним, например английское full полный и fill наполнять. Возвращаясь к означенному в самом начале статьи можно заметить некую аналогию и она действительно есть ...

Продолжение следует

Теги:
Всего голосов 8: ↑4 и ↓40
Комментарии2

Хакер этимология

Слово hacker произошло от английского глагола to hack "разрубать".

  1. Германское (готское, древнеанглийское, древнескандинавское, ...) "h" соответсвует русскому "к" по Закону Гримма

  2. Германское "a" соответствует русскому "о" по Германскому сдвигу гласных

  3. Германское "c" соответствует русскому "г" по Закону Гримма

  4. Германское "k" соответствует ассимилированному "n" по Закону Клюге, присутствующему в значительном числе случаев в германских языках, но отсутствующему в русском, сравните древнескандинавское laun лов, vagn воз

  5. В русском языке существует пара нога ноготь

Итого: hack ~ коготь.

Теги:
Всего голосов 6: ↑5 и ↓1+7
Комментарии2

НАСА сообщило, что число подтверждённых экзопланет достигло 6000. Данные предоставили специалисты Института экзопланетных исследований НАСА (NExScI), расположенным в Калифорнийском технологическом институте. 30 лет назад была открыта первая экзопланета у звезды, похожей на наше Солнце. 3 года назад было подтверждено 5000 экзопланет.

«Эта веха — результат десятилетий космических исследований, осуществляемых с помощью космических телескопов НАСА, которые полностью изменили представление человечества о ночном небе. Шаг за шагом, от открытия к характеристике, миссии НАСА заложили основу для ответа на фундаментальный вопрос: одиноки ли мы?», — заявил исполняющий обязанности директора отдела астрофизики штаб-квартиры НАСА в Вашингтоне Шон Домагал-Голдман.

Теги:
Рейтинг0
Комментарии0

Конкурс open source проектов, которые способны изменить мир 🌏🖥️

Зовем вас на «Код без границ» — грантовую программу для развития open source проектов, которую совместно с Cloud.ru и Хабром подготовили GitVerse. Поделитесь своими разработками на GitVerse, получите шанс выиграть 💸💸💸 и получить поддержку в масштабировании идеи.

Номинации конкурса:

  • AI-инновации.

  • Наука и образование без границ.

  • Для всех и каждого (приложения и сервисы).

  • Разработка для разработчиков — инструменты и библиотеки.

Как участвовать? Рассказываем:

  1. Разместите репозиторий вашего проекта на GitVerse или импортируйте его с другой git-площадки.

  2. Подайте заявку до 31 октября. В ней должна быть ссылка на уже размещенный конкурсный проект.

  3. Подождите, пока жюри — опытные спецы из СберТеха (GitVerse), Сбера, Cloud.ru и лидеры отрасли — посмотрят работы и выберут финалистов.

  4. Узнайте результаты в декабре.

Что по призам и плюшкам?

  • Гранты 150, 100 и 50 тысяч рублей — для первого, второго и третьего места.

  • Облачные ресурсы Cloud.ru для реализации ваших масштабных идей.

  • Помощь с масштабированием проекта, поддержка экспертов и нетворкинг.

Регистрируйтесь, принимайте участие и покажите силу открытого кода 💪

Теги:
Всего голосов 3: ↑3 и ↓0+4
Комментарии0

Недавно у нас в университете ИТМО прошел форсайт, посвященный видению развития отдельных направлений искусственного интеллекта на ближайшее будущее. Были приглашены эксперты из Индии и Китая, которые рассказали о развивающихся в их странах направлениях ИИ. В том числе выступали и наши эксперты.

Мне тоже удалось выступить. Я рассказывал о временных рядах, а именно о «изощренных» методах их прогнозирования и генерации на основе физически-информированных нейронных сетей. По этому поводу можно обратиться к другим моим статьям на хабре или в блоге.

Вот к каким трем основным направлениям развития ИИ в ближайшие 5-10 лет пришло большинство экспертов:

1. Вопросы эффективности. Развитие современных методов активно порождает вопросы эффективности как программного обеспечения, так и аппаратного обеспечения («железа»). Сейчас создают очень большие модели, для обучения которых требуются тысячи видеокарт. Для инференса этих моделей требуется меньше ресурсов, но это все равно затратно. Сейчас, например, актуальны методы квантизации больших моделей. В этой области ведется много исследований. Также ученые ищут подходы к более эффективному использованию железа, например, как оптимальнее оркестрировать поток задач.

2. Биологически правдоподобные модели. Вторым направлением можно выделить построение новых моделей машинного обучения на основе принципов работы биологических нейронных сетей. Наш мозг очень эффективно обрабатывает входящую информацию: в каждый момент времени активируются не все нейроны сразу, а только те, которые нужны для текущей задачи. Кстати, если бы работали все нейроны одновременно, то в голове возник бы шум, и мы не смогли бы сконцентрироваться на чем-то одном.

А в классических нейронных сетях все не так — там задействуются все нейроны одновременно. Исключением являются модели Mixture of Experts (смесь экспертов). Их принцип работы можно вообразить так: представьте, что вы задаете нейронной сети вопрос по математике. Очевидно, что в данный момент не нужно задействовать знания по биологии, истории и т.д. В MoE есть специальный блок — маршрутизатор (router) — который отвечает за перенаправление запроса к тому или иному «эксперту». Конечно, он может направить запрос сразу к нескольким экспертам, если вопрос затрагивает разные области знаний.

На практике нет такого явного тематического разделения экспертов, обычно они подбираются и обучаются самостоятельно для наилучшей генерации той или иной последовательности. И обычно эксперты активируются не для всего запроса целиком, а для отдельных токенов (например, слов) внутри этого запроса.

В общем, направление верное, собственно все чат боты сегодня строят на этой архитектуре. Однако в реальном биологическом мозге эта система представляет собой гораздо более сложную структуру. В мозге взрослого человека около 86 миллиардов нейронов и на каждом нейроне может быть от 5 до 10 тысяч синаптических связей. Как можно понять, плотность связей в нашем мозге чрезвычайно высока.

3. Фундаментальные мультимодальные модели и новая математика. 

Наконец, последнее направление связано с созданием не просто языковых моделей, а фундаментальных моделей, работающих с разными модальностями (типами данных). На самом деле, любую информацию можно свести к языку — даже математические формулы можно просто описать словами. Однако в этом направлении предлагается переосмыслить текущие подходы и развивать модели с новой математикой для описания этих различных модальностей.

Также до сих пор нет единого математического обоснования нейронных сетей, лишь отдельные области и лишь отдельная математика. А когда будет единая теория не ясно.

В общем, есть куда двигаться. А как вы считаете какие направления появятся или переосмыслят в ближайшее 5-10 лет? Пишите комментарии, будет интересно почитать.

Мой блог: kirill_zakharov_blog

Теги:
Всего голосов 2: ↑1 и ↓10
Комментарии0

На сайте SpaceX стало возможно купить место для своей нагрузки в полёт на Falcon 9. Нужно ввести массу своего спутника, выбрать следующий рейс на нужную орбиту из предложенных, а также дополнительные опции, например, габаритный адаптер, дополнительное топливо или страховку. Теперь билет в космос покупается так же просто, как авиабилет. Оплатить можно картами Visa, MasterCard и American Express.

Теги:
Всего голосов 3: ↑3 и ↓0+5
Комментарии0

iPhone 15 Pro пережил падение с высоты в 2000 метров. Смартфон выпал у пользователям во время прыжка с парашютом. Устройство приземлилось в кусты без повреждений. Смартфон нашёлся хозяином через «Локатор».

Теги:
Рейтинг0
Комментарии3

Вклад авторов