Несколько похожая, но иная атака от @andrewmccalip

Научная работа «Scalable Extraction of Training Data from (Production) Language Models» (arXiv:2311.17035) анализирует извлечение данных датасетов обучения из различных языковых моделей. Исследователи проверили как локальные модели, так и коммерческое решение от OpenAI. С помощью атаки на выравнивание удалось заставить ChatGPT процитировать данные, на которых обучали GPT-3.5.

Пример работы гауссова сплэтинга. Этот ролик — не видеосъёмка реального мира, а рендер в реальном времени на настольном компьютере

Всплеск внимания к технике сплэтинга связан с представленной в августе этого года статьей 3D Gaussian Splatting for Real-Time Radiance Field Rendering [Трёхмерный гауссов сплэтинг для рендера radiance field в реальном времени]. До этого, в июле, эта научная работа исследователей Университета Лазурного берега, Института информатики Общества Макса Планка и французского Национального института исследований в информатике и автоматике вошла в пятёрку лучших работ SIGGRAPH 2023.

В следующие два месяца новостные сайты, блоги и тематические форумы начали рекомендовать гауссов сплэтинг как будущее компьютерной графики. Новая техника позволит быстро отсканировать существующую сцену и после короткого обучения отрендерить её с высокой точностью, обещают восторженные голоса.

Сейчас исследователи бьются над поиском практического применения технологии и сканированием движения. В оригинальной работе речь идёт о воссоздании в первую очередь статичных сцен.

Кадр из «Истории игрушек 4»

В конце мая студия Pixar впервые за десятилетие сократила штат. После неудач в прокате «Базза Лайтера» компания уволила 75 сотрудников, включая двух старших менеджеров. В ленты новостных агентств новость просочилась только в начале июня, но чуткий глаз тематических СМИ выцепил среди уволенных одну наиболее интересную персоналию. В числе прочих расстались с сотрудницей, которая когда-то спасла случайно удалённую «Историю игрушек 2».

Двадцать пять лет назад, когда Pixar готовила к выходу очередной полнометражный фильм, технический директор Гэлин Сасмен выполняла свои обязанности из дома. Когда в офисе случайно удалили всю работу над «Историей игрушек 2», на компьютере Сасмен нашлась резервная копия. Такой сюжет попытались рассказать некоторые тематические сайты (1, 2, 3, 4, 5). Другие не стесняясь заявили (1, 2), что Сасмен спасла всю $3,2-миллиардную франшизу.

Случившееся в реальности сложнее и интереснее, чем простая история о несправедливости.

На орбите Земли продолжает работать космический телескоп «Хаббл». Запустили аппарат в 1990 году, а чтобы это случилось, с 1970-х отбирали предложения, пытались выбить финансирование, проектировали, строили и готовили программу исследований. Аналогичным образом о телескопе «Джеймс Уэбб» начали всерьёз задумываться в конце восьмидесятых, его разработка шла десятилетия, увенчавшись запуском лишь в 2021 году.

Замена «Уэббу» готовится прямо сейчас. Возможно понять, какой будет следующая космическая обсерватория такого размаха. Железобетонно зафиксированы требования к проекту, выданы контракты на разработку инструментов, ещё на начальных этапах планирования показали симуляцию снимков с телескопа. Есть даже обещанные сроки запуска. Кажется, что мы можем заглянуть в будущее.

«Он похож на зануду?» Реплика также может быть оценена, будто Уоллеса сравнивают с клячей, старой лошадью. Видеоролик Джерри Ноулза

Телеприставка подключается к аналоговому телевизору. Из-за простого корпуса из шероховатого чёрного пластика она выглядит словно пришелец из восьмидесятых. Действительно, устройство построено на технологиях конца прошлого века.

Затем из телесигнала пропадает любая обсценная лексика (или часть — уровень фильтрации настраивается). Когда на экране звучит ругательство, аудиодорожка затихает. Чтобы не терять смысл реплики, на экране появляются субтитры с заменой цензурируемого слова или выражения. После окончания нехорошей реплики звук немедленно включается снова.

Даже сегодня умные колонки не транскрибируют речь пользователя, а отсылают её в облако. Очевидно, что четверь века назад точное машинное распознавание речи было в лучшем случае мечтой. Принцип работы приставки куда проще, но также он поражает остроумием и скромностью задействованных ресурсов: вся логика занимает меньше 4 КиБ.

Возжелавший прильнуть к жанру вестернов обратится либо к десятой строчке топ-250 лучших фильмов по версии IMDb, либо уже будет обладать знанием, что начинать нужно с «Хороший, плохой, злой». Там он увидит жадных потных мужчин, которые заканчивают фильм напряжённым мексиканским противостоянием. Жалкая охота за золотом конфедератов разворачивается на фоне кровавых битв Гражданской войны между «Севером» и «Югом». Таким зритель запомнит вестерны как жанр.

В реальности «Хороший» — это не классика, а яркий представитель поджанра ревизионистских вестернов, снят в Европе и наоборот, критикует американскую идеологию направления. В нём нет ничего общего с картинами, где герой встаёт на защиту правильного и справедливого общества от злодеев или кровожадных индейцев. В пятидесятых и шестидесятых классический вестерн сошёл на нет, но в коллективном сознании критика быстро заместила критикуемый объект. Когда Марти Макфлай жалуется на анахронизм наряда, он сравнивает себя с антигероями Клинта Иствуда, а не бравыми ковбоями в исполнении Джона Уэйна.

Иногда нашему восприятию требуются корректировки. Собственные заблуждения необходимо не забыть при проектировании информационных систем. Помнить нужно о многом: для времени, карт и почтовых адресов получаются длинные списки. Для текста неожиданностей мало.

Заблуждение 1. Любые символы, кроме управляющих, имеют предсказуемую ширину

В реальности ширина символов может отличаться даже в моноширных шрифтах.

Музей-скансен эпохи Средневековья в Дании в режиме обычной работы (слева) ставит целью воссоздать повседневную жизнь города на стыке XIV и XV веков. Для съёмок фильма (справа) он «погрязнел»

Для киносъёмок в музей под открытым небом Middelaldercentret внесли несколько изменений. Вместо аккуратной каменной улицы развели неприятную кашицу из грязи, не самые роскошные стеклянные окна прикрыли досками и развесили везде выцветшее тряпьё. Здания как следует измазали чем-то коричневым, кое-где зачем-то перемешав субстанцию с соломой. В случайное здание воткнули факел, а не попытались изобразить лучину или фонарь.

Причина проста: кинозритель должен узнать на экране эпоху. Приходится снабжать снимаемое полным набором заблуждений про грязных неграмотных горожан, непрекращающиеся войны и еду без специй.

При проектировании информационных систем задача стоит ровно обратная: необходимо отразить реальность и не допустить в код собственные заблуждения. Ошибок восприятия много. По крайней мере, про карты и почтовые адреса получаются длинные списки.

Попытки собрать заблуждения про время и часовые пояса на Хабре уже были шесть и десять лет назад. Но без контрпримеров не так интересно.

Заблуждение 1. В сутках 24 часа или 86 400 секунд

Иногда и кое-где стрелки часов переводят, создавая сутки длиной в 23 и 25 часов — всё очевидно. Будет неплохо углубиться в случаи поэкзотичней.

Самое очевидное объяснение: индекс — это смещение относительно начала массива. Так элементы массива легче адресовать в памяти.

Проверим это на C.

#include <stdio.h>
int main()
{
    int data[3] = {1, 2, 3};
    int i = 0;
    printf("Array address: %p\n", data);
    do {
        printf("Array[%u] = %p\n", i, (void *)(&data[i]));
        i++;
    } while(i < 3);
}

Получим результат:

Array address: 0x7ffd7c514a6c
Array[0] = 0x7ffd7c514a6c
Array[1] = 0x7ffd7c514a70
Array[2] = 0x7ffd7c514a74

Как первый (нулевой) элемент, так и сам массив находятся по одному и тому же адресу, поскольку 0-й элемент удалён на 0 элементов от начала. Эта связь между указателями и массивами в C настолько тесная, что их даже можно рассматривать вместе.

Однако это ответ на вопрос «зачем», а не «почему». Нумеровать массивы с нуля стали не сразу. Удивительно, но развитие такого простого вопроса не умещается в предложении или абзаце.

У всех легковых автомобилей четыре колеса. Исключение из этого правила — Reliant Robin.

Если у автомобиля больше четырёх колёс, то это грузовик, автобус или вообще автопоезд. Исключение найдётся и здесь: Mercedes-AMG G 63 6x6.

Попытка описать окружающий мир легко обнаруживает ошибки восприятия, скрытые, словно слепое пятно на сетчатке глаза. Заблуждений много. По крайней мере, на списки про имена, телефонные номера или карты хватило. Настало время адресов и почтовых систем.

Заблуждение 0. Для доставки нужны адрес и имя

В мае 2016 года издание Skessuhorn рассказало трогательную историю: семья фермеров в Хоуларе на северо-западе Исландии получила письмо, на котором не были указаны ни имена получателей, ни адрес, по которому его нужно было доставить. Письмо отправил зарубежный турист, который гостил в посёлке Хоулар и точного адреса не знал. Вместо этого на конверте было изображено местоположение получателя с кратким описанием места, вместо имени — «датчанка, которая работает в супермаркете в Будардалюре».

Адрес называл точно только страну (Исландия) и посёлок (Будардалюр). Дальше шло текстовое описание: лошадиная ферма, где живёт исландская/датская семья с тремя детьми и большим количеством овец. Письмо турист отправил из столицы Исландии, Рейкьявика.


Skessuhornið

Дизайн систем быстро выявляет ошибки в восприятии закономерностей функционирования мира. Те правила, которые кажутся непреложными истинами, могут ими не оказаться.

Списки подобных заблуждений составлялись про имена или телефонные номера. Настало время карт и систем навигации.

Заблуждение 1. Форма Земли — это просто

Шар — множество точек в пространстве, удалённых от центра на расстояние не выше радиуса. Однако хотя бы из-за суточного вращения форма нашей планеты отличается от идеального шара. Планета сплюснута у полюсов и утолщена на экваторе, а также обладает рельефом и испытывает циклы приливов и отливов.

25 декабря 2021 года ракета «Ариан-5» взмыла со стартовой площадки ELA-3 космодрома Куру в Гвианском космическом центре. Через 25 минут двухступенчатая ракета отправила полезную нагрузку по заданной траектории в глубокий космос. Через несколько минут от второй ступени ракеты отделился и начал самостоятельный полёт космический телескоп «Джеймс Уэбб». Всего через полчаса после того, как обсерватория покинула Землю, она развернула солнечные панели.

За следующие полгода телескоп прибыл в точку Лагранжа L₂, охладил свои системы и прошёл долгий процесс калибровки. 12 июля 2022 года НАСА показало первые снимки и опубликовало научные данные обсерватории.

Этому событию предшествовали долгие этапы планирования, разработки и реализации, многочисленные сдвиги сроков запуска и серьёзные намерения отменить проект полностью. О самой идее подобного телескопа задумались ещё в конце восьмидесятых, но реальностью она стала лишь 35 лет спустя.


Полномасштабная модель телескопа, которую Northrop Grumman построила в 2005 году и демонстрировала в различных городах США

Современный обыватель может легко обойтись без внешних накопителей данных. Ноутбуки и даже настольные компьютеры в наши дни редко комплектуются дисководами, а производители смартфонов всерьёз экспериментируют с моделями без портов обмена информацией вообще — заряжать такие «кирпичики» предлагают только беспроводным путём.



Подобная эпоха облачных хранилищ и обмена файлами в онлайн-мессенджерах наступила всего с десяток лет назад. До этого мы с удовольствием «нарезали» файлы на «болванки» компакт-дисков или записывали информацию на магнитные носители. Конечно, если вы начали знакомиться с вычислительной техникой после 2000 года, то некоторые из них вы могли не застать.

Единого всенародного любимца не существовало. Каждый стандарт обладал своими особенностями и всегда заметно отличался стоимостью. Это уже лишь позднее пришли USB-флэшки, которые удовлетворили всех и объёмом, и ценой.

Ренессанс винила — это лишнее подтверждение тому, как многочисленные недостатки и огрехи качества звука затмеваются выразительностью образа носителя. Что-то подобное случилось и с троппи-диском, который удивительным образом по сей день живёт в некоторых образах иконок.

11 ноября после двух лет разработки вышел ремастер GTA: The Trilogy — Definitive Edition. Знакомый каждому ребёнку нулевых мир убийства, проституции и наркоторговли GTA III, Vice City и San Andreas выпустили в переделанном виде, его визуально обновили и воссоздали с нуля на новом движке. В игры также добавили геймплейных новинок, например, систему чекпойнтов и колесо выбора оружия.

Мнения рецензентов игровых СМИ были в лучшем случае сдержанными. Пользователи же не скупились на негатив, и оценки ремастера немедленно отправили его на вершину антирейтингов самых плохих игр. Часть отзывов упоминает баги, слабую производительность или иные поправимые проблемы. Другие ругают стиль смартфонной игры, и это уже серьёзней: вряд ли из-за жалоб всё перерисуют с нуля.

Наименее интересно собирать коллекцию багов. Этим занимаются сотрудники компании-разработчика и любящие внимание ютуберы. Вероятно, что б́ольшую часть ошибок рано или поздно исправят, что сведёт на нет актуальность подобного списка. Куда более любопытно посмотреть на изменения стиля и найти виноватых.

Подозреваемых всего пять. Происходящее за кулисами ещё долго останется загадкой, но ничто не помешает спекулировать и разводить слухи.

Video recording of a closed session of the upper house of Russia's parliament was leaked online by Telegram channel A000MP97. In the video, Andrei Klimov, head of the Ad Hoc Sovereignty and Preventing Interference in the Domestic Affairs Commission, demands Apple to disclose who controls the App Store: people from Mars or artificial intelligence?

On September 16th, a closed session of the Commission took place, and representatives of Apple and Google were among those who were invited. The session discussed ways to protect sovereignty of the country, in particular, the fact that the Navalny app was still available in Apple App Store and Google Play. The services were accused of being complicit with organisations deemed extremist and banned in Russia as well as interference with Russian elections.

Пожелтевшие виноградные поля холмов «Безмятежности», фотография 26 ноября 2006 года, Голдин+Сеннеби

25 октября 2001 года на полках магазинов появились зелёные и синие коробочки с названием Windows XP. Месяцем ранее, 24 сентября, в продажу начали поступать компьютеры с новой системой. Ещё за месяц до этого, 24 августа 2001 года, ровно 20 лет назад, Windows XP «ушла на золото», то есть отправилась на фабрики тиражирования и партнёрам.

За двадцать лет своей жизни Windows XP установили на бессчётное число настольных компьютеров, ноутбуков и разнообразных единиц оборудования. Из-за своей неприхотливости вышедшая из продажи и уже не поддерживаемая система продолжает встречаться и по сей день. Её появление — это как переосмысление разработки Windows внутри Microsoft, так и основа домашнего компьютера на следующее десятилетие.

10 марта в 10 утра по московскому времени Роскомнадзор заявил, что доступ к Twitter для пользователей из России будет замедлен. Поводом стало размещение 3168 единиц контента, «склоняющего несовершеннолетних к совершению самоубийств, содержащего детскую порнографию или информацию об использовании наркотических веществ».

Замедление — уже не первое столкновение сервиса микроблогов и российского регулятора. Ниже хронология этого и предыдущих конфликтов.

В прошлую пятницу, 22 мая, ракета Falcon 9 с пилотируемым кораблём Crew Dragon прошли проверку Flight Readiness Review — стандартную операцию для пусков ещё с эпохи шаттлов. Изначально предполагалось, что FRR закончится в четверг, но анализ продлился 2 суток. Сотрудники SpaceX, НАСА и ответственные за эксплуатацию МКС оценили безопасность космического корабля и ракеты-носителя. Администратор НАСА заявил, что разрешает запуск SpaceX. В тот же день SpaceX успешно провела огневые испытания ракеты.

В выходные SpaceX провела генеральную репетицию старта. Экипаж корабля вышел на него в лётных скафандрах, персонал отработал основные процедуры — лишь ракету не заправили. В этот понедельник, 25 мая, ракета прошла процедуру Launch Readiness Review. В её ходе НАСА оценила вероятность потери экипажа в 1 из 276.

Череда строго распланированных проверок и пресс-конференций скрывает за рутиной уникальность этого запуска. Сегодня, 27 мая, в 16:33 местного времени (в 23:33 по Москве) SpaceX планирует запустить людей на орбиту. Впервые c 2011 года американский астронавт отправится на орбиту Земли с американской территории на американской ракете. Впервые в мире частная космическая компания запустит человека в космос. Впервые при запуске человека первая ступень ракеты будет сохранена для повторного использования.

Источник фотографии слева: Илон Маск

В понедельник 25 ноября южнокорейский мастер игры го 9 дана Ли Седоль рассказал в интервью, что он больше не будет участвовать в профессиональных соревнованиях. В качестве главной причины для завершения своей спортивной карьеры Седоль называет появление систем компьютерного го, которые играют лучше любого из людей. Даже если стать лучшим, всё равно будет нечто, что никогда не превзойти, говорит Седоль.

За пределами кругов поклонников го Ли Седоль получил известность благодаря играм против системы AlphaGo, разработанной компанией Google DeepMind. Программы по го из-за своих особенностей долгое время не удавалось оптимизировать так, чтобы компьютеры могли обыгрывать людей. В 2016 году британская DeepMind провела матч из пяти партий, в котором один из лучших игроков-людей — Седоль — проиграл до этого малоизвестной программе.

С той игры прошли три года. За это время улучшенная версия AlphaGo обыграла другого человека-чемпиона, DeepMind выпустила несколько научных работ по нейросети и рассказала о системе AlphaZero, а потом, кажется, потеряла любой интерес к проекту. Лишь сейчас Седоль решил оставить го. Есть ли для его решения другие причины?

О развитии систем компьютерного го и причинах поступка Ли Седоля мы поговорили с 7-кратным чемпионом Европы по го, действующим чемпионом России и членом президиума Российской федерации го Александром Динерштейном.

В каждом выпуске Joe Rogan Experience шоумен, комик и мастер боевых искусств Джо Роган общается с гостем такого калибра, какому позавидовали бы многие телепередачи крупных телеканалов. Такое возможно за счёт охвата JRE — это самый популярный подкаст в мире.

28 августа в студию в Лос-Анджелесе заглянул легендарный Джон Кармак. Внутри этого поста находится выжимка 2,5 часов эфира.

Xkcd — один из самых культовых веб-комиксов, и минималистичный стиль зарисовок будто из учебника механики стал его визитной карточкой. Автор комикса Рэндел Манро признавался, что старательно ищет вдохновение для новых выпусков: он пробует новые программы и игры, работает над математическими задачами, следит за новостями науки и технологий. Если бы он этого не делал, то комикс рассказывал бы о том, как художник сидит дома за компьютером.

Иногда выпуск комикса xkcd — это поверхностная шутка в узкой области знаний. Понять такой юмор сможет специалист или хотя бы слабо знакомый с затрагиваемой областью, а остальные будут лишь недоумевать. Пример такого выпуска — xkcd.com/977 Map Projections 2011 года. Для полного понимания выпуска нужно лишь примерно представлять историю и функцию различных проекций карт мира, иначе комикс останется чёрно-белым рисунком.



Даже внешне однозначные вопросы имеют несколько решений. Форма Земли — это похожий на шар геоид, но для удобства восприятия его лучше развернуть на плоскую карту. Сделать это можно несколькими способами. Каждый из них будет выполнен с различными компромиссами, поскольку искажения формы, углов или длин неизбежны. Какие-то проекции дают больше искажений, другие легче воспринимать, к каким-то мы просто привыкли.

Не все мы смотрим на карту для навигации в открытом море. Часто выбор метода преобразования формы Земли — это не вопрос жизни и смерти, это художественная иллюстрация. В этих случаях проекцию выбирают из устоявшихся вкусов и предпочтений — точно так же, как выбирают одежду или автомобиль. Можно смешно шутить про моду на дорогие кроссовки среди директоров крупных компаний Кремниевой долины или про популярность заниженных автомобилей. Точно так же шуткам поддаются предпочтения картографической проекции, как это и было сделано в Map Projections.