Несколько дней назад в одном из сообществ американского сайта Reddit разработчик пожаловался, что всю его команду заменили на работников из страны с более дешёвым рабочим трудом. Тред набрал более шести сотен комментариев.

Уже полтора года эта команда стабильно работала на одну и ту же компанию. Два месяца назад заштормило. Поначалу сменили технического руководителя на специалиста из другой страны. Постепенно расстались и с остальными сотрудниками в пользу более дешёвой рабочей силы из той же страны. При этом новички пусть и пашут по 12 часов в сутки, но говорят по-английски с трудом.

На самом деле особо удивительного в описанном нет — аутсорс в Индию появился далеко не вчера. Любопытно иное. Жалоба эта была размещена в подреддите /r/developersIndia. Разработчик из Индии жалуется, что клиент отдал работу всей его команды ещё более дешёвым специалистам из Вьетнама.

В комментариях к этому треду другие разработчики из Индии с горечью отмечают: так вот каково это — потерять работу, потому что в другой стране её могут делать дешевле.

Что такое Windows Deployment Image Customization Kit? Помимо забавного сокращения windick.cmd, это пакетный (batch) скрипт на примерно 200 КиБ для автоматизированного развёртывания образов Windows. Размер сразу намекает, что собственно файлы Windows в инструмент не входят.

Иногда называемый WDI Customization Kit, это скрипт в первую очередь для системных администраторов и профессиональной техподдержки. Графического интерфейса нет, но пугать целевую аудиторию это не должно, поскольку всё и так интуитивно понятно.

Windick работает как с VHDX (virdual disk image), так и образами Windows в виде файла WIM. Вообще, в скрипт встроены разнообразные инструменты для управления образами Windows. Существующие образы могут быть конвертированы в VHDX.

Package Creator этого скрипта помогает кастомизировать образ, включив нужные изменения в устанавливаемые приложения, компоненты, фукнции и службы. Также возможна автоматическая (unattended) установка Windows.

Инструментов создания ISO в скрипте нет. Исправить сделать это можно добавлением файла install.WIM по окончании процесса кастомизации.

На собственном канале YouTube автор проекта выложил несколько видеоруководств по использованию скрипта.

github.com/joshuacline/windick

Омар Шехата поделился одним из своих самых популярных проектов. Это крошечное веб-приложение JPEG Viewer для демонстрации алгоритмов, которые работают в формате сжатия JPEG.

Страница демонстрирует, как изображение разбивается на блоки 8×8 пикселей, каждый из которых затем подвергается алгоритму дискретного косинусного преобразования. Упрощённо можно сказать, что каждый из блоков математически преобразуется из двумерного изображения в сигнал, а затем представляется как сумма синусоид. Интересно в инструменте Омара то, что он допускает ручное редактирование преобразования каждого из блоков 8×8 пикселей.

Также Омар рекомендует свою статью про алгоритмы сжатия JPEG, в которой он применил схожие инструменты.

Программист из Индонезии разработал небольшой шуточный проект GitHub Profile Roast. Как следует из употреблённого в разговорном оттенке слова «roast» в названии, целью сервиса является творчески и с шутками оскорбить пользователя, максимально используя для этого личные детали. Делать это сервис пытается на основе аккаунта GitHub.

Посетителю предлагается ввести имя своего аккаунта на GitHub. Затем сервис подтянет данные из GitHub и страница выплюнет несколько абзацев креативных оскорблений, умело связанных с личными данными и проектами на заданном аккаунте. К примеру, сервис может ехидно высказаться о низкой популярности профиля или попсовости выбранного стека технологий.

Сервис работает на английском и французском языках, а также на нескольких неевропейских, популярных в Юго-Восточной Азии (хинди, индонезийский, корейский, японский, китайский). Русского в этом списке нет.

Работает это всё через доступ к API компании OpenAI. Какой-либо умной защиты промпта нет. Как продемонстрировали в микроблогах, провести инъекции в промпт было относительно легко.

Из других любопытных наблюдений: сервис отказывается работать с некоторыми профилями. Среди замеченных в подобном Линус Торвальдс (имя пользователя torvalds) и часть аккаунтов компаний, к примеру, Microsoft и Google. Вместо череды колкостей сайт выдаёт вежливый отказ оскорблять этого пользователя. Возможно, это некий чёрный список, который автор сервиса заложил, чтобы сохранить механическую целостность фронтальной части своей головы.

Для обучения Llama 4 наверняка потребуется почти в 10 раз больше вычислительных мощностей, чем для Llama 3. Такое заявление во время конференц-звонка по доходам за второй квартал 2024 года сделал Марк Закерберг, глава экстремисткой организации Meta, деятельность которой запрещена.

Совсем недавно вышла Llama 3.1 в нескольких вариантах, в одном из которых у большой языковой модели 405 млрд параметров. Для предобучения этой БЯМ 16 тыс. ускорителей Nvidia H100 обрабатывали датасет из 15 трлн токенов в течение 54 дней. Кстати, у варианта Llama 3.1 на 405 млрд параметров совсем недемократичные требования к инференсу: даже на RTX 4090 токен она будет выдавать по полчаса.

Стоимость предобучения настолько огромных БЯМ составляет сотни миллионов долларов. Блогеры прикидывают, что на обучение Llama 3.1 было потрачено никак не меньше $100 млн. Ресурс Information утверждает, что OpenAI тратит в год на обучение и запуск моделей по $7 млрд.

При этом БЯМ семейства Llama 3 бесплатно вышли для всех желающих, а продукты OpenAI проприетарны и работают через платный API. Впрочем, это никак не помогает последней выйти в плюс по деньгам. Если текущая финансовая траектория сохранится, OpenAI потеряет в этом году $5 млрд.

Дэвид Бресслер — автор Formula Bot, дополнения для Excel и Google Sheets, которое с помощью ИИ помогает писать формулы и автоматизировать задачи, а также обрабатывать и анализировать данные. Дополнение платное и пользуется популярностью, поэтому приносит Бресслеру десятки тысяч долларов дохода каждый месяц.

На днях Дэвид поделился наблюдением: при общении с клиентами сразу в четырёх случаях подряд ему рассказали, что впервые услышали про Formula Bot от ChatGPT. В твите Бресслер также приводит скриншот общения с ChatGPT, где на вопрос об умных инструментах для Excel большая языковая модель GPT-4o рекомендует продукт Дэвида. При этом БЯМ поставила встроенный в Excel майкрософтовский инструмент Ideas лишь вторым пунктом списка рекомендаций.

Formula Bot занимает первые строчки разнообразных рейтингов ИИ-дополнений для Excel, поэтому удивительного мало. Подобный ответ GPT-4o выдаёт не всегда. Сам Дэвид связывает проявление эффектами с чем-то уровня SEO.

Как утверждает Бресслер, ChatGPT не приводит много клиентов, в лучшем случае это дополнительные 10 %. Впрочем, в комментариях к твитам его всё равно просят научить приёмам поисковой оптимизации для ChatGPT.

Возможно, поисковая оптимизация для включения в текстовый датасет предобучения БЯМ когда-нибудь действительно станет востребованной.

Сайт с вакансиями правительства Соединённого Королевства Великобритании и Северной Ирландии опубликовал вакансию инженера промптинга больших языковых моделей. Трудоустроят специалиста в AI Safety Institute — организации, которую открыли на Саммите по безопасности ИИ 2023 года. Институт занимается оценкой продвинутых систем искусственного интеллекта, разрабатывает инструменты для контроля государства в этой сфере и помогает обмену информацией.

От специалиста ждут навыков в достижении нужного поведения БЯМ с помощью составления текстовых промптов, хорошее понимание БЯМ и их архитектуры, а также владение различными технологиями промптинга (chain of thought, ReAct, автоматическая генерация промптов и так далее). Нужно уметь оценивать БЯМ по таким метрикам, как BLEU, ROUGE и разнообразным бенчмаркам способности размышлять и писать код.

За плечами у соискателя должен быть реальный практический опыт построения приложений, которые полагаются на БЯМ для ответов на вопросы, генерации текста, помощи с кодом и других схожих задач. В вакансии также просят уметь писать на Python и вообще программировать. Будущий инженер промптов должен обладать хорошими навыками коммуникации, анализа показателей производительности моделей и их визуализации.

Размер суммарной финансовой компенсации составляет от 65 до 135 тыс. фунтов стерлингов.

Акиёси Китаока — японский специалист в области экспериментальной психологии, который изучает чужие и создаёт собственные зрительные иллюзиии. В личном микроблоге он публикует примеры подобных изображений и анимаций.

Вчера Китаока опубликовал загадку, чем отличаются две с виду полностью одинаковые картинки. Сегодня микроблогер раскрыл ответ. Верхняя картинка состоит из множества различных оттенков, нижняя — всего из шести цветов различной насыщенности.

Впрочем, сжимать файл это никак не помогло. Файловый размер изображения сверху составил 2,11 МиБ, нижнего — вырос до 2,21 МиБ. Китаока не указывает формат данных и размер в пикселях оригинальных фотографий.

ИИ AlphaProof в комбинации с Gemini достигает высокого уровня понимания математики. Google даже заявляет, что на Международной математической олимпиаде такая система получила бы серебряную медаль.

В реальном мире неточность больших языковых моделей удивляет. В Сети распространяют очередной тест на тупость БЯМ: просьбу сравнить числа 9,9 и 9,11.

Чаты по типу ChatGPT скармливают ввод от пользователя в БЯМ с неким ненулевым значением температуры, поэтому результаты генерации в ответ на один и тот же запрос могут различаться. К тому же не все скриншоты показывают полный контекст чатов. Тем не менее для почти всех доступных моделей есть примеры, где ИИ уверенным тоном объясняет, что 9,11 больше, чем 9,9. К примеру, эту ошибку демонстрируют ChatGPT, Claude и даже новая модель Llama 3.1 в варианте на 405 млрд параметров.

Объяснение ошибке найти просто. Как минимум в одном контексте 9.11 будет больше, чем 9.9 — версионирование программного обеспечения. Без дополнительного контекста математических вычислений БЯМ могут понимать вопрос неправильно.

Ошибка проявляется редко и может исчезать при изменении порядка слов в вопросе. Тем не менее пользователей крайне забавляет, когда ChatGPT вычитает 9,9 из 9,11 и получает 0,21, а отличный от собственного результат от API Python объясняет ошибками арифметики чисел с плавающей запятой. В другом случае модель Llama 3.1-405B согласилась, что совершила ошибку, но от утверждения «9,11 больше 9,9» не отказалась, придумав новое доказательство.

28 мая 2020 года на сайте препринтов arXiv.org опубликовали легендарную научную статью «Language Models are Few-Shot Learners», более известную как «статья про GPT-3». Позднее OpenAI улучшила большую языковую модель до GPT-3.5 и построила на ней сервис ChatGPT, чем привлекла 100 миллионов пользователей и миллиарды долларов инвестиций.

У оригинальной статьи про GPT-3 всего 31 автор. Некто Арун Пракаш составил элементарную статистику, как развернулась судьба этих людей в дальнейшем.

Как оказалось, за 4 года в OpenAI осталось менее половины оригинального состава авторов той статьи. Четверть из них ушли в Anthropic, ещё 29 % — в другие компании.

Разрешение экрана портативного компьютера Steam Deck составляет всего 1280×800. Это вполне нормально для 7-дюймового дисплея и игрового устройства. Если сравнивать Steam Deck с ближайшим конкурентом в своей идеологической нише карманного гейминга, то у Nintendo Switch экран имеет схожее разрешение 1280×720 при диагонали в те же 7 дюймов.

Тем не менее это устраивает не всех. По крайней мере недовольных набралось достаточно, чтобы коммерческий успех имели соответствующие модификации Steam Deck. Так, проект DeckHD завёл собственный сайт, где продаёт наборы для замены штатного экрана Steam Deck на дисплей разрешением 1920×1200.

Как указали в микроблогах, Valve, компания-разработчик Steam Deck, в курсе подобных аппаратных модов. Deck работает на операционной системе SteamOS, исходные коды которой открыты. В том числе любой желающий может прислать пулл-реквест в репозиторий Gamescope, менеджера окон SteamOS. На днях код программы немного изменили.

Вчера Джошуа Эштон, сотрудник Valve, смёрджил в мастер github.com/ValveSoftware/gamescope пулл-реквест #1281, который вообще начинался как #1021. В коде основной ветки Gamescope появилась поддержка нескольких сторонних экранов: заданы нужные тайминги, часто́ты работы и прочие параметры этих панелей.

В полку́ мусора от ИИ в науке прибыло. На ещё один вопиющий случай обратил внимание некто Морган Пфиффнер, специалист нутрициологии.

Морган — главный редактор отдела кратких содержаний исследований сервиса поиска информации про БАДы Examine.com. Пфиффнер занимался своей работой — отслеживал поток научных публикаций — и в одной из статей наткнулся на необычную иллюстрацию человеческих костей. Здесь явно постарался генеративный искусственный интеллект.

Выдаёт сгенерированность не только характерный стиль (похоже на творение пера DALL‑E 3). Костей в конечностях слишком много, а в голени появились несуществующие суставы. Наконец, весь текст на изображении — нечитаемая абракадабра, что характерно для художеств многих диффузионных моделей.

Если судить по подписи в самой статье, картинка показывает механизм работы лечения хронического подагрического артрита с помощью щелочной воды.

В комментариях к твиту Моргана рассказали о попытке пробить текст научной статьи на детекторах больших языковых моделей. Некий детектор на 100% уверен, что первый абзац введения писала БЯМ. Впрочем, обнаружение работы текстового ИИ — не самая тривиальная задача, и подобные инструменты могут сбоить.

До этого похожий случай наблюдался в статье про сперматогониальные стволовые клетки, где одна из картинок была явно сгенерирована нейросетью. Ныне эта статья с огромными мышиными тестикулами уже отозвана.

Как обратили внимание в микроблогах, Amazon умудрилась запатентовать обработку естественного языка. Выданный и опубликованный 7 мая 2024 года патент US11978437B1 так и называется: «Natural language processing».

Патент касается устройств и техник, которые «обычно описываются для изучения персонализированных концепций естественной обработки языка». В описании патента также упоминается такая сущность, как сессия диалога с пользователем. В тексте документа агенту с искусственным интеллектом предлагают переспрашивать пользователя и учиться на основе предыдущих предпочтений.

Что это всё должно значить, Amazon не поясняет. В СМИ про патент тоже не писали.

Уже не впервые в индустрии искусственного интеллекта что-то регистрируют настолько широкими мазками. К примеру, у Google с 2019 года есть патент на трансформеры — ныне широко известную технологию ИИ. Впрочем, современные большие языковые модели под патент Google чаще всего не подпадают.

Дело в том, что патент Google касается оригинальных трансформеров на архитектуре с комбинацией энкодеров и декодеров. Текущие популярные БЯМ построены либо только на декодерах (семейство GPT), либо только на энкодерах (BERT и похожие).

13 июня американское космическое агентство НАСА отменило плановый выход в открытый космос астронавтов Мэттью Доминика и Трейси Дайсон. Работы за бортом Международной космической станции отложили неожиданно и поздно — примерно за час до планируемого открытия люка модуля «Квест».

Причины изначально не назывались. Чуть позднее НАСА рассказало, что произошло это из-за некоей «проблемы дискомфорта» [discomfort issue]. Ни подробности инцидента, ни виновника агентство не назвало.

Что скрывается за этим деликатным термином, попытался выяснить репортёр CNBC Майкл Шиц. Впрочем, и на его запрос НАСА не ответило, сославшись на защиту частной жизни члена экипажа станции.

Следующие два американских выхода в открытый космос — 24 июня и 2 июля. У отмённого выхода были две группы задач: обслуживание станции (демонтаж электрического оборудования и антенны связи) и научные (забор образцов микроорганизмов с поверхности МКС). Первую группу уже перенесли на 24 июня, а про научные задачи НАСА пока не пишет.

НАСА успокаивает, что члены экипажа здоровы, а скафандры функционируют без аномалий.

31 июля 2020 года влогер MattKC опубликовал видеоролик, в котором попытался уместить игру в QR-коде. В результате он написал вариант «Змейки», которая занимает 2953 байта. Исполняемый файл такого размера возможно уместить в QR-коде, поскольку этот формат кодирует до 3 КиБ данных.

Эксперимент влогера не остался без внимания. Уже 3 августа свой вариант показал Брайан Каллахан. Эта «Змейка» требует всего 2024 байта. Впрочем, вариант MattKC ужимается с помощью Crinkler до 1,4 КиБ.

Дальнейшие эксперименты ушли ниже тысячи, а потом и сотни байтов. В последние месяцы развернулась борьба за каждый байт. В ноябре 2023 года удалось заменить ассемблерную инструкцию и выиграть целый байт. Ещё два байта сэкономили две недели назад за счёт замены jae и xor на adc.

Итоговый вариант — это «Змейка» на 58 байт для Microsoft DOS. Для сравнения: ничего не выполняющая программа на C gcc -Os -w -xc - <<< "main;"на 64-битном Linux займёт 15 776 Б. 58 байт — это немного даже для текстовых данных: хватит на небольшое предложение или последовательность эмодзи по типу «??‍❤️‍?‍????‍♀️??‍❤️‍?‍??».

Конечно, в QR-коде эта игра тоже уместится. Также автор выложил онлайн-демку (управление по стрелкам клавиатуры на ПК или свайпу на мобильных устройствах).

github.com/donno2048/snake

6 апреля верхняя ступень ракеты-носителя «Восток-2М» вошла в плотные слои атмосферы над Антарктикой. Об этом рассказал астроном Джонатан Макдауэлл.

17 декабря 1970 года эта ракета запустила на орбиту спутник радиотехнической разведки «Целина-Д». Сам спутник упал ещё 20 лет назад, 24 ноября 2011 года, а ступень оставалась на орбите куда дольше, почти 53,5 лет после старта.

Расчёты космических сил США показывают, что объект упал в море Уэддела.

Как поясняет Макдауэлл, на графике высоты орбиты объекта космического мусора заметны года, когда солнечная активность была особенно высока. Из-за усиления солнечной активности граница атмосферы повышается. Даже за пределами атмосферы окружающее пространство становится чуть плотнее, что сильнее тормозит объекты на орбите.

Заметно, что падение случилось всего через год после достижения отметки в примерно 400 км.

Также Макдауэлл сообщает, что 5 апреля около 14:30 по московскому времени на Землю над западом Тихого океана упал спутник радиотехнической разведки «Целина-Д» под кодовым названием «Космос-1633». Спутник запустили 39 лет назад, 5 марта 1985 года.

По Интернету распространяют песни с сайта Suno. Этот сервис генерирует песни по текстовому промпту. Suno берёт на себя всё: генерирование слов, зачитывающих их голосов и музыки. В марте у Suno вышла третья версия.

Новая версия неплохо справляется с разными жанрами: электроника с женским вокалом, исполняющий фолк мужской хор или симфонический рок. Как демонстрирует композиция в стиле блатного рэпа про загрузку Linux, сервис генерирует и русский язык.

Впрочем, увлекательного мало. Треки звучат похоже на человеческие и ничем не запоминаются. Куда интереснее заставить Suno спеть что-то похабное.

К примеру, так появилась песенка I glued my balls to my butthole («Я приклеил свои яйца к анусу»), которую жизнерадостный мужской голос исполняет под музыку в стиле рок-н-ролла 50-х годов прошлого века. У песни даже вышло продолжение I Glued My Balls to My Butthole Again («Я опять приклеил мои яйца к анусу»), в которой лирический герой сокрушается о своей глупости.

Другой пример — песня про игру с сосками Rubbin' and a Tuggin' My Nips, где вокалист рассказывает, что даже врач просит прекратить стимуляцию своего тела.

На самом деле удивительного мало. Как рассказывает энтузиаст винтажных компьютеров Дэвид Мюррей, когда в 80-х годах прошлого века появились первые системы генерации речи, дети развлекались тем, что заставляли их зачитывать ругательные слова.

Наконец, такие песни с непристойностями реально существовали в первой половине прошлого века. Подобное проходило под жанром «грязный блюз».

Вышедшая сегодня статья в Wall Street Journal (есть в зеркале на MSN) рассказывает про стартап Cognition Labs. Компания пытается получить оценку стоимости $2 млрд, смело отклоняя предложения инвестиций с оценкой в жалкий миллиард.

На данный момент у Cognition Labs нет выпущенного продукта. Сайт www.cognition-labs.com совсем не похож на страницу организации ни на два, ни на один миллиард долларов. В марте компания угрожала в своём блоге создать первого ИИ-программиста. Почему у Cognition Labs всё ещё открыты вакансии на разработчиков программного обеспечения, пояснений не дают.

Впрочем, интересно не это. Статья из Wall Street Journal в последнем абзаце упоминает, что в презентации от этого месяца инвестиционная фирма Sequioa оценила направление искусственного интеллекта. За прошлый год индустрия ИИ потратила $50 млрд на микросхемы Nvidia для обучения моделей. При этом суммарная выручка за год составила всего $3 млрд.

Конечно, напрашиваются сравнения с лопнувшим в 2001 году пузырём доткомов. На самом деле стоит вспомнить, что через несколько недель за ним последовало куда более масштабное падение телекомов, нанёсшее смертельный удар такому несокрушимому гиганту канадской экономики, как Nortel.

На данный момент капитализация Nvidia составляет более $2 трлн. Соотношение капитализация/выручка (P/S ratio) компании выросло до 36,96. Это меньше, чем в середине прошлого года, но всё равно необычно высокое значение.

27 и 28 марта в Лондоне проходила конференция Rust Nation 24. На конференции выступал Ларс Бергстром [Lars Bergstrom], который занимает в Google пост технического директора. Доклад Ларса носил название «Beyond Safety and Speed: How Rust Fuels Team Productivity» (дословно «Кроме безопасности и скорости: как Rust заряжает команду продуктивностью»).

Во время выступления технический директор Google заявил, что команды Rust в Google в два раза продуктивнее команд C++. Этот мощный посыл успел разлететься фотографией с конференции.

Ларс пояснил, что подразумевается под производительностью. Google — компания, где часто переписывают проекты, а иногда две команды работают над похожими задачами. Поэтому подобный анализ в масштабах Google возможен.

Как выяснилось, на переписывание на Rust нужно примерно столько же времени и людей, сколько уходит на написание продукта на Go. При этом памяти приложения на Rust используют куда меньше, в них меньше дефектов. Когда компонент на C++ переписывают на Rust при одинаковом размере команд, в два или более раз сокращаются время и усилия как для написания, так и поддержки кода.

Слегка портит картину то, что Бергстром — это ещё и председатель совета директоров Rust Foundation, поэтому делать такие заявления он непосредственно заинтересован.

На записи видеотрансляции с конференции обсуждение деталей производительности идёт с отметки 7:30:13.

Пользователи Linux бывают самые разные. В последние несколько дней алгоритм рекомендаций YouTube вытолкнул на главную страницу канал некой Андреа Борман [Andrea Borman], что многие заметили (1, 2, 3, 4) и оценили позитивно.

Андреа — британка глубоко средних лет, которая делится опытом по настройке и эксплуатации компьютера с открытым ПО. К примеру, она рассказывает, как установить самую свежую версию Telegram на Linux или назначить Nemo файловым менеджером по умолчанию.

Впрочем, если судить по её каналу, увлечением дистрибутивами Linux дело не ограничивается. Ещё в 2019 году Андреа делилась советами, как настроить классическую «Панель управления» NT 3.51 на Windows 7 и 8 или запустить Office 2003 на Windows 8.

Канал Борман начат давно. Ещё в 2010 году она делилась хитростями, как пользоваться встроенным в Real Player браузером. А вообще онлайн-присутствие Борман не ограничивается каналом на YouTube. К примеру, в некоторых видеороликах она жалуется на форумы по Linux.