Привет, друзья!

Этот туториал посвящён зондированию (probing) — простому, но мощному методу для изучения внутренней работы LLM (больших языковых моделей). С его помощью можно получить приближенные знания о паттернах, которые выучивает модель и о том, как эти знания распространяются по слоям.

Метод простой, но довольно интересный. К туториалу прилагается ноутбук с кодом. Всех заинтересовавшихся — прошу к чтению!

 Каков путь от фантастической инженерии к инженерной фантастике? Обсуждение практически значимой взаимосвязи между научной фантастикой и системной инженерией. 

 Осторожно! В статье много субъективных суждений и определений, не совпадающих с общепринятыми энциклопедическими взглядами.

Самодисциплина — ключ к изменению жизни. В этой статье я делюсь личной историей трансформации: от рутины и выгорания к осознанному формированию привычек, ведущих к новым достижениям. Как превратить самодисциплину в инструмент успеха? Почему привычки — это не просто действия, а фундамент личности? Какие техники помогают закрепить полезные привычки и избежать ловушки бесполезного саморазвития? Ответы на эти вопросы, а также практические советы по формированию новых моделей поведения — в этом материале.

«Ничего не делаю, поскольку мотивации не хватает. Где бы взять мотивацию?» — так рассуждают многие, не понимая, что сама идея гнаться за мотивацией — ошибочна, ведь целей вы не достигаете совсем по другим причинам. По каким же?

«Если ваш сотрудник не успевает жить — он не успевает работать. Точка».

Work-life balance — это не про йогу в офисе и бесплатные печеньки. Это про то, как сделать так, чтобы люди не считали вашу компанию каторгой. Потому что выгоревший сотрудник = потраченные деньги на поиск нового. А если научить людей жить и работать в балансе, они сами начнут генерить идеи, от которых у конкурентов сгорит проводка.

В данной статье будет представлен укороченный и упрощенный перевод статьи “A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions”. А именно перевод части, относящейся к причинам возникновения галлюцинаций. Упрощение состоит в том, что были опущены части, уходящие в конкретику. В этом переводе мы сосредоточимся на основных причинах возникновения галлюцинаций и примерах.

Привет, Хабр! Если вы читаете этот материал, скорее всего, вы готовитесь к собеседованию. Важным аспектом работы системного аналитика (СА) является умение эффективно работать с базами данных, и SQL — это ключевой инструмент для этого. Будьте готовы, что на техническом собеседовании вас могут попросить назвать операторы SQL, написать запросы для извлечения, обновления или удаления данных, создания новых таблиц и многого другого. Давайте посмотрим на некоторые примеры таких заданий.

Поздравляем всех хабровцев с новым рабочим годом и продолжаем посты на тему технических интервью. Сегодня короткий пост для джунов и выпускников ИТ-курсов по специальности «системный аналитик». На техническом интервью вам могут попасться разные нестандартные вопросы. Вот один из них: «В каком порядке обрабатываются SQL-запросы?». На первый взгляд кажется, что SQL-запросы выполняются в том порядке, в котором мы их пишем: сначала SELECT, затем FROM, WHERE и так далее. Однако, на самом деле, SQL обрабатывает запросы в иной логической последовательности, которая отличается от порядка написания.

В этой челлендж-серии статей попробуем использовать PostgreSQL как среду для решения задач Advent of Code 2024.

Возможно, SQL не самый подходящий для этого язык, зато мы рассмотрим его различные возможности, о которых вы могли и не подозревать.

В сегодняшней статье посмотрим, как можно использовать рекурсию для перебора комбинаций.

Вот этот топик на форуме Rational Reminder подтолкнул меня к тому, чтобы сделать диаграмму Сэнки по своим собственным финансовым итогам 2024 года. Диаграммы такого типа хорошо подходят для визуализации всяких разных потоков – ну а за потоками бабок, конечно же, наблюдать интереснее всего! (Жду здесь в комментах уместную шутку про «came in fluffer», сам с налету не смог придумать.)

Я не стал указывать на картинке абсолютные суммы – вместо этого нормировал все показатели к сумме текущих доходов, не относящихся к инвестициям. То есть, полученные за 2024 год общие доходы от разной продуктивной деятельности приняты здесь за 100%.

3000 лет назад, по крайней мере так это ощущается сегодня, по миру прошел Ice Bucket Challenge, запомнившийся обливанием водой. Истинная цель челленджа была в том, чтобы обратить внимание общественности на Боковой Амиотрофический Склероз (БАС) – заболевание, разрушающее синапсы. Есть ли здесь какая-то связь, но уже сегодня создан препарат для приема один раз в день, который восстанавливает нейронные связи, поврежденные БАС. Препарат получил одобрение от FDA для второй фазы клинических испытаний. 

Журнал Time представил свой рейтинг из 200 лучших изобретений 2024 года. Изобретения в нем очень различаются по сложности и степени важности. Тут и сиденье для унитаза с искусственным интеллектом, и вряд ли инновационная для россиян возможность платить налоги сразу в банковском приложении. Некоторые вещи сильно отражают дух и проблемы времени, такие  как специальный чехол, чтобы положить в него телефон, когда идешь в театр или школу (да, и такое в списке). Но много и действительно новаторских устройств из сфер робототехники, медициныы и аэрокосмонавтики. 

В целом изобретения разделены на более чем 25 категорий от искусственного интеллекта до воспитания детей. Рассмотрим хотя бы по одной примечательной разработке в каждой категории и подробнее расскажем о самых интересных. 

Приветствую! Эта статья является продолжением (2 частью) статьи Обвиваем YouTube змеем, или как смотреть и скачивать видео с YouTube без VPN на чистом Python-е. Часть 1 Если честно, я был приятно удивлен популярностью первой части: 115К просмотров за неделю и 137 голосов, которые принесли мне 21 место в рейтинге Хабра. Учитывая, что эта статья была из песочницы (отдельное спасибо @Ilha за приглашение), для меня это большой результат. Поэтому всем, кто поставил стрелочку вверх – авторское спасибо!)

В этой статье я покажу, как можно скачивать с YouTube каналы и плейлисты. Если кто-то не читал первую часть, настоятельно рекомендую это сделать. По крайней мере, если по мере чтения у вас возникнут какие-то вопросы, скорее всего там есть на них ответы. Напомню, что у нас уже есть средство, которое решает "проблему с устаревшим и изношенным оборудованием Google Global Cache" (к сожалению, оно не у всех работает, учтите), а также мы разобрались с тем, как скачивать с YouTube видео и аудио в любом качестве. Итак, начнём!

UPDATE: По решению Роскомнадзора в марте 2025 г. первая часть статьи была заблокирована на территории России. pdf-версию статьи вы можете скачать здесь

Из практики. Я сейчас все делаю на английском языке: работаю, веду все свои заметки, смотрю фильмы, учусь, гуглю, разговариваю с ChatGPT и все остальное. Даже дома мы часто разговариваем на английском в течении дня.

К этому я пришла не сразу и на мой взгляд, есть 2 основных барьера, чтобы начать использовать язык:

Опытные инженеры используют ИИ для ускорения процессов, однако джуны зачастую сталкиваются с проблемами из-за неполного понимания сгенерированного кода.

Такой «парадокс знаний» подчеркивает, что ИИ скорее дополняет скиллы опытных специалистов, чем делает разработку доступной для всех. Новичкам же важно воспринимать ИИ как инструмент обучения, но никак не замену знаниям и опыту. Так ли это? 

Подробности в новом переводе от команды Spring АйО.

«На небе только и разговоров, что о море». Интересно, а говорят ли там о пластике, которого в нем полно? Он загрязняет океаны, почвы, атмосферу, наносит вред локальным и глобальной экосистемам — вы все это и так знаете. Можно еще вспомнить Большое тихоокеанское мусорное пятно, но зачем расстраиваться. Убрать бы все это, но как?

Ученые постоянно ищут способы, как утилизировать пластик безопасно и эффективно. Одна из новых перспективных разработок — преобразование пластмасс в газ без каких-либо вредных побочек. Более того, получаемые в результате переработки продукты можно еще и применять в промышленности с пользой для человека. В посте расскажу о принципе действия этой технологии, ее перспективах и значении для окружающей среды. Поехали!

Розовый хеш — это как розовый слон, только хеш.

Как превратить ваш обычный скучный хеш в голого эндокринолога, которого уже не забыть! А так же, как сделать свой собственный менеджер паролей, не доверяя пароли никаким внешним сервисам.

В статье расскажу, как гоняю медведей, сплю в лесу, делаю 5 тонн продукта, фасую и продаю на 2,15 млн в год, в основном на маркетплейсах.

«Всё это связано с тем, что подобные базы данных, по сути, представляют собой огромную распределённую хеш-таблицу. Единственные операции, работающие без необходимости сканирования всей базы данных — это поиск по секционному ключу и сканы, при которых используется ключ сортировки.

…Если паттерны доступа существенно изменятся, то может потребоваться полная повторная обработка всех данных».