Как стать автором
Обновить
165.79

Хранение данных *

Что имеем, то храним

Сначала показывать
Порог рейтинга
Уровень сложности

Восстановление исходного кода старой игры с ленточного накопителя

Уровень сложности Средний
Время на прочтение 8 мин
Количество просмотров 7.5K

Моя история


Мне досталась лента с готовой версией игры Frogger 2: Swampy's Revenge. В детстве я очень любил эту серию игр.

Считалось, что эта лента — единственная резервная копия исходного кода готовой игры, игровых ресурсов и других данных разработки.

Как вы можете понять, эта находка в случае её восстановления оказалась бы бесценной. Но как же вообще считать/записать данные на ленту? Зачем вообще использовались ленточные накопители?

В 1999/2000 годах средний размер жёсткого диска составлял примерно 10 ГБ, к тому же они не славятся долгим сроком службы.

Очень привлекательным предложением были ленточные накопители OnStream, потому что имели картриджи по 50 ГБ (25 ГБ без сжатия) и к тому же стоили дешевле большинства жёстких дисков!

Ленты отлично подходят для резервного копирования, а при правильном хранении могут иметь долгий срок службы. К тому же можно купить ленточный накопитель, который вставлялся в компьютер как CD-привод или привод гибких дисков.
Читать дальше →
Всего голосов 69: ↑69 и ↓0 +69
Комментарии 9

Жизнь после катастрофы: нюансы организации Disaster Recovery на предприятии

Время на прочтение 10 мин
Количество просмотров 2.6K

В нашем мире многое нестабильно: запланированный отпуск может сорваться, погода на выходные – испортиться, и технологии, которые нацелены на защиту информации, – не исключение. С первых строчек может показаться, что все тлен, но рисками можно и нужно управлять. Например, поездку можно перенести, а на пикник взять зонтик. Неопределенность порождают как внешние, так и внутренние факторы, а сама она влияет на поставленные нами или компанией цели. За долгие годы работы команда «ЛАНИТ-Интеграции» собрала портфель инструментов, которые могут в буквальном смысле спасти компанию, и с одним из них мы хотим вас сегодня познакомить.

В этой статье расскажу о непредвиденных происшествиях, которые могут случиться на любом предприятии, к каким последствиям это может привести, а главное – как нивелировать риски потери ценной информации.

Читать далее
Всего голосов 24: ↑23 и ↓1 +22
Комментарии 2

Погрузиться в Redis — материалы, которые помогут начать работу

Уровень сложности Простой
Время на прочтение 5 мин
Количество просмотров 9.2K
image

Как начать работу с Redis командам, у которых мало опыта в администрировании СУБД? Можно попробовать создать кластеры Redis в облаке. Или же сначала «вкатиться» в тему и поближе познакомиться с экосистемой — на этот случай мы подготовили подборку литературы. В списке — свежие издания и классика, которую стоит прочитать каждому начинающему Redis-разработчику.

Кому будет интересно: например, вам нужна среда для разработки программ и приложений, или поддержки работы интернет-магазинов с их пиковыми нагрузками во время сезонных или тематических акций. Статья также пригодится компаниям с большим количеством офисов в разных регионах и командам, которым необходимо обрабатывать транзакции в режиме реального времени.
Читать дальше →
Всего голосов 14: ↑14 и ↓0 +14
Комментарии 3

Системному администратору и нагрузочному тестировщику:  статистика ввода-вывода в ядре Linux под капотом

Уровень сложности Сложный
Время на прочтение 15 мин
Количество просмотров 6.3K

Подсчет статистики — это не сильно затратный с точки зрения производительности способ получить информацию о нагруженности системы с активным вводом-выводом. Но он имеет недостатки: усреднение, отсутствие бакетов, малая гранулярность системного таймера.

Нам, как конечным пользователям, будет полезно понимать, как устроен механизм сбора и накопления статистики внутри ядра и как читает и интерпретирует данные популярная утилита iostat. Что именно значат aqu-sz, util и другие данные из режима расширенной статистики? Почему многие значения усреднены? Чтобы ответить на эти и другие вопросы, мы пройдем путь от системного вызова до момента, когда запрос ушел в диск и вернулся, — а счетчики обновились. Поехали!

Читать далее
Всего голосов 25: ↑25 и ↓0 +25
Комментарии 0

Истории

Внутреннее устройство DRBD: алгоритмы работы отказоустойчивого хранилища

Уровень сложности Сложный
Время на прочтение 13 мин
Количество просмотров 6.1K

DRBD


Глубокое понимание внутреннего устройства DRBD позволяет более тонко настраивать работу системы и правильно планировать ресурсы. К счастью, у команды DRBD уже есть отличная документация, которая довольно подробно разбирает эту тему. Мы опирались на нее в своей работе, и решили перевести и выложить в открытом доступе 17-ю главу — как удобную шпаргалку по внутреннему устройству DRBD. Так что это не обычная статья, а перевод части официальной документации (исходная нумерация разделов сохранена).


В этой главе представлена информация о внутренних алгоритмах и структурах DRBD. Она довольно подробно рассматривает внутреннюю работу DRBD, но делает это не настолько глубоко, чтобы служить справочником для разработчиков. Для этой цели рекомендуем обратиться к материалам, перечисленным в разделе Publications, и, естественно, к комментариям в исходном коде DRBD.

Читать дальше →
Всего голосов 26: ↑25 и ↓1 +24
Комментарии 1

Obsidian — Мой сетап

Уровень сложности Средний
Время на прочтение 13 мин
Количество просмотров 34K

Вот я и дописал свою четвёртую статью на хабр (А ведь в начале года поставил себе цель написать хотя бы одну статью, а тут аппетит пришёл во время еды и вот четвёртая). Предыдущие раз, два и три.

Вообще бесит когда в современном мире пишут статьи-гайды или снимают видео-гайды, где самое интересное в конце. "Вы сначала дайте посмотреть что я приобрету прочитав вашу статью или посмотрев видео, а я уже приму решение смотреть или нет".

Поэтому вот сразу ссылка на мой сетап хранилища Обсидиана на гитхабе (о котором и пойдёт речь в данной статье), можно сразу его качать и тыкаться самому и если что-то не понятно подглядывать в статью. (Надо распаковать zip-файл в папку, а потом открыть открыть обсидиан и при выборе хранилища выбрать эту папку, куда распаковали zip-файл. Если у вас одно хранилище, то тогда жмём в левом нижнем углу кнопку сейфа)

В моём сетапе я попытался реализовать возможность управлять проектами, годовыми и месячными целями, ставить себе задачи, смотреть по ним статистику в разрезе ролей.

В этом хранилище используются 10 плагинов, основные:

- Calendar - для календаря справа.

- Dataview - для статистики и для проектов.

- Tasks - для задач.

- Templater - для шаблонов и чтобы нужные заметки с запросами создавались в нужных папках и с нужными данными в запросах.

К такой настройке я шёл целый год используя обсидиан, постоянно дорабатывал её и искал "совершенство", в ней собраны разные подходы из разных статьей и книг (GTD, 7 навыков, Джедайские техники, Атомные привычки), данные подходы большинству могут быть знакомы. Но есть метод, до которого я дошёл сам и до этого я нигде его не встречал (возможно просто не попадался) - это метод одной задачи.

Disclaimer1: Мой сетап не претендует на "идеальность", в нём найдутся минусы и неудобности. Я выношу его на общее обсуждение в том числе для того, чтобы кто-то мог предложить ту или иную доработку тут в комментариях, а так же для того, чтобы новички могли сходу вкатиться в этот чудесный обсидиановый мир.
Disclaimer2: Обычно обсидиан ассоциируют с Zettelkasten, графами и прочими атомарными заметками. Я в своём подходе этого не использую, возможно еще не дорос, возможно мой подход немного про другое. В этой статье я пишу не про это.

Погнали вкатываться в обсидиановый мир
Всего голосов 23: ↑22 и ↓1 +21
Комментарии 39

Kafka за 20 минут. Ментальная модель и как с ней работать

Уровень сложности Средний
Время на прочтение 19 мин
Количество просмотров 73K

Привет! Меня зовут Глеб Гончаров, и я руковожу подгруппой ИТ-инфраструктуры в СберМаркете. В работе мы широко используем Kafka как шину данных для микросервисов и не раз убедились на практике, что к инструменту важно подобрать правильный подход. Об этом сегодня и поговорим в двух частях — сначала обсудим основы, а в конце статьи будет ссылка на практические задания.

Читать далее
Всего голосов 41: ↑41 и ↓0 +41
Комментарии 15

Чей DAX сильнее? …или почему каждый пользователь должен влиять на развитие платформы

Уровень сложности Простой
Время на прочтение 5 мин
Количество просмотров 1.2K

Привет, Хабр! В этом посте мне хотелось бы поговорить о том, каким образом мы развиваем платформу, и откуда появляются новые функции в Visiology. В большей степени сейчас это касается развития поддержки DAX в третьей версии платформы. Но сама практика появилась не на пустом месте, и сегодня мы как раз обсудим, как команда разработчиков выбирает, какие новые фичи стоит включить в Visiology, зачем мы запустили сбор кейсов для реализации на DAXе, и что можно увидеть на вебинарах Visiology, которые посвящены развитию аналитического движка в Visiology 3.

Читать далее
Всего голосов 17: ↑16 и ↓1 +15
Комментарии 7

Мир. Труд. Майпу. Или как мы тестировали китайскую СХД

Уровень сложности Средний
Время на прочтение 9 мин
Количество просмотров 9K

Чем заменить на санкционном безрыбье системы хранения данных Dell, HPE, Huawei и других покинувших нас вендоров? Мы уже долго изучаем этот вопрос и протестировали большинство доступных альтернатив enterprise-уровня.

И что думаете? Кажется, нашли приемлемое решение — СХД китайского вендора Maipu с привычными функциями, перспективными возможностями и не только. Мы привезли его в лабораторию и первыми на российском рынке протестировали — срочно делимся впечатлениями и результатами.

Читать далее
Всего голосов 28: ↑28 и ↓0 +28
Комментарии 6

Мёртв ли последовательный ввод-вывод в эпоху накопителей NVMe?

Уровень сложности Средний
Время на прочтение 9 мин
Количество просмотров 7.4K

Две системы, которые я хорошо знаю (Apache BookKeeper и Apache Kafka) проектировались в эпоху дисковых накопителей: жёстких дисков, или HDD. Жёсткие диски хорошо справляются с последовательным вводом-выводом, но не очень хороши в произвольном вводе-выводе из-за относительно большого времени поиска. Неудивительно, что и Kafka, и BookKeeper проектировались с расчётом на последовательный ввод-вывод.

И Kafka, и BookKeeper — это распределённые системы логирования, поэтому можно представить, что последовательный ввод-вывод будет стандартным режимом для системы хранения логов с возможностью только дополнения. Но последовательный и произвольный ввод-вывод находятся в спектре, где на одном краю расположен чисто последовательный, а на другом — чисто произвольный ввод-вывод. Если у вас есть пять тысяч файлов, которые вы дописываете небольшими циклическими операциями записи, и выполняете fsync, то это не такой уж последовательный паттерн доступа, он находится ближе к произвольному вводу-выводу. То есть если вы только дополняете логи, это не означает автоматически, что вы получаете последовательный ввод-вывод.
Читать дальше →
Всего голосов 46: ↑46 и ↓0 +46
Комментарии 7

У HDD нет будущего? Погодите, не так быстро…

Уровень сложности Простой
Время на прочтение 5 мин
Количество просмотров 31K


Будущее HDD зависит от того, кого спросить. Есть адепты SSD, которые не видят в «устаревшей» технологии HDD никаких перспектив. Действительно, SSD прогрессируют гораздо быстрее: это касается и технологического прогресса, и стоимости. Если экстраполировать нынешние темпы развития отрасли, то создаётся впечатление, что SSD вытеснят HDD во всех сферах применения в ближайшие десятилетия.

Но по факту этого не происходит.
Читать дальше →
Всего голосов 58: ↑57 и ↓1 +56
Комментарии 185

Её величество Иерархия. Классификация и способы хранение в MS Excel

Уровень сложности Простой
Время на прочтение 9 мин
Количество просмотров 8K

Иерархия, как структура данных, встречается очень часто.

справочники в 1С:Бухгалтерия предприятия и кубовых OLAP системах (типа IBM Cognos TM1) часто имеют иерархическое строение

иерархия папок и файлов в Windows

отношения наставничества между коллегами (когда может быть только один наставник и много наставляемых)

объектная модель VBA (построена на базе иерархии, хотя могут быть особые моменты)

В финансах иерархия – это один из самых частых объектов, наряду с плоскими и матричными таблицами. Откройте практически любой файл Excel и там будет иерархия в том или ином виде.

Тем не менее, иерархия – это достаточно сложный объект, который имеет неочевидную классификацию. Кроме того, часто мы храним иерархию в плоской таблице (в Excel, в базе данных). А это, вообще говоря, не естественная среда обитания для иерархий. Все это еще более затрудняет и запутывает работу с ними.

В статье разберем ключевые термины и классификацию иерархий, что позволит эффективно работать с ними. Ответим на ряд нетривиальных вопросов: «Все ли иерархии одинаковые?», «Отсутствие детей - это достаточный признак листа?» 😊

Читать далее
Всего голосов 11: ↑11 и ↓0 +11
Комментарии 10

Как отправлять голосовые SMS из Google Таблиц

Уровень сложности Простой
Время на прочтение 9 мин
Количество просмотров 2.4K

Вы когда-нибудь хранили номера телефонов своих клиентов в Google Таблицах? Как думаете, было бы удобно оповещать клиентов о каких-то событиях или акциях, не копируя номера в другую систему, а прямо из Таблиц?

Меня зовут Анастасия Иванова, я технический писатель МТС Exolve. В этой статье я расскажу, как можно отправлять голосовые SMS на номера телефонов прямо из Google Таблиц, используя Google Sheets API и MTC Exolve API. Для этого я напишу скрипт на языке программирования от Google (Apps Script), который будет делать HTTP-запросы в МТС Exolve API для инициации отправки голосовых SMS. Далее вы сами сможете изменять скрипт, чтобы подстроить его под свои сценарии. 

Читать далее
Всего голосов 20: ↑18 и ↓2 +16
Комментарии 6

Ближайшие события

PG Bootcamp 2024
Дата 16 апреля
Время 09:30 – 21:00
Место
Минск Онлайн
EvaConf 2024
Дата 16 апреля
Время 11:00 – 16:00
Место
Москва Онлайн
Weekend Offer в AliExpress
Дата 20 – 21 апреля
Время 10:00 – 20:00
Место
Онлайн

Самостоятельный хостинг в 2023 году

Уровень сложности Средний
Время на прочтение 5 мин
Количество просмотров 20K

Оригинал блога, который вы сейчас читаете, имеет идеальный рейтинг PageSpeed 100 / 100. (По крайней мере, на момент написания статьи.) Это не хвастовство, а совсем наоборот. Оказывается, достичь этого вообще не трудно. Просто хостите статическую страницу с простыми стилями, и этого достаточно. Статическую страницу создать довольно просто. Ты выпускаешь index.html и отправляешь её по проводам. Можно изощриться и генерировать её при помощи фреймворка, как я делаю в случае Astro. Но смысл моего поста не в этом.

Смысл фразы хостить статическую страницу в слове хостить. Эта страница хостится на Raspberry Pi 4b, находящемся у меня дома. Устройство обеспечивает превосходную скорость, почти ничего не стоит и имеет бесконечные возможности бесплатного расширения. В этом посте я расскажу, насколько просто было всё настроить. И о том, насколько потрясающий, по моему мнению, опыт разработки это даёт.
Читать дальше →
Всего голосов 39: ↑37 и ↓2 +35
Комментарии 26

Встречаем Кибер Бэкап 16

Уровень сложности Средний
Время на прочтение 6 мин
Количество просмотров 4K

Привет, Хабр! 25 апреля вышла новая версия нашей СРК - Кибер Бэкап 16. В этой версии основной фокус был направлен на расширение функций для приложений СУБД PostgreSQL/Postgres Pro и коммуникационной платформы CommuniGate Pro, а также на развитие поддержки платформ виртуализации: добавлено резервное копирование OpenStack. 

Читать далее
Всего голосов 13: ↑13 и ↓0 +13
Комментарии 5

Библиотека в пробирке: новый метод кодирования данных на ДНК

Время на прочтение 15 мин
Количество просмотров 1.6K


В контексте возраста планеты Земля человечество как вид существует не так давно. Однако за это время мы успели пройти невероятный эволюционный путь, в ходе которого нам открывались все новые и новые знания. С открытием письменности мы получили возможность фиксировать ту или иную информацию, дабы она была доступна другим спустя время. Технологический прогресс привел к цифровизации мира и формированию информационной сферы Земли, которая по некоторым оценкам насчитывает порядка 64 зеттабайт данных, т. е. Около 7 ×1013 Гб. Вполне ожидаемо, что вопрос хранения постоянно растущего объема данных стоит для современного общества весьма остро. Потому поиски новых методов хранения и новых типов хранилищ крайне важен. Ученые из Технического университета Эйндховена (Нидерланды) разработали новую методику хранения данных с помощью ДНК. В чем секрет данной методики, насколько работоспособны полученные хранилища, и сколько данных можно на них хранить? Ответы на эти вопросы мы найдем в докладе ученых.
Читать дальше →
Всего голосов 20: ↑17 и ↓3 +14
Комментарии 4

Как я делал лучшие арифметические ядра и сделал лучший селектор (демультиплексор)

Уровень сложности Средний
Время на прочтение 3 мин
Количество просмотров 6.9K

Небольшой рассказ о том, как я делал арифметические ядра и сделал лучший селектор (декодер адресов).

Что, опять?
Всего голосов 29: ↑25 и ↓4 +21
Комментарии 12

NVRAM Поверх off-chip SPI-NOR Flash

Уровень сложности Простой
Время на прочтение 8 мин
Количество просмотров 4K

Настал первый случай за 12 лет, когда в программировании микроконтроллеров понадобились бинарные деревья поиска.

В этом тексте поговорим о том как можно построить эффективную программную реализацию энергонезависимой Key-Value Map(ки) над дешевой SPI NOR Flash для микроконтроллерных проектов. Суть проста. Нужна NVRAM.

Читать далее
Всего голосов 14: ↑14 и ↓0 +14
Комментарии 11

Будущее индустрии ИИ стоит на бесплатной базе данных простого учителя школы

Время на прочтение 9 мин
Количество просмотров 20K

Перед небольшим загородным домом на окраине Гамбурга в северной Германии на почтовом ящике карандашом нацарапано единственное слово — «ЛАЙОН». Это единственный признак того, что этот дом принадлежит человеку, стоящему за огромными усилиями по сбору данных, и без которого тот бум искусственного интеллекта, который во всю силу происходит сейчас, мог бы и не случиться.

Читать далее
Всего голосов 31: ↑28 и ↓3 +25
Комментарии 14

Консолидация баз данных: этапы, методы и примеры

Уровень сложности Средний
Время на прочтение 13 мин
Количество просмотров 6.1K

Сейчас во всём мире объёмы данных растут с невероятной скоростью, и чтобы эффективно использовать их потенциал, требуется правильное хранение и управление информацией. Одним из наиболее эффективных способов решения этой проблемы является консолидация баз данных. Но что это такое и как её правильно реализовать? В этой статье мы разберёмся, какую пользу может принести консолидация баз данных и как её провести на практике. Если вы хотите оптимизировать свою работу с данными, то эта статья для вас!
Читать дальше →
Всего голосов 34: ↑33 и ↓1 +32
Комментарии 0