Pull to refresh
0
@Tumchikread⁠-⁠only

Пользователь

Send message

Миграция витрины данных с СУБД Teradata в СУБД Greenplum

Reading time8 min
Views1.3K

Миграция СУБД с одной технологии на другую — сложный процесс, который связан не только с конвертацией кода и переливкой данных из одной системы в другую, хотя и здесь есть неочевидные нюансы. Это часто и вопросы, связанные с совместимостью функциональности, производительностью, безопасностью данных, архитектурными особенностями новой системы и многими другими аспектами.

Меня зовут Станислав Свириденко и я DWH-разработчик AXENIX. В этой статье хочу рассказать об опыте миграции витрины данных с проприетарной СУБД Teradata на свободную СУБД GreenPlum. Поговорим о задачах, подводных камнях, на которые мы периодически натыкались, и способах решений, найденных  в процессе.

Читать далее
Total votes 15: ↑14 and ↓1+14
Comments8

Как создать пользовательскую базу знаний, которая заменит техническую поддержку?

Level of difficultyEasy
Reading time4 min
Views7.1K


Привет техписам и всему ИТ-сообществу. На связи команда «Инферит Клаудмастер», и мы хотим рассказать вам о том, как мы организовали базу знаний о нашем продукте. Для этого мы поговорили с Миленой Балановой, техническим писателем Инферит Клаудмастер, которая в перерывах между «витанием в виртуальных облаках» и написанием документации рада поделиться инсайтами о создании базы знаний:

Читать далее
Total votes 10: ↑10 and ↓0+11
Comments6

Простая документация с dbt: Упрощение документирования хранилищ данных

Level of difficultyEasy
Reading time4 min
Views2.7K

Когда вы в последний раз впервые смотрели на хранилище данных? Помните то чувство фрустрации, когда вы не знали, что содержат таблицы orders_final_v1? Или как отличить user_uuid от user_id? Любой специалист по данным может понять эти ощущения.

К счастью, dbt (Data Build Tool) значительно упростил задачу документирования хранилищ данных. Все, что нужно сделать, это включить описание наших таблиц и колонок в YAML-файл схемы. Затем вся информация собирается в аккуратный HTML-файл.

Данная статья это перевод с английского с некоторыми адаптациями. Перевод сделан НЕшколой для инженеров Inzhenerka.Tech совместно с автором симулятора по DWH на dbt Павлом Рословцом. Больше материала в нашем сообществе.

Читать далее
Total votes 3: ↑3 and ↓0+4
Comments3

Где нас нет: как живут айтишники в Сибири

Reading time15 min
Views8.1K

Продолжаем рубрику «Где нас нет» о жизни ИТ-специалистов в российских регионах. После рассказов о Дальнем Востоке, Северо-Западе, Кавказе и Урале снова переместимся на восток и узнаем, как живут и работают айтишники в Сибири.

Читать дальше →
Total votes 14: ↑11 and ↓3+8
Comments4

Повышаем безопасность домашнего сервера

Level of difficultyEasy
Reading time8 min
Views23K

Всем привет. Меня зовут Максим, и уже почти два года я содержу домашний сервер.

На данный момент использую его не только я. Многие сервисы находятся в публичном доступе, также я предоставляю виртуальные машины и много других чувствительных сервисов своим знакомым: дисковое хранилище, базы данных и тд. В связи с чем серьезно встает вопрос безопасности. В этой статье я расскажу про то, как я стараюсь обеспечивать безопасность в своей домашней сети.

Обезвредить, защитить, усмирить
Total votes 20: ↑16 and ↓4+16
Comments54

«Робокоп 2»: падение стального рыцаря

Level of difficultyEasy
Reading time9 min
Views22K


Назвать «Робокоп» Пола Верховена успешным – значит не сказать ничего. Это было рождение классики кинематографа. А где успех, там и сиквелы. Вот только приключениям Алекса Мёрфи они на пользу не пошли. Сегодня обсудим муки рождения «Робокопа 2» и начало конца целой франшизы.
Читать дальше →
Total votes 43: ↑40 and ↓3+52
Comments21

Солитоны. Настольные модели и плоские скирмионы

Level of difficultyHard
Reading time35 min
Views1.9K

Трехмерные модели используют сложный математический аппарат: матрицы Паули или поля из унитарных матриц. К тому же их трудно визуализировать и поэтому они довольно абстрактны. Поэтому в данной статье мы теперь рассмотрим аналогичные, но двумерные и одномерные "настольные модели", которые могут быть реализованы материально. Один из примеров более простой 2D модели — модель Скотта, её вполне можно сконструировать из доступных материалов. Другим примером является магнитный скирмион, который можно наблюдать, например, в микроскопе. Третий пример — модель Эластика Эйлера сделанная из проволоки. Используя более простые модели мы можем развить более интуитивное понимание поведения, стабильности, других сложных концепций топологических солитонов. И хотя эти модели не раскрывают все свойства своих 3D аналогов, они представляют собой более доступную отправную точку для изучения топологических солитонов и развития понимания их свойств.

Читать далее
Total votes 9: ↑9 and ↓0+10
Comments2

Закрытость ПО как способ грабежа гос-ва. Гос. закупки и импортозамещение

Reading time8 min
Views4.7K

Кратко: свободный рынок и частные компании могут работать хорошо. И другая модель -когда покупает гос-во за свой счет и делает тоже гос-ва. Кафедра где я учился была связанна с НИИУМС -эта такая гос-айтишка где работало в советское время 7 тыс человек и они разрабатывали ПО для куче предприятия. А вот когда закупается софт за гос счёт, а прибыль частная -ситуация уже хуже. Гос счет это может и бюджет (федеральный/муниципальный) и унитарное предприятие и даже АО полностью или большей частью подконтрольное гос-ву. Которое гос-во же принуждает закупать ПО. Но беда в том, что значительная часть этого ПО стоит неадекватно дорого. И по качеством не вполне конкурентоспособно было бы в условиях свободного рынка. Доходит даже до того, что "В ближайшей перспективе госкомпаниям могут запретить разрабатывать софт для собственных нужд, без его дальнейшей продажи, если у него уже есть аналоги на рынке. Новые ограничения готовит Минцифры, чтобы госсегмент нес свои деньги разработчикам ПО". Нездоровая ситуация, когда расходы общественные (гос-венные), а вот прибыль от продажи софта частные. Логику, гос-во возможно понять, но в условиях развитого конкурентного рынка здесь исчезает фактор который заставлял бы делать 1. Качественно 2. Закладывая в цены адекватную рентабеность. Гос-корпорации ведь не просто так ПО своё пилят. У нас на рынке, как решения, есть которые до 22 года успешно продавались зарубежом, так и "поделки" которые покупают исходя из того что вынуждены и работая с которыми ощущение возникает "это компания разработчик должна нам платить за то что мы бето тестерами выступаем. И аналитиками подрабатываем которые объясняет какой функционал бизнесу крупному требуется. И с глюками мучаемся учась их обходить " .

И неплохо было бы за гос счёт деньги тратить только при условии, если лицензии исключительные и исходники передаются в фонд гос-ва. Разработали систему для одного региона- другой уже может взять её, допилить (вендором, подрядчиком или своими силами) под свои потребности.

Занудно и длинно много-букв
Total votes 18: ↑8 and ↓10+2
Comments50

Git. Руководство по оформлению веток и коммитов

Level of difficultyEasy
Reading time8 min
Views20K

Статей на тему что такое git и как им пользоваться на просторах интернета не мало. Я же хочу предложить вам несколько иной взгляд на привычные вещи, а именно, на оформление веток и коммитов, рассмотреть что такое WIP-коммиты, для чего они нужны и как с помощью них можно повысить свою продуктивность и поддерживать чистоту в истории вашего репозитория, в особенности, если вы работаете в команде. Поехали.

Познать истину
Total votes 17: ↑15 and ↓2+13
Comments16

Как ошибка ChatGPT стоила нам $10 000

Level of difficultyEasy
Reading time4 min
Views7.6K

Колесо крутится, но хомячок подписки помер. Оно просто крутится.

В начале я хотел бы сказать, что описанные в статье практики очень плохи и неправильны (с тех пор мы добавили надёжные юнит-тесты и интеграционные тесты, а также систему алертов/логирования), что их следует избегать и в первую очередь это человеческие ошибки, которые задним умом кажутся очевидными.

Описанные в статье события произошли в условиях сильного дефицита времени на очень ранних этапах работы компании (первые несколько недель). По большей мере я публикую это как забавную историю с уникальными условиями, связанными с воспроизводимостью бага в продакшене (тоже из-за нашей собственной глупости). Пожалуйста, помните об этом, читая текст.

Впервые мы включили монетизацию нашего стартапа в мае прошлого года. Мы не ожидали многого, но были приятно удивлены тем, что меньше чем за час после запуска у нас появился первый клиент. Это был волшебный момент. Мы отправили ему благодарность, произнесли всей командой тост и пошли спать, ведь на подготовку мы потратили две ночи.

Проснувшись утром, мы увидели больше сорока уведомлений Gmail с жалобами пользователей. Похоже было, что за ночь поломалось всё. Никто из пользователей не мог подписаться. И мы понятия не имели, почему.

Читать далее
Total votes 10: ↑10 and ↓0+16
Comments20

Эвристики морских просторов: математическая оптимизация океанских контейнеровозов

Level of difficultyMedium
Reading time7 min
Views4.3K
Такие контейнеровозы называют «post-Panamax», потому что они слишком велики, чтобы поместиться в Панамском канале

Посмотрите вокруг. Есть высокая вероятность того, что какие-то из окружающих вас предметов прибыли к вам по морю. 90% товаров в мире перемещается по океану, зачастую на ужасно огромных грузовых судах: длина четыреста метров, масса 250 тысяч тонн, вмещают в себя 12 тысяч контейнеров суммарной стоимостью в миллиард долларов. В отличие от самолётов, поездов и грузовых автомобилей, грузовые суда работают практически непрерывно, двигаясь по цикличным маршрутам в океанах.

Но какими же будут наилучшие, наиболее оптимальные маршруты таких судов? Для специалиста по computer science это задача из теории графов; для бизнес-аналитика — это задача цепочки поставок. Если её решить плохо, то контейнеры будут простаивать в портах, суда впустую тратить время в открытом море, неспособные причалить, а в конечном итоге подорожают товары из-за того, что поток физических ценностей замедлится и станет менее предсказуемым. Каждой занимающейся контейнерными перевозками компании приходится справляться с этими задачами, но обычно они решаются по отдельности. При их комбинировании сложность умножается; насколько нам известно, эту задачу так пока и не удалось решить для самых крупных контейнерных операций (500 судов и 1500 портов).

Команда Operations Research с гордостью представляет Shipping Network Design API, реализующий новое решение этой задачи. Наша методика лучше масштабируется, позволяя находить решения задач цепочек поставок общемирового уровня, будучи при этом быстрее, чем все остальные известные решения. Она способна удвоить прибыль компании-перевозчика, доставлять на 13% больше контейнеров, задействуя при этом на 15% меньше судов. В этой статье мы расскажем, как нам это удалось.
Читать дальше →
Total votes 20: ↑20 and ↓0+26
Comments7

Глава Intel: Китай становится всё более серьёзным конкурентом. Что происходит?

Reading time4 min
Views4.9K

На Хабре довольно часто пишут о развитии китайской индустрии разработки и производства чипов. Поднебесная становится всё более самостоятельной в этом отношении, а именно — в плане выпуска современных процессоров. Толчок развитию дали торговые санкции США, после чего КНР пришлось вкладывать серьёзнейшие ресурсы и прикладывать усилия для развёртывания мощной инфраструктуры и создания современного оборудования. На это обращает внимание глава Intel. Он, в частности, заявил, что дальнейшие санкции сделают Китай крайне серьёзным конкурентом для западных компаний. Подробности — под катом.

Читать далее
Total votes 8: ↑6 and ↓2+8
Comments21

Что нового в Greenplum 7

Level of difficultyMedium
Reading time15 min
Views5.4K

- Что вы ожидаете от Greenplum 7?
- Postgres 12!

Если бы мы проводили опрос наших заказчиков, ответ на данный вопрос прозвучал бы именно так.

Как известно, Greenplum является одним из многочисленных форков Postgres, кодовая база которого наконец-то догнала ещё пока поддерживаемую версию Postgres (отмечу, что последний релиз Postgres 12 состоится в ноябре текущего года).

Однако наличие какого-либо функционала в Postgres не гарантирует его работу в рамках распределённой системы. В этой статье я начну рассказывать о функциях, которые стали доступны в новой версии, и о том, какой путь пришлось пройти, чтобы обеспечить их работоспособность, а также о возможных ограничениях и причинах их возникновения.

Назад в Будущее...
Total votes 24: ↑23 and ↓1+24
Comments10

Личное облачное хранилище, сервис для снижения расходов на сервера – эти и другие российские стартапы

Reading time3 min
Views5.6K

9 новых российских проектов для создания ИИ-ботов в Телеграм, организации мероприятий, создания 2D MMO RPG игр и многого другого. Битва за «Продукт недели» началась!

Product Radar — здесь каждую неделю публикуются лучшие онлайн-сервисы и железки от русскоязычных команд.

Читать далее
Total votes 10: ↑8 and ↓2+8
Comments10

Подборка планшетов Huawei — от детских и недорогих до профессиональных решений для работы

Level of difficultyEasy
Reading time10 min
Views4.2K

Huawei остается одной из немногих компаний, которые не просто выпускают планшеты, но и охватывают практически все ценовые ниши. В ее ассортименте представлены как ультра‑бюджетные «таблетки» с минимальным набором функций, которые отлично подойдут для знакомства с этим типом устройств, так и далеко не дешевые решения для профессионального использования. В этой статье мы постарались отобрать только лучшие планшеты Huawei на любой вкус и кошелек, чтобы вы могли составить представление о текущем ассортименте сенсорных продуктов компании.

Читать далее
Total votes 9: ↑7 and ↓2+9
Comments4

Как работать эффективно, если ты тревожный человек

Level of difficultyEasy
Reading time17 min
Views8.1K

По данным ВОЗ, около 4% людей страдают тревожными расстройствами в разной форме. С недавних пор я тоже официально вошла в число этих счастливчиков, хотя с тревогой живу уже очень много лет. И если с «бытовой» тревогой ещё худо‑бедно справлялась, то с «рабочей» всё было намного сложнее: я волновалась из‑за большого количества задач и приближающихся дедлайнов, сомневалась в своих силах и знаниях, постоянно думала о том, что сделала что‑то неправильно. Ну а обычное сообщение от руководителя «Привет, надо кое‑что обсудить» в моей голове превращалось в «Привет, ты уволена».

В какой‑то момент мне это окончательно надоело, и я решила, что пора что‑то делать со своей тревожностью. Так я начала изучать эту тему, подключила терапию у психолога и консультации психотерапевта.

Читать далее
Total votes 38: ↑37 and ↓1+46
Comments23

Flipper Zero — мнение пентестера после двух лет «полевой» эксплуатации

Reading time8 min
Views65K

«Дельфин-тамагочи» от Flipper Devices Inc. не нуждается в представлении, но хайп вокруг этого хакерского мультитула уже поутих. Теперь пользователи разделились на два лагеря: одни считают Flipper Zero крутым инструментом, другие не понимают, зачем его купили.

Один из наших пентестеров и социальных инженеров согласился поделиться впечатлениями от использования этого устройства. Он честно рассказал, полезен ли Flipper для проведения тестов на проникновение, какие задачи позволяет выполнять на объектах клиентов и стоит ли устройство своих денег. Рассмотрим плюсы и минусы девайса, с которыми приходится сталкиваться в «полевых» условиях. 

Читать далее
Total votes 121: ↑111 and ↓10+135
Comments79

Открытые инструменты визуализации данных

Level of difficultyEasy
Reading time7 min
Views9.6K
image

Бизнесу нужны данные, чтобы эффективно работать. Не важно, какой инструмент вы используете для анализа, главное, чтобы он экономил ваше время и повышал производительность.

Современные технологии делают цифровые процессы извлечения полезной информации и принятия решений доступными для всех компаний, независимо от их специализации или уровня подготовки сотрудников.

Сегодня расскажем о некоторых открытых (и бесплатных) инструментах визуализации данных. Мы отобрали их по количеству звезд на GitHub. Хотя они не так известны, как Tableau Public или PowerBI, эти приложения позволяют легко создавать диаграммы и дашборды, фокусируясь не на инструментах, а на данных и их бизнес-ценности.

А еще напомним, что данные практически любого объема и формата вы можете хранить в облаке. Сейчас на объектное хранилище MWS действует скидка 50%.

Читать дальше →
Total votes 17: ↑16 and ↓1+17
Comments5

Качество данных и роботы: как мы высвободили 5 рабочих часов в день сотрудника DQ

Level of difficultyEasy
Reading time15 min
Views1.5K

Привет, меня зовут Катя Моисеева, я руководитель направления качества данных в Data Office Tele2. Мы уже рассказывали о том, как с нуля строили процессы качества данных на различных площадках (выступления можно посмотреть по ссылке).

Сейчас для нас остро встал вопрос о ресурсах нашей команды, а точнее их «резиновости» — поток входящих инцидентов растет по мере подключения новых систем к проверкам качества, а команда остается в составе 3 сотрудников. Возникает вопрос — а какая она, идеальная команда качества данных, которая сможет создать процессы с нуля, внедрить и привить культуру внутренним заказчикам, свести к минимуму риски возникновения инцидентов, а еще минимизировать затраты компании?

Под катом поделились своим опытом борьбы с хаосом из потока входящих задач и запросов от бизнеса и о маленьком роботе‑спасителе, который экономит нам ежедневно 5 часов сотрудника DQ и внедрить которого по силам каждому.

Читать далее
Total votes 7: ↑6 and ↓1+7
Comments4

Open source GreenPlum: а что дальше?

Level of difficultyEasy
Reading time3 min
Views8K

Наверняка, многие уже слышали, что новый правообладатель GreenPlum — компания Broadcom — перевела репозитории с открытым исходным кодом на GitHub в архивный статус.

Новые версии оригинального ядра, вероятнее всего, уже не будут выкладываться в публичный доступ, а начнут появляться только в коммерческой версии продукта. Это касается и 6-й, и 7-й версии.

Версии ядра, которые были выложены в open source на момент закрытия репозитория, остались под лицензией Apache 2.0, и их можно легально использовать. Но в оригинальном репозитории не осталось веток, тегов и дистрибутивов.

Мы — ГК «ГлоуБайт» — уже больше двух лет развиваем инструменты над open source GreenPlum 6 и выкладываем их в открытый доступ под лицензией Apache 2.0. Об это мы писали статью, в которой прикладывали ссылки на все наши open source репозитории.

Для сборки исходных кодов GreenPlum и дополнительных утилит мы использовали свои пайплайны и зеркала оригинального репозитория GreenPlum.

Сегодня мы решили перевести эти репозитории в открытый доступ на нашем GitLab. 

Читать далее
Total votes 18: ↑18 and ↓0+22
Comments18

Information

Rating
Does not participate
Location
Санкт-Петербург, Санкт-Петербург и область, Россия
Registered
Activity