Обновить
-6
Алексей@java3000

Администратор windows умеющий в программирование

Отправить сообщение

Всё, что вам нужно — это внимание (часть 1)

Уровень сложностиСложный
Время на прочтение13 мин
Охват и читатели47K
Источник

Примечание переводчика: Недавно на Хабре мы рассказывали о статьях, которые нужно прочитать, если вы хотите заниматься искусственным интеллектом. Среди них была культовая статья Attention is all you need, выпущенная в 2017 году. С неё началось развитие больших языковых моделей, в том числе всем известного чат-бота ChatGPT. Оказалось, что у такой важной статьи нет перевода на русский язык. Мы решили исправить это. Ниже вы найдёте перевод первой части статьи, вторая часть доступна по ссылке.

Краткое содержание


Наиболее распространённые модели преобразования последовательностей основаны на сложных рекуррентных или свёрточных нейронных сетях, которые включают энкодер и декодер. В самых успешных моделях энкодер и декодер соединяются с помощью механизма внимания. В статье авторы предлагают новую простую архитектуру нейронных сетей — Трансформер. Он основан исключительно на механизмах внимания, без рекуррентности или свёрток. Эксперименты на двух задачах машинного перевода показали лучшее качество, а также больше возможностей к распараллеливанию и меньшие временные затраты на обучение. Модель достигает 28.4 по метрике BLEU на задаче перевода с английского на немецкий на данных WMT 2014, что превосходит предыдущий лучший результат на 2 пункта. На задаче перевода с английского на французский на данных WMT 2014 модель достигла наилучшего результата для решения, основанного на одной модели — 41.8 по метрике BLEU — после всего 3.5 дней обучения на 8 GPU, что составляет совсем небольшую часть тех вычислительных мощностей, которые были затрачены на обучение лучшей модели, известной из имеющихся публикаций. Авторы показывают, что Трансформер может также успешно применяться и в других задачах, таких как, например, синтаксический разбор предложений на английском языке с использованием как больших, так и весьма ограниченных наборов данных для обучения.
Читать дальше →

Кащеева смерть — защищаем свои пароли с помощью аппаратного хранилища ключей Android

Время на прочтение3 мин
Охват и читатели6.7K

Несколько лет назад меня начала посещать мысль, что менеджеры паролей всё-таки «для честных людей». Как раз все встречные и поперечные стали заявлять, что у них теперь сквозное шифрование… И настали типа спокойные и безопасные времена (ну если не считать миллиардов, которые крадут с криптобирж каждый второй день, прослушки всех этих чатов со сквозным шифрованием, слива баз паролей, взлома LastPass…)

Короче, решил я замутить что-то своё, чтоб не хранить все свои доступы удобно (не)доступными в одном файле KeePass, а то ведь мало ли что. Просто так, из принципа. Биткойнов не держу.

Шли годы…

Читать далее

Гугл таблица как БД для телеграм бота (продолжение)

Уровень сложностиСредний
Время на прочтение6 мин
Охват и читатели7.4K

Продолжение статьи про использование гугл таблиц в качестве бд.

Краткое предисловие: в предыдущем посте я привела пример, как забирать текст из ячеек таблицы и отправлять этот текст в виде отдельных сообщений в телеграм-чат с ботом.

Как и обещала, в новом посте расскажу как забирать данные из ячеек и превратить их в кнопки, разместив их под сообщениями, которые мы успешно отправляли до этого.

Читать далее

Вариант Mvvm в Unity

Уровень сложностиПростой
Время на прочтение5 мин
Охват и читатели12K

Довольно часто слышу вопросы про реализацию этого паттерна, поэтому здесь я постараюсь показать рабочий вариант исполнения.

P. S. спасибо автору этой статьи за взятую без спроса картинку.

Читать далее

Введение в кинематометрию

Уровень сложностиПростой
Время на прочтение10 мин
Охват и читатели3.7K

Обзорная статья. Кинематометрия — научно‑техническая дисциплина, изучающая комплекс вопросов, связанных с контролем кинематической точности машин и механизмов.

Читать далее

Автоматический подбор гиперпараметров и архитектур нейронных сетей. Часть 1

Время на прочтение8 мин
Охват и читатели6K

Начинаем создавать "управляющую" нейронную сеть, автоматически подбирающую гиперпараметры и архитектуры "контролируемых" нейронных сетей.

Читать далее

Мир на геодезической сфере: алгоритмы игры Planet

Время на прочтение6 мин
Охват и читатели7K
Я уже больше года не писал статей с анализом процедурной генерации в играх. Сегодня мы изучим Planet — игру 2016 года с уютным дизайном, созданную одним из моих любимых разработчиков, Оскаром Сталбергом.


Другие скриншоты



Planet — наполовину технологическое демо, наполовину игра, в итоге создающая настоящую магию. Не так уж просто разобраться, как она работает, однако, к счастью, мне удалось узнать основные подробности из постов в Twitter и статей самого Оскара.
Читать дальше →

Как СберБанк Онлайн на микросервисную архитектуру мигрировал и от legacy старался избавиться

Время на прочтение9 мин
Охват и читатели12K

Привет, Хабр! Сейчас мы, команда СберБанка Онлайн, проводим очень масштабную работу по миграции на микросервисную архитектуру. Проект стартовал много месяцев назад, и сейчас уже можно поделиться некоторыми результатами и соображениями. Так мы и решили поступить — делимся нюансами этой работы в статье, которая написана по мотивам выступления Артёма Арюткина, исполнительного директора и руководителя проектного офиса. Подробности нашей трансформации — под катом.

Узнать больше о нюансах трансформации

Как создать свою собственную нейронную сеть с нуля на Python

Уровень сложностиСредний
Время на прочтение5 мин
Охват и читатели142K

Как создать свою собственную нейронную сеть с нуля на Python

Мотивация: в рамках моего личного пути к лучшему пониманию глубокого обучения я решил создать нейронную сеть с нуля без библиотеки глубокого обучения, такой как TensorFlow. Я считаю, что понимание внутренней работы нейронной сети важно для любого начинающего специалиста по данным. Эта статья содержит то, что я узнал, и, надеюсь, она будет полезна и вам!

Что такое нейронная сеть?

В большинстве вводных текстов по нейронным сетям при их описании используются аналогии с мозгом. Не углубляясь в аналогии с мозгом, я считаю, что проще описать нейронные сети как математическую функцию, которая отображает заданный вход в желаемый результат.

Нейронные сети состоят из следующих компонентов:

Читать далее

Кейс: Как создать сквозную аналитику для e-com на коленке

Уровень сложностиСредний
Время на прочтение3 мин
Охват и читатели2.5K

Привет, на связи Таня. Я занимаюсь аналитикой более 6 лет. Сегодня хочу поделиться кейсом, как я со своей командой реализовала схему подсчета дохода с выкупом для крупной e-com компании. Получилось свести расхождение между CRM и сквозным отчетом, ориентирующимся на Яндекс Метрику до приемлемых 5-7%.


В идеальной картине мира в компании есть классные разработчики, которые выгружают данные и собственник видит всю аналитику до копеечки. По каждому товару, заказу. Легко считает свою прибыль.

В реальности существует очень мало компаний, которые могут себе такое позволить. У вас только данные по целям и доход в Яндекс Метрике, а хочется видеть  доход с учетом отмененных и возвращенных заказов.

Читать далее

Многоклассовая детекция клеток рака почки: нейросетевой ассистент врача-патоморфолога

Уровень сложностиПростой
Время на прочтение7 мин
Охват и читатели2.5K

Всем привет, меня зовут Арсений, я студент 2 курса магистратуры Сеченовского университета по специальности "Наноматериал и биофотоника”. В октябре прошлого года я занял первое место во всероссийском межвузовском конкурсе “Samsung Innovation Campus” со своим проектом “Многоклассовая детекция ядер светло-клеточного почечно-клеточного рака” и хотел бы поделиться подробностями.

Читать далее

Как лучше монетизировать разработку: продать или лицензировать

Уровень сложностиПростой
Время на прочтение5 мин
Охват и читатели2.2K

Монетизация патентов — одна из ключевых целей при их регистрации малыми и средними предпринимателями. По крайней мере в 2006 году опрос Европейского патентного ведомства показал, что получение прибыли — причина для регистрации в 50% случаев. Ценность нематериальных активов действительно высока — по некоторым подсчетам на них приходится 90% капитализации всего индекса S&P 500! 

В то же время считается, что вплоть до 98% патентов никогда не приносят правообладателям существенной прибыли. В том числе это связывают с низким уровнем понимания, как именно можно монетизировать разработку. Самые популярные способы — реализация в производстве, продажа и лицензирование. Сравним два последних. 

Читать далее

SuperIndustry — Dev log #2 – Добро пожаловать в темный лес

Уровень сложностиПростой
Время на прочтение8 мин
Охват и читатели1.3K

Вступление

Привет, друзья! В этом цикле статей я максимально подробно буду рассказывать о процессе разработки игры на UE — SuperIndustry. Вы сможете на моем примере познать процесс разработки 3D игры на UE. Вкратце про игру: Представьте гибрид Oxygen not included и Satisfactory, в далеком будущем и на специфичной экзо планете. В игре будет простенький сюжет, который будет повествоваться через своеобразный дневник. Главная цель — улететь с планеты (остановиться на достигнутом) или же продолжить общение с высшим Существом и узнать, что будет дальше.

Читать далее

Как подружить Алису с ChatGPT

Уровень сложностиСредний
Время на прочтение6 мин
Охват и читатели88K

О ChatGPT сейчас не говорит только ленивый. Давайте попробуем соединить голосовой помощник Алиса и ChatGPT. Таким образом мы сможем взаимодействовать с ChatGPT с помощью голоса. А он с помощью голоса может нам отвечать. Конечно тут будут ограничения о которых я подробно опишу далее. Данная статья не столько о ChatGPT а о том как писать навыки для Алисы.

Читать далее

Как 10 лет разрабатывать электронику по контракту и не загнуться

Уровень сложностиПростой
Время на прочтение13 мин
Охват и читатели21K

Привет, меня зовут Иван Ларионов. В 2011 году мы вместе с братом основали компанию «Третий пин». Я хочу поделиться своей историей эволюции из инженера-фрилансера в руководителя компании, занимающейся контрактной разработкой электроники. Как и почему удалось не обанкротиться, не закрыться и не выгореть, а нарастить мощности и сохранить кураж.

Читать далее

Дневник разработки настольный игры СУПЕРТАНК по мотивам танчиков для Dendy. Часть 12. Про архив рабочих прототипов

Уровень сложностиПростой
Время на прочтение3 мин
Охват и читатели1.7K

У нас образовался некоторый перерыв в дневниках разработки, т.к. основную часть о ходе разработки игры мы уже описали. Все это время мы были заняты подготовкой игры к производству, версткой макетов компонентов, правилами игры и их оформлением.

Сейчас, когда макеты уже сданы в печать самое время разобрать накопившиеся архивы рабочих прототипов, показать их вам и рассказать о роли каждой итерации в ходе разработки игры.

Что такое рабочий прототип настольной игры? Собственно, это компоненты игры, как правила изготовленные вручную для того чтобы можно было сыграть в игру и понять игровую механику и как пользоваться всеми ее компонентами с точки зрения эргономики. Также рабочий прототип дает возможность понять как будут выглядеть компоненты игры при печати, особенно если прототип сделан не по классике на черно‑белом лазерном принтере, а с полноценной цветной печатью.

Мы уже писали о том, как менялся пиксельный стиль игры. От почти примитивного 8-битного, до финального, который условно можно назвать 16- битным.

Читать далее

Как вести бизнес в Боснии: налоги, банкинг, рабочая виза (и маленькие хитрости)

Уровень сложностиПростой
Время на прочтение7 мин
Охват и читатели4.2K

На связи Саша Хрущев, технический директор IT-компании WINFOX. Примерно полгода назад мы открыли филиал в Боснии и Герцеговине, а теперь учимся жить и работать в этой стране. Рассказываю, как вести там бизнес: налоги, банкинг, косвенные затраты, рабочая виза и другие особенности работы местной компании. 

Читать далее

Принципы построения многомодульного Android-приложения и их применение в СберЗдоровье

Уровень сложностиСредний
Время на прочтение8 мин
Охват и читатели12K

Всем привет! Меня зовут Александр Ровнов. Я Android разработчик в СберЗдоровье.

Статей про «чистую» архитектуру и многомодульность очень много. Но не многие компании готовы делиться своим опытом и полученными результатами от внедрения этих практик. Я хочу попробовать исправить ситуацию.

В этом материале я расскажу о принципах построения многомодульного приложения, как мы применяем их при разработке мобильного приложения СберЗдоровье под Android и что это нам даёт.

Да, эта статья тоже про многомодульность, но не спешите пролистывать, потому что описанные ниже принципы, можно применять не только в мобильной разработке, но и в разработке ПО в целом. 

Приступим.

Чистая архитектура и ее цель.

Читать далее

Open-source библиотеки от команд ИТМО: оптимизация графовых структур, генеративный дизайн, оптимизация гиперпараметров

Время на прочтение7 мин
Охват и читатели3.4K

Сфера искусственного интеллекта показательна тем, что здесь успешно развиваются множество проектов с открытым исходным кодом. Это отличная тенденция, поскольку позволяет сторонним исследователям лучше понять особенности работы моделей, использовать их в собственных разработках в области ИИ или применять для обработки данных в своей предметной сфере.

Уделяя много внимания подготовке специалистов и развитию проектов в области искусственного интеллекта, Университет ИТМО поддерживает этот курс на открытость. В этой статье мы собрали небольшую подборку уже реализованных библиотек с открытым исходным кодом, предназначенных для решения различных задач машинного обучения. Сотрудники лабораторий ИТМО создают универсальные решения, не ограниченные своей предметной областью. И готовы развивать их, расширяя спектр возможных применений.

Все эти проекты написаны на Python с использованием стандартного стека технологий для задач обработки данных и графов: numpy, scipy, networkx. Их можно найти на GitHub и даже поучаствовать в дальнейшем развитии.

Читать далее

Как быстрее узнать, что сервису плохо, или Realtime-детекция разладок с помощью CatBoost

Уровень сложностиСредний
Время на прочтение8 мин
Охват и читатели5.6K

Через любую высоконагруженную систему ежесекундно проходит огромный поток трафика. Релизы, хотфиксы, ddos-атаки, невалидные и ухудшающие эксперименты и многие другие события могут привести к проблемам, которые влияют на пользователей. Поэтому такие ситуации не терпят задержек.

Можно провести простую аналогию: если вы чем-то заболели, то лучше узнать об этом как можно раньше и тем самым минимизировать побочные эффекты после и в процессе выздоровления. Так и в сервисе: будь то баннерная крутилка, поиск, маркетплейс или онлайн-доставка пиццы.  

Меня зовут Владимир Точилин, я работаю в группе развития рекламных продуктов и стабильности. Вместе со своим коллегой, Александром Самусенко, я расскажу, как мы создали новый инструмент realtime-детекции разладок в проде рекламных технологий. Мы работаем с системой, где на отдельные кластеры нагрузка превышает 1000000 RPS. 

Историю будет интересно прочитать аналитикам, разработчикам и менеджерам любого уровня.

Читать далее

Информация

В рейтинге
Не участвует
Откуда
Москва, Москва и Московская обл., Россия
Дата рождения
Зарегистрирован
Активность

Специализация

Десктоп разработчик, Администратор серверов
Младший
От 110 000 ₽
Java
Java Spring Framework
RESTful WebServices.
PostgreSQL
SQL
Hibernate
Linux
Базы данных
Microsoft SQL Server
Разработка программного обеспечения