Pull to refresh

Зачем Битрикс24 своя AI-платформа?

Сергей Нотевский — AI Lead в Битрикс24, руководит платформой, на которой работает весь AI компании: от транскрибации звонков до агента BitrixGPT. В новом выпуске обсуждаем, стоит ли компании разворачивать нейросети у себя или брать их как сервис (MaaS), как посчитать железо под открытую модель, почему бенчмаркам нельзя верить, что такое префикс-кэш, и при чём здесь четыре года работы фитнес-тренером.

Из выпуска вы узнаете:

  • Чем разработка с AI похожа на менеджмент и кого из инженеров заменят первым?

  • Как войти в IT без денег на курсы — по самодельной программе за два месяца?

  • Почему Битрикс24 развернул модели у себя и что это даёт клиентам?

  • Что такое MaaS (Model-as-a-Service) и за что вы на самом деле платите в цене токена?

  • Как посчитать, сколько GPU-памяти нужно модели, и при чём здесь квантизация?

  • Почему большое контекстное окно не гарантирует качество и что такое «гниение контекста»?

  • Зачем писать свои тесты для моделей и почему бенчмаркам из релизов верить нельзя?

  • Что такое префикс-кэш и как он экономит до 95% стоимости входящих токенов?

  • Какие роли нужны в команде AI-платформы и что такое харнес (Harness)?

  • Куда расти инженеру в эпоху AI и какой навык теперь важнее конкретных знаний?

Рекомендую выпуск особенно тем, у кого сейчас остро стоит вопрос, разворачивать ли нейросети внутри своего контура. В этом выпуске мы собрали подробный гайд по теме self-hosted AI.

Приятного просмотра и прослушивания!

Смотреть на RUTUBE
Смотреть на YouTube
Слушать в Яндекс Музыке
Смотреть в VK Видео
Слушать в аудио

Полезные ссылки из подкаста:

Битрикс24 — https://www.bitrix24.ru
Битрикс24 Вайбкод — https://vibecode.bitrix24.tech/
Вакансии в Битрикс24 — https://careers.bitrix24.ru/
LMArena (бывш. LMSYS Arena) — https://arena.ai
Context Arena — https://contextarena.ai/
LangFuse — https://langfuse.com/
Статья команды Manus про префикс-кэш — https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus

Ставьте реакции, жмите колокольчики, шерьте друзьям и коллегам, и конечно же, пишите обратную связь, потому что это все поможет мне продолжать и улучшаться. 🙏

Меня зовут Максим Ульянов, я руковожу отделом веб-разработки в RUTUBE, отвечаю за все браузерные интерфейсы: сайта rutube.ru, студии блогеров studio.rutube.ru, всех сателлитов и внутренних продуктов платформы. В свободное время я веду подкасты «Куда расти?» и «Путь ИИ», а так же пишу в Telegram-канале ULYANOV.LIFE про жизнь руководителя в ИТ. Буду рад вашим комментариям и обратной связи!

Tags:
0
Comments3

Articles