Можно ли доверять ответу нейросети?

Получить ответ от нейросети — только половина задачи. Не менее важно понять, насколько этому ответу можно доверять.

В новой статье делюсь своим взглядом на существующие методы верификации.

В статье: классификация подходов, их ограничения и рекомендации, какие методы стоит использовать, а каких лучше избегать и немного формальных рассуждений.

Привет, Хабр. Меня зовут Виталий Стародубцев. Я ведущий QA-инженер в СберЗдоровье — MedTech-компании №1 в России.

Написание и использование автотестов — базовая практика в разработке и продвинутая — в тестировании. Но подходы к их написанию и отладке зачастую вызывают боль у специалистов. Остаётся много проблемных мест: долгие ожидания при запуске и перезапуске, нестабильность сервисов, ошибки из‑за устаревших версий библиотек. В результате даже опытные инженеры тратят больше времени, чем могли бы. 

Я с этим нередко сталкивался при анализе сторонних проектов и понял, что подобные ситуации довольно распространены. Поэтому в статье решил собрать несколько простых лайфхаков и практических советов, которые помогают быстрее писать, запускать и отлаживать автотесты: часть из них касается общей работы с кодом и IDE, а часть — специфики автоматизации.

Одним из ключевых требований к информационной системе является воспроизводимость результатов. Однако многие специалисты сталкиваются с трудностями, когда попытка повторить эксперименты приводит к отличающимся показателям. Такая ситуация известна как недетерминированность: модель выдаёт различные результаты при одинаковых входных данных и конфигурации.

Вместе с тем, несмотря на распространённое заблуждение, источником проблемы чаще всего становятся не свойства самой нейросети, а упущения на этапах проектирования разработки и эксплуатации. 

Меня зовут Черкас Руслан. Я архитектор в СберЗдоровье — МедТех-компании №1 в России. По роду деятельности я часто сталкиваюсь с утверждениями о принципиальной недетерминированности нейросетей. И в этой статье хочу опровергнуть заблуждения, с которыми сталкиваюсь чаще всего.

Привет, Хабр. Меня зовут Глеб Бобыльков. Я ведущий дизайнер команды записи и цифровых продуктов в СберЗдоровье — MedTech-компании №1 в России. В этой статье покажу, как мы переделали финальный экран после записи к врачу на очный приём и превратили его из страницы подтверждения в сценарий «что дальше», набор гибких кросс-офферов и универсальный компонент для дизайн-команды.

Этот кейс про баланс: как добавить бизнес‑ценность и не разрушить доверие на одном из самых чувствительных шагов пользовательского пути — сразу после записи к врачу.  

Data Vault — одна из самых популярных и устоявшихся методологий моделирования архитектуры данных. Но в ситуации, когда на входе несколько десятков внутренних и внешних источников, а сверху прежней «снежинки» построены уже сотни бизнес-витрин, переход на Data Vault «на ходу» может оказаться затруднительным и ресурсозатратным. Поэтому мы в СберЗдоровье пошли другим путём.

При разработке ИТ-продуктов команды нередко сталкиваются с ситуацией, когда разные части проекта имеют различный внешний вид и поведение, что затрудняет поддержку, ведет к увеличению сроков выпуска обновлений и ухудшению качества продукта.

Решением подобных проблем является дизайн-система, которая обеспечивает единую библиотеку компонентов и строгие правила их использования, позволяя сократить время разработки, минимизировать расхождения между частями продукта и значительно облегчить дальнейшую работу над проектом.

Меня зовут Илья Гущин. Я старший Android-разработчик в СберЗдоровье — MedTech компании №1 в России. В этой статье я расскажу, как мы в СберЗдоровье строили мобильную дизайн-систему и оптимизировали интерфейсы.

Разговоры про ИИ давно перестали быть чем-то необычным: LLM внедряют везде — от банков до ритейла. Здравоохранение не стало исключением. Но если в e-commerce ошибки алгоритма могут повлиять исключительно на конверсию, то в медицине уровень ответственности совсем другой. Поэтому процесс запуска ИИ-инструментов, способных отвечать на вопросы, связанные со здоровьем, требует особого подхода и тщательной проработки многих аспектов. 

Привет, Хабр. Меня зовут Орлан. Я ведущий специалист по обеспечению безопасности данных в команде медицинской компании СберЗдоровье. В этой статье я расскажу, как мы запускали AI-помощника по здоровью в мобильном приложении, с какими вызовами столкнулись и какие решения в итоге сработали — с точки зрения комплаенса, защиты данных и безопасности пациента.

Привет, Хабр. Меня зовут Никита Лепёхин. Я DevOps-инженер в СберЗдоровье — MedTech-компании №1 в России.

Многие компании пользуются GitLab в качестве инструмента CI/CD. Но при использовании бесплатной Community-версии он не даёт достаточную наблюдаемость всех запускаемых пайплайнов. Поэтому актуальной задачей становится поиск инструмента для анализа GitLab CI/CD. Наш выбор для её решения — Apache DevLake.

В этой статье я расскажу, что такое Apache DevLake, как он организован, и каким образом мы смогли его применить под свои задачи.

Системный анализ — сложное направление, которое подразумевает наличие прокачанной экспертизы во многих аспектах: от работы с требованиями до знания основ SQL и баз данных. Вместе с тем, многие скиллы прокачиваются на практике — в процессе работы. И тут важно в огромном массиве материалов найти те, которые будут действительно полезными и применимыми к работе системного аналитика.

Привет, Хабр. Меня зовут Люба Вайгель. Я системный аналитик в СберЗдоровье — MedTech компании №1 в России. Я довольно давно работаю системным аналитиком: помимо медтеха, на моем счету опыт в финтехе, госсекторе. В этой статье я хочу поделиться материалами, которые в своё время помогли мне и могут быть полезны всем, кто только делает первые шаги в системном анализе.

Мобильное приложение всегда оказывается на устройстве пользователя — а значит, потенциально доступ к нему может быть и у злоумышленника. Это значительно повышает требования к безопасности выпускаемых продуктов, поскольку в коде приложений неизбежно содержатся конфиденциальные данные, которые используются разработчиками. Соответственно, обязательным условием становится защита секретов на клиенте от утечек.

Привет, Хабр. Меня зовут Кирилл Смирнов. Я руководитель разработки в iOS команде СберЗдоровья — MedTech компании №1 в России. В этой статье я расскажу, где в iOS-приложениях хранятся секреты и как их находят, почему важно скрывать секреты, и как выстроить надежную защиту с учетом потенциальных угроз. 

Материал подготовлен по мотивам моего доклада на Podlodka iOS Crew. Вы можете посмотреть его здесь.

Тесты — один из важных инструментов проверки ИТ-продуктов и обновлений на работоспособность, наличие уязвимостей, багов и других проблем. Поэтому написание тестов — неотъемлемая задача в контексте поддержки и развития любых проектов. Но часто самих тестов недостаточно — если проект большой, то ручной запуск и контроль может стать непосильной ношей. Поэтому лучшая практика — автоматизация тестирования и оптимизация написания автотестов.

Привет, Хабр. Меня зовут Антон Нечаев. Я ведущий инженер обеспечения качества в MedTech-компании №1 в России — СберЗдоровье. В этой статье я расскажу, какие бывают нюансы при написании автотестов и как мы их решали, а также о том, как ускорили работу с тестами с помощью собственного плагина для IntelliJ IDEA.

PHP и асинхронность. Такая комбинация долгие годы казалась невозможной, ведь PHP прочно ассоциировался с блокирующим подходом и синхронным выполнением скриптов «от запроса до ответа». С выходом PHP 8.1 ситуация несколько изменилась — появилась возможность реализовать асинхронность в PHP на основе файберов. Но есть нюанс — вопрос о том, действительно ли PHP с приходом файберов стал асинхронным, по-прежнему для многих остается открытым.

Меня зовут Михаил Сазонов. Я работаю в команде «Регистратура» в MedTech-компании №1 в России – в СберЗдоровье. В этой статье я разберу, наступило уже будущее или нет: стал ли PHP действительно асинхронным с приходом файберов или это миф.

Представьте переводчика. Один специализируется на технических мануалах, другой — на юридических контрактах, третий — на медицинских исследованиях. Знание языка — база, но уникальными экспертами их делает знание и понимание особенностей языка в определенной сфере. Системные аналитики — такие же «переводчики» между бизнесом и ИТ, и их «специализация» (предметная область) критически важна.

Меня зовут Любовь Вайгель. Я системный аналитик MedTech-компании №1 в России — СберЗдоровье. Чтобы разобраться, как работа системного аналитика отличается в разных предметных областях, и как специалистам мягче пройти смену профиля компании, я провела собственный анализ. Подробно о полученных результатах — в статье.

Ошибки гидратации, возникающие из-за неправильного преобразования данных между сервером и браузером, могут стать настоящей преградой на пути к стабильности и производительности систем. И поскольку такие проблемы могут обнаруживаться в процессе эксплуатации, важно заранее понимать их природу и быть готовыми к их устранению еще до релиза в продакшен.

Привет, Хабр. Меня зовут Степан Бурлаков. Я frontend-разработчик в MedTech-компании №1 в России — СберЗдоровье. В этой статье я расскажу о природе ошибок гидратации, проанализирую их причины и последствия, а также предложу эффективные стратегии их предотвращения.

Привет, Хабр. 

Меня зовут Станислав Нижник. Я ведущий системный аналитик в MedTech-компании СберЗдоровье. 

В этой статье я расскажу, как мы запустили «Книжный клуб» для системных аналитиков внутри нашей компании, почему мы не читаем на нем книги, как он менялся со временем, какие сложности мы решали. Ну и о том, зачем вообще мы создали «Книжный клуб».

Представьте себе прораба на стройке — он хоть и не делает ничего руками, но должен разузнать пожелания клиентов, придумать, как их реализовать, и донести все аспекты будущих работ строителям. При разработке мобильных приложений работа системного аналитика выглядит схожим образом — он не пишет код и не рисует интерфейсы, но от того, насколько точно системный аналитик разработал свои «инструкции», во многом зависит конечный результат.

Меня зовут Мария Горгоц. Я старший системный аналитик в MedTech компании №1 в России — СберЗдоровье. В этой статье я расскажу о том, как у нас в компании выстроена работа системных аналитиков при проектировании новых фич для мобильного приложения.

Ответьте себе на вопрос, бывает ли такое, что в процессе выполнения задачи на разработку вы понимаете, что не укладываетесь в срок, сталкиваетесь с чем-то, что не учли заранее, какие-то доработки занимают больше времени и усилий, чем вы планировали? Из-за нарастающей сложности задач в процессе их выполнения вы заводите дополнительные технические задачи на исправление, оставляете по коду множество TODO и комментариев в надежде позже вернуться к задаче и сделать ее качественнее? 

В современном мире разработка программного обеспечения и интеграция различных сервисов становятся всё более сложными задачами. Программистам приходится работать со множеством HTTP API, которые могут отличаться по структуре, способу передачи данных и документированию. В таких условиях становится критически важно иметь унифицированный подход к созданию, использованию и описанию HTTP API, чтобы снизить затраты времени и ресурсов на их поддержку и интеграцию. Ответом на эти запросы является OpenAPI.

Меня зовут Лев Лейман. Я ведущий бэкенд-разработчик в MedTech-компании СберЗдоровье. В этой статье я постараюсь подсветить всё то, что нужно знать об OpenAPI перед началом работы. 

Отсутствие четкой структурированной архитектуры проектов — не редкость в ИТ. Одни этим пренебрегают из-за маленького масштаба проекта, другие — из-за сжатых сроков разработки, третьи — из-за отсутствия экспертизы в этом вопросе. Вместе с тем, движение по этому пути — практически всегда история с «отложенными последствиями»: со временем такие проекты становится сложно поддерживать, масштабировать, администрировать и фиксить. 

Меня зовут Никита Дергачев. Я Teamlead COOL TEAM в MedTech компании СберЗдоровье. В этой статье я расскажу, почему важно структурировано выстраивать архитектуру проектов, а также покажу на примере, с помощью каких инструментов можно отслеживать соответствие архитектуры изначальным требованиям.

Успешность любого продукта во многом зависит от того, насколько точно он отвечает запросам конечных пользователей. Но даже если продакт-менеджер обладает гигантским опытом и великолепным чувством вкуса, есть вероятность принять неверное решение, ведь продукт должен быть ориентирован на определенную аудиторию и учитывать постоянно меняющиеся тренды. Поэтому перед разработкой любые продуктовые гипотезы желательно проверять на целевой аудитории. Есть несколько методик проведения подобных исследований, одна из них — A/B-эксперименты. 

Меня зовут Евгений Мочалин. Я работаю в технической команде медицинской компании СберЗдоровье. В этой статье я хочу рассказать о нашей A/B-платформе, предпосылках ее появления, итоговой реализации и планах на будущее. Но начнем с небольшой теории. Поехали!