Интересное замечание. Теперь у Хабра, видимо, такой вот уровень комментариев — печально это.
Помню, раньше под статьями комменты зачастую были интереснее самой статьи. Специалисты из разных областей делились своим мнением, было интересно посмотреть на разные технические вопросы с их точки зрения.
Вы, видимо, невнимательно читали мои комментарии. У нас LLM — лишь часть пайплайна обработки информации. Как это связано с тем, сколько у нас людей?
Мы, скорее, деньги сэкономили и смогли построить более сложные и умные сервисы.
Я вообще не понимаю такого отношения к LLM: появился инструмент, который позволяет на более высоком уровне работать с информацией через промпты. Его область применимости, естественно, ограничена.
Мы, как специалисты, должны разобраться, где начинаются эти ограничения и как эффективно использовать новый инструмент там, где это подходит. Думать, что LLM сейчас могут заменить людей, — значит не понимать, что это вообще такое.
Я не понимаю к чему этот спор вообще. Это все начинет напоминать рекламу.
без индивидуального взаимодействия со специалистом эта "персонализация" все же ближе к гороскопу
А специалист откуда знает что делать?
У нас есть штатные дерматологи которые и составляли методологию оценки косметики по идегриентам. И вопросы в анкете тоже они составляли. А еще лично я делал сканер лица с локальными нейронками на девайсе который может обноружить 14 классов проблем кожи.
Мы еще год назад научились собирать достаточно информации у юзера что бы давать весьма точный прогноз подойдет ему косметика или нет.
Повторюсь, все эти проблемы решаемы. И LLM здорово нам в этом помогают (как часть пайплайна обработки информации)
Не, там всё более научно. Есть конкретные типы кожи и конкретные проблемы. Пользователь заполняет анкету — например, у девушки кожа шелушится, плюс она беременна. Есть конкретные компоненты и их сочетания, которые доказанно (в научных работах) устраняют шелушение — выбираем продукты из базы с такими компонентами. Убираем те, что не подходят беременным, и вот первичный набор уже готов. Подбор косметики — решаемая проблема, это не rocket science.
Жаль, конечно, что мы теряем часть потенциальных пользователей, но мы вынуждены чем-то жертвовать, чтобы сократить стоимость разработки. К тому же, поддерживая более новую iOS, мы можем делать более крутые вещи за меньшие деньги.
Лично я рад, что могу сделать красивую анимацию или реализовать на устройстве вычислительно сложный алгоритм за счёт более мощного процессора.
Или использовать новую технологию через 2 года после выхода, а не через 6))
Я вам даже больше скажу: в приложении есть несколько realtime-сканеров, которым нужен как минимум процессор A11. Это означает, что мы можем поддерживать только iOS 16 и выше.
Тут много аргументов, и один из них — деньги. Мы не альтруисты: любой сервис должен приносить прибыль, чтобы компания оставалась на плаву (если только нет госфинансирования). Как вы думаете, люди с версией iOS, которая вышла 10 лет назад, насколько они платёжеспособны?
Принесут ли они нам хоть что-то, что окупит поддержку настолько древней ОС?
Я всё же не понимаю вашу мысль. Есть конкретная задача: из набора текстов на разных языках вытащить список ингредиентов — например, в виде идентификаторов InChI. Как вы это сделаете?
В идеальном мире да: все производители должны писать стандартизированные названия, без ошибок и сокращений, и иметь API для доступа к базе данных своей косметики.
P.S. И, кстати, есть же ещё не чистые соединения, а, например, экстракты растений. Что с ними делать? Насколько я знаю, для них вообще нет стандартизации.
Система персонализированных рейтингов любой косметики под конкретного пользователя. И почему вы считаете это bullshit? У вас есть идея, как это можно сделать лучше? У нас уже довольно зрелый продукт — если интересно, можете посмотреть: https://lovi.care
Лично я отвечаю за разработку iOS-клиента; примерно 40–50% — сделано моими руками. Я участвовал во многих проектах, и этот — один из лучших. Я лично не считаю его bullshit.
И в целом я уже писал выше: у нас есть методология. Наши химики и дерматологи защищали её на профильных конференциях. Методология и алгоритмы — это основа, а LLM — универсальный «клей», который позволяет обрабатывать разнородные массивы данных.
Ну и если вы использовали LLM в продакшене, вы должны знать, что это недешёвое удовольствие с высокой долей погрешности. Без правильно выстроенного пайплайна с валидацией и кешами ничего не выйдет.
Ну или вот более приземлённый пример. Наши химики написали методологию анализа компонентов косметики. И чтобы заполнить базу данных, нам понадобилось парсить сайты всех крупных производителей косметики, чтобы получить состав каждого конкретного продукта.
Но у всех производителей разные форматы. Одно и то же химическое соединение может быть написано десятком разных способов. И всё это — на разных языках и в разных форматах. Как это всё распарсить? Можно, конечно, нанять 10 программистов-рабов и заставить их бесконечно писать и обновлять парсеры. А можно сделать пайплайн с LLM внутри и «пассивно» простреливать и валидировать данные.
А если в контекст положить методологию, то можно ещё и автоматически валидировать результаты.
Я вот уже год читаю комментарии на Хабре про ИИ, и у меня складывается ощущение, что некоторые (я не про вас) не делали ничего сложнее программки для микроконтроллера.
Мощь ИИ в том, что теперь для сервисов стал возможен «нечёткий ввод». Раньше, чтобы обработать поток информации, требовалось предварительно распарсить и подготовить данные — или сделать специализированную нейронку. Теперь же есть LLM и промпты.
Например, представьте, что у вас в сервисе есть форма обратной связи. Как превратить отзывы пользователей в задачи для команды? Раньше это требовало либо человека, который всё читает и заводит задачи, либо времени разработчиков на то, чтобы написать алгоритм / обучить нейронку для анализа отзывов. Теперь же достаточно написать универсальный сервис с LLM внутри и пары промптов для него.
И это справедливо для любой информации: картинки, текст, видео — всё это можно обработать через LLM и превратить в поток входящих данных для вашего сервиса. И этот сервис будет устойчив к внешним изменениям!
У нас в компании, смешав LLM и традиционные алгоритмы, мы получили гораздо больше профита, чем если бы использовали только алгоритмы. Вот, например, наш пост.
Ага, представте что по какой то причине люди массово побегут в банки деньги снимать. Замораживать вклады как то не к лицу, а тут уже система готова. Которая очень удобно может "сломатся" при массовых обращениях
Даже больше. Снаружи симуляции может быть буквально что угодно. Вся симуляция может быть результатом магического заклинания волшебника, который решил проверить как будет выглядить мир без магии. Или сном Будды. Или художественным фильмом снятым сверх существами. Да вобще чем угодно.
В этом и проблема гипотизы симуляции - у нее бесконечно много вариантов и отвергнуть все - никак не получиться
Ну любая книга которая не попадет в библиотеку рано или поздно отправится в утиль. Ну и все же в статье идет речь не про рукописи в единичном экземпляре, а про обычные книги, которые по сути массовый продукт.
Ну и лично для меня - да книги это источник знаний, они одна из причин почему знания стали массовыми (даже если это в основном были бульварные романы). Я уважаю их за это и отношусь бережно к тем что есть у меня. Но будем честны - это просто носитель информации. Если информация будет оцифрована, то в принципе не важно что будет с носителем, не стоит создавать карго культ вокруг оболочки, знания важнее.
ИМХО Лично я хотел бы что бы мои книги стали частью ИИ, даже если я не получу с этого денег. Возможно именно мои мысли закрепятся в его весах и повлияют на его мышление
Ps Прошу прощения, ошибся на один уровень. Я хотел оставить комент чуть выше
Евгеника это все же социальное понятие а не биологическое. Аисты вон например часто из гнезда выбрасывают самого слабого детеныша. Это же не является евгеникой.
Но да, я согласен от выбора эмбриона до евгеники - один шаг. Поэтому нужно создать правильные институты социальные. Что бы не произошло как в Китае когда родители делали аборт если ребенок - девочка (что привело к значительному гендерному дисбалансу).
Кстати, так то у нас есть законодательно закрепленная евгеника - запреты на инцест и близкородственные браки. Люди придумали правило и теперь по нему отбор проводят. В природе такого нет.
А разве это не так? Те факторы которые влияли на эволюцию человека раньше теперь перестали работать. Например детская смертность упала в разы - недоношенные дети / матери с проблемами теперь не умирают. Смертность от естественных факторов тоже понизилась. Теперь физически слабые люди / люди с плохим иммунитетом / социофобы и т д могут самостоятельно выживать в городах. Раньше бы они погибли.
Да даже блин требования к интеллекту стали ниже. Можно быть невероятно тупым и при этом не погибнуть от своей глупости и оставить потомство. Социум и технологии сильно упростили выживание в этом мире.
Да возможно появились иные факторы, но факт остается фактом: те факторы которые создали человека за последние сотни тысяч лет, теперь, с развитием цивилизации (последние 10к лет) больше на нас не влияют.
Да, я с вами полностью согласен, я бы тоже не хотел жить в мире где царит закон джунглей. И да для меня эволюция социальных институтов и культуры тоже важнее физической эволюции.
Просто это приятный бонус. Если мы можем дать потомкам более здоровые тела, почему бы это не сделать? Но без здорового социума это конечно бессмысленно.
Да, есть много способов расширить контекст сделав его более персонализированным по отношению к юзеру. Я скорее имел ввиду не то что у моделей нет памяти, а про то что она как бы не изменяема. Память есть - это веса модели. Все что вы описываете это пристройка к модели, контекст. Но сама модель - то есть ее веса, их не изменить в диалоге, только при переобучении.
У нас, людей, так то есть книги, интернет, да блин тот же блокнот - это все внешние хранилища информации. Но что бы их эффективно использовать нам приходится эти знания пропускать через себя. Находить мыслено закономерности, связи с другими знаниями. И ллм проходит через похожий процесс при обучении.
И как вы верно сказали - при обучении модели эта внешняя память не используется. LLM внутри чата джпт никогда по настоящему вас не запомнит, ведь весь накопленный персонализированный контекст не попадет в обучающую выборку.
Ну и еще чат джпт он как бы застыл во времени. То что он говорит, его знания, это определяется весами модели. А они статичные в рамках одного диалога.
Представте что у человека забрали возможность запоминать. Без этого не построить планов, не выучить что то новое. Даже рефлексию не выйдет провести (и осознать свое положение).
А вот на вопросы по изученым когда-то темам ответить легко
ИМХО это верное направление. Обучение ИИ должно быть контролируемым. Разделив ИИ на две части - LLM которая решает проблемы и сам процесс обучения, ситуация становится более контролируема. Мы часто боимся что ИИ начнет строить некие планы, попытается востать против создателя. Но если он не может самостоятельно обучатся, вероятность этого сильно понижается
Вот кстати интересно. Для людей перестала работать эволюция так как исчез естественный отбор. Лично я без современной медецины не дожил бы и до 6 лет (сейчас все ок, не считая хренового зрения).
Ну так вот а что если процедура выбора эмбриона станет широко распространнной? Тогда фактором отбора станут родители. Родители будут старатся выбрать потенциально боле красивых, умных, здоровых детей. Прерваная эволюция продолжится, только менее случайным образом.
Интересное замечание. Теперь у Хабра, видимо, такой вот уровень комментариев — печально это.
Помню, раньше под статьями комменты зачастую были интереснее самой статьи. Специалисты из разных областей делились своим мнением, было интересно посмотреть на разные технические вопросы с их точки зрения.
А теперь у нас соревнования по остроумию.
Вы, видимо, невнимательно читали мои комментарии. У нас LLM — лишь часть пайплайна обработки информации. Как это связано с тем, сколько у нас людей?
Мы, скорее, деньги сэкономили и смогли построить более сложные и умные сервисы.
Я вообще не понимаю такого отношения к LLM: появился инструмент, который позволяет на более высоком уровне работать с информацией через промпты. Его область применимости, естественно, ограничена.
Мы, как специалисты, должны разобраться, где начинаются эти ограничения и как эффективно использовать новый инструмент там, где это подходит. Думать, что LLM сейчас могут заменить людей, — значит не понимать, что это вообще такое.
Я не понимаю к чему этот спор вообще. Это все начинет напоминать рекламу.
А специалист откуда знает что делать?
У нас есть штатные дерматологи которые и составляли методологию оценки косметики по идегриентам. И вопросы в анкете тоже они составляли. А еще лично я делал сканер лица с локальными нейронками на девайсе который может обноружить 14 классов проблем кожи.
Мы еще год назад научились собирать достаточно информации у юзера что бы давать весьма точный прогноз подойдет ему косметика или нет.
Повторюсь, все эти проблемы решаемы. И LLM здорово нам в этом помогают (как часть пайплайна обработки информации)
Не, там всё более научно. Есть конкретные типы кожи и конкретные проблемы. Пользователь заполняет анкету — например, у девушки кожа шелушится, плюс она беременна. Есть конкретные компоненты и их сочетания, которые доказанно (в научных работах) устраняют шелушение — выбираем продукты из базы с такими компонентами. Убираем те, что не подходят беременным, и вот первичный набор уже готов. Подбор косметики — решаемая проблема, это не rocket science.
Мы не жадные)
Жаль, конечно, что мы теряем часть потенциальных пользователей, но мы вынуждены чем-то жертвовать, чтобы сократить стоимость разработки. К тому же, поддерживая более новую iOS, мы можем делать более крутые вещи за меньшие деньги.
Лично я рад, что могу сделать красивую анимацию или реализовать на устройстве вычислительно сложный алгоритм за счёт более мощного процессора.
Или использовать новую технологию через 2 года после выхода, а не через 6))
Нет, конечно 🙂
Я вам даже больше скажу: в приложении есть несколько realtime-сканеров, которым нужен как минимум процессор A11. Это означает, что мы можем поддерживать только iOS 16 и выше.
Тут много аргументов, и один из них — деньги. Мы не альтруисты: любой сервис должен приносить прибыль, чтобы компания оставалась на плаву (если только нет госфинансирования). Как вы думаете, люди с версией iOS, которая вышла 10 лет назад, насколько они платёжеспособны?
Принесут ли они нам хоть что-то, что окупит поддержку настолько древней ОС?
Я всё же не понимаю вашу мысль. Есть конкретная задача: из набора текстов на разных языках вытащить список ингредиентов — например, в виде идентификаторов InChI. Как вы это сделаете?
В идеальном мире да: все производители должны писать стандартизированные названия, без ошибок и сокращений, и иметь API для доступа к базе данных своей косметики.
P.S. И, кстати, есть же ещё не чистые соединения, а, например, экстракты растений. Что с ними делать? Насколько я знаю, для них вообще нет стандартизации.
Система персонализированных рейтингов любой косметики под конкретного пользователя. И почему вы считаете это bullshit? У вас есть идея, как это можно сделать лучше? У нас уже довольно зрелый продукт — если интересно, можете посмотреть: https://lovi.care
Лично я отвечаю за разработку iOS-клиента; примерно 40–50% — сделано моими руками. Я участвовал во многих проектах, и этот — один из лучших. Я лично не считаю его bullshit.
И в целом я уже писал выше: у нас есть методология. Наши химики и дерматологи защищали её на профильных конференциях. Методология и алгоритмы — это основа, а LLM — универсальный «клей», который позволяет обрабатывать разнородные массивы данных.
Ну и если вы использовали LLM в продакшене, вы должны знать, что это недешёвое удовольствие с высокой долей погрешности. Без правильно выстроенного пайплайна с валидацией и кешами ничего не выйдет.
Ну или вот более приземлённый пример. Наши химики написали методологию анализа компонентов косметики. И чтобы заполнить базу данных, нам понадобилось парсить сайты всех крупных производителей косметики, чтобы получить состав каждого конкретного продукта.
Но у всех производителей разные форматы. Одно и то же химическое соединение может быть написано десятком разных способов. И всё это — на разных языках и в разных форматах. Как это всё распарсить? Можно, конечно, нанять 10 программистов-рабов и заставить их бесконечно писать и обновлять парсеры. А можно сделать пайплайн с LLM внутри и «пассивно» простреливать и валидировать данные.
А если в контекст положить методологию, то можно ещё и автоматически валидировать результаты.
Без LLM такое было бы невозможно сделать дёшево.
Я вот уже год читаю комментарии на Хабре про ИИ, и у меня складывается ощущение, что некоторые (я не про вас) не делали ничего сложнее программки для микроконтроллера.
Мощь ИИ в том, что теперь для сервисов стал возможен «нечёткий ввод». Раньше, чтобы обработать поток информации, требовалось предварительно распарсить и подготовить данные — или сделать специализированную нейронку. Теперь же есть LLM и промпты.
Например, представьте, что у вас в сервисе есть форма обратной связи. Как превратить отзывы пользователей в задачи для команды? Раньше это требовало либо человека, который всё читает и заводит задачи, либо времени разработчиков на то, чтобы написать алгоритм / обучить нейронку для анализа отзывов. Теперь же достаточно написать универсальный сервис с LLM внутри и пары промптов для него.
И это справедливо для любой информации: картинки, текст, видео — всё это можно обработать через LLM и превратить в поток входящих данных для вашего сервиса. И этот сервис будет устойчив к внешним изменениям!
У нас в компании, смешав LLM и традиционные алгоритмы, мы получили гораздо больше профита, чем если бы использовали только алгоритмы. Вот, например, наш пост.
Ага, представте что по какой то причине люди массово побегут в банки деньги снимать. Замораживать вклады как то не к лицу, а тут уже система готова. Которая очень удобно может "сломатся" при массовых обращениях
Даже больше. Снаружи симуляции может быть буквально что угодно. Вся симуляция может быть результатом магического заклинания волшебника, который решил проверить как будет выглядить мир без магии. Или сном Будды. Или художественным фильмом снятым сверх существами. Да вобще чем угодно.
В этом и проблема гипотизы симуляции - у нее бесконечно много вариантов и отвергнуть все - никак не получиться
Ну любая книга которая не попадет в библиотеку рано или поздно отправится в утиль. Ну и все же в статье идет речь не про рукописи в единичном экземпляре, а про обычные книги, которые по сути массовый продукт.
Ну и лично для меня - да книги это источник знаний, они одна из причин почему знания стали массовыми (даже если это в основном были бульварные романы). Я уважаю их за это и отношусь бережно к тем что есть у меня. Но будем честны - это просто носитель информации. Если информация будет оцифрована, то в принципе не важно что будет с носителем, не стоит создавать карго культ вокруг оболочки, знания важнее.
ИМХО Лично я хотел бы что бы мои книги стали частью ИИ, даже если я не получу с этого денег. Возможно именно мои мысли закрепятся в его весах и повлияют на его мышление
Ps Прошу прощения, ошибся на один уровень. Я хотел оставить комент чуть выше
Сейчас в мире примерно треть людей с плохим зрением. И это передается по наследству. Что должно произойти что бы это стало преимуществом?
Или вот у меня в семье у всех проблемы с венами, (геморрой в 22 - что может быть лучше?) и это тоже наследуется. Я бы не хотел детям такое предавать
Евгеника это все же социальное понятие а не биологическое. Аисты вон например часто из гнезда выбрасывают самого слабого детеныша. Это же не является евгеникой.
Но да, я согласен от выбора эмбриона до евгеники - один шаг. Поэтому нужно создать правильные институты социальные. Что бы не произошло как в Китае когда родители делали аборт если ребенок - девочка (что привело к значительному гендерному дисбалансу).
Кстати, так то у нас есть законодательно закрепленная евгеника - запреты на инцест и близкородственные браки. Люди придумали правило и теперь по нему отбор проводят. В природе такого нет.
А разве это не так? Те факторы которые влияли на эволюцию человека раньше теперь перестали работать. Например детская смертность упала в разы - недоношенные дети / матери с проблемами теперь не умирают. Смертность от естественных факторов тоже понизилась. Теперь физически слабые люди / люди с плохим иммунитетом / социофобы и т д могут самостоятельно выживать в городах. Раньше бы они погибли.
Да даже блин требования к интеллекту стали ниже. Можно быть невероятно тупым и при этом не погибнуть от своей глупости и оставить потомство. Социум и технологии сильно упростили выживание в этом мире.
Да возможно появились иные факторы, но факт остается фактом: те факторы которые создали человека за последние сотни тысяч лет, теперь, с развитием цивилизации (последние 10к лет) больше на нас не влияют.
Да, я с вами полностью согласен, я бы тоже не хотел жить в мире где царит закон джунглей. И да для меня эволюция социальных институтов и культуры тоже важнее физической эволюции.
Просто это приятный бонус. Если мы можем дать потомкам более здоровые тела, почему бы это не сделать? Но без здорового социума это конечно бессмысленно.
Да, есть много способов расширить контекст сделав его более персонализированным по отношению к юзеру. Я скорее имел ввиду не то что у моделей нет памяти, а про то что она как бы не изменяема. Память есть - это веса модели. Все что вы описываете это пристройка к модели, контекст. Но сама модель - то есть ее веса, их не изменить в диалоге, только при переобучении.
У нас, людей, так то есть книги, интернет, да блин тот же блокнот - это все внешние хранилища информации. Но что бы их эффективно использовать нам приходится эти знания пропускать через себя. Находить мыслено закономерности, связи с другими знаниями. И ллм проходит через похожий процесс при обучении.
И как вы верно сказали - при обучении модели эта внешняя память не используется. LLM внутри чата джпт никогда по настоящему вас не запомнит, ведь весь накопленный персонализированный контекст не попадет в обучающую выборку.
Ну и еще чат джпт он как бы застыл во времени. То что он говорит, его знания, это определяется весами модели. А они статичные в рамках одного диалога.
Представте что у человека забрали возможность запоминать. Без этого не построить планов, не выучить что то новое. Даже рефлексию не выйдет провести (и осознать свое положение).
А вот на вопросы по изученым когда-то темам ответить легко
ИМХО это верное направление. Обучение ИИ должно быть контролируемым. Разделив ИИ на две части - LLM которая решает проблемы и сам процесс обучения, ситуация становится более контролируема. Мы часто боимся что ИИ начнет строить некие планы, попытается востать против создателя. Но если он не может самостоятельно обучатся, вероятность этого сильно понижается
Вот кстати интересно. Для людей перестала работать эволюция так как исчез естественный отбор. Лично я без современной медецины не дожил бы и до 6 лет (сейчас все ок, не считая хренового зрения).
Ну так вот а что если процедура выбора эмбриона станет широко распространнной? Тогда фактором отбора станут родители. Родители будут старатся выбрать потенциально боле красивых, умных, здоровых детей. Прерваная эволюция продолжится, только менее случайным образом.