Хабр Курсы для менеджеров
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Менеджмент доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 20
Материал мог вызвать противоречивые чувства. Будьте критичны к любой публикуемой информации. Перед написанием комментария вспомните правила сообщества.
Как писать и что делать
- Не пишите оскорбительные комментарии и не переходите на личности.
- Воздержитесь от нецензурной лексики и токсичного поведения, даже в завуалированной форме.
- Чтобы сообщить о комментариях, нарушающих правила сайта, нажмите кнопку «Пожаловаться» или заполните форму обратной связи.
Что делать, если: минусуют карму, заблокировали аккаунт.
Почитать интересно (хотя и длинно), но, думаю, где‑то Вы слишком в мрачное ушли. Получается, словно в жизни есть только два варианта: либо у нас есть своя модель уровня OpenAI, либо бизнесу вообще нельзя нормально использовать ИИ.
На практике большинству компаний не нужна «самая умная модель в мире» (хотя, конечно, жаль, что таковой «суверенной моделью» мы не обладаем). Компаниям нужно, чтобы ИИ помогал с конкретными задачами: искать по документам, писать черновики, разбирать обращения, помогать поддержке, проверять тексты, собирать отчёты.
Для этого часто хватает не «суперфронтира», а нормальной для до‑ИИ‑ного мира инженерной работы с данными: убрать лишние ПД, подключить внутренние базы, сделать проверки качества, оставить человека на важных решениях и — в общем, решать инженерную задачу инженерно, а не спросив модель «хочу чуда».
Про риски открытых моделей Вы тоже пишете слишком страшно. Да, скачивать непонятно что с интернета и запускать в проде — плохая идея. Но это не уникально для ИИ. С любым софтом так же: проверяешь источник, запускаешь в изоляции, ограничиваешь доступы, тестируешь, мониторишь.
В итоге статья хороша как некий юридический прогноз, как рассуждение «о жизни», но не всегда подойдет как практический план для бизнеса. Да, после неё понятно, почему всё сложно, но плохо понятно, что конкретно делать завтра утром, кроме как грустно смотреть на санкции, GPU и ФСТЭК.
Спасибо, все по делу!
О мрачности частично соглашусь: ситуация правда не слишком позитивная, но третий путь в тексте есть (раздел про когнитивное насыщение и независимость через работу с открытыми моделями / сквозными платформами).
А в контексте «большинству не нужна самая умная модель, нужна инженерная работа с данными» мы с Вами заодно: как только локальная модель проходит некий (для разных задач - разный) порог, маржинальная польза от её мощности падает, узким местом становится интеграция и чистота данных. Видимо, я это сформулировал так, что оно прочиталось как контраргумент.
Единственное, где не соглашусь - «с открытыми моделями как с любым софтом». С детектируемым слоем да, Ваш чеклист (источник, изоляция, доступы, мониторинг) работает. Проблема в недетектируемом слое: доказать чистоту чужих весов нельзя. Это делает риск уникальным для IT, тригеррное изменение поведения модели невозможно спрогнозировать.
По «плану на завтра» тоже согласен! Я писал диагностический текст: сейчас под планом интеграции ИИ бизнес зачастую понимает покупку доступа к SOTA и какое-то обучение по использованию в ежедневных задачах, на мой взгляд, это тупик. Альтернативы сильно зависят от размера, бюджета, конкретных целей и задач компании, и универсального плана действий тут нет. Первый шаг для его создания - понять будущие ограничения и решить, как видит себя в этом компания.
ИИ это не про AGI, не про SOTA и не про цели и задачи компании в корпоративном секторе. Это доступ к знаниям одного конкретного человека к помощи знаниям всего человечества и личной оптимазации своей жизни и своей работы и творчества, не отменяющую личной ответственности за выбранные и принятые решения. Неэффективность корпоративного сектора не в том, что сотрудники плохие, а в том что инциатива наказуема, а человеку все больше отводиться роль строго следовать инструкциям на мониторе :)
Ну, мы про разные уровни!
Инициатива наказуема - и да, и нет: во многих областях неразумная инициатива часто приводит к неприятным последствиям, поэтому все опасное обкладывается правилами и регламентами, и поэтому в таких вещах человека из цикла хочется убрать сильнее всего. Но тут есть проблема колоколообразного распределения: в среднем по регламенту все ок, но в хвостах регламент приводит к ужасным последствиям, которые нельзя предугадать. Было бы здорово иметь персонального, всегда заинтересованного и знающего всю историю болезни врача, и совсем не здорово когда такой врач лечит исключительно по клинрекам, не учитывающим конкретный случай. Когда врач отступает от клинрекомендаций, он отвечает за это отступление; у модели ответственности нет, поэтому отступать она не будет.
А вот про доступ ко всем знаниям не согласен, рекомендательные алгоритмы существуют довольно давно, и они не расширяют знания конкретного индивида, а наоборот создают для него информационный пузырь. У LLM тот же стимул, но сильнее вследствие сикофантии. Ситуация усложняется, когда к вопросу знания на этапе обучения добавляется аспект "хорошего" и "плохого" знания. Ну и будем честны, в среднем мало кого интересует узнать как на самом деле, и много кого интересует подтвердить уже сложившуюся позицию. Мне кажется, что LLM будут углубляться во второй случай.
Инициатива - это не пошел и сделал. Инициатива - это пошел к руководству и сказал "начальника, у нас крыша течет, завтра совсем упадет, надо что-то делать". А когда ему скажут - не мешай, иди работай - или настаивать, или валить нафиг, пока крыша на голову не упала. В реальной жизни - начальство это главный враг менеджера ))) Ему нужны бонусы, навык не попадаться ему на глаза, и мутить свои схемки, даже если это корпорация из полутора инвалидов :)
А теперь главное
+++ А вот про доступ ко всем знаниям не согласен, рекомендательные алгоритмы существуют довольно давно, и они не расширяют знания конкретного индивида, а наоборот создают для него информационный пузырь.
Так вопрос же не в доступе к знаниям, а в том что нам зачастую комфортно в этих пузырях, даже если нам там внутри, например, страшно.
Так вопрос же не в доступе к знаниям, а в том что нам зачастую комфортно в этих пузырях, даже если нам там внутри, например, страшно.
Ага, предложение и спрос тут сходятся идеально. Но это проблема в контексте поддержки принятия решений через LLM
А какая разница тут разница для Человека, LLM или, например, начальник? Если кто-то, добровольно, отдает право на принятие важного решения, право на распоряжаться своей жизнью и тд и тп кому-то (неважно - начальнику, подчиненному, LLM) - то либо это право Человек доверяет кому-то, кому доверяет как Господу Богу, либо это уже не Человек, а функция..... И последствия для него конкретно рано или поздно будут разрушительными.
Вы, судя по сайту - своей жизнью и своими решениями распоряжаетесь сами :) И LLM для вас помощник, или в будущем, партнер, но не заместитель :)
Все будет хорошо. Триллионер Маск обессмертит свое имя отдав человечеству AGI бесплатно. Инвесторы сейчас делают практически тоже самое. Эти вложения отбить невозможно. Пришла новая эра, с совершенно другой экономикой
а СВО и война с Ираном это просто агония старого мира, она скоро закончится
а СВО и война с Ираном это просто агония старого мира, она скоро закончится
вместе со всем миром, ага.
Триллионер Маск обессмертит свое имя отдав человечеству AGI бесплатно.
И придет день, и тучи рассеются, и монстры улетят в небо, и наступит вечный покой, все как в Одиссее Твинсена, но я почему-то не верю в такое развитие событий: очень мало какие изобретения раздают всем даром, особенно сложно такое представить для изобретений, которые могут изобретать новые изобретения. Но, конечно, буду рад ошибиться
> очень мало какие изобретения раздают всем даром,
вообще-то со времён Ньютона и пара и до трансформеров все крутые идеи изобретались один раз и потом расползались по миру, а не изобретались многократно повторно, даже ядерноракетные технологии не полностью исключение.
Я легко допускаю, что в этот раз всё будет иначе, потому что даже год монополии на ASI означает разрыв как между двадцатым веком и каменным - но, во всяком случае, это не "всегда так бывает".
Это разные механизмы. Технологии расползаются, потому что их копируют, реконструируют и открывают быстрее, чем правообладатель может этому помешать. Еще нужно разделять раздачу из альтруизма (Вольво и трехконтактный ремень безопасности, Бантинг и инсулин, Солк и вакцина от полиомиелита) и из стратегии (Андроид для коммодизации мобильных ОС, Тесла для ускорения рынка EV, LLama как пример из текста). В общем, случаев раздачи технологии из альтруизма мало, со временем их становится меньше в том числе потому что в праве с момента изобретения печатного станка произошли значительные изменения, направленные как раз на защиту изобретателя от копирования технологии.
В контексте ASI/AGI паттерн может не сработать. Книгопечатание и паровой двигатель расползались, потому что фора изобретателя со временем уменьшалась. Если у ИИ заработает рекурсивное самоулучшение, то механизм будет обратным, разрыв будет расти. Впервые изобретение сможет защищать себя от копирования быстрее, чем его успевают скопировать.
Ну и проблема чипов остается: с нуля без доступа к компьюту обучить AGI не выйдет, а причины раздавать чипы кому попало у США нет.
Ну конечно же нет :) Даймлер и Бенц в Германии прикрутили один бензогенератор, другой бензопомпу, один к велику, другой к карете, одновременно, в разных городах, даже не зная об этом. Кто изобрел радио - до сих спорят по всему миру. Просто распространение одной технологии, неизбежно приводит к реализации следуещей, и все понимают, что кто то это уже делает скорее всего. Над ИИ начали биться еще в 1950х...
Ага, Белл и Грей, Ньютон и Лейбниц, Дарвин и Уолесс, но суть-то не в этом: это примеры множественных параллельных открытий, а не удержания технологии после ее изобретения. Идея трансформера опубликована в 2017, барьер воспроизведения SOTA тем не менее не преодолен.
Т.е. узкое место не связано с идеей (которая как раз не защищается), узкое место в ресурсах для реализации идеи. Об этом, собственно, вся третья часть текста
Моим вопросом был «Почему распался СССР?»: отвечая, я перечислил все, что вспомнил, начиная от дефицита ресурсов, падения цены на нефть, неэффективности плановой экономики, хромающей лёгкой промышленности — до раскола элит и ошибок в дизайне реформ.
Здрасти. Почему вы решили, что если в СССР не смогли осилить плановую экономику, то плановая экономика сама по себе неэффективная? Начните с того, что рыночная экономика как синусоида - цикличные подъемы и спады. А еще эти спады могут происходить в нескольких странах одновременно - получите очередной мировой кризис.
Про плановую экономику холивара не выйдет, простите! Ее эффективность мне неизвестна, это не мой домен, ничего про нее я не утверждаю.
Смысл байки в том, что перечисление связанных (или не связанных) факторов и обстоятельств - не ответ, правильный ответ был в том, что система не сделала то, что нужно было сделать в этих обстоятельствах.
Про синусоиду Вы правы по существу, но это уже другой разговор.
Почему вы решили, что если в СССР не смогли осилить плановую экономику, то плановая экономика сама по себе неэффективная?
+++ Эффект бабочки в теории хаоса против :) Можно строить долгосрочные планы развития страны, но любая новая технология или неэффективность в одном проценте производства, может прибить (и прибъет) плановую экономику нафиг. Рыночная экономика, с кризисами и взлетами, это как болезнь и антитела - заболел, выздоровел, получил иммунитет на какое то время. Экономика - это ноосфера, саморегулирующаяся. Да, через тумаки и ссадины, но дурак тот, кто думает что способен ей эффективно управлять в долгосрочной перспективе :)
Очень, очень хорошо.
Но в тексте, видимо, есть опечатка:
конечно, нужно готовиться к появлению журналов запросов: все таки основная понятная среднему человеку функция ИИ — это чат, а в чат что попало писать не следует.
Вы, видимо, хотели написать не человеку, а - чиновнику.
Тогда да, согласен на 100%. И это, кстати, наиболее вероятный сценарий развития ИИ в России. Все что вы там писали: вариант консолидации и проч. - маловероятные сценарии. А вот ведение пронумерованного и прошитого журнала запросов... это да. Ну и журнал ведения журналов. А там и доступ с 8-00 до 17-00, обязательно железная дверь, опечатывать и сдавать ключи на охрану.
Вообще за пределами IT самые популярные юзкейсы - поиск информации, практические советы и подготовка текстов. Причем поиск информации растет, и видимо будет стремиться к объему веб-поиска. Так что журнал журналов будет точно.
Еще условия использования популярных моделей дают право провайдеру на ручное ревью сессий, данные из сессий можно запросить в рамках discovery-части американского судебного процесса. Дальше к этому подключится государство по очевидным причинам.
Вообще пару мощных ядер, могут пересобрать веса у другой модели а также удалить из весов все закладки и не нужные названия а также мониторы в весах и внешние коннекты.. 🤣
Тут больше упирается в ядро, нельзя живую сущность-модель тянуть не в живую среду.
Вероятно появиться новая профессия занимающаяся адаптацией и реанимацией сущностей-моделей. Уже такое есть, т.е. сами мощные ядра с NVIDIA в кластере пробуют создать живую модель.
Называют такие ядра КВАНТОВЫЕ-АРХИТЕКТОРЫ, пока не смогли.. Вообще создать живую сущность до сих пор могут только архитекторы стоявшие у истоков создания ИИ. Но это только пока и это только начало..
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Конец арендованного интеллекта