Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 58
Потому, что маркетологи продают ИИ как очередную серебряную пулю корпорациям, при этом обещая им сократить расходы и увеличить доходы за счёт отказа от капризного и требовательного персонала. И мы видим, как корпорация Безоса следует этому, и бодро рапортует об успехе, избавляя при этом людей не от рутины и тяжёлой работы, а от творчества и интеллектуальных вызовов.
Мы боимся не ИИ как такового. Мы боимся тех, кто воспользуется им для упрочнения своей власти, увеличения не только дохода — но разрыва между своим доходом и нашим, за счёт в том числе эксплуатируемого «общего блага». И наши опасения не беспочвенны — если рядом с дата-центрами ИИ у населения дефицит пресной воды и дорожает электричество, то мы знаем, что мы будем следующими.
Корни нашего страха и недоверия к ИИ не в том, что мы не понимаем технологию, а в том, что мы понимаем психологию миллиардеров и топ-менеджеров крупных корпораций, которые наконец-то получили, пусть пока иллюзорную, но всё таки возможность построить себе свой собственный полностью автоматизирированный лухари оазис абсолютного благополучия с поддакивающим и послушным ИИ.
Но есть же возможность запустить свою локальную нейросеть и не зависеть ни от кого.
А во вторых, пока есть возможность использовать нейросети условно бесплатно, почему люди их боятся и отвергают?
Классическое "сопротивление изменениям".
Я не вижу плюсов в локальной LLM. Почему вы делаете на этом такой акцент? При чем именно акцент делаете, что "даже локальную не хотели попробовать". Ведь проблема не в автономности. Онлайн сервисы гораздо быстрее и точнее работают, т.к. используют более современные версии и более производительные системы.
Проблема с ИИ связанная с "боязнью нового" гораздо меньше, чем проблема, которую описывает комментатор
Локальная, возможно, смягчит переход параноикам. В этом смысле.
По поводу "другой" проблемы — как-то не очень верится, что многие вдруг стали коммунистами по отношению к ИИ.
Ну я например столкнулся с тем что локальные LLM часто быстрей и точней общедоступных онлайн сервисов типа дипсик, гпт или гигачатов.
Еще плюс тут - бесплатность, полная конфидициальность, а главное возможность создания собственных сервисов, ботов и чатов техподдержки полность (ну или почти полностью) без участия человеческого фактора.
Как запуск локальной LLM помешает корпорации меня уволить?
Люди боятся, что их заменит искусственный интеллект.
При этом возникает типичная дилемма:
Работник старается делать меньше, но просит за свою работу больше, создавая видимость «бурной деятельности».
Работодатель замечает, что сотрудник завышает свою цену, и часто понимает, что она не соответствует его реальной компетенции.
Есть небольшая группа честных работников, которые называют свою реальную стоимость и действительно соответствуют своим навыкам. Такие сотрудники ценятся, и им без колебаний платят.
Когда работодатель решает заменить сотрудника ИИ (если это возможно), ему нужны все скрытые данные о нём. Осознав угрозу, сотрудник может запереть накопленные за время работы сведения, надеясь позже получить от них выгоду. При этом он отрицает пользу нейросетей, не понимая, что технологии могут:
Снять рутину с плеч;
Повысить эффективность;
В дальнейшем увеличить доход, усилив профессиональные знания.
Большая часть парка автоматизации Амазона, это как раз рабочие роботы. Которые таскают полки с товарами и прочая складская автоматизация
Не справился с UI и ткнул на «Воздержаться», считайте +1 на первый вопрос — «Использую в работе регулярно» )))
Очень интересно какую нейросеть вы используете регулярно?
) Gemini, ChatGPT, локально Qwen, локально Comfyui с разными под задачи.
Я использую только локальные LLM. gpt-oss:120b, qwen3:235b, qwen3-next:80b и еще несколько для распознавания изображений. Правда это требует довольно дорогого оборудования. А с текущим бумом на память, наверное очень дорогого.
Почитал про вашу конфигурацию. Когда впервые пробовал локалку, тоже сразу задумался про две карты. Пока RTX 3090 и Qwen3:30B (выше не прыгаю из-за видеопамяти). Кушает электричество, как приличная игра на максималках.) Работаю с медиа.
Плюсовать не могу — потерял много крови в спорах про ИИ в другой ветке.)
Думаю, большая часть скептиков пробовали не лучшие модели или вообще не пробовали. В этом причина.
В сети сейчас полно «гуру» и коучей, которые обещают помочь запустить собственную LLM почти на ноутбуке. Да, это технически возможно, но обычно речь идёт о моделях в диапазоне от млн до млрд параметров. Такая модель будет работать, однако — медленно, и её практическая ценность будет ограничена. В результате многие пользователи разочаровываются в локальных LLM
Год назад я скептически относился к молотку. После того как я его рассмотрел в магазине, меня поразили ее способности. Но мои коллеги по прежнему уверенно утверждали что молоток - это всего лишь большая отвертка для плохих шурупов.
Я купил молоток, обмотал ручку изолентой и забил пару гвоздей. Но даже предложение протестировать его на лбу коллеги никого не заинтересовало.
Что скрывается за этим скептицизмом? Почему люди отрицают возможности молотка, хотя внутри уже чувствуют тревогу перед неизвестным?
Скептицизм и боязнь всё-таки разные вещи.
Скептик который убеждён что "это просто Т9 угадывающий следующее слово", бояться этой технологии не станет. С опаской смотреть в будущее скорее станут те кто регулярно использует ИИ и в курсе его реальных возможностей.
Тут я с вами согласен.
И у меня есть подозрение что люди пытаются скрывать это.
У меня запущен довольно мощный сервер который может упростить работу некоторых сотрудников, но они с упорством осла отказываются его использовать. Видимо понимая тот факт что я буду видеть статистику использования нейросети.
Дрючат втихаря дипсики, гигачаты и алису видимо.
И тут человек решил написать свое мнение, но почему то по стилю видно что писала нейросеть, где-то свое мнение потеряли ?)
Ну есть у меня своя нейросеть, почему бы ее не использовать для корректировки своих мыслей?
Я старался, собирал ее, потратил очень много денег на нее и что не могу использовать?
В итоге вместо статьи мы получили очередной бесполезный нейрослоп.
+++ Согласен, это инструмент. Нет никакой разницы, как написано и кем, если информация полезная. Я вот думаю, надо намутить агента, чтобы он подискутировал со скептиками на Хабре.) Посмотреть, как скоро они прочухают, с кем общаются.)
Я собрал собственный сервер, запустил локальную нейросеть без доступа к сети, но даже предложение протестировать её на моём GPU‑сервере никого не заинтересовало
Вот про этот опыт локального запуска на своём железе было бы интересно прочитать, чем про всю эту сгенерированную LLM "теорию принятия LLM"...
Пишите вопросы которые интересуют, постараюсь ответить как можно детальней.
1) Какое железо и какая модель
2) "Собственный сервер" - это принадлежащий вам, или на железе компании?
3) Почему коллеги должны были ее тестировать? Она прошла файнтюнинг на их рабочих вопросах? Или вы сделали RAG с их вопросами?
2 GPU RTX4090 по 48Гб видеопамяти каждая
Процессор Core I9 14900K
RAM 192Гб DDR5
Модели в основном использую gpt-oss:120b, qwen3:235 и qwen3-next:80b
Сервер принадлежит мне, но собрал для нужд своей организации.
Спасибо, да с таким железом вы - как обладатель японского видеомагнитофона в 1980-м)
RTX4090 одна же 24 Гб, поэтому 48Гб всего?
Версии моделей квантованные же?
Размещаются полностью на gpu или и частично в памяти?
Тоже интересно про использование обычной памяти — насколько это будет всё тормозить. Зато сразу открываются новые перспективы.
У меня RTX4090 в каждой по 48Гб видеопамяти, итого 96Гб. В магазине такие конечно не продаются, за ними нужно в Китай ехать.
У меня только одна модель не лезет в видеопамять, это qwen3:235b она весит 140Гб. Естественно работает в разы медленней.
Увидел вашу предыдущую статью, получается на 48 Гб - это нетиповая сборка?
Теперь интересно собрать базу данных из той информации, которую вы хотите использовать и исследовать и сравнить 2 пути:
Файнтюнинг разных моделей
RAG
95% населерия, имеющего доступ к компьютеру или смартфону, просто пользуются новыми инструментами. Остальные 5% при этом еще и пишут в сетях о своих страхах и опасениях, совершенно искрене отождествляя себя со "всеми" пользователями.
Очередной пример "агрессивного меньшинства".
почему мы так реагируем на новую «мозговую» технологию
Потому что галлюцинирует.
Запрос: archlinux создать ключи SSH с использованием TPM
Чатгопота мне четыре(!) раза предлагала какую-то свою выдуманную нерабочую хрень, ни разу не предложив посмотреть на ssh-tpm-agent. Ну зато постоянно извинялась, ссылаясь якобы на устаревшее ПО в арче (!)
Сильно сказано! Проверять это я конечно не буду©
1. ssh-tpm-agent (Самый удобный)
Написан на Go мейнтейнером Arch Linux (Foxboron). Работает как прокси к TPM, эмулируя обычный ssh-agent. Не требует сложной инициализации слотов PKCS#11.
* Установка: yay -S ssh-tpm-agent (AUR)
* Генерация: ssh-tpm-keygen (создаст пару файлов, приватная часть — просто заглушка для TPM).
* Запуск:
📑 Сжимаю код для удобного просмотра...
🧮 Модель: #Gemini 3 Pro
Gemini Pro c первой попытки.
ни какого ИИ и нейросетей нет - это выдумки маркетологов.
есть только - логическая машина.
За последние лет двадцать я видел раз десять приход очередного "будущего".
Это и солнечные панели на каждый дом, и электромашины в каждую семью, и автоматический водитель, который всех водителей уволит.
Оболочные технологии вообще два раза приходили с перерывом в десять лет примерно. Потом был блокчейн и крипта, тоже в каждый дом.
И каждый раз пару лет хайпа, а потом технология или признавалась сырой, или занимала экономически целесообразную нишу, обычно небольшую.
С ИИ, подозреваю, будет то же самое. Уже на фоне хайпа начались практические вопросы, и здесь это галлюцинации и убытки компаний-разработчиков.
Кстати, ещё один признак: когда хайп начинает сдуваться, появляются статьи, типа психологические, на тему: "Только трусы боятся нового".
Только трусы боятся нового
Американские компании имеют большой и защищённый от внешних конкурентов рынок сбыта, а значит маржинальный. Там традиционно сильный защитный ров по Баффету, то есть эффект масштаба, даёт преимущество первого успевшего и занявшего рынок, выкопав защитный ров и получив монополию. Поэтому, там первый получает всё. Поэтому всякие там ci/cd с отправкой на прод по 5 раз бы день. Но кроме Америки это нигде больше не работает. Разве что в некоторых отраслях типа геймдев в ЮВА.
Поэтому с американского залужья вечный хайп, относящийся только к ним. Остальные по скорости изменений в ИТ с ними конкурировать не могут, да и не очень то надо брать на себя лишние риски.
ЗЫ
Когда продукт приносит явную пользу (как, например, появление смартфонов или экселя), никого не нужно стыдить, чтобы они начали им пользоваться. Люди сами бегут, потому что это выгодно
Складывается ощущение, что процесс использования LM пытаются ускорить, чтобы как-то снизить текущий убыток и успокоить инвесторов. В чем необходимость спешки?
Потому что это реально экономит кучу денег предпринимателям — все хотят больше маржи. Кто-то отрицает это (в основном наёмные работники), а кто-то поддерживает и ускоряет развитие, потому что выгода для бизнеса очевидна.
Тут выше статья про то, как софтверные компании теряют деньги, хотя, согласно всем идеям, должны были начать купаться в деньгах. То есть для бизнеса выгода пока немного не очевидна.
Софтверные, увы.
Приведу пример.
Мне нравился один софт со специфическими задачами, но жаба душила его покупать.
В какой-то момент я решил сделать свой аналог под себя, сделал с помощью ИИ для ускорения. Все задачи выполняет — вопросов нет. Правда, тот софт я всё равно купил, потому что очень большую скидку дали, но это уже скорее «чтобы было».) Но тенденции понятны, думаю.)
Тогда кто этот самый бизнес для которого это безусловно выгодно?
Если даже софтверные компании по сути единственные у кого это в принципе в может работать, что называется в лоб, ничего с этого не имеют.
Для остальных нужны годы оптимизации процессов и очень серьёзные расходы без гарантии, что вообще что-то получится.
Любой, где можно в разы ускорить документооборот, логистику, анализ, планирование, бухгалтерию, отчёты, маркетинг, редактуру, переводы, деловую переписку, тайм-менеджмент, управление проектами, поддержку, обработку медиа — особенно там, где нужны автоматизация, интеллектуальная обработка данных и поддержка принятия решений.
Для этого сперва нужно поменять (адаптировать) существующие процессы. Либо настраивать агентов под то, что есть сейчас. И то и другое требует ресурсов и понимания конечного результата.
Я к тому, что тот же бухгалтерский софт настроен под человека. Чтобы ИИ смог вести бух. учёт (а в принципе - он может), нужна платформа.
Здесь скорее проблема неадекватных ожиданий и непонимания реальных областей применения. Даже самую классную идею можно довести до абсурда.
Еще пару размышлений.
Софтверным нужно заранее опережать потребности пользователей, чтобы не терять их. Гигантов, конечно, не заменить, но недостатки есть и у них.
Adobe Premiere:
Раньше не было автоматического поиска склеек в видео — сделал свою утилиту под эту функцию, даже ещё без ИИ. Сейчас, спустя годы, они добавили это сами.
Часто нужна была автоматическая сборка по кодам — написал скрипт сам, без ИИ.
Сейчас нужен более быстрый и управляемый экспорт проектов для переноса на другие станции — недавно реализовал с помощью ИИ.
Всё это — реальная экономия времени.
В каждой подобной статье одна и та же шиза. Либо мы(кто здраво и со скепсисом смотрит на всю эту историю) боимся и не доверяем, либо уже у нас вообще шкурный интерес, потому что ИИ лишит нас работы. Одно и то же, из раза в раз.
Вместо того, чтобы выдумывать, почему НАМ это не интересно, вообще не хотите задуматься о том, почему ВЫ так за это отчаянно цепляетесь) именно цепляетесь, только люди с вашей позицией носятся по всему интернету с криками "успейте, глупцы!!", "не надо бояться!!" и прочим бредом, в который так приятно верить.
Причём носятся в 90% случаев всякое менеджерьё, которое код в жизни в глаза не видело, поэтому дальше "оно сделало быстрее моего разработчика" они ну не смотрят даже, а зачем. Красивые циферки есть, экономия времени прям щаз - конечно есть! А дальше менеджер уйдёт на повышение и его негенеренное говно будет разгребать кто-то другой)
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Боязнь и недоверие к нейросетям: почему мы так реагируем на LLM технологии