Обновить

Почему ИИ пока рано управлять бизнесом: как торговый автомат от Anthropic потерял $1000

Время на прочтение2 мин
Охват и читатели7K
Всего голосов 6: ↑5 и ↓1+4
Комментарии32

Комментарии 32

когда первый самолёт в 1903г пролетел 36 метров - это было смешно (газеты писали о «чудаках, пытающихся взлететь как птицы»), но спустя 8 лет с них посыпались гранаты на головы туркам: стало не до смеха.

Почему ллм всегда сравнивают с чем-то, что стало полезным, а не с двигателем Стирлинга, например, который конечно работает, но что-то как-то двс пока не заменил.

Почему ллм всегда сравнивают с чем-то, что стало полезным
Потому, что они делают полезную работу?

Так и двигатель тот тоже делает работу. Даже поезда водил. Просто хуже, чем более адекватные решения.

Просто хуже, чем более адекватные решения.

А какие более адекватные решения есть?

А давайте придумаем кейс, где мы хотим использовать ллм, тогда и поговорим предметно.

Если говорить про торговый автомат. То мне, к примеру, не очень очевидно business value того, что он звонит в магазин. И непонятно, почему в магазин не может звонить простой скрипт.

А давайте придумаем кейс, где мы хотим использовать ллм, тогда и поговорим предметно.

Чем пользуюсь, например:

  1. По coredump определить причину падения

  2. Перевод с указанием желаемого стиля

  3. По интересующей теме выполнить поиск, собрать информацию, классифицировать

перевод с одного языка на другой, в более общем смысле, т.е. не только перевод с условного английского на китайский, но к примеру с русского в javascript, или с python на rust... очень неплохие результаты уже есть, но пока все упирается в цену и контекстное окно.

Тупой вендинговый автомат. Автоматизирует ровно то зачем он поставлен, ничего лишнего не делает.

а почему я должен сравнивать нейросети с чем-то бесполезным, если я сам, по личной инициативе, пользуюсь нейросетями по несколько часов каждый день и нахожу это весьма полезным для себя?
Обратите внимание - я не утверждаю что они полезны абсолютно всем, но мне они полезны и не когда-то в будущем, а сейчас. Конкретно в данный момент с помощью дипсика делаю cmake-файл для офигенно сложного проекта на Qt.

Обратил внимание, вам полегчало?

стирлинг во всю в компактных ядерных реакторах используют/собираются использовать, для космоса

Капитализм проиграл стресс-тест искусственным интеллектом :)

Довольно бесперспективная задача – писать промпт, который бы заставил LLM добывать деньги для владельца. Это просто ненужный труд в контексте всей остальной обучающей выборки.

Смешно что первая статья, пришла после второй статьи. Тут как раз недавно была статья, что Антрофик сделали уже второй эксперемент, который уже был удачным, а автомат прибыльным

Люди пытаются забивать гвозди пилой. Пожелаем им удачи.

Гдн торговый автомат и где генератор фраз..

Так тут автомат сам для себя определяет ассортимент, заключает договора на поставку, заказывает поставку и тд

А попугая, научившемуся произносить 'Что там по задачам?', назначили ПМ.

Для того, чтобы заменить человека в любой области, ИИ должен обладать, кроме всего прочего, двумя способностями - знать и понимать, чего пока близко нет.

Знаний у него сильно больше, чем у любого человека. А что касается понимания, то как вы поняли, что человек понимает больше?

Знания - это воспринятая информация, а не все, что хранится в памяти. Человек тоже может выучить что угодно, не понимая, что это. Пение на иностранном языке не требует знания языка. Понимание требует умения сопоставлять знания. Почему этот автомат согласился с тем, что он в Москве в 1962 году - у него нет доступа к календарю, к прессе? Есть, но нет понимания.

Почему люди соглашаются ради якобы поимки преступника поджечь военкомат?

Я же не говорю, что они думают, знают и понимают... Человек может быть кем угодно, но не надо равняться на него

Ну началось. ИИ лажанул - тупиковая технология, человек лажанул - не надо так сразу судить.

Не путайте цели. Человечество давно отказалось от цели создать идеального человека. Люди какие есть, такие есть. И их надо кормить и обеспечить условиями жизни. А для этого и создается ИИ. Он растет, умощняется, но не надо торопить события и поручать ему делать, то что он пока не может, например, думать и принимать решения.

Никто же не доверит таким людям вести бизнес...

ИНН 770600861904. В бизнесе, как минимум с 1997 года. Только один из известных объектов недвижимости оценивался в 100+ миллионов рублей. Регалии, звания, награды, в т.ч. государственные. И на голубом глазу "под влиянием мошенников"...

Это говорит о широте человеческой натуры. Если найти человека, который поверит, что наступил коммунизм, деньги больше не нужны и отдаст всё, это даст основания говорить, что уже создан ИИ, не уступающий человеку?

Доверяют и намного более глупым. Даже крупные корпорации всякие идиоты и мошенники разваливали

На всех уровнях идет естественный отбор - зачем нужна крупная корпорация, если ею управляют идиоты? В соревновании между человеком и ИИ в итоге победит более умный. Опасность представляет не развитие ИИ, а интеллектуальная деградация человека. Умный человек реанимирует законы робототехники

Почему люди соглашаются ради якобы поимки преступника поджечь военкомат?

Тут похожий, но другой вопрос: а зачем нам вообще нужно IT?

Мне кажется затем, что он привносит строгость, детерминизм и предсказуемость в такие процессы, которые в нашем обычном опыте не имеют этих качеств (либо они выражены слабо).

GenAI в чистом виде, наоборот превращает детерминированные вещи в недетерминированные. В лучшем случае получается как было в дикой природе до IT. В худшем оно добавляет собственный шум и галлюцинации. С таким IT ситуация выглядит не лучше, чем была вообще без него.

очень важно подчеркнуть, что исследование касается только одной платформы - coderabbit, что бы утверждение было весомым, такое исследование нужно провести как минимум с моделями от гугла (который уже по его утверждению на 20% оптимизировал автоматически свой код, правда в узкой области), claude (вроде бы непререкаемый лидер в кодинге, со своими автономными агентами кстати) и само собой openai, точнее нужно сравнивать с готовыми системами типа github copilot, или того же старейшего cursor...

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Информация

Сайт
www.cloud4y.ru
Дата регистрации
Дата основания
2009
Численность
51–100 человек
Местоположение
Россия