Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 14
Сова натянута на глобус.
Жрать охота - сварил. Спорынья, заражение, лихорадка, you died.
Жизнь стала безопаснее, но ваши судьбоносные решения (выбор профессии, места жительства и т.д.) всё ещё влияют на продолжение рода.
Зачем доверять на аутсорс решения, влияющие на вашу жизнь, даже незначительные? А вот рабочие процессы можно доверять, убедившись в их адекватности.
Живём для удовольствия, и каждое решение это выбор между болями и удовольствиями, а работа - обязанность, пускай агенты пашут.
Жизнь стала безопаснее, но ваши судьбоносные решения (выбор профессии, места жительства и т.д.) всё ещё влияют на продолжение рода
Ну так-то в 21 веке размножаются все, включая кривых, косых, жителей столиц и райцентров и даже капитаны дальнего плавания... Так что с продолжением рода с точки зрения возможностей все гораздо лучше, чем в "старые (не)добрые" времена. С точки зрения желания вопрос стоит немного иначе, но вы же не об этом, если я верно понял
Я бы хотел увидеть хоть один реальный пример, в котором суждение делегируется ИИ, и из его суждения потом предпринимается какое-то действие. Вот чтобы взяли камеру, человека, и засняли весь этот кейс от и до с последующим дебрифингом пациента, потому что я себе даже вообразить не могу такое. ЛЛМки несут полную ахинею, и чтобы это увидеть, не знаю как другим, но мне видно на автомате - просто читаешь выданный текст, и слова перестают семантически биться друг с другом, для этого даже "думать" не надо. А если начать думать, то сразу появляется масса вопросов и корнеркейсов, которые если задавать, то ЛЛМ очень быстро скатывается в неразрешимые противоречия и галлюцинации. Ну то есть я не представляю, как такому инструменту можно хоть что-то делегировать кроме написания простого кода, и то потом все равно придется руками выправлять.
“Я бы хотел увидеть хоть один реальный пример, в котором суждение делегируется ИИ, и из его суждения потом предпринимается какое-то действие.”
Написание дипломных работ. Проверка дипломных работ.
Найм. Наверное, на Хабре за последние месяцы ни не было без статьи, затрагивающих то, что это стало битвой ИИ с обеих сторон.
Я бы хотел увидеть хоть один реальный пример, в котором суждение делегируется ИИ, и из его суждения потом предпринимается какое-то действие
Современные HR системы на этапе найма? :) Впрочем, как тут уже подметили - кандидаты тоже не отстают
Так современный найм - это поиск по ключевым словам. Там нет никаких суждений, да они и невозможны на столько скудном наборе информации. Любые выводы о человеке по резюме - это случайная болтология, что у человека, что у машины. Я же говорю про кейсы, где возможно настоящее мышление, где вощможно совершать дедуктивные/индуктивные умощаключения.
Так современный найм - это поиск по ключевым словам. Там нет никаких суждений, да они и невозможны на столько скудном наборе информации. Любые выводы о человеке по резюме - это случайная болтология
Ну не могу полностью с вами согласиться. Суждения там вполне возможны, когда ключевые слова в резюме связываются с вашим личным опытом как нанимающего, например. Т.е. "2015-2017: Рога и копыта, проект Немезида" в резюме вызывает суждение вида: Хм, с 15 по 17 год Немезида была единственным успешным проектом рогов и копыт и в проектную команду попадали только самые сильные сотрудники... И т.д.
Я же говорю про кейсы, где возможно настоящее мышление, где вощможно совершать дедуктивные/индуктивные умощаключения
Ну то есть про что-то, что в жизни обывателя встречается 1,5 раза :)
5 копеек и потраченный комментарий в сутки от себя.
А теперь вопрос: кто в этой связке принимает решения?
На самом деле очень простой ответ на очень простой вопрос.
Ответ - решение всегда принимает человек. По простой причине - только человек способен реализовать принятое решение и нести за него ответственность.
В случае агентов которым дали права root на продуктивном ландшафте - ответственность не на агенте , а не администраторе который принял такое решение.
Чуть подробнее по поводу связки ИИ+человек и принятие решения, нужно разделять какую информацию для принятия решения дает ИИ и откуда эта информация берется:
Вариант-1: сочинение на вольную тему
Когда я прошу нейросеть , что то типа "подготовь рецензию на статью, сформулируй гипотезу о XXX , что ты думаешь о ZZZ" - все, что мне нужно на выходе - логически связный и полноценный текст. Никаких действий на основе этого текста не планируется , откуда берет информацию и как нейросеть связывает слова в логичный связный текст с четко выраженной структурой идеей и обоснованиями - мне в общем то не интересно. Это просто текст. Просто экономия личного времени на сбор информации, редактуру и оформление. Поэтому в данной связке нет того кто принимает решения, есть тот кто готовит информацию и ее использует. То, то ИИ-веганов бесит связный логично построенные гладкий текст - лично меня вообще не волнует. Как совершенно не волнует - как изготовлена тарелка с которой я ем суп - вручную или на конвейере - тарелка выполняет свою функцию за приемлемую для меня цену и не собираюсь переплачивать за маркетинговую разводку "hand made" и прочее.
Вариант-2 : экспертиза и анализ
Когда я прошу нейросеть проанализировать данные экспериментов, ситуация кардинально меняется. Данные подготовлены мной с помощью моего инструмента полностью под моим контролем. Промпт для нейросети имеет вид инструкции для выполнения конкретных действий и конкретного анализа , без галлюцинаций и недетерминированности ответов. Если информации для вывода нет - нейросеть не придумывает а уточняет - "для проведения анализа по XXX не хватает данных YYY". И поэтому в данном случае уже не просто связный текст а результат семантического анализа и поиска скрытых корреляций. И самое главное : ВСЕ абсолютно ВСЕ выводы и рекомендации принимаются к действию только после экспериментального подтверждения. Поэтому в данной связке - решение принимает и несет за него ответственность - инженер.
Возможно мы увидим строго противоположный эффект, где люди, понимая, что все существующие знания доступны в 2 клика и 1 запрос, начнут думать как раз над тем, где готовых ответов нет?
Да, в самую точку .
Никакая нейросеть не даст ответа на вопрос который раньше никто не обсуждал.
А таких уникальных вопросов много? Которые нигде и никто никогда не задавал?
Ведь по большей части интернет хранит в себе все знания человечества. Понятно, что там и мусора созданного человеком полно, но так же все художественные произведения, научные работы, философские трактаты, данные о всех экспонатах во всех музеях мира и т.д. т.е. информация о всем материальном и духовном, что когда-либо было создано человечеством.
А нейросети на этих знаниях и обучались.
Можно сказать, что они хранят в себе все знания человечества.
Понятно, что не в прямом виде, а в виде векторов, но тем не менее.
А таких уникальных вопросов много? Которые нигде и никто никогда не задавал?
Гипотетически их околобесконечное количество, если мы принимаем гипотезу об околобесконечной вселенной.
Собственно, проблема как раз в том, что в интернете полно ошибочных, недостоверных, кривых, неполных данных, откровенного вранья и троллинга. Зачасутую, отличить это от правды не может и человек, а уж нейронка-то и подавно. И это раз за разом проявляется. На выходе - логически связный и полноценный текст, содержащий одну или более фактических ошибок.
“Что-то подсказывает, что 5% суждений человек делегировал еще несколько тысячелетий назад”
У нандертальцев мозг был более, чем на 5%, крупнее нашего. Внешний интеллект, которому делегировали, - собачий. У нас деградировали чутьё и способность чутко спать (хм… может и не случайно однокоренные понятия).
Я вижу, что на данный момент ИИ поисковики/GPT - это удобный, дешёвый и универсальный(относительно) способ для решения задач поиска, быстрого анализа, написания текстов, быстрого накидывания вариантов, в общем, работы с текстом и информацией. И то, для многих вещей требуется грамотно и вдумчиво написанное ТЗ (промт), что, имхо, иногда проще (быстрее) гуглу довериться. На этом пока всё.
Прикладные нейросетки типа машинного зрения или написания кода, генерации картинок, работы с доками в CRM/ERP и т.д. - это всё ещё частные случаи с достаточно "ограниченным" функционалом, в том плане, что он не может дать нормально решения на нетипичные и уникальные запросы.
И самое главное: ИИ может дать ответ только на ваш запрос. Но дать цель/задание, начать действие и принять решения – это, пока что, на себя берёт только человек. Пока у ИИ нет "рук" и возможности "хоть как-то" принимать решения - я сомневаюсь, что может начаться некий новый коллапс агентности / деградация вида. Опять же, не могу упомянуть, что для сложных задач требуется написать качественное ТЗ, написание которого требует напрягать извилины, что не даст деградировать тем, кто думает.
Поэтому, я считаю, люди склонные к конформизму, слепо верующие авторитетному мнению, с отсутствием критического мышления и без ИИ не будут принимать обдуманные решения и будут продолжать соглашаться с любым уверенно сказанным утверждением (а иногда не уверенно, но зато по телевизору же!). А те, кто развивает критическое мышление, периодически проводят фактчекинг, да и в целом, развиваются как личность – им точно не грозит никакой кризис агентности.
А вот когда ИИ станет действительно «универсальным солдатом», обретёт реальные «руки», и получит целевое направление, в рамках которого сможет принимать свои решения, будет меньше (или НЕ) завесить от скорости интернета, тогда уже будет… интересно))
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Game Over для мышления? С фига ли баня средь недели…