Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 77
Мойше Израилевичи попросили через тетю Сару больше так не делать!
На западе еще почему-то не добрались до ИИ моделей все западные движения типа воук-культуры, 100 разных полов и прочих. И каждое это движение будет предъявлять свои требования как модель должна отвечать.
И победят в гонке какие-нибудь китайцы, где ограничений будет минимум и те только касаться китайской политики, которая до фени обычному пользователю.
Как это "не добрались"? Шутите?
https://www.nytimes.com/2024/02/22/technology/google-gemini-german-uniforms.html
https://www.researchgate.net/publication/376085803_ChatGPT_and_Anti-White_Bias
https://www.reddit.com/r/ChatGPT/comments/13bv6ex/im_actually_speechless_is_chatgpt_really_this/
https://www.reddit.com/r/OpenAI/comments/11lulsm/why_does_chatgpt_have_such_an_antiwhite_bias/
Это за минуту в гугле. Больше всего мне понравилось про "do white lives matter?".
Видимо, врачи и юристы на западе начали терять доходы. А это святое.
Не знаю, как он с западной нормативной базой работает, но у нас юристы только больше бы стали зарабатывать после вредных советов от чата. Выдуманная нормативная база это прям его любимое.
Что мешает попросить ссылку на конкретный закон или даже решение суда? У меня стоит юридический плагин, так он отлично это делает.
П.С. И кстати сейчас проверил и он нормально дальше работает. Так что не особо понятно что там отключили.
Ссылку то он даст, но не факт, что по ней будет именно то, что он говорит. Даже thinking режим этим страдает, мне как-то раз 5 подряд давал ссылки на документацию вендора, в которой ни слова не было о нужной функциональности, пока не признался, что не может найти ничего подобного.
Ссылку то он даст, но не факт, что по ней будет именно то, что он говорит
Ну так и в чём проблема самому прочитать? Ну если случай важный? И если там этого нет, то либо долбить его пока не даст нормальный ответ, либо просто обходится без него по старинке если не получится?
П.С. Плюс в куче случаев на самом деле и не нужен настоящий закон. То есть банально если я ругаюсь с условным продавцом онлайн-магазина, то мне не особо важно насколько мои возражения совпадают с реальными законами. Мне важно чтобы продавец поверил что законы на моей стороне :)
В вашем случае вам и не нужен реальный юрист, вы и сами бы справились, просто потратили бы не 30 минут, а полтора часа. Проблема в том, что люди не идут глубже. Ко мне уже реально обращались люди с выдержками из ИИ, мол мне положены такие-то плюшки. Один раз закон был выдуман, второй раз реальное постановление, реальные пункты, но в нём говорилось совсем иное, что бы они хотели слышать.
В вашем случае вам и не нужен реальный юрист, вы и сами бы справились, просто потратили бы не 30 минут, а полтора часа.
Возможно бы и справился. Но зачем тратить время зря?
То есть раньше я такие вещи делал полностью сам и это требовало гораздо больше времени и нервов.
Ко мне уже реально обращались люди с выдержками из ИИ, мол мне положены такие-то плюшки. Один раз закон был выдуман, второй раз реальное постановление, реальные пункты, но в нём говорилось совсем иное, что бы они хотели слышать.
Ну значит в худшем случае им откажут. А ведь может и прокатить.
Просишь на каждый закон привести ссылку и привести прямую цитату
Уже на этом этапе он часть законов пересмотрит
Отсматриваешь оставшееся руками на предмет верно или нет
Любую бабушку на улице можно с тем же успехом спросить.
Можете реальный пример привести - вот прямо пошагово разложить вопрос и поиск правильного ответа по Вашей методике ?
Давайте даже базовый запрос дам.
"
Ты - юрист компании оптового поставщика рыбных консервов.
Опиши правила маркировки "Честный Знак" рыбы для траулера полного цикла, находящегося в море на промысле.
Обоснуй ответ ссылками на законы, постановления правительства, письма министерств"
"
Мне реально интересно как долго Вы будете искать правильный ответ.
В процессе исследования помните, что в правильном ответе должен быть минимум упомянут "Меркурий".
Я поделился своими наблюдениями и наработками, которые позволяют мне получить хорошие результаты, экономят мое время.
Очевидно же, что я не буду что-то искать и составлять, чтобы вам что-то доказать.
Я и не ожидал, что Вы это будете делать для меня.
Но для себя попробуйте на досуге - погоняйте LLM-ки, желательно не имеющие пристроенного RAG по нишевому законодательству.
Вы удивитесь мощности галлюцинаций.
Мне реально интересно как долго Вы будете искать правильный ответ.
Я и не ожидал, что Вы это будете делать для меня.
Как-то не сходится одно с другим. В любом случае, для решения вашего вопроса требуется погружение в тему. Потому что оценить правильность ответа я не могу без траты времени на это.
не имеющие пристроенного RAG по нишевому законодательству.
В итоге я пришел к тому что использую claude для кода и информации. Чатжпт отупел почему-то со временем.
Вы сами пробовали свой запрос в claude? Какой результат он дал?
Я же говорю не теорию, а практику, что я гонял и продолжаю гонять ИИ и получаю отличные результаты. Это не готовый результат с первого промта, но после шлифовки получаю достойный результат.
Да, я трачу время, чтобы перейти по ссылкам и прочитать законы и вникнуть в них и соотнести с тем что выдала ИИ. Галлюцинации естественно есть, но я выступаю фильтром.
Да, не на все запросы ИИ может дать ответ, если по вашему примеру мало или нет информации в интернете, то и ответ на него не стоит ждать.
Вы сами пробовали свой запрос в claude? Какой результат он дал?
В claude - нет.
Из тех, что пробовал, Qwen на удивление неплохо справился. Ну разве что не упомянул, что траулер может быть без связи и тогда с отчетами о нанесении и вводе в оборот нужно ждать до берега.
Но были и модели (не буду называть), предлагавшие клеить коды маркировки на каждую рыбину, хотя это вообще не соответствует Правилам маркировки (маркируются консервы), а запросе явно указан "полный цикл". То есть там по теме в датасетах почти ничего не было
В любом случае, для решения вашего вопроса требуется погружение в тему. Потому что оценить правильность ответа я не могу без траты времени на это.
Это очевидно. Но в этом и проблема практического использования LLM лично для меня. Если я достаточно хорошо ориентируюсь в теме - мне LLM не сильно нужен для поиска информации. Для агрегации - возможно. А если я "не в теме", то и ответ LLM как воспринимать ? Чему верить и что проверять ? Такие опасения.
Это очевидно. Но в этом и проблема практического использования LLM лично для меня. Если я достаточно хорошо ориентируюсь в теме - мне LLM не сильно нужен для поиска информации. Для агрегации - возможно. А если я "не в теме", то и ответ LLM как воспринимать ? Чему верить и что проверять ? Такие опасения.
Есть темы с разной глубиной.
В одних за час выяснишь интересующие вопросы и готово, а есть какой-нибудь АИС Налог-3, где просто марианская впадина. Где не то что ИИ путается, но и человек дуреет.
ИИ не дает готовый материал, который можно отправлять дальше сразу "наверочку". Но он дает отличный черновик, который нужно проверить, уточнить у него же непонятные моменты, проверить ссылки и дальше уже двигаться.
В неглубоких темах, которые многократно обсудили в интернете он может выдать документ и близкий к готовому. В глубоких темах по которым информации нет - ну, тут, извините.
А если вы не в теме, то вы сразу и запрос нужный даже не сформируете. Там и половины нужного не будет, но постепенно погрузившись запрос улучшиться.
В claude - нет.
Вот ответ claude.
Я бы использовал только самые популярные, мейнстримовые ИИ. Все остальное - это аутсайдеры и просто трата времени. Ничего толкового они не дают на данный момент.
Осторожно 2.5 мб скриншот
При чтении по диагонали - прямо хорошо.
Воды многовато, но это лечится уточнением в промпте. С другой стороны, он выдернул засаду, заложенную в промпт "арендованный траулер в море без связи"
Не скажу навскидку верно ли про "Меркурий с 1 декабря 2025", но это проверяемо.
Остальное, из того, что помню на память - да, без ошибок.
Не, промт я брал отсюда и никаких корректировок туда не вносил. Да и ответ даже не читал.
И далее по тексту ответа.
На тему "мейнстримовых" и "аутсайдеров" - согласен, за одним нюансом. Их не всегда можно использовать прямо в работе по требованиям комплаенса. Ну то есть можно конечно, но из промпта приходится вычищать всю информацию об организации.
Да и с пользователями бывают любопытные дискуссии когда они приносят результат галлюцинации "домашней" LLM.
... устаканится всё это, думаю. Но не сразу :)
Сдаю налоговую декларацию и получаю отказ по отдельным пунктам списания налогов
Открываю ChatGPT с юридическим плагином.
Копирую формулировку по которой я хотел списать и ответ налоговой. Прошу сделать фактчек.
Если вижу что-то интересное, то прошу дать ссылки на источники. Читаю источники и если всё выглядит логично, то прошу написать возражение.
И так по каждому пункту. В этом году сумел "выбить" где-то 500€ из 800€ в которых мне отказали. Потратил примерно час времени на всё.
в правильном ответе должен быть минимум упомянут "Меркурий".
Простой или ретроградный?
Выдуманная нормативная база это прям его любимое
Я далек от этой сферы, не подскажите, как они это делают? Не могут же юристы или адвокаты, скажем, в суде назвать рандомные цифры с нормативными актами и потом бросают кубики как в DnD, мол, прокатило или нет? Мне кажется стороны под лупой должны смотреть на высказывания сторон. Это же глупо копипастить ответы нейроно. Они только могут показать куда смотреть. Или я ошибаюсь?
Так речь не о юристах. Речь о простых пользователях, которые задают ИИ вопросы и просят помощи. А потом делают то, что говорит им ИИ.
Ну то есть если вот совсем упрощать, то кто-то спрашивает "можно ли ввозить кокаин в США", ИИ говорит что мол да, можно в соответствии с законом XYZ. Человек везёт кокаин, его берут на таможне и выясняется что такого закона нет и никогда не было.
Это же глупо копипастить ответы нейроно.
Не могут же юристы или адвокаты, скажем, в суде назвать рандомные цифры
Вы недооцениваете человеческую глупость. Вполне себе могут скопировать.
Могут, видел как юристы ссылались на законодательство Украины в Российском суде. Ну просто нагуглили норму, которая им подходит под аргументы, а что это закон другой страны их не смутило.
Сами люди в исках даже на ютуб-видео ссылаются, на морское право, на речи Рокфеллера.
Как раз вчера новость в тему была о том, как простая американская семья отбила крупную сумму у мед.организации. Совпадение?..
Здесь в одной из новостей, было Нвидиа выпустит небольшой блок для нейросети. Можно будет установить туда свободный безцензурный ИИ.
Напишу сюда ответ добавление.
NVIDIA DIGITS? Он, кажется, умер не родившись.
за деталями отправляет к специалисту с лицензией
Все 8 миллиардов населения имеют свободный доступ к "специалисту с лицензией"? Или людьми считаются только американцы, имеющие медстраховку?
Ну это проблема государств, где они живут, а не ЧатаГПТ. У OpenAI вроде не было цели вылечить всех жителей Земли.
У них на сайте написано: "Our mission is to ensure that artificial general intelligence benefits all of humanity".
Список тех, кто входит в "humanity" в отдельном документе.
И в каком месте это означает что они обчзуются лечить каждого отдельно взятого человека на Земле?
Кто сказал "лечить"? Консультировать по медицинским вопросам. Как это было до текущего момента. Почему можно генерировать говнокод, который какой-нибудь гений однажды скопипастит в АСУ поездов, а предположить диагнозы по симптомам, или объяснить изменения в анализах - нельзя?
Кто сказал "лечить"? Консультировать по медицинским вопросам
Ну ок, в каком месте это означает именно "консультировать по медицинским вопросам каждого отдельно взятого человека на Земле"?
Почему можно генерировать говнокод, который какой-нибудь гений однажды скопипастит в АСУ поездов, а предположить диагнозы по симптомам, или объяснить изменения в анализах - нельзя?
Например потому что им так хочется и оно всё равно не противоречит тому, что вы там процитировали выше.
Вопрос то скорее в том почему они обязательно должны "предполагать диагнозы по симптомам, или объяснять изменения в анализах"?
У них есть ИИ консультант по всем вопросам, в том числе и по медицине - бесспорно благо для всего человечества, и они его предоставляли всем на платной и бесплатной основе, что даже соответствует их заявленной цели. Требовалось ноль дополнительных затрат, чтобы продолжать это делать. Вместо этого они потратили ресурсы на цензуру. Теперь ускорители будут точно так же молотить токены, жечь электричество, но упираться в фильтры.
Кому от этого стало лучше? Если боятся исков - нельзя было решить другими способами? Ограничением по странам, дополнительным отказом от ответственности? Да хоть бы в платном API оставили.
"Должны" - не совсем подходящее слово для частной компании, но я оцениваю их решение с моральной точки зрения, и крайне негативно.
У них есть ИИ консультант по всем вопросам, в том числе и по медицине - бесспорно благо для всего человечества
Вы по моему до сих пор не понимаете что я имею в виду.
Для того чтобы "делать благо для всего человечества" совсем не обязательно "делать благо для всего человечества всеми доступными тебе способами".
То есть им совсем не обязательно предоставлять какие-то медицинские консультации для того чтобы соответствовать тому лозунгу, которое вы процитировали выше.
Кому от этого стало лучше?
Например им. Потому что они таким образом обезопасили себя от целой категории судебных исков, которые в теории могли вообще разорить компанию и поставить крест на любой возможности делать благо.
Если боятся исков - нельзя было решить другими способами? Ограничением по странам, дополнительным отказом от ответственности?
Может быть можно. Может быть нельзя. Это их риски и им решать как с ними обходиться.
"Должны" - не совсем подходящее слово для частной компании, но я оцениваю их решение с моральной точки зрения, и крайне негативно.
Ну так пользуйтесь альтернативами. И рыночек порешает.
То есть им совсем не обязательно предоставлять какие-то медицинские консультации для того чтобы соответствовать тому лозунгу, которое вы процитировали выше
Да. Если бы этих медицинских консультаций изначально не было. А тут получается, что они лишили блага, ведь оно до этого было. Это уже не соответствует лозунгу.
Потому что они таким образом обезопасили себя от целой категории судебных исков
Возможно, и что теперь, идиотизм чьей-то судебной системы является оправданием? Нужно просто смириться? Там на реддите что-то тоже не очень довольны.
Это их риски и им решать как с ними обходиться.
Ну а мое право - высказаться. В исходном комментарии я лишь обратил внимание на лицемерие их отписки "обратитесь к специалисту".
Ну так пользуйтесь альтернативами
А я пользуюсь, спасибо, они пока еще есть.
Да. Если бы этих медицинских консультаций изначально не было
Нет. Даже если они изначально были.
А тут получается, что они лишили блага, ведь оно до этого было. Это уже не соответствует лозунгу.
В каком месте? Они вполне себе могут делать благо для всего человечества каким-то другим образом.
Возможно, и что теперь, идиотизм чьей-то судебной системы является оправданием?
Естественно. И выше я даже написал почему это так.
Никогда не верьте слезам проститутки, улыбке прокурора и "Миссии" корпорации на её сайте.
Единственная цель корпорации - заработать для своих бенефициаров.
Сегодня общался со службой поддержки Shutterstock. Они не скрывают, что отвечает AI-бот. Я был потрясен точностью и качеством ответов. Лучше чем человек, не говоря уже о скорости - ответ дается моментально. И самое главное развернутый и по существу. Космос.
Значит были люди, которым приходило в голову лечиться через ChatGPT?! Вот это поворот.
Зачем обязательно лечиться? Можно банально делать фактчек тому, что там тебе врач понарасказывал.
Потому что врачи они тоже иногда "галлюцинируют". Мягко говоря.
Да даже на хабре была статья Пообщавшись с ChatGPT, мужчина заменил соль на бромид натрия и заработал психоз / Хабр
Конечно, к врачу надо как минимум записаться и идти, как максимум платить много денег.
А тут тыц в телефон и вот тебе и диагноз и схема лечения.
А что такого-то? По форумам лечились и ничего, даже вылечивались.
Уже сейчас ИИ куда лучше районного терапевта.
Не лечится но изучать вопрос и понять что происходит или хотя бы к какому врачу идти. В целом полезно.
это лишь инструмент, если ты не тупой то это отличный помощник в этом плане (не как замена врача). а идиот и ножом себе глаз выколет
Да, и не единицы. Некоторые реально пытались по описанию симптомов ставить себе диагноз
А есть какие нибудь модели на HF которые шарят за медицину?
У Майкрософт такая модель была, я месяцев 6 назад тестировал. Но была поддержка только английского.
В штатах есть целый бесплатный сервис https://www.openevidence.com
Буквально на днях консультировался с русским профессором из John Hopkins, тот прислал цитату из OpenEvidence AI и сообщил, что ни слова не поменял: всё совпадает с его мнением. (Кстати, он одобрил столь же ленивый мой перевод от Yandex Translate.)
OpenEvidence is free for verified health care professionals (HCPs). If you are eligible for access, please provide your official HCP identification number.
Upload proof of occupational status - For example:
A picture of an ID badge bearing name and professional status.
A copy of board certification documents or verification printout from a recognized certifying body.
Годятся ли лицензии хотя бы европейские, не указано.
ChatGPT: "Я не врач, но могу процитировать статью Википедии"
Вот я использовал задачу для чатгпт , интересно они ее тоже заблокировали? Есть лекарство1, совместимо ли оно с приемом с лекарством 2, 3 , 4 и так далее. составь таблицу показаний по лекарствам. И другие подобные вопросы.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
ChatGPT перестал давать медицинские и юридические консультации