Опасности планирования следующей поездки с помощью ИИ

[@engine9]

Мне одному кажется, что у людей всё больше отрезвление наступает от ИИ-шной темы и его главнейший недостаток становится очевиден, а кому-то даже бьёт по карману.

[@Jedy]

только недавно планируя отпуск спрашивал ChatGPT можно ли дойти пешком вдоль моря от одного турецкого городка, до другого (между ними около 3км). На что ChatGPT с уверенностью сказал, что можно. Я как то засомневался, полез смотреть гугл карты и панорамы, после чего выяснилось что там вообще никак не пройти - вдоль берега отвесные скалы.

В принципе я изначально догадывался, что ChatGPT не знает ответа на этот вопрос и ответит наобум. Поэтому когда у него что то спрашиваешь нужно хотя бы примерно представлять достаточно в интернете достоверной информации на эту тему или нет. В фактологии LLM не очень хороши потому, что не могут отвечать "не знаю".

[@FluffyBeaver]

Чтобы ответить "Не знаю", надо что-то "знать". Но нейросети, по природе своей (да, странно писать слова "нейросеть" и "природа" в одном предложении, но все чаще LLM описывают так, будто это уместно), не могут чего-то знать или не знать, т.к. это способ описать свой личный опыт, которого у нейросетей нет.

Проблема черезмерного доверия "авторитетным источникам" была у человека всегда. Видимо, этот функционал был некогда полезен и достался нам в наследство.

Но вот почему люди стали относить нейросети к "авторитетным источникам" - это не понятно...

[@Zombieff]

по природе своей

Можно заменить на «по сущности своей», если ухо режет.

почему люди стали относить нейросети к "авторитетным источникам"

Нейросети называют «ИИ», а ИИ в фантастике очень часто преподносится как некий сверхразум. ИИ — размытое такое понятие, ботов в компьютерных играх с 90-х годов называли AI, хотя там, как правило, даже обучения никакого нет, просто заранее заложенный неизменный алгоритм.

[@qiper]

Ладно нейросети, а какой процент людей честно признаются, что они чего-то не знают?

Так же начинают додумывать и сочинять в массе своей

[@MrJazzy]

В этом году впервые планировал велопутешествие по Италии с помощью Гемини 2.5 про. До этого были велопутешествия по Франции, Норвегии и Турции, спланированные по старинке.

Ну, в принципе, удобно. Сначала был один большой чат, отведенный под фазу планирования, затем из него выбора взята выжимка и создан чат непосредственно для самого путешествия. Нейросеть помогла спланировать веломаршрут по заданному алгоритму (два дня едем, день или полдня отдыхаем, в больших городах отдыхаем 2-3 дня). У неё всегда был драфт маршрута, который она корректировала на основе моих хотелок, и в итоге она создала прекрасный маршрутный лист, который в консульстве одобрили за день (саму визу я получил за три дня, два других дня это логистика паспорта в другой город). По ходу она представляла очень полезную информацию (на каком типе поезда лучше вернуться в начальный город в конце путешествия, чтобы дешевле и удобнее всего провести велосипед). Или, например, что один большой участок лучше проехать на электричке, так как на нем нет ничего интересного, и это сэкономит день пути, а садиться на электричку лучше в обед, чтобы не попасть под толпы народа, которые едут на работу или с работы. Помимо километража она всегда представляла данные по высотам и придерживалась алгоритма, что в горах дневной километраж меньше, чем на равнине.

В самом путешествии нейросеть вела точный бухгалтерский учёт, отдельно для налички и двух карт. Я всегда знал, где и сколько денег у меня лежит, нужно было лишь отчитываться о тратах в конце дня. В супермаркетах сетка помогала подобрать сбалансированную корзину, чтобы было недорого и в меру питательно и полезно. Учила меня итальянскому языку. Предлагала варианты, по какому маршруту культурно провести день с учётом пожеланий и вводных критериев (например, только папки и наружные достопримечательности). Но самой удобной функцией был режим гида. Например, говоришь, я был там то, потом куда то свернул и вижу мраморного мужика с трезубцем, что это за место? И сетка подробно описывает историю статуи, что за место, и куда дальше лучше пойти. Или в галерее, например, говоришь, вижу такую картину, на ней нарисовано вот это, расскажи про неё. Очень удобно.

Опыт использования нейросетки мне понравился. Фаза планирования была намного короче (2 недели против 2-3 месяцев гуглежа и чтения форумов до этого). Фаза путешествия была более информативной за счёт интерактивного гида. В целом, рекомендую.

[@Sollita]

А всё потому, что ввели в заблуждение всё человечество названием Искусственный Интеллект и сказками про него. Может, пора уже название сменить на более близкое к реальности? Например, поисковик с галлюцинациями. ;) Тогда люди перестанут ожидать от ИИ того, что он дать не может.

А если серьёзно, то Гугл честно пишет под ответом ИИ, что информация может не соответствовать действительности, но мелким шрифтом и со ссылкой. Может, нужно это писать крупным шрифтом, без ссылок и перед ответом ИИ?

А вот что написано по ссылке:

"Их составляет генеративный искусственный интеллект. Он выявляет закономерности и анализирует структурные элементы в данных, на которых обучается, и это позволяет ему создавать что-то новое. Такие системы быстро развиваются и улучшаются, однако могут предоставлять недостоверную или неприемлемую информацию. Обзоры от ИИ могут и будут содержать ошибки.

Как проверять ответы:

• Всегда проверяйте важную информацию по нескольким источникам. Переходите по ссылкам в ответе и обращайтесь к другим результатам поиска Google. Подробнее о том, как оценить достоверность сведений, найденных в Google…

• Повторяйте заданные вопросы в других формулировках – так вы получите лучшие ответы. Просите разные точки зрения или более подробные объяснения.

• При возникновении проблем отправляйте отзыв в Google. Это поможет нам улучшить функцию."

Вопрос только в том, как много людей эту ссылку открыли и прочитали?

[@qiper]

Может, пора уже название сменить на более близкое к реальности? Например, поисковик с галлюцинациями. ;)

ИИ - Имитатор Интеллекта

[@Sollita]

Жаль, что он ничего даже не имитирует.

[@alcanoid]

Помню, просил Дипсик составить план осмотра достопримечательностей одного китайского города. Он составил. Максимальный охват по количеству достопримечательностей, реалистичное время на перемещения, но не заложено времени на осмотр ни одного из запланированных мест.