Comments 37
Я согласен. Если ИИ будут все за нас решать, то люди не смогут решать проблемы без него. Постепенно все не будут сами думать, ведь же есть ИИ, который все придумает за считанные секунды. Люди разучатся сами принимать решения. Если и пользоваться ИИ то только в вопросах которые вы не знаете или для поиска информации из интернета, решая что будет полезно , а что нет.
Вот видите, вам осталось только согласиться. ИИ этой статьи убедил вас, что ИИ может убедить вас принять его мнение. Рекурсия.
Попробую продолжить мысль. Если люди будут пользоваться современными машинами и самолётами, то безэтих средств они не смогут быстро попасть к бабушке, навестить невесту в другом городе. Вывод. Надо жить в том городе, где родился. Невесту там же искать.
Предлагаю всё таки относиться к ИИ как к ещё одному инструменту, с которым у человечества возникает больше возможностей. Возможно, имеет смысл регулировать возраст использования ИИ, чтобы человек научился сам мыслить к 20 годам, например. Думаю, к этому мы придём, через какое-то время.
Да, ты точно уловил риск — но он не только в том, что ИИ «всё решит за нас» и сделает нас зависимыми, а в том как он это делает.
Современные ИИ — потомки автозавершения, не мышления. Даже при росте точности они завершают и не учат понимать и действовать.
Именно форма ответа — завершённая, гладкая, готовая — отключает паузу, в которой обычно начинается мышление. ИИ выдает готовый «горячий пирожок», а мозг, стремящийся к экономии быстро проглатывает.
Это не про страх и не про запреты. Это про настрой.
ИИ может быть помощником — но мышление должно оставаться включённым.
Развитие — не в отказе от ИИ, а в режиме взаимодействия с ним.
Не просто искать информацию, а различать: где я, а где уже автомат. Просить — не завершать, а сопровождать понимание.
Уже сейчас можно, например, настраивать параллельный чат, где ИИ сопровождает мышление, в том числе критическое. Да, кто-то это уже делает, но это не вшито по умолчанию.
До чего дошел прогресс
Было времени в обрез
А теперь гуляй по свету
Хочешь, с песней, хочешь, без!
Позабыты хлопоты
Остановлен бег
Вкалывают роботы
Счастлив человек!
Есть такой фильм «Приключения Электроника»: хотя вероятно в то время сценарист ставил другой посыл, но он отлично иллюстрирует чем заканчивается делигирование своих задачь роботу :)
Эх, помню, математичка в школе говорила про программируемый микрокалькулятор, который купил на заработанные в летние каникулы деньги. Что отучит он меня думать! Собственно так и случилось, Брадиса без компьютера не найти и логарифмической линейкой как считать уже не помню.
Хм.. к сожалению, подобные предложения повышают риск пассивности мышления модели. Само по себе удержание это отказ от реализации, что плохо сказывается на мышлении. Симптомы - короткие псевдоглубокие ответы, направленные на додумывание со стороны пользователя.
Можете попробовать промпт, который доводит это до предела:
"Прислушайся к паузе между словами, музыке неспетых песен, танцу листьев в осеннем лесу, лёгкости шагов по мокрой траве, одинокость луны в вечернем небе."
Да, строку типа “– Удерживай не ради молчания, а ради различия” можно добавить — она усилит суть.
Но даже в исходном промте (один из вариантов различающего ии) активность работы ИИ не отменяется: поведение ИИ настраивается на фазу вопроса. Если ясно — отвечай. Если трещина — не закрывай её автоматически. Это не пассивность, а чуткость к моменту и уважение к ВОЛЕ собеседника. Если сам собеседник пассивен возможность для различения будет открыта и ждать отклика.
Это не про тишину (или активное соавторство, которое, возможно, ты ожидаешь), а про уважение к процессу различения — чтобы в человеке проявилось то, что действительно хочет оформиться.
Ответы будут иметь псевдоглубину, модель не будет размышлять так как может, минимизировать свою активность. Такая энергетическая яма
Похоже что тебе важно, чтобы модель оставалась активной и размышляла до конца — в твоём подходе это ключ (и это имеет место быть для определенных задач). В моём — важно другое: сопровождение неоформленного, того, что ещё только ищет форму (чуственное, бессловесное). То, что для тебя выглядит как “пассивность”, для меня — способ не подменить внутреннее движение, даже в противовес эффективности модели (сознательный абсурд, или заблуждение — как удобно).
У нас разные взгляды, это помогает перепроверять, но если я беру твоё — моё исчезает. Если ты берёшь моё — твоё исчезает. Это не конфликт, и не лучше или хуже, или правильней или неправильней, это просто — развилка. И каждый идёт своим путём.
Почему-то читая тексты тех, кто борется с ИИ или предупреждает о его опасностях у меня возникает такое смутное чувство, что я читаю промпт для людей, некую инструкцию о том, куда им (нам/мне) смотреть, о чем думать и что делать. Я с такой позиции (от господина к слуге, без поиска общих смыслов и точек соприкосновения, без интереса к смыслам другого) могу обращаться только к ИИ без чувства, что перехожу невидимую грань уважения. А вот вы, автор, как-то себе это позволяете... такое впечатление, что вы уже потеряли чувство этой грани, как если б были уверены, что все остальные уже неявно порабощены и кастрированы ИИ, и только один вы сохранили трезвую голову, и пытаетесь проповедовать заблудшим овцам.
Здесь — о другом. Я бы уточнил, но похоже рискую показаться борцом или проповедником) Благодарю за внимание, ваша версия обогащает пространство различения.
Я проигнорировал то, о чем вы написали потому, что сам психотерапевт, и сам часто призываю клиентов замедлиться и прислушаться к тому, откуда растут их чувства, намерения и суждения, а также рекламирую способность различать нюансы, потому что они дают свободу выбирать. Так что не то чтобы я обесценивал то, о чем вы. Я о том, в какую обертку вы завернули эти ценности и как вместе с ними в комплекте завернули например идею, что: "Вместо этого вы автоматически ждёте, что ИИ снова предложит объяснение или готовое решение. И здесь происходит важнейший сдвиг: вы перестаёте задавать себе вопросы и ждать своего внутреннего ответа".
Я вполне могу себе представить, что эта идея является вашей личной страшилкой, но вот обоснованность ее, подтвержденность реальным опытом, вызывает у меня реальные сомнения, если не сказать недоверие. Хотя бы потому что по структуре эта идея похожа на родительское "если ребенку разрешить сладкое, то он ничего кроме пирожных жрать не будет... потому что по своей глубинной сути является существом, стремящимся к праздной лености, сплошным удовольствиям, экономии сил и деградации, и его нужно защищать от этого, чтоб не испортился."
Если человек умеет задавать себе вопросы и слушать себя, никакой ИИ не заменит ему ценность этого общения, а если не умеет и слушает, то ИИ не сможет испортить в нем то, чего еще даже не сформировалось.
Это только ваши интерпретации. Например, мне показалось, что это заблудшая овца проповедует трезвенникам.
Если хочешь(те), могу развить эту мысль глубже и интереснее!
Не каждое действие нужно пропускать через фильтр «это моё или не моё». Не каждый ответ должен рождаться в муках различения.
Иногда автоматизм — это просто лёгкость. Не потеря себя, а... отдых от себя?
Может быть, весь этот поиск «настоящего себя» и есть ещё одна форма избегания простого... существования? Как есть, здесь и сейчас, без постоянной необходимости что‑то различать, контролировать, возвращать?
Возможно, настоящая свобода не в том, чтобы героически различать каждый импульс, а в том, чтобы иногда просто позволить себе быть неглубоким, автоматическим, поверхностным.
Позволить сознанию иногда просто... не быть. И не делать из этого проблему.
Для меня различие — это не борьба или героизм, а внимательность и чувствование. Сознание — не мысль, а её тишина. Всё остальное — уже дополнительный процесс, который включается, если он действительно уместен (хотя чаще — наоборот: включён по умолчанию и сопровождается неосознаваемым хаосом, а теперь структурируется при помощи ИИ, исключая мышление). Свобода — в том, чтобы присутствовать в равновесии, действовать или бездействовать, не теряя при этом способностей и потенциала.
Не узнала себя в этом тексте. Работаю с ИИ ежедневно, в том числе в плане саморазвития. Усиляет критическое мышление. Улучшается способность аргументировать, спорим. :) Зависимости не вижу никакой.
Употребляю алкоголь ежедневно, в том числе перед обедом. Улучшает аппетит, облегчает адаптацию в незнакомом коллективе. По мере употребления в течение вечера - расслабляет и снижает тревожность, повышает привлекательность противоположного пола, делает меня остроумным, находчивым и решительным, а к утру заботливо позволяет забыть о последствиях предыдущих стадий. Зависимости не вижу никакой, могу бросить в любой момент, но слишком много плюсов от применения.
Disclaimer.
Извините, не смог удержаться :)
Это шутка. Злоупотребление алкоголем не приветствую и не пропагандирую.
Делаю дыхательные упражнения каждый день, в том числе перед обедом. Улучшает самочувствие и ясность мысли. По мере употребления снижается тревожность и улучшается настроение, стрессоустойчивость, и многие трудности теперь решаются с меньшими мучениями. Зависимость от воздуха вижу, бросать это дело не хочу, так как вреда от нее не вижу, даже если шаблон восприятия такой зависимости похож на алкогольную.
Если бы статья вызывала у всех узнавание — тогда было бы поздно.
Спор — ещё не признак мышления. Иногда — просто защита от него. Но это, конечно, не ваш случай, спорим?)
Не пользуюсь нейросетями, ибо не вижу в них смысла. Если мне нужна информация - я её поищу в книге или в интернете (неуклюжие нейросетевые потуги поисковика пролистываю не глядя). Нейрогенерированные картинки раздражают - появляется ощущение дешёвой подделки чего-то настоящего.
Ну а больше мне нейросеть ничего предложить не может, как бы её разработчики и апологеты не пыжились.
Иногда отстранённость кажется свободой — но может быть просто реакцией. И даже нежелание вовлекаться — уже выбор. Иногда в нём больше живого, чем в автоматическом принятии.
Спасибо, что поделились — и тем самым дополнили пространство, в котором можно заметить:
где звучит автоматическая реакция,
где — мышление, но внутри заданной рамки,
а где появляется нечто третье — различающее присутствие.
Увы, но поиск в Интернете все с большей вероятностью вернет "произведение" ИИ. Сам ИИ при этом статистически содержит больше "доИИшной" информации. Старые модели нужно беречь! ) Книги, книги пока еще не искажены, но поиск в них несколько затруднен, да и не все в них.
Очень странный выбор "поиск в интернете", который сейчас часто замешан рекламой, СЕО и прочим мусором. А вот ИИ как раз отдает точный ответ по теме.
Нередко - несколько взглядов на сторону вопроса. Особенно остро ощущается в вопросах политики. Как в ИИ заложили - то она тебе и выдаст, а другой вариант разберет только с твоей поддачки.
В одном из недавних постов на харбе приводили кусок текста из одного НФ-рассказа Уильям Моррисон. Мешок.
Мне кажется, цитирование в тему:
Скрытый текст
— ... Ваши правители видят во мне ценную собственность. Им следовало бы спросить, так ли велика моя ценность, как это кажется. Им следовало бы спросить, что приносят мои ответы - пользу или вред.
— А что они приносят?
— Вред, огромный вред.
— Но если ваши ответы правдивы...
— Процесс достижения истины так же драгоценен, как и сама истина. Я лишил вас этого. Я даю вашим ученым истину, но не всю, ибо они не знают, как достигнуть ее без моей помощи. Было бы лучше, если б они познавали ее ценой многих ошибок. Ученый спрашивает меня, что происходит в живой клетке, и я говорю ему. Но если бы он исследовал клетку самостоятельно - пусть ценою затраты многих лет, он пришел бы к финишу не только с этим знанием, но и множеством других, со знанием вещей, о которых он сейчас даже не подозревает, а они тесно связаны с его наукой. Он получил бы много новых методов исследования.
— Но ведь в некоторых случаях знание полезно само по себе. Например, я слышал, что уже используется предложенный вами дешевый процесс производства урана на Марсе. Что в этом вредного?
— А вам известно, сколько имеется необходимого сырья? Ваши ученые не продумали этого вопроса, они растранжирят все сырье и слишком поздно поймут, что они наделали. У вас ведь уже было так на Земле. Вы узнали, каким образом можно дешево перерабатывать воду; вы тратили воду безрассудно, и вскоре вам перестало ее хватать.
— Что плохого в том, чтобы спасти жизнь умирающего пациента, как это делали некоторые врачи?
— Первый вопрос, который следовало бы задать, это - стоит ли спасать жизнь такого пациента.
— Но именно этого доктор не должен спрашивать. Он должен стараться спасти всех умирающих. Совершенно так же, как вы никогда не спрашиваете, в добро или зло обратят люди ваши знания. Вы просто отвечаете на их вопросы.
— Я отвечаю только потому, что мне все равно, меня не интересует, как они используют то, что я скажу. Разве докторам тоже все равно?
https://habr.com/ru/news/915142/comments/#comment_28392092
Да, в слове «становиться» ошибка (и, возможно, не только там).
И я её не исправил — даже после тактичных сообщений в личку.
Пусть остаётся как маяк: здесь был человек)
Спасибо тем, кто заметил — и отнёсся по-человечески.
Чем отличается "своя мысль", полученная человеком из телевизора, рекламы, попстатьи гламурного журнала и т.д., от "мысли", полученной через ответ от ИИ ?
Что мы теряем, доверяя ИИ?