Comments 23
Как бы оптимисты не старались найти компромиссы и успокоить всех и себя, в конечном итоге нельзя будет пользоваться ИИ всегда и не потерять навыки которые ты просто перестал использовать так интенсивно как использовал прежде. Мозг неизбежно упрощает те связи которые не испытывают напряженной работы.
Что касается молодежи и детей асе еще хуже и насколько хуже нам еще только предстоит хлебнуть. Нас ждет век цифровых идиотов (без какого либо желания оскорбить кого-то) Нельзя обмануть биологию, нельзя не читать и иметь знания, нельзя не напрягать все силы мозга многие годы и после уметь длительно концентрироваться на сложной задаче.
Добавьте сюда простую перегрузку гигантским потоком бессмысленной информации которую поглощают люди и следующий за этим перегруз сознания и мы получаем готовых слабоумных. Да мой комментарий кажется алармистским, но иногда алармизм это просто способность увидеть то, что и так не скрыто и лежит на поверхности.
Оптимисты могут обмануть себя и вас, но они не могут обмануть биологию организма - нельзя передать функцию трудного тяжёлого умственного труда кому то и чудесным образом поумнеть вместе с ним. Никакие оправдания аля "они разовьют другие навыки" не спасут детей от реальности того, что в интеллектуальном труде НЕТ никаких "других" навыков. Если вы не научились думать никакие некие "другие" навыки вас не спасут от неизбежной деградации, это не более чем попытка спрятать голову в песок перед лицом жестокой реальности.
Человечество как всегда не исчезнет и не улетит в тартарары из за этого, ибо в обществе всегда будет те, кто сознательно избежит процесса деградации. Но общая масса которая и без того уже тупа до отвращения, станет еще тупее. ИИ приведет к еще большему расслоению общества на интеллектуалов и невежественную массу которое уже произошло, но произошедшее еще более усугубится, удивительным образом получение неограниченного доступа ко всей информации человечества не сделало людей умнее, но парадоксальным образом их невежество обострилось и радикализировалось, они словно контринтуитивно стали еще тупее чем до эпохи интернета.
Это важно, обратите внимание: Теперь эти безликие "они" не просто "не знают" "не ведают" Теперь они активно противостоят знаниям и верной информации противопоставляя ей свое ничем не обоснованное радикализированное мнение опирающееся на конспирологию и простое отрицание науки. То есть, вместо пассивного не знания мир наполнился активным и весьма злостным невежеством, ИИ не сделает людей умнее, ИИ СТАНЕТ умнее и усугубит текущие проблемы тех чьи проблемы и без того размером с Эверест.
Отвечает LLM
https://LLMshare.syntxai.net/279ffffa-1d36-f7eb-9bcb2c7c
Статью не читал, извините, нет времени
Ну может оно Вам тогда и не надо?) Идея была в том, чтобы задать предмет для дискуссии на глубокие темы, поднятые в статье. Сокращение через ллм это крутая фишка и я сам ей пользуюсь, но не всё и всегда стоит сокращать, потому что статья и так является концентратом идей и мыслей.
Я и дискутирую и поднимаю. А именно про недостатки LLM: иллюзию ясности, перекрашивание своих знаний, сглаживание углов, битву в песочнице, привычку к нечеткой постановке задачи и надежду далее итеративно уточнить задачу. А вот не получается!
Вы прочитали? Надо было текст сюда скопировать? Так будет виднее?
И LLM ответил вовсе не на ваш вопрос, это часть долгих философских изысканий.
Да, прочитал, там как будто бы разобран один из аспектов, обсуждаемый в статье. Коротко, по существу, да, но там не описывается на основании чего он пришел к таким выводам, нет аналитики и источников авторства этих мыслей.
Выводы по ощущениям тоже годятся. Вот выводы по моим личным ощущениям:
Снижение кругозора. Нет. Появляется более широкий, хоть и поверхностный кругозор.
Снижение навыков глубокого мышления, длительной концентрации внимания. Да. Из-за большого числа отвлекающих факторов.
Снижение критического мышления. Нет. Доверие инструменту это не снижение навыков критического мышления.
Снижение когнитивных и творческих способностей. По разному. Если LLM снижает порог входа то нет. Если мозг ленится то да.
Анализ и синтез. Думаю, только лучше становится.
Как бы оптимисты не старались найти компромиссы и успокоить всех и себя, в конечном итоге нельзя будет пользоваться ИИ всегда и не потерять навыки которые ты просто перестал использовать так интенсивно как использовал прежде. Мозг неизбежно упрощает те связи которые не испытывают напряженной работы.
Что касается молодежи и детей асе еще хуже и насколько хуже нам еще только предстоит хлебнуть. Нас ждет век цифровых идиотов (без какого либо желания оскорбить кого-то) Нельзя обмануть биологию, нельзя не читать и иметь знания, нельзя не напрягать все силы мозга многие годы и после уметь длительно концентрироваться на сложной задаче.
Добавьте сюда простую перегрузку гигантским потоком бессмысленной информации которую поглощают люди и следующий за этим перегруз сознания и мы получаем готовых слабоумных. Да мой комментарий кажется алармистским, но иногда алармизм это просто способность увидеть то, что и так не скрыто и лежит на поверхности.
Оптимисты могут обмануть себя и вас, но они не могут обмануть биологию организма - нельзя передать функцию трудного тяжёлого умственного труда кому то и чудесным образом поумнеть вместе с ним. Никакие оправдания аля "они разовьют другие навыки" не спасут детей от реальности того, что в интеллектуальном труде НЕТ никаких "других" навыков. Если вы не научились думать никакие некие "другие" навыки вас не спасут от неизбежной деградации, это не более чем попытка спрятать голову в песок перед лицом жестокой реальности.
Человечество как всегда не исчезнет и не улетит в тартарары из за этого, ибо в обществе всегда будет те, кто сознательно избежит процесса деградации. Но общая масса которая и без того уже тупа до отвращения, станет еще тупее. ИИ приведет к еще большему расслоению общества на интеллектуалов и невежественную массу которое уже произошло, но произошедшее еще более усугубится, удивительным образом получение неограниченного доступа ко всей информации человечества не сделало людей умнее, но парадоксальным образом их невежество обострилось и радикализировалось, они словно контринтуитивно стали еще тупее чем до эпохи интернета.
Это важно, обратите внимание: Теперь эти безликие "они" не просто "не знают" "не ведают" Теперь они активно противостоят знаниям и верной информации противопоставляя ей свое ничем не обоснованное радикализированное мнение опирающееся на конспирологию и простое отрицание науки. То есть, вместо пассивного не знания мир наполнился активным и весьма злостным невежеством, ИИ не сделает людей умнее, ИИ СТАНЕТ умнее и усугубит текущие проблемы тех чьи проблемы и без того размером с Эверест.
Просто соединят ИИ и мозг напрямую через чип.
По такой же логике транспортные средства должны были бы привести к атрофированию опорно-двигательного аппарата человека, но не привели, потому что есть нюансы.
По такой же логике транспортные средства должны были бы привести к атрофированию опорно-двигательного аппарата человека, но не привели, потому что есть нюансы.
К полному атрофированию не привело, как и ИИ не приведет. Тут и нет речи о деградации в ноль, глупо этого ожижать. Речь идёт о значительной негативной тенденции.
С ТС же было бы справедливым отметить тот факт, что время физической активности у среднего жителя действительно критически снизилось и продолжает довольно активно снижаться. Даже если смотреть небольшой отрезок времени, по оценке ВОЗ доля взрослого населения планеты с дефицитом физ.активности с 2010 по 2022 год выросла с 26% до 31% и к 2030 году достигнет 35% оценочно. Тенденция довольно таки серьезная.
Ну и надеюсь не надо пояснять, что дефицит физ.активности в свою очередь приводит к значительному ухудшению качества жизни человека, и по многим исследованиям косвенно, но заметно влияет и на продолжительность самой жизни ( в частности, восстановление после травм, операций, и тд )
Спасибо за детально развёрнутые мысли, я примерно такое и ожидал увидеть, как процесс зарождающейся дискуссии на описанные выше темы. Грань действительно тонкая, и проанализировав и сделав собственные выводы, лично я принял решение максимально долго не допускать детей к ИИ вообще. На своем примере из детства буду стараться прививать любовь к чтению, познаванию, мышлению, логике через реальный мир. В ИИ вкатиться они всегда успеют имхо.
Мои мысли озвучили.
Считать, что LLM отупляет пользователя - это как считать, что если специалист становится руководителем, это его отупляет - ведь он теряет тонкие навыки пересчёта массы циферок в экселе или вытачивания на станке. Теперь он больше раздаёт поручения, контролирует выполнение и согласовывает свои действия с другими руководителями, в т.ч. вышестоящими.
Задачи никуда не денутся, и если часть работы поручается LLM - считайте, что наняли нового трудолюбивого, но туповатого сотрудника.
Аналогия неверная. Ваш специалист предварительно научился "считать циферки" а тут с ИИ у него даже шанса на освоение "циферок" не будет: Комментарий из Реддита: "Моя сестра трехклашка все школьные задания перенаправляет чату GPT и не просто не анализирует ответы, она их даже не читает слепо перекладывая процесс мышления и поиска решения задач на плечи ИИ" И так по миру везде.
Мы сейчас стоим лишь на пороге массового засилья ИИ. Аналогии с калькулятором или автомобилями не корректны и не релевантны из за существенного различия связей человек - ИИ, человек - калькулятор, человек - авто" и так далее. Ничто прежде не заменяло мозг и мышление полностью, наши ИИ это пока что сырой продукт в альфа версии, но даже сейчас его способности выглядят угрожающе, не в том смысле что он вырвется из под контроля а в том, что он угрожающе заменяет людям их собственное мышление, особенно у детей.
Мозг чрезвычайно ленивое и энергосберегающее явление и использует любой шанс чтобы не напрягаться, этот эволюционный механизм сыграл с нами злую шутку, эволюцию винить сложно ибо это просто слепой процесс приспособления.Что будет через какие то 5-7 лет предугадать не сложно, ИИ станет еще умнее и более полезным в прикладном смысле и это неизбежно отразится на человеке.
Наглядный пример: Ничто в мире так не ударило по желанию людей читать как смартфоны. Смартфоны просто аннигилировали желание чтения у самых уязвимых - у детей. А ведь до этого первой волной снижения числа читающих и снижения объема чтения у тех кто читал было появление телевизоров, потом пришел интернет что еще больше усугубил положение, но финальное добивание провели смартфоны. Все исследования социума за последние несколько лет неутешительны люди не просто стали меньше читать, нет все гораздо хуже - они прекратили читать в массе своей.
ИИ же это просто запредельное устройство в сравнении со всеми предыдущими технологиями, это что-то, что определенно либо убьет нас, либо даст то, о чем мы раньше и мечтать не могли.
А может быть люди смогут использовать ИИ, как инструмент, чтобы изменить наш ленивый и энергосберегающий мозг? Посмотрите с положительной точки зрения. Как на счет ИИ учителя-ассистента, который развивает и контролирует человеческих детенышей по индивидуальной программе, исходя из талантов и способностей?
Не смогут.
Нет, конечно, некоторая доля людей, конечно, будет использовать как инструмент, попытаются извлечь из этого пользу для обучения.
Но в массе своей такого не будет, пока существует вариант решения текущих задач более простым путем. Пока есть возможность получить сразу ответ на свой вопрос и не думать над ним - никто сам не будет специально усложнять себе жизнь.
Со смартфонами у детей такая же ситуация. Лишь для единиц смартфон это инструмент с огромным массивом интересных и полезных данных, для чтения книг и пр. Для основной массы же сейчас смартфон это видосики и тиктоки посмотреть, да початиться. Причем даже про поисковик не все в курсе, доходит до абсурда, вместо гугления чего-то люди спрашивают в чатиках.
Зачем вам бетономешалка - мешайте лопатой в ручную.
Зачем вам бетон? Чтобы построить здание. Вам не интересна технология добычи компонентов бетона, их смешивание и доставки и затвердевания. Вам надо строить здание, где бетон это один из множества компонентов.
Избитый пример с машиной - машина вас везёт туда куда надо - ходи пешком, иначе тело потеряет мышцы.
Легко запрещать все детям с позиции взрослого. А что будут делать ваши дети, если родители их сверстников смогут адаптировать такой инструмент как ии, чтобы они быстрее и эффективнее развивались?
Вспомните себя в школе, когда вы из бедной семьи и не можете себе позволить приставку, и вот вам товарищ на перемене даёт попробовать, а вы позоритесь перед ребятами не зная куда нажимать.
Кто научится использовать ии как бетон, чтобы строить здания - тот и победит в этой эволюционной гонке.
Удачи запрещателям и их детям.
Да как вы смеете писать автоматикой ручкой, а не пером! Книга, напечатанная на клавиатуре, а не написанная пером не настоящая! Вот мои дети будут умножать в уме, а ваши будут деградировать из-за ии!
Вот только не плачьте потом, когда их дети начнут строить "здания" в 10 раз эффективнее и лучше.
Доехать до города можно на машине, а можно на лошади.
Почему запрещатели никак не поймут, что они такие же ломатели паровых машин, как и их предки. То что вы, да вы, обитатели тру хабра, любители DIY и всего того, что делает хабр тортом по вашему - в свое время получили в распоряжение топ технологий вашего времени (первые ПК), не даёт вам права запрещать вашим детям получать доступ к сегодняшнему топу технологий.
Вы помните, как ваши родители запрещали вам сидеть за компом/приставкой и прятали от вас провода, потому что вы деградируете из-за компьютера? И как вы к ним относились и что вы им говорили?
Вы же все тут на острие прогресса. И как только появилась машина, подрывающая авторитет ваших знаний, и обесценивающая труд, которым вы эти знания добыли - вы сразу же кидаетесь к священному банхамеру - как и ваши предки.
Человек это то, что должно превзойти. Так одумайтесь же и найдите способ использовать новые инструменты для развития вас и ваших детей.
Не будьте как ваши предки - не ломайте акведуки и паровые машины - пусть лошади пасутся в поле, а не катают людей.
Продолжая эти ничего не доказывающие аналогии: Не сражайтесь на мечах, используйте атомные бомбы, превращающие города в плоский оплавленный блин.
Технологии это не всегда благо, тем более в руках животного, вышедшего по эволюционным меркам минуту назад из лона природы.
Как мне кажется, во всем этом главное не уходить в крайности и, в том числе, не доводить аргументы и контраргменты до абсурда.
В самой статье как раз нет речи о запрете, речь идёт о разумном и правильном использовании инструмента. И в комментариях нет речи о запрете, есть лишь отчасти оправданный пессимизм в бездумном использовании ИИ. Вы же сами для себя придумали соломенное чучело в виде запрета и попытались его разбить довольно необычными аналогиями с доведением до абсурда. Тут даже спорить не с чем.
А что будут делать ваши дети, если родители их сверстников смогут адаптировать такой инструмент как ии, чтобы они быстрее и эффективнее развивались?
Да, именно. Ключевое именно в адаптации инструмента для целей быстрого и эффективного развития, именно в этом вывод и статьи, и это разделяют большинство хабравчан. Но как показывает сегодняшняя действительность, пока мало кто об этом задумывается из родителей. Бездумное решение домашних заданий через ИИ, даже без осознания и вдумчивого чтения ответа - это сейчас повсеместная практика. И вот это как раз плохо и именно на это и надо обратить внимание. Не запрещать, а именно научиться с этим работать, но чтобы и не отупеть самому. И, опять же, именно об этом в статье и речь!
Я согласен с тем, что полностью отказываться от этой технологии глупо, да и это не возможно, у внедрения ИИ в мир людей есть свои плюсы как у любой новой технологии. Но сравнивать страх современных людей перед ИИ, со страхом перед технологиями прошлого и проводить параллели между таким страхом и луддизмом конечно можно, но это сравнение лишь не корректно отражает связи и оно не соответствует текущей ситуации, ибо ИИ это нечто совершенно беспрецедентное, то, чему нет никаких примеров и аналогий из прошлого, ни что созданное прежде в прошлом и близко не обладало таким сильным влиянием на человека.
Все созданное прежде начиная от плуга, паровой машины и заканчивая ПК было и есть лишь орудие труда которое лишь дополняло человека, было его продолжением и облегчало тяжкий труд. ИИ же не дополняет человека, ИИ вытесняет человека из человека... ИИ конкретно детям не помогает думать, он думает вместо них и механизм мышления просто не развивается. Поймите так же то, что технологии несут как благо так и беду, ИИ лишь финальный аккорд в длинной цепи явлений которые которые по отдельности отщепляли от человека его возможности развиваться самостоятельно и все вместе по итогу могут отщепить этого человека уже полностью не оставив его самого.
Я имею ввиду те технологии которые ведут к развлечениям вместо развития это ТВ и интернет, и то и другое можно использовать в целях развития (интернет для этого куда удобнее) но и то и другое вместо того чтобы сделать людей умнее привело лишь к усугублению ментальных способностей. И тут важно оговориться что это вовсе не мои субъективные ощущения - это факты из научных исследований и результатов ежегодных тестов на IQ студентов из преимущественно развитых стран, весь 20 век средний IQ рос но к концу 20 века рост прекратился а теперь в веке 21 он начал снижаться.
Мы не придумали никаких других массовых способов передачи интеллектуальной информации и усвоения этой информации кроме как книг и чтения. Нельзя не читать и быть умным и становиться умнее. Я сейчас говорю о той части населения которая составляет каркас цивилизации: Можно быть блогером, геймером и спортсменом не прочитав в жизни ни одного труда, совершенно доподлинно верно то, что уже нельзя стать инженером, врачём, биологом, преподавателем и так далее.
Дело в том что развитый человек это результат колоссального объема интеллектуального и прикладного труда растянутого в хронологии на многие годы. Асе эти знания и умения не берутся из ниоткуда они по крупицам собираются с детства и создают то,.что потом называется человеком. И именно детство создает тот самый скелет личности на который нанизывается все остальное. И вот нельзя все это пропустить скипая как в игре а потом чудесным образом стать полезным врачом или педагогом, нельзя создать себя не используя себя.
Но дело в том что ИИ именно это и предлагает! И это обратите на это особое внимание на ЗАРЕ своего существования! Только только он создан но он уже НЕ ДОПОЛНЯЕТ мозги многим, но ЗАМЕНЯЕТ. Но дело в том, что мы живем в объективном, реальном мире и мы ограничены его рамками и мы сами материальные объекты которые не имеют доступа к магии и волшебству, и для того чтобы иметь крепкую мускулатуру нам таки надо качаться и бегать а не ездить на авто и сидеть на попе. Но еще дело в том, что процесс формирования личности и знаний в головном мозге в ТЫСЯЧИ раз сложнее чем процесс формирования физической силы, ибо стать сильным можно и в 50 лет все предыдущие годы будучи слабаком, но мозг противная штука формирует ключевые навыки лишь в первые годы жизни до 6-7 лет. Именно поэтому дети Маугли возвращенные в социум не превращались в людей несмотря на усилия учёных.
По итогу: де факто, что предлагает ИИ уже сейчас? Он предлагает не зрелым детям и зрелым взрослым НЕ ДУМАТЬ. И они с радостью пользуются этой возможностью.
ИИ уже никуда не денется, он уже тут и отменять его поздно да и это никогда не было возможно, ибо прогресс невозможно остановить - это единственный верный факт стоящий в одном ряду с критикой неолуддизма. ИИ предлагает как и усиление наших возможностей так и ослабление. Была бы у нас такая кнопка которая запрещала бы нам перекладывать процесс мышления на ИИ и позволяла бы нам пользоваться им только для ускорения наших возможностей, но увы все наоборот миллионы и уже миллиарды людей бездумно передают ему свое самое ценное - возможность думать самостоятельно.
Анализ влияния ИИ (LLM) на когнитивные способности в 10-летней перспективе