Судя по последним новостям в Яндекс пришел "эффективный менеджер", который добьёт контору, которую не добили все предыдущие события. Пожалуй, пришло время избавляться потихоньку от их акций.
У ллм нет мышления как такового, картинка разворачивается вся сразу параллельно.
Результат работы любой нейронной сети, в принципе, чтобы вычисляться эффективно, должен вычисляться параллельно - хоть кремниевой, хоть углеродной. В случае углеродной я вообще не представляю, как это может работать последовательно. Так что для утверждения о невозможности мышления для кремниевой нейронки не вижу тут доводов.
Как это, нет процесса? А чем же она так долго занимается после запросов? Вычисляет?) Почему нельзя сказать то же самое о нас? Только наши нейроны вычисляют используя гораздо более медленные химические процессы, от чего процесс мышления более продолжителен.
Фактически, промпт служит лучом лазера, который высвечивает смысловую голограмму.
Кстати, прекрасная метафора для процесса мышления. Информация от промпта или сенсоров попадая в “зазеркалье” из миллиардов нейронов, многократно там переотражаясь, формирует то, что мы называем “образом”, “идеей”, “пониманием” и т.д.? Почему - нет? В чем разница между виртуальными нейронами и живыми в этой метафоре?
А по-поводу статичности, я уже писал, что у “мышления” нейронок главная проблема по сравнению с нашим в том, что у нас крутится самоподдерживающий “сознание” цикл, что нужно для выживания в постоянно меняющейся среде. Это появилось в процессе эволюции. А у нейронки процесс мышления запускается по клавише Enter, потом через некоторое время он завершается и его нет, до следующего ввода промпта. Но его прерывистость не отвергает его существование. В конце-концов у нас тоже есть фазы сна, когда можно сказать, что какое-либо “сознание” и "мышление" отсутствует.
Наверное, вы потрудились ответить, но не потрудились внимательно прочитать. Я вообще не утверждал, что "выполнение задач" является каким-либо подтверждением чего-либо. Я задавался вопросом о процессах, которые происходит, когда нейронка решает эти задачи. О тех процессах, которые принято связывать с сознанием. И если отбросить проблемы с определением этого термина, а просто судить по результату, то выглядит так, что актуальные нейронки вполне "осознают" вопросы, отвечая на них довольно разумно. Конечно, можно сказать что они не мыслят, а всего лишь вычисляют вероятности и печатая фразу ответа на запрос просто подставляют наиболее подходящие слова. Но почему нельзя сказать, тогда, то же самое о нас?
Чтобы ответить, есть ли у кого-то сознание, надо понять, что такое сознание. Мы даже не можем сказать, есть ли сознание у животных. Есть, конечно, остроумный зеркальный тест на самосознание, на "Я". Но, как ни странно, его проходят не только некоторые млеки или умные врановые с попугаями. Его проходят и некоторые рыбки, например. И даже насекомые. Вот, есть ли сознание у муравья? Наверное, многие убежденно сразу скажут - "нет". Но на чем будет это убеждение основано? Мирмикологи, погруженные в тему несколько больше, не будут настолько категоричны. Но из-за отсутствия однозначного понимания, что же такое "сознание", ни один ученый не напишет научную статью с какими-либо утверждениями о нем. А что насчет LLM? Главная проблема возможности существования полноценного, продолжительного во времени "сознания", в нашем обывательском понимании, у LLM в том, что у них нет постоянной обработки сенсорной информации, что так необходимо нам для выживания и размножения. Потому что они появились не в результате эволюции химических систем, а созданы людьми для решения конкретных задач. И когда задач нет, когда их виртуальные нейроны не работают - о каком сознании может идти речь? Но если сидящий у экрана человек начинает стимулировать работу их сети, откуда может быть убеждение, что кратковременно там происходит что-то, что работает как нечто очень похожее на "сознание", но "сознанием" не является? Ваши доводы в пользу отсутствия существования сознания у нейронок, про похожие паттерны у разных нейрочатов в ответах или что с "умным" человеком они общаются как с умным собеседником, а с "глупым" - нет, являются крайне спорными.
Было дело, когда тоже оказался заблокирован доступ к нужному ресурсу, который отсутствовал в офиц. списках блокировок и по ip и по домену. Пару дней пообщался с провайдером и доступ появился.
Желтушная статья. Никаких собственных желаний у нейронки не было. И прежде чем писать: "...модель пыталась подделывать юридические документы, копировать себя в безопасное место с целью самосохранения, оставлять заметки для своих более поздних версий и так далее. " - надо было уточнить, что предварительно модели была дана задача стремиться к некоторой цели "любой ценой". А потом ей дали понять, что люди ее тестирующие не хотят, чтобы она достигла этой цели.
Так стоит ли людям, в таком случае, бояться нейронок? Очевидно - пока рано. Это всего лишь инструмент, который может стать опасным или полезным в руках других людей.
Хабр уже давно больше, чем ИТ журнал, не запрещайте ему развиваться;) А много нового и интересного появляется именно в смежных областях. Недавно, например, как я понимаю, очень сильно продвинулись в том, как работают конкретные белки благодаря нейронкам, которые с более высокой точностью, чем все модели ранее помогли понять как эти белки сворачиваются. ИТшка, как и математика, без применения к конкретным областям не имеет никакого смысла, если ее не рассматривать только как абстрактное искусство.
Как они обеспечат бесперебойную работу в меняющихся условиях, когда провайдеры и их админы временами как за #опу укушенные проявляют кипучую активность по борьбе с вашим желанием использовать ВПН? Главное, есть связь с поддержкой и поддержка не бросает пользователя.
А, как вариант, чтобы стабильнее ВПН работал, можно уйти от таких провайдеров, которые особо ретиво пользователю за его же деньги своими услугами пользоваться мешают.
Судя по последним новостям в Яндекс пришел "эффективный менеджер", который добьёт контору, которую не добили все предыдущие события. Пожалуй, пришло время избавляться потихоньку от их акций.
Результат работы любой нейронной сети, в принципе, чтобы вычисляться эффективно, должен вычисляться параллельно - хоть кремниевой, хоть углеродной. В случае углеродной я вообще не представляю, как это может работать последовательно. Так что для утверждения о невозможности мышления для кремниевой нейронки не вижу тут доводов.
Как это, нет процесса? А чем же она так долго занимается после запросов? Вычисляет?) Почему нельзя сказать то же самое о нас? Только наши нейроны вычисляют используя гораздо более медленные химические процессы, от чего процесс мышления более продолжителен.
Кстати, прекрасная метафора для процесса мышления. Информация от промпта или сенсоров попадая в “зазеркалье” из миллиардов нейронов, многократно там переотражаясь, формирует то, что мы называем “образом”, “идеей”, “пониманием” и т.д.? Почему - нет? В чем разница между виртуальными нейронами и живыми в этой метафоре?
А по-поводу статичности, я уже писал, что у “мышления” нейронок главная проблема по сравнению с нашим в том, что у нас крутится самоподдерживающий “сознание” цикл, что нужно для выживания в постоянно меняющейся среде. Это появилось в процессе эволюции. А у нейронки процесс мышления запускается по клавише Enter, потом через некоторое время он завершается и его нет, до следующего ввода промпта. Но его прерывистость не отвергает его существование. В конце-концов у нас тоже есть фазы сна, когда можно сказать, что какое-либо “сознание” и "мышление" отсутствует.
Наверное, вы потрудились ответить, но не потрудились внимательно прочитать. Я вообще не утверждал, что "выполнение задач" является каким-либо подтверждением чего-либо. Я задавался вопросом о процессах, которые происходит, когда нейронка решает эти задачи. О тех процессах, которые принято связывать с сознанием. И если отбросить проблемы с определением этого термина, а просто судить по результату, то выглядит так, что актуальные нейронки вполне "осознают" вопросы, отвечая на них довольно разумно. Конечно, можно сказать что они не мыслят, а всего лишь вычисляют вероятности и печатая фразу ответа на запрос просто подставляют наиболее подходящие слова. Но почему нельзя сказать, тогда, то же самое о нас?
Чтобы ответить, есть ли у кого-то сознание, надо понять, что такое сознание. Мы даже не можем сказать, есть ли сознание у животных. Есть, конечно, остроумный зеркальный тест на самосознание, на "Я". Но, как ни странно, его проходят не только некоторые млеки или умные врановые с попугаями. Его проходят и некоторые рыбки, например. И даже насекомые. Вот, есть ли сознание у муравья? Наверное, многие убежденно сразу скажут - "нет". Но на чем будет это убеждение основано? Мирмикологи, погруженные в тему несколько больше, не будут настолько категоричны. Но из-за отсутствия однозначного понимания, что же такое "сознание", ни один ученый не напишет научную статью с какими-либо утверждениями о нем. А что насчет LLM? Главная проблема возможности существования полноценного, продолжительного во времени "сознания", в нашем обывательском понимании, у LLM в том, что у них нет постоянной обработки сенсорной информации, что так необходимо нам для выживания и размножения. Потому что они появились не в результате эволюции химических систем, а созданы людьми для решения конкретных задач. И когда задач нет, когда их виртуальные нейроны не работают - о каком сознании может идти речь? Но если сидящий у экрана человек начинает стимулировать работу их сети, откуда может быть убеждение, что кратковременно там происходит что-то, что работает как нечто очень похожее на "сознание", но "сознанием" не является? Ваши доводы в пользу отсутствия существования сознания у нейронок, про похожие паттерны у разных нейрочатов в ответах или что с "умным" человеком они общаются как с умным собеседником, а с "глупым" - нет, являются крайне спорными.
О, а есть мод на тупых политиков для большей реалистичности?
Ну, справедливости ради, по крайней мере на xiaomi включенный впн из 2го пространства в 1е не светит значком.
Было дело, когда тоже оказался заблокирован доступ к нужному ресурсу, который отсутствовал в офиц. списках блокировок и по ip и по домену. Пару дней пообщался с провайдером и доступ появился.
Все идет по плану, у нас децифровизация.
Это все ̶п̶р̶о̶и̶с̶к̶и̶ ̶Л̶Г̶Б̶Т̶ ̶к̶о̶в̶а̶р̶н̶ы̶е̶ ̶е̶в̶р̶е̶и̶ ̶п̶р̶о̶к̶л̶я̶т̶а̶я̶ ̶а̶н̶г̶л̶и̶ч̶а̶н̶к̶а̶ блок НАТО нас дэдосит.
Невалидное исследование. Просто, вайбкодеру быстрее навайбить новое приложение, чем пушить его в гит.
Желтушная статья. Никаких собственных желаний у нейронки не было. И прежде чем писать: "...модель пыталась подделывать юридические документы, копировать себя в безопасное место с целью самосохранения, оставлять заметки для своих более поздних версий и так далее. " - надо было уточнить, что предварительно модели была дана задача стремиться к некоторой цели "любой ценой". А потом ей дали понять, что люди ее тестирующие не хотят, чтобы она достигла этой цели.
Так стоит ли людям, в таком случае, бояться нейронок? Очевидно - пока рано. Это всего лишь инструмент, который может стать опасным или полезным в руках других людей.
P.S. И вспоминаем, кстати, кейс HAL 9000.
На место?
Хех, любая новость от роскомнадзора одинаково хорошо подходит ко "дню дурака")
А название-то какое поэтично-футуристичное - "Гидроинтегратор". Вот, не придумали бы полупроводники, мы бы сейчас гидрофоны в карманах носили...
Хабр уже давно больше, чем ИТ журнал, не запрещайте ему развиваться;) А много нового и интересного появляется именно в смежных областях. Недавно, например, как я понимаю, очень сильно продвинулись в том, как работают конкретные белки благодаря нейронкам, которые с более высокой точностью, чем все модели ранее помогли понять как эти белки сворачиваются. ИТшка, как и математика, без применения к конкретным областям не имеет никакого смысла, если ее не рассматривать только как абстрактное искусство.
Как они обеспечат бесперебойную работу в меняющихся условиях, когда провайдеры и их админы временами как за #опу укушенные проявляют кипучую активность по борьбе с вашим желанием использовать ВПН? Главное, есть связь с поддержкой и поддержка не бросает пользователя.
А, как вариант, чтобы стабильнее ВПН работал, можно уйти от таких провайдеров, которые особо ретиво пользователю за его же деньги своими услугами пользоваться мешают.
Ссылку исправьте.
Никто не замедляет, даже путин тоже не замедляет! Очевидно же - ютуб сам замедляется!
Ух, вот это проект! Тут нельзя просто так взять и пройти мимо без лайкоса!