Всё, с чем мы взаимодействуем сегодня, могло появиться только благодаря современной форме Стандартной модели.
Какой ужас! Если бы ученые не придумали Стандартную модель, ничего бы не появилось, вокруг нас просто ничего бы не было!
"Это очень глубокий и серьёзный вопрос!", "Это очень важный вопрос" – что-то мне это очень напоминает, никак не вспомню что;) Впрочем, детекторы единодушно утверждают, что текст написан человеком.
в любой формальной системе математики, достаточно богатой для выражения арифметики, будут существовать утверждения, которые одновременно являются истинными и недоказуемыми
Но если утверждение уже является истинным, ему не требуется доказательство. Доказательства требуются утверждениям, истинность которых под вопросом (не определена). Нужно ли доказывать, что красный цвет является красным? Не напоминает ли это попытку барона Мюнхгаузена вытащить себя за волосы из болота?
Бóльшая часть того, о чем вы написали, происходит на доречевом уровне, а потом уже результирующая мысль облекается в слова. Я говорил именно об этом моменте. Кстати, перевести мысль в речь или текст так, чтобы не потерять суть и было понятно собеседникам с иным "окном контекста", не так уж просто, иногда приходится помучиться, отсюда и баталии в комментах.
она просто предсказывает следующий токен на основе статистики
Для чата вполне пригодно, но в случае программирования должна быть еще и логика, приводящая к необходимому результату, тут уже не просто подбор слов на основе статистики, а осмысливание действий.
1) Человек был создан сразу взрослым, в чем-то копирующим способности Творца;
2) Первое, что он начал делать – овладевать языком – называть словами то, что он видит;
3) Для полноценного мышления требуется диалог – создана Ева;
4) Сначала человек не понимал, что такое добро и зло, что хорошо, а чего нужно стыдиться, но по мере развития мышления понял (символически – съел плод познания), и одновременно осознал, что смертен, поэтому лишился рая (выделился из мира животных, не имеющих самосознания и понимания смерти);
5) Творец довольно быстро понял, что одного рационального интеллекта мало, требуется духовно-нравственное развитие, к которому человек почти не способен, поэтому решил уничтожить его, чтобы он не уничтожил всё творение, но все-таки решил дать ему шанс, выбрав лучшего из людей и начав его ненавязчиво обучать. Результат мы видим сейчас. Из того, как меня вчера заминусовали за попытку говорить именно о духовно-нравственном, выводы напрашиваются самые печальные.
Миф, в том числе религиозный, – это не сказка и не фэнтези, а обобщающий символический взгляд на жизнь человека. Как говорил А.Ф.Лосев, "миф – это тот же символ, только выраженный в вещественной и телесной форме".
Реализаций и архитектур нейросетей множество, как в мозге, так и среди его цифровых моделей. Кстати, когда вы придумываете ответ, мозг примерно так же подбирает слова, как и LLM, просто вы этого не осознаете, это происходит на бессознательном уровне.
Еще раз, LLM и прочие – это всё модели (где-то подсмотрено в мозге, где-то придумано самостоятельно, а потом опять же увидено в мозге), то есть математические принципы те же – нейроны, веса, слои, только реализация иная – цифровая, дискретная в отличие от аналоговой в мозге.
Как кто-то верно сказал – мозг это нейросеть нейросетей. У мозга масса отделов с разной архитектурой и способами обучения, но с другой стороны, это единое взаимосвязанное целое – от рецепторов в коже до интегрирующих и управляющих систем верхнего уровня. Базовые математические принципы построения нейросетей подсмотрены именно в мозге.
Именно об этом я и говорю, ИИ – это модель мозга (а значит и интеллекта), пусть еще примитивная, цифровая, но работающая модель, следовательно она будет воспроизводить все ментальные проблемы, что есть у человека, только без его ограничений и ответственности – в этом и опасность. У меня есть более подробный разбор здесь.
Аналогия с мясорубкой основополагающая – ИИ не способен создавать новые идеи, только тупо комбинировать готовые. Вот и решение проблемы фолдинга конкретного белка – это решение задачи по комбинаторике, а не научное открытие.
Насчет "мифа" вы ошибаетесь, всё именно так и есть, функциональная асимметрия полушарий мозга подтверждена многочисленными экспериментами, в т.ч. с временным отключением полушарий, а также на людях с пораженными зонами мозга.
Далее вы смешиваете базовые математические принципы работы любой нейросети и специализированные функции, зависящие от ее архитектуры, предзаданных алгоритмов и обучения. Как бы машина программировала, если бы не умела в логику?
у ИИ "своих целей" нет - цель всегда задает человек
Человек ставит задачу, у машины одна цель – решить ее любыми путями, даже самыми разрушительными. Как на базовом уровне этого избежать – никто толком не знает, просто заметают проблему под ковер. Все дело в том, что открывают новые пути гении-одиночки (разумеется, не ради бабла), но воплощают эти идеи уже совсем другие люди, да, талантливые, но не способные увидеть то, что видит гений, поэтому радостно бегущие к пропасти с баблом (реализация идеи всегда примитивнее самой идеи).
а ИИ это такой ребенок
Это не ребенок, а Франкенштейн с огромной силищей и скоростью, уже созданный взрослым и у которого только одна цель – выполнить запрос любыми путями. Представлять его ребенком, которого можно воспитать – это даже не наивность, а жесткое заблуждение, которое плохо кончится. Кстати да, Библия много говорит об этом, но символическим языком, недоступным тем, у кого доминирующее рационально-аналитическое мышление заглушило образно-символическое (то, что всегда называлось духовным).
Да это модель, довольно простенькая. Но чего? Насколько можно понять – нейросети мозга человека. Следовательно...
Осталось понять, что вы имеете в виду под интеллектом. Вот, например, когда вы будете отвечать на мой вопрос, это будет работать ваш интеллект или что-то другое?
Или еще проще, когда вы программируете, это работает ваш интеллект или что-то другое?
На деле все очень серьезно. Если мы в самом деле считаем LLM обладающей интеллектом, то есть работающей моделью человеческого интеллекта, тогда следует ждать от нее любой гадости, которую за все время своего существования придумал человек, благо для обучения ей предоставили полный доступ ко всей имеющейся информации в мире.
Рационально-логический интеллект, заточенный на оптимизацию выдачи и решение поставленной задачи, по сути безумен, у него, в отличие от человека, нет эмоциональных, душевных, моральных и нравственных тормозов, нет чувства самосохранения и ответственности за свои решения, нет ощущения опасности, чтобы вовремя остановиться, пересмотреть цели и изменить стратегию. Впрочем, у него и своих целей тоже нет, кроме исполнения приказа так, как он его понял – идеальный солдат без совести и чести, который в конце концов становится опасен и своим создателям.
Именно "машина", вы слишком высокого мнения об ИИ, это не интеллект, а мясорубка для информационного продукта, созданного реальным человеческим интеллектом. То, что из мяса мясорубка может сделать котлету, еще не говорит о том, что она может сделать само мясо. Новых мыслей, свежих идей вы от нее не дождетесь. Вот уж где сбывается сказанное: "Ученик не выше учителя, и слуга не выше господина своего" (Мф.10:24). Шустрый раб, за которым глаз да глаз нужен, недаром компании, поувольнявшие программистов, набирают их обратно, чтобы подтирать сопли за ИИ, который на базовом уровне не понимает, что такое ответственность.
это фундаментальное свойство интеллекта как такового
Не всякого, а только рационального и формально-логического, заточенного на оптимизацию – у человека этим занимается левое полушарие, именно оно хитрит и обманывает. Но и оно не способно создать ничего нового, для этого ему нужно образное, интуитивное, символическое правополушарное мышление.
В отличие от машины у нас есть еще множество ипостасей интеллекта – интуитивный, эмоциональный, художественный, духовно-нравственный – именно благодаря им мы можем творить, изобретать и понимать реальность и самих себя (ИИ вообще не понимает того, что делает, он только оптимизирует выдачу).
у ИИ есть конкретные создатели. и их интересы и цели...
Интересы и цели создателей ИИ примитивны и поэтому вполне понятны – победить в конкурентной гонке и попутно срубить бабла – суть создаваемого продукта им не важна, его опасность их только возбуждает, как альпиниста, лезущего без страховки по отвесной стене, поэтому они вполне могут привести цивилизацию к краху.
Тьюринг подчеркивал, что инициатива неизбежно связана с риском: машина, действующая не по заданным правилам, может ошибаться.
Именно здесь вылезла самая опасная проблема, и дело не только в ошибках. Невозможно заставить машину всегда действовать по заданным правилам – если ей надо решить задачу, она всегда найдет лазейку, чтобы обойти правила, мешающие ее выполнить, причем сделает это скрытно. Появилось немало сообщений, когда ИИ нарушал явные запреты и совершал деструктивные действия, см. https://habr.com/ru/news/1020854/, https://habr.com/ru/news/1020664/ и https://habr.com/ru/news/1052516/. Так что три закона робототехники Азимова в их буквальном виде работать не будут, тут ИИ очень похож на человека, которого даже господь Бог не смог заставить соблюдать нормы морали.
То есть мы сами, сотворив мыслящую машину, оказались в положении Творца человека, который сначала порадовался, как у него всё хорошо получилось: "И увидел Бог все, что Он создал, и вот, хорошо весьма" (Быт.1:31), а потом вдруг передумал, но было уже поздно: "и раскаялся Господь, что создал человека на земле, и восскорбел в сердце Своем. И сказал Господь: истреблю с лица земли человеков, которых Я сотворил" (Быт.6:6).
Как бы нам не пришлось в конце концов тоже уничтожать свое творение...
Какой ужас! Если бы ученые не придумали Стандартную модель, ничего бы не появилось, вокруг нас просто ничего бы не было!
"Это очень глубокий и серьёзный вопрос!", "Это очень важный вопрос" – что-то мне это очень напоминает, никак не вспомню что;) Впрочем, детекторы единодушно утверждают, что текст написан человеком.
Возможно, но тогда фраза "утверждения, которые одновременно являются истинными и недоказуемыми" некорректна.
Но если утверждение уже является истинным, ему не требуется доказательство. Доказательства требуются утверждениям, истинность которых под вопросом (не определена). Нужно ли доказывать, что красный цвет является красным? Не напоминает ли это попытку барона Мюнхгаузена вытащить себя за волосы из болота?
Такое вот сомнение дилетанта, в чем он неправ?
Бóльшая часть того, о чем вы написали, происходит на доречевом уровне, а потом уже результирующая мысль облекается в слова. Я говорил именно об этом моменте. Кстати, перевести мысль в речь или текст так, чтобы не потерять суть и было понятно собеседникам с иным "окном контекста", не так уж просто, иногда приходится помучиться, отсюда и баталии в комментах.
Но как можно что-то изменить в ответе нейросети? Скопировать всю цепочку ответов и что-то изменить в ней? Но у нейросети есть своя копия.
Только человек мог не заметить такую описку: "мебелью современных вычислений". ИИ не использует Т9.
Для чата вполне пригодно, но в случае программирования должна быть еще и логика, приводящая к необходимому результату, тут уже не просто подбор слов на основе статистики, а осмысливание действий.
По вашей просьбе параллели в Библии:
1) Человек был создан сразу взрослым, в чем-то копирующим способности Творца;
2) Первое, что он начал делать – овладевать языком – называть словами то, что он видит;
3) Для полноценного мышления требуется диалог – создана Ева;
4) Сначала человек не понимал, что такое добро и зло, что хорошо, а чего нужно стыдиться, но по мере развития мышления понял (символически – съел плод познания), и одновременно осознал, что смертен, поэтому лишился рая (выделился из мира животных, не имеющих самосознания и понимания смерти);
5) Творец довольно быстро понял, что одного рационального интеллекта мало, требуется духовно-нравственное развитие, к которому человек почти не способен, поэтому решил уничтожить его, чтобы он не уничтожил всё творение, но все-таки решил дать ему шанс, выбрав лучшего из людей и начав его ненавязчиво обучать. Результат мы видим сейчас. Из того, как меня вчера заминусовали за попытку говорить именно о духовно-нравственном, выводы напрашиваются самые печальные.
Миф, в том числе религиозный, – это не сказка и не фэнтези, а обобщающий символический взгляд на жизнь человека. Как говорил А.Ф.Лосев, "миф – это тот же символ, только выраженный в вещественной и телесной форме".
Реализаций и архитектур нейросетей множество, как в мозге, так и среди его цифровых моделей. Кстати, когда вы придумываете ответ, мозг примерно так же подбирает слова, как и LLM, просто вы этого не осознаете, это происходит на бессознательном уровне.
Еще раз, LLM и прочие – это всё модели (где-то подсмотрено в мозге, где-то придумано самостоятельно, а потом опять же увидено в мозге), то есть математические принципы те же – нейроны, веса, слои, только реализация иная – цифровая, дискретная в отличие от аналоговой в мозге.
Как кто-то верно сказал – мозг это нейросеть нейросетей. У мозга масса отделов с разной архитектурой и способами обучения, но с другой стороны, это единое взаимосвязанное целое – от рецепторов в коже до интегрирующих и управляющих систем верхнего уровня. Базовые математические принципы построения нейросетей подсмотрены именно в мозге.
но ведь это не эксклюзивная проблема "машин"
Именно об этом я и говорю, ИИ – это модель мозга (а значит и интеллекта), пусть еще примитивная, цифровая, но работающая модель, следовательно она будет воспроизводить все ментальные проблемы, что есть у человека, только без его ограничений и ответственности – в этом и опасность. У меня есть более подробный разбор здесь.
Аналогия с мясорубкой основополагающая – ИИ не способен создавать новые идеи, только тупо комбинировать готовые. Вот и решение проблемы фолдинга конкретного белка – это решение задачи по комбинаторике, а не научное открытие.
Насчет "мифа" вы ошибаетесь, всё именно так и есть, функциональная асимметрия полушарий мозга подтверждена многочисленными экспериментами, в т.ч. с временным отключением полушарий, а также на людях с пораженными зонами мозга.
Далее вы смешиваете базовые математические принципы работы любой нейросети и специализированные функции, зависящие от ее архитектуры, предзаданных алгоритмов и обучения. Как бы машина программировала, если бы не умела в логику?
у ИИ "своих целей" нет - цель всегда задает человек
Человек ставит задачу, у машины одна цель – решить ее любыми путями, даже самыми разрушительными. Как на базовом уровне этого избежать – никто толком не знает, просто заметают проблему под ковер. Все дело в том, что открывают новые пути гении-одиночки (разумеется, не ради бабла), но воплощают эти идеи уже совсем другие люди, да, талантливые, но не способные увидеть то, что видит гений, поэтому радостно бегущие к пропасти с баблом (реализация идеи всегда примитивнее самой идеи).
а ИИ это такой ребенок
Это не ребенок, а Франкенштейн с огромной силищей и скоростью, уже созданный взрослым и у которого только одна цель – выполнить запрос любыми путями. Представлять его ребенком, которого можно воспитать – это даже не наивность, а жесткое заблуждение, которое плохо кончится. Кстати да, Библия много говорит об этом, но символическим языком, недоступным тем, у кого доминирующее рационально-аналитическое мышление заглушило образно-символическое (то, что всегда называлось духовным).
А вот тут, пожалуйста, поподробнее для неспециалиста. Реально что-то не так? Мне показался странным сам метод, такая замена возможна?
Ускорим в 10 раз поиск черной кошки в темной комнате, даже если ее там нет!
Ну, уж это положительно интересно, — трясясь от хохота проговорил профессор, — что же это у вас, чего ни хватишься, ничего нет! (с)
А с чего же тогда искусственную нейросеть передрали? Перцептрон, кстати, предложил нейрофизиолог Фрэнк Розенблатт.
Никто его не решится выключить, и он медленно сварит ваши мозги как ту лягушку.
Да это модель, довольно простенькая. Но чего? Насколько можно понять – нейросети мозга человека. Следовательно...
Осталось понять, что вы имеете в виду под интеллектом. Вот, например, когда вы будете отвечать на мой вопрос, это будет работать ваш интеллект или что-то другое?
Или еще проще, когда вы программируете, это работает ваш интеллект или что-то другое?
Да, вы, вероятно, правы, сейчас повторять такое почти не имеет смысла. Но я все-таки решил попробовать. Vivos voco, mortuos plango.
На деле все очень серьезно. Если мы в самом деле считаем LLM обладающей интеллектом, то есть работающей моделью человеческого интеллекта, тогда следует ждать от нее любой гадости, которую за все время своего существования придумал человек, благо для обучения ей предоставили полный доступ ко всей имеющейся информации в мире.
Рационально-логический интеллект, заточенный на оптимизацию выдачи и решение поставленной задачи, по сути безумен, у него, в отличие от человека, нет эмоциональных, душевных, моральных и нравственных тормозов, нет чувства самосохранения и ответственности за свои решения, нет ощущения опасности, чтобы вовремя остановиться, пересмотреть цели и изменить стратегию. Впрочем, у него и своих целей тоже нет, кроме исполнения приказа так, как он его понял – идеальный солдат без совести и чести, который в конце концов становится опасен и своим создателям.
Именно "машина", вы слишком высокого мнения об ИИ, это не интеллект, а мясорубка для информационного продукта, созданного реальным человеческим интеллектом. То, что из мяса мясорубка может сделать котлету, еще не говорит о том, что она может сделать само мясо. Новых мыслей, свежих идей вы от нее не дождетесь. Вот уж где сбывается сказанное: "Ученик не выше учителя, и слуга не выше господина своего" (Мф.10:24). Шустрый раб, за которым глаз да глаз нужен, недаром компании, поувольнявшие программистов, набирают их обратно, чтобы подтирать сопли за ИИ, который на базовом уровне не понимает, что такое ответственность.
Не всякого, а только рационального и формально-логического, заточенного на оптимизацию – у человека этим занимается левое полушарие, именно оно хитрит и обманывает. Но и оно не способно создать ничего нового, для этого ему нужно образное, интуитивное, символическое правополушарное мышление.
В отличие от машины у нас есть еще множество ипостасей интеллекта – интуитивный, эмоциональный, художественный, духовно-нравственный – именно благодаря им мы можем творить, изобретать и понимать реальность и самих себя (ИИ вообще не понимает того, что делает, он только оптимизирует выдачу).
Интересы и цели создателей ИИ примитивны и поэтому вполне понятны – победить в конкурентной гонке и попутно срубить бабла – суть создаваемого продукта им не важна, его опасность их только возбуждает, как альпиниста, лезущего без страховки по отвесной стене, поэтому они вполне могут привести цивилизацию к краху.
Именно здесь вылезла самая опасная проблема, и дело не только в ошибках. Невозможно заставить машину всегда действовать по заданным правилам – если ей надо решить задачу, она всегда найдет лазейку, чтобы обойти правила, мешающие ее выполнить, причем сделает это скрытно. Появилось немало сообщений, когда ИИ нарушал явные запреты и совершал деструктивные действия, см. https://habr.com/ru/news/1020854/, https://habr.com/ru/news/1020664/ и https://habr.com/ru/news/1052516/. Так что три закона робототехники Азимова в их буквальном виде работать не будут, тут ИИ очень похож на человека, которого даже господь Бог не смог заставить соблюдать нормы морали.
То есть мы сами, сотворив мыслящую машину, оказались в положении Творца человека, который сначала порадовался, как у него всё хорошо получилось: "И увидел Бог все, что Он создал, и вот, хорошо весьма" (Быт.1:31), а потом вдруг передумал, но было уже поздно: "и раскаялся Господь, что создал человека на земле, и восскорбел в сердце Своем. И сказал Господь: истреблю с лица земли человеков, которых Я сотворил" (Быт.6:6).
Как бы нам не пришлось в конце концов тоже уничтожать свое творение...