Комментарии 16
ЛеКун не прав. с.м. результаты ИИ от Мета.
Помимо ЛеКун, об этом неоднократно говорил и Гэри Маркус, начиная с 1990+ годов. Советую почитать: "Artificial Intelligence Is Stuck. Here’s How to Move It Forward" (2017)
"Интеллект - это не успешное выполнение задачи, а способность к абстракции, обобщению, рассуждению, пониманию контекста"
А что недавно заявил Эндрю Карпаты?
"Они не думают, а лишь копируют поведение, подстраиваясь под ожидания."
Сейчас не нужно размышлять об AGI, так это будет похоже на такое: "А давайте поразмышляем по поводу того, когда люди колонизируют Марс". На данном этапе развития человечества, оно не способно ни на то, ни на другое
А можно пару определений, что такое
мышление в человеческом смысле
и
настоящим осознанием
Прежде, чем достигнуть чего-то, хотелось бы понять, а чего же, собственно, мы достигаем?
Да, вроде, это до смешного простые и примитивные понятия и то, с чем вы каждый день имеете дело на протяжении многих лет. Какие трудности? И что это вам даст, если кто-то вам тут приведёт определения?
Если они настолько примитивные, не сочтите за труд привести их тут.
Так, чтобы их можно было формализовать. Если что-то можно оценить и измерить, только тогда и можно говорить, достигли мы этого или нет.
А иначе получается говорильня вульгарис.
Да, это очень простые понятия, тем более что они всегда на слуху и на виду среди всех "сапиенсов". Но люди в своей массе никогда не думают, и не хотят думать, или не могут, а если что-то говорят, то повторяют всякую чушь. Особенную вне минимальной понятийной грамотности сейчас несут так называемые "ИИ", которые таковыми не являются. Я отвечу на Вашу просьбу и дам определение, например "сознанию", но для начала и контраста я бы хотел чтобы Вы тут прежде привели "определения" сознанию этих самых "ИИ" или каких-нибудь "учОных", чтобы я с чистой совестью Вам показал, что правильное определение, например, "сознания" очень и очень, до смешного, просто,. проблема в том, что люди и эти самые "учОные" и "разработчики" никогда не открывали учебник "Логики", хотя бы для учеников 6-го класса средней школы, которая когда-то изучалась в школах. Итак, жду образчики той лабуды, которую дают в "науке" и в калькуляторах повышенного типа под названием "ИИ". Идёт???
Нет, не "идёт".
Первое, я не говорил, что у меня есть определения чего-либо.
Второе, определение "человеческого сознания" не может зависеть от каких-бы то ни было определений, касающихся ИИ.
Хотите играть в носителя великой истины и срывателя покровов, ваше право, мне это совсем неинтересно. Либо дайте формальное определение, либо играйте дальше в свои игры с разоблачением учОных. С ними самими.
Вангую, что не раньше, чем заведётся промышленный термояд
Пока не будет завались дешёвой энергии, слабо верится в повсеместный AGI
Заодно это как экзамен — если такая простая и примитивная штука как термоядерный реактор пока не работает, то куда уж до сложной AGI
Ок, основной посыл ИИ это не серебряная пуля, а инструмент для решения класса конкретных задач, мощный инструмент, но со своими ограничениями, которые надо четко осознавать. Все разговоры об AGI это больше пиар направленные на раздутие фин. пузыря вокруг темы, туда же все разговоры Альтмана и Маска о том что ИИ всех захватит. Вопрос в том, что вопрос об интеллекте очень широкий он скорее охватывает религиозные , исторические и философские аспекты, и инженеры мыслящие в узком контексте нейронных сетей и языковых моделей просто некомпетентны в этих вопросах. Так же как и 99% населения потребителей мас. культуры. Важно отличать пиар от технических решений.
Вот что значит для меня термин ИИ - система, которая думает:
Искусственный интеллект (ИИ) — это полная автономная когнитивная система, обладающая:
— Моделью мира — причинно-следственной, структурированной онтологией, позволяющей отличать факты от убеждений и предсказывать последствия действий;
— Целеполаганием — способностью формировать внутренние цели, не задаваемые извне;
— Агентностью — инициативой действовать в реальном времени для достижения этих целей в неопределённой и динамичной среде;
— Теорией разума (ToM) — способностью моделировать знания, убеждения и намерения других агентов;
— Этической устойчивостью — встроенной способностью отказываться от действий, ведущих к вреду, даже если они технически возможны.
А если система не думает, а что-то делает, то это не ИИ. Иначе ИИ можно назвать: тостер, хлебопечку, обычный вакуумный пылесос и т.д. Берем мозг, любой - он думает и "отдает приказы" всем остальным органам/частям тела. Лежит себе спокойно в черепной коробочке и даже "нейроном не шелохнёт".
Как пример:
У меня сломался тостер и он начал мне жарить хлеб черный, прям в уголёк. И что, я как "LLM-зомби" должен подумать что у тостера появилась внутренняя модель мира и что "тостер думает" - я не толерантен и мне пора кушать не слегка пожаренный хлеб, а чёрный?! Нет конечно. Тостер просто сломан и его надо отнести в ремонт, а то мало ли что, пожар случится. Надо перестать подменять понятия: ИИ - это система, которая думает, а не делает!
Ну наконец-то нормальный разбор! Очень согласуется с тем, что пишет Родни Брукс про гуманоидных роботов. Общий искусственный интеллект - он на то и общий, чтобы обладать полной картиной мира, а мы пока еще не всё научились оцифровывать. Если с распознаванием образов и анализом звуков и языка все еще более-менее, но с такими вещами как, например, тактильные ощущения, вкус, запах - вообще всё крайне скудно. Так что согласна: можно пока бункер не копать.
Я как раз уверен, что человечество на пороге самого сильного потрясения за всю свою историю. Скорее всего ЛеКун прав и ждать AGI в течении ближайших пары лет нельзя, но лет через 10 он обязательно появится и что тогда. Кто будет иметь к нему доступ? Как и кем будут исполняться идеи сверх разума? Чем собственного говоря тогда займутся учёные, администраторы, предприниматели, правительства? Я не говорю уже о простых людях для которых "благодаря" роботам не будет вообще никакой работы. С кого взимать налоги? С роботов? Из каких источников платить социальные пособия по безработице 8 миллиардам населения? Как вообще человек переживает дикий комплекс собственной неполноценности по сравнению со сверх разумом. Я не думаю, что машины покорят нас. Оно им просто не нужно, но что именно будем делать все мы? Разлагаться от сытости и безделья, дичать или подыхать от голода?
разработчики ИИ зашли в тупик и не могут создать ни настоящего ИИ, ни такого, который превышал бы способности думающего человека. А с чего это люди, не понимающие, что такое "сознание" и "интеллект" должны создать что-то в этом роде??? Особенно, если набрать в Гугле и попросить дать определения, или раскрыть монографии, то там даны какие-то глупости и чушь, состряпанные с нарушением правил логики??? Эти люди не могут даже дать определения простым понятиям "сознание", "интеллект", "разум", "рассудок" и т.д. Маск имеет хорошее математическое образование, но он вырос и получал образование в провинциальных университетах, где была фиговая подготовка по психологии, поэтому и он вошёл в познавательный и инженерный тупик. Сегодняшнее образование в общекультурном отношении ниже чем в 19 веке, наше время - это упадок образования в гуманитарной области и в психологии. Другие люди создадут и ИИ, и Искусственный разум на технической основе, и появиться они могут в любой момент и явно не в известных фирмах.
AGI к 2030-му? Почему Илон Маск не прав, а Ян ЛеКун — да, и что с этим делать нам