Комментарии 15
На данном этапе это все работает либо с детьми, либо на уровне «фигового секретаря». Поскольку реально занятые люди не очень согласны, чтоб их переспрашивали по 2-3 раза уточняя всякую ерунду, а системы еще не могут однозначно корректно(95%+) определить, чего от них хотят.
AlphaGo Zero разгромно обыгрывает прошлые версии сети и не требует человеческого участия в процессе тренировки.
Последняя версия — AlphaZero, без заточки под Го. Обыграла AlphaGo Zero в Го, Stockfish в шахматы.
Сильный ИИ за 5-10 лет? Откуда такой неудержный оптимизм?
Пока что толком понимания сознания как такового нет. И как без такого фундамента построить сильный ИИ?
Пока что толком понимания сознания как такового нет. И как без такого фундамента построить сильный ИИ?
Как мне видится, есть понимание о том, что существующих вычислительных мощностей и накопленной информации должно быть достаточно для создания GAI, но пока не хватает той самой изюминки, которую нужно придумать. И путь усыпан перспективными находками, типа AlphaZero.
А до AlphaZero было модно говорить про Watson.
Нет, бесспорно это крутые штуки. И даже, пожалуй, полезные.
Но говорить про это, как про зачатки сильного ИИ??? Не смешите мои тапки. Как раз «изюминки» там и нет.
А про внезапную эволюцию накопленной вычислительной мощности и данных в ИИ много писали фантасты еще в середине прошлого века. Практика показала, что «не взлетает» (хорошо это или плохо). Хотя, может быть он слишком умный и от нас прячется :-)
Нет, бесспорно это крутые штуки. И даже, пожалуй, полезные.
Но говорить про это, как про зачатки сильного ИИ??? Не смешите мои тапки. Как раз «изюминки» там и нет.
А про внезапную эволюцию накопленной вычислительной мощности и данных в ИИ много писали фантасты еще в середине прошлого века. Практика показала, что «не взлетает» (хорошо это или плохо). Хотя, может быть он слишком умный и от нас прячется :-)
Сильный ИИ — это не про сознание. Это про решение общих (а не специализированных) задач. Если ему можно будет за 20 минут объяснить задачу и он её решит не хуже, чем человек — это сильный ИИ. Даже если у него не будет сознания (или мы не сможем это проверить).
Формально вы правы, но есть ньюанс… Даже два:
1. Даже в вашей формулировке стоит «объяснить» и предполагается, что это будет объяснение не специализированное (очевидно, что решать задачу вычисления результата, если человек напишет формулу уже вполне решается и без ИИ). Это означает работу с ИИ «как с человеком», т.е., судя по всему, выполнение критериев теста Тьюринга. А это по определению эмуляция человеческого сознания.
2. Насколько я знаю, человечество знает только один тип «универсального решателя» — человеческое сознание. Конечно, можно допустить, что придумают сильный ИИ далекий от нашего сознания и работающий по другим принципам, но как это создать и как с ним работать? Это выглядит задачей, пожалуй, посложнее, чем сделать ИИ в виде человекоподобного сознания.
И да, на всякий случай: когда я говорю про «сознание» я имею в виду практичную сторону, а не глубоко философскую. Т.е. «китайская комната» достаточной сложности вполне подойдет, неважно есть ли там глубоко внутри самоосознание или нет.
1. Даже в вашей формулировке стоит «объяснить» и предполагается, что это будет объяснение не специализированное (очевидно, что решать задачу вычисления результата, если человек напишет формулу уже вполне решается и без ИИ). Это означает работу с ИИ «как с человеком», т.е., судя по всему, выполнение критериев теста Тьюринга. А это по определению эмуляция человеческого сознания.
2. Насколько я знаю, человечество знает только один тип «универсального решателя» — человеческое сознание. Конечно, можно допустить, что придумают сильный ИИ далекий от нашего сознания и работающий по другим принципам, но как это создать и как с ним работать? Это выглядит задачей, пожалуй, посложнее, чем сделать ИИ в виде человекоподобного сознания.
И да, на всякий случай: когда я говорю про «сознание» я имею в виду практичную сторону, а не глубоко философскую. Т.е. «китайская комната» достаточной сложности вполне подойдет, неважно есть ли там глубоко внутри самоосознание или нет.
А я отвечал на философскую сторону :).
понимания сознания как такового нет
Вот это может оказаться несущественно. Эмулятор будет, китайская комната будет, а понимания феномена сознания может и не потребоваться.
Я ставлю на то, что усложнять сети можно ещё очень и очень сильно. Открытия в деталях будут (как с альфазеро), но они будут крайне далеки от общих вопросов типа "что такое сознание".
Усложнять можно. Просто практика пока что показывает, что усложнение не дает качественного скачка без понимания того, чего мы собираемся «эмулировать».
Prolog, кстати, создавали как язык для создания ИИ. И где он теперь?
Watson создавался как ИИ. Ну, пока жив, но уже не так моден. А, да, чуть не забыл, Deep Blue обыграл Каспарова — тоже был хайп еще тот.
А теперь посмотрите на даты этих безусловно уважаемых продуктов, оцените хайп, который вокруг них был и подумайте, действительно ли появление AlphaZero прям-таки даст нам сильный ИИ через 5-10 лет? :-)
Prolog, кстати, создавали как язык для создания ИИ. И где он теперь?
Watson создавался как ИИ. Ну, пока жив, но уже не так моден. А, да, чуть не забыл, Deep Blue обыграл Каспарова — тоже был хайп еще тот.
А теперь посмотрите на даты этих безусловно уважаемых продуктов, оцените хайп, который вокруг них был и подумайте, действительно ли появление AlphaZero прям-таки даст нам сильный ИИ через 5-10 лет? :-)
Усложнение, которое "не взлетает" должно взлететь всего один раз.
Новое понимание есть. Например, как научить задаче, дав описание мира и не мучаясь вообще ни с какими примерами. Но про 5-10 лет не я говорил. Не знаю, сколько потребуется.
Дык, я нигде и не говорил, что в результате каких-то усложнений чего-то не взлетит. Наверняка рано или поздно получится ИИ, который мы будем вынуждены признать сильным. Уж там будет это эволюция AlphaZero или что-то еще — ХЗ.
Я говорил
ссылаясь на статью.
И, из того, что я написал выше (каждое исследование в области ИИ казалось «пониманием», но, очевидно, очень узкой проблемы), мой пессимизм мне кажется оправданным.
Кстати, по поводу «не мучаясь ни с какими примерами» — это не совсем верно. Каждая статья про самообучающийся ИИ все время грешит тем, что работает она все-таки на ограниченной выборке (больше обучающей, но все-таки, созданной людьми)
Я говорил
Сильный ИИ за 5-10 лет? Откуда такой неудержный оптимизм?
Пока что толком понимания сознания как такового нет. И как без такого фундамента построить сильный ИИ?
ссылаясь на статью.
И, из того, что я написал выше (каждое исследование в области ИИ казалось «пониманием», но, очевидно, очень узкой проблемы), мой пессимизм мне кажется оправданным.
Кстати, по поводу «не мучаясь ни с какими примерами» — это не совсем верно. Каждая статья про самообучающийся ИИ все время грешит тем, что работает она все-таки на ограниченной выборке (больше обучающей, но все-таки, созданной людьми)
> Насколько я знаю, человечество знает только один тип «универсального решателя» — человеческое сознание.
Сознание предполагает осознанность процессов, их доступность интроспекции. Но большая часть процессов происходящих при формулировании и решении задач интроспекции не доступно. Иначе сильный ИИ давно бы был создан. Так что нет смысла называть сознание решателем задач. Решатель задач — мозг, а сознание — проявление каких-то функций мозга, возможно и не требующихся универсальному решателю задач, но требующихся успешному производителю потомства.
Сознание предполагает осознанность процессов, их доступность интроспекции. Но большая часть процессов происходящих при формулировании и решении задач интроспекции не доступно. Иначе сильный ИИ давно бы был создан. Так что нет смысла называть сознание решателем задач. Решатель задач — мозг, а сознание — проявление каких-то функций мозга, возможно и не требующихся универсальному решателю задач, но требующихся успешному производителю потомства.
Я специально уточнил, что философские вопросы не рассматривал. Рассуждать имеет ли «китайская комната» самосознание, и, если да, то где оно заключено — не суть важно для практических задач.
Поэтому и про «решатель» я говорил с точки зрения практики. Конечно, «универсальный решатель» может не обладать осознанностью, но так ли это важно, когда вы задаете ему вопрос и получите ответ? Но пока что я не вижу другого «универсального решателя», кроме человека, обладающего сознанием.
Если кто-то приведет обратный пример — готов согласиться, что это было неверное допущение. Но пока что я таких примеров не вижу, и хотя бы методики их построения или хотя бы проверки не наблюдаю.
Для проверки человекоподобного сознания хотя бы есть методика проверки (несовершенная, но все-таки) в виде теста Тьюринга.
Поэтому и про «решатель» я говорил с точки зрения практики. Конечно, «универсальный решатель» может не обладать осознанностью, но так ли это важно, когда вы задаете ему вопрос и получите ответ? Но пока что я не вижу другого «универсального решателя», кроме человека, обладающего сознанием.
Если кто-то приведет обратный пример — готов согласиться, что это было неверное допущение. Но пока что я таких примеров не вижу, и хотя бы методики их построения или хотя бы проверки не наблюдаю.
Для проверки человекоподобного сознания хотя бы есть методика проверки (несовершенная, но все-таки) в виде теста Тьюринга.
Помощниками должны пользоваться реально занятые люди, которым жалко тратить своё время на работу с клавиатурой. Но эти системы не совершенны и вместо экономии времени могут превратиться в поглотителя. Я бы не стал этим пользоваться, пока бы не увидел, что у других получается и они экономят время.
Хотел бы узнать побольше о Hugh, на страницах библиотеки Аберстуита и Примо о нём ничего не сказано. Интересно, умеет ли он тематический поиск, и если да, то насколько хорошо, и может ли строить кустистые деревья цитирований типа «ищу статью, которая цитирует несколько названных»
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
ИИ для личных целей: помощь с образованием, работой и планированием