Не уверен, что начинать с трудной проблемы - это самый продуктивный подход. В данной книге автор занимался очень конкретным вопросом - когда именно возникло сознание. Рассмотрел много разных гипотез, что такое сознание и когда оно возникло. Сам лично искал сознание у улиток (не нашёл). Потом определил несколько свойст сознания (этому посвящена значительная часть книги), самое понятное из которых - что необходима речь и внутренний диалог. "Трудную проблему" он видимо задоджил.
Автор утверждает, что сознание особо не нужно ни для чего, а следовательно и для ИИ тоже. Ну и пока что мы не видим, для каких наших целей нужно делать сознание у ИИ. Люди скорее боятся, что оно может самопроизвольно возникнуть.
Сознания у кошки нет - с этим согласны вроде большинство исследователей. А данной книге прямо утверждается, что для сознания нужен язык, а у кошки его очевидно нет.
Душу автор не рассматривает совсем. Хотя мне кажется, что это понятие, довольно близкое сознанию.
>А еще это хорошо объясняется отсутствие научного подхода (в первую очередь критического мышления, когда человек на основе эксперимента отвергает неверные теории) и непонимание причинно-следственных связей (когда незнание причины события приравнивает к источнику всех действий невидимого внешнего актора).
Я такое объяснение конечно слышал. Но она всегда казалось мне натянутым. Почему из непонимания причинно-следственных связей должны рождаться голоса предков? Или камней? Мне кажется такое объяснение возникло просто за неимением лучших
К сожалению нам приходится обходиться без определений. Даже у числа нет определения. А "бикамеральный разум" в понятии автора - это когда у человека есть две параллельно действующие ментальные (когнитивные) структуры - одна принимает решения и объявляет их, а другая исполняет это решения.
Автор заявляет, что изменения в мозге произошли. Структура (когнитом) мозга человека зависит от его воспитания и взросления. Сейчас мы знаем, что это видно уже на МРТ.
"Илиада" - это не художественная литература. Это текст, описывающих для древних греков их мир. Она для нас художественная, поскольку мы считаем большую часть текста выдумкой. Мне не кажется, что греки так же считали.
Мне кажется такое разделение на железный и гуманитарный мир не совсем корректно. Pax Silica создавался железным, чтобы решить основную проблему США - нехватку редкоземельных и прочих металлов. При этом своим софтом они делиться вообще не торопятся. Это скорее две плоскости - в железном и софтовом измерении мир делится по-разному
Когда подписываешь манифест предполагается, что ты сам ему собираешься следовать. Иначе это не манифест, а манипуляция. Их модели с открытыми весами открыты явно для галочки - они на голову слабее их же закрытых моделей или китайских с отрытыми весами.
Начать с того, что называется оно "Открытые веса и американское ИИ лидерство" и посвящено тому, как хорошо должны жить американцы. Почему остальных это должно волновать - непонятно.
Почему OpenAI и Google подписали это письмо - тоже непонятно. Они собираются открывать веса своих топовых моделей?
Ну и почему open weight AI приравнивается с open source софту - тоже непонятно. Письмо отверждает, что отрытые веса "позволяют многим организациям строить ... продвинутые модели". Как можно построить продвинутую модель, зная только её веса, но не код обучения и датасет - непонятно.
Это сильное упрощение. Причин у крестовых походов много - кроме религиозных и экономических можно вспомнить о законах наследования. Земли наследовал только старший сын - остальных рыцарей нужно было куда-то пристраивать. Вот их и отправили подальше.
Все эти причины верные, но ни одна не является самодостаточной.
Насколько мне известно, он единственный попробовал изложить эти концепции на бумаге. Я, признаться, надеялся, что это будет внятное изложение. Но не случилось.
Насколько я понимаю, "После проверки портовым контролем судно было признано непригодным для дальнейшего плавания." Перевозить опасный груз на непригодном судне выглядит плохой идеей. А в УК РФ это называется преступная халатность.
Кёртис говорит не про отдельных защитников прав чернокожих - а конкретно про освобождение рабов после войны Севера и Юга в США.
Ответственным за взрыв в Бейруте, очевидно, должен быть прежде всего владелец судна. Его тоже по квоте взяли?
Доступность жилья (цена жилья делённая на зарплату) действительно один из самых известных критериев, что в 50-е было лучше. Странно, что сам Кёртис этого не упоминает. Вообще мне кажется я бы лучше обосновал прелести 50-х, чем сам Кёртис.
По архитектуре трансформеров промпт читается весь сразу. Потом генерируется следующий токен, добавляется к промпту, и снова читается весь сразу. Если мы попробуем сгененировать следующий токен после промпта "Зелёное яблоко лежит на столе", то "зелёное" уже может сослаться на "яблоко". Но этого не происходит, т.к. это нарушает работа KV-кеша.
При приходе нового токена значения Key и Value не пересчитываются, а берутся из кэша. Считаются только Query, ну и MLP слои. А сохранённые в кэше Key и Value ссылаются только назад.
Мне одному кажется, что идея в том, чтобы переложить менеджерские обязанности на рядовых сотрудников без повышения зарплаты. Типа в вместо менеджеров теперь "играющий тренер".
Мне на курсе истории науки рассказывали, что Ньютон буквально создал современную науку из ничего.
Сам Ньютон высказывался по другому: «Если я видел дальше других, то потому, что стоял на плечах гигантов» Я больше склонен верить версии Ньютона, что науку создал коллективный разум (хотя мы и не всегда знаем всех имён)
Геометрия не лишена смысла, несмотря на то, что определения у прямой нет.
А что касается подхода с другой стороны - тут согласен. Это было бы интересно проделать. Но я ни разу не видел хороших работ на эту тему. Ну а данная конкретная книга просто о другом.
Вообще говоря, инфузория обладает интеллектом. Это ясно хотя бы по тому, что чтобы запрограммировать поведение инфузории, придётся написать довольно много строк кода (т.е. написать ИИ инфузории)
Непонятно. Муравьи обладают интеллектом (просто потому что принимают решения), но не обладают разумом. И муравейкин тоже не обладает разумом, хотя и может принимать какие-то решения.
Люди обладают разумом. Общество состоит из разумных людей - вполне можно ожидать, что его уровень интеллекта может оказаться не ниже человеческого.
Если под разумом подразумевать умение решать очень сложные задачи - то любое сообщество учёных и инженеров решает намного более трудные задачи, чем отдельный человек. Хотя сверхразум - это наверное что-то более крутое уже.
Не уверен, что начинать с трудной проблемы - это самый продуктивный подход. В данной книге автор занимался очень конкретным вопросом - когда именно возникло сознание. Рассмотрел много разных гипотез, что такое сознание и когда оно возникло. Сам лично искал сознание у улиток (не нашёл). Потом определил несколько свойст сознания (этому посвящена значительная часть книги), самое понятное из которых - что необходима речь и внутренний диалог. "Трудную проблему" он видимо задоджил.
Книжка вообще не выглядит поверностной.
Автор утверждает, что сознание особо не нужно ни для чего, а следовательно и для ИИ тоже. Ну и пока что мы не видим, для каких наших целей нужно делать сознание у ИИ. Люди скорее боятся, что оно может самопроизвольно возникнуть.
Сознания у кошки нет - с этим согласны вроде большинство исследователей. А данной книге прямо утверждается, что для сознания нужен язык, а у кошки его очевидно нет.
Душу автор не рассматривает совсем. Хотя мне кажется, что это понятие, довольно близкое сознанию.
>А еще это хорошо объясняется отсутствие научного подхода (в первую очередь критического мышления, когда человек на основе эксперимента отвергает неверные теории) и непонимание причинно-следственных связей (когда незнание причины события приравнивает к источнику всех действий невидимого внешнего актора).
Я такое объяснение конечно слышал. Но она всегда казалось мне натянутым. Почему из непонимания причинно-следственных связей должны рождаться голоса предков? Или камней? Мне кажется такое объяснение возникло просто за неимением лучших
Пара ответов:
К сожалению нам приходится обходиться без определений. Даже у числа нет определения. А "бикамеральный разум" в понятии автора - это когда у человека есть две параллельно действующие ментальные (когнитивные) структуры - одна принимает решения и объявляет их, а другая исполняет это решения.
Автор заявляет, что изменения в мозге произошли. Структура (когнитом) мозга человека зависит от его воспитания и взросления. Сейчас мы знаем, что это видно уже на МРТ.
"Илиада" - это не художественная литература. Это текст, описывающих для древних греков их мир. Она для нас художественная, поскольку мы считаем большую часть текста выдумкой. Мне не кажется, что греки так же считали.
Мне кажется такое разделение на железный и гуманитарный мир не совсем корректно. Pax Silica создавался железным, чтобы решить основную проблему США - нехватку редкоземельных и прочих металлов. При этом своим софтом они делиться вообще не торопятся. Это скорее две плоскости - в железном и софтовом измерении мир делится по-разному
Когда подписываешь манифест предполагается, что ты сам ему собираешься следовать. Иначе это не манифест, а манипуляция.
Их модели с открытыми весами открыты явно для галочки - они на голову слабее их же закрытых моделей или китайских с отрытыми весами.
Очень странное письмо - ничего не понятно.
Начать с того, что называется оно "Открытые веса и американское ИИ лидерство" и посвящено тому, как хорошо должны жить американцы. Почему остальных это должно волновать - непонятно.
Почему OpenAI и Google подписали это письмо - тоже непонятно. Они собираются открывать веса своих топовых моделей?
Ну и почему open weight AI приравнивается с open source софту - тоже непонятно. Письмо отверждает, что отрытые веса "позволяют многим организациям строить ... продвинутые модели". Как можно построить продвинутую модель, зная только её веса, но не код обучения и датасет - непонятно.
Это сильное упрощение. Причин у крестовых походов много - кроме религиозных и экономических можно вспомнить о законах наследования. Земли наследовал только старший сын - остальных рыцарей нужно было куда-то пристраивать. Вот их и отправили подальше.
Все эти причины верные, но ни одна не является самодостаточной.
Насколько мне известно, он единственный попробовал изложить эти концепции на бумаге. Я, признаться, надеялся, что это будет внятное изложение. Но не случилось.
Насколько я понимаю, "После проверки портовым контролем судно было признано непригодным для дальнейшего плавания." Перевозить опасный груз на непригодном судне выглядит плохой идеей. А в УК РФ это называется преступная халатность.
Кёртис говорит не про отдельных защитников прав чернокожих - а конкретно про освобождение рабов после войны Севера и Юга в США.
Ответственным за взрыв в Бейруте, очевидно, должен быть прежде всего владелец судна. Его тоже по квоте взяли?
Доступность жилья (цена жилья делённая на зарплату) действительно один из самых известных критериев, что в 50-е было лучше. Странно, что сам Кёртис этого не упоминает. Вообще мне кажется я бы лучше обосновал прелести 50-х, чем сам Кёртис.
Про автомагистрали - неплохо было бы обосновать. Вот тут указано, что построено 27 тысяч миль дорого (Timeline - Contributions and Crossroads: Our National Road System’s Impact on the U.S. Economy and Way of Life (1916- 2016) | Federal Highway Administration). Они точно все никому не нужны?
По архитектуре трансформеров промпт читается весь сразу. Потом генерируется следующий токен, добавляется к промпту, и снова читается весь сразу. Если мы попробуем сгененировать следующий токен после промпта "Зелёное яблоко лежит на столе", то "зелёное" уже может сослаться на "яблоко". Но этого не происходит, т.к. это нарушает работа KV-кеша.
При приходе нового токена значения Key и Value не пересчитываются, а берутся из кэша. Считаются только Query, ну и MLP слои. А сохранённые в кэше Key и Value ссылаются только назад.
Да - хороший проект. В интернете явно не хватает ИИ-мусора и фейковых новостей.
Мне одному кажется, что идея в том, чтобы переложить менеджерские обязанности на рядовых сотрудников без повышения зарплаты. Типа в вместо менеджеров теперь "играющий тренер".
Мне на курсе истории науки рассказывали, что Ньютон буквально создал современную науку из ничего.
Сам Ньютон высказывался по другому: «Если я видел дальше других, то потому, что стоял на плечах гигантов» Я больше склонен верить версии Ньютона, что науку создал коллективный разум (хотя мы и не всегда знаем всех имён)
Кстати про ОТО - вот что пишет википедия про Эйнштейна и Гилберта - Эйнштейн, Альберт — Википедия
Геометрия не лишена смысла, несмотря на то, что определения у прямой нет.
А что касается подхода с другой стороны - тут согласен. Это было бы интересно проделать. Но я ни разу не видел хороших работ на эту тему. Ну а данная конкретная книга просто о другом.
Вообще говоря, инфузория обладает интеллектом. Это ясно хотя бы по тому, что чтобы запрограммировать поведение инфузории, придётся написать довольно много строк кода (т.е. написать ИИ инфузории)
В книге рассматриваются и другие сообщества, помимо толпы
Непонятно. Муравьи обладают интеллектом (просто потому что принимают решения), но не обладают разумом. И муравейкин тоже не обладает разумом, хотя и может принимать какие-то решения.
Люди обладают разумом. Общество состоит из разумных людей - вполне можно ожидать, что его уровень интеллекта может оказаться не ниже человеческого.
Если под разумом подразумевать умение решать очень сложные задачи - то любое сообщество учёных и инженеров решает намного более трудные задачи, чем отдельный человек. Хотя сверхразум - это наверное что-то более крутое уже.