Мне кажется это не решение. Это дополнительная проблема. Ведь конкуренты тоже смогут делать инфернс за копейки, придётся с ними конкурировать - так что большой маржи не заработаешь. И даже наоборот - если чят будет работать на каждом смартфоне локально - зачем 100500 датацентров.
Большую часть времени я осознаю себя, т.е. какая-то часть моего мозга оценивает происходящее со мной. Например, когда я хожу, я сознательно словами продумываю, куда мне надо повернуть и зачем. За исключением случаев, когда гуляю бессознательно, размышляя о чём-то постороннем. Когда общаюсь, то либо сознательно словами продумываю мою реакцию или ответ, либо уже непосредственно словами отвечаю (не внутренний диалог).
С книгой тоже в некотором роде общение словами. За исключением случаев, когда я задумываюсь о чём-то другом, бессознательно проглатывая слова из книги.
Как я понимаю, никто не может осознанно воспринимать сырую информацию - ультразвук или красный цвет. До осознанного переживания добирается сильно переработанная информация (т.е. после большого количества слоёв нейронной сети).
Чисто теоретически, никто не мешает возбуждать более глубокие слои сети, чтобы человеку казалось, что он видит красный цвет, при том, что нейроны глаза могут вообще молчать. С точки зрения сознания разницы нет, т.е. человек не сможет вам ответить, что он видит разницу. Уже сейчас проводят эксперименты, возбуждая зрительную кору. И даже слепой "видит" фосфены, т.е. вспышки света. Пока, конечно, точность таких экспериментов очень низкая
Не уверен, что такое квалиа. Но видеть - это точно не сознание. Вон меня только что увидела камера, распознала мой номер и открыла шлагбаум. Т.е. увидела и приняла решение. Но вряд ли это можно назвать сознанием. Автор книги определяет сознание прежде всего как внутренний диалог и представление о самом себе. Для принятия даже сложных решений (для которых нужен большой мозг) внутренний диалог не является необходимым. По сути идея автора в том, что правое полушарие мозга бессознательно обрабатывало большой объём информации и принимало сложные решения, которые потом сообщало левому полушарию. Которое, в свою очередь, это решение исполняло, используя все доступные когнитивные ресурсы.
Никем не проверяемых ресурсов очень много. Сейчас принято делать микросервисы. А с Claude-code один человек может тянуть целый сервис, а то и несколько. Причём часто заводят отдельные AWS аккаунты на DEV, STG и PRD. Получается какой-нибудь джуниор или просто раздолбай может обладать несколькими облачными аккаунтами, за которые платит компания. Где гарантия, что он точно отслеживает все события и траты на этих аккаунтах? Скажем - лишние 500$ трат - это сбежавший чятик или увеличение количества пользователей сервиса. Ответить бывает сложно - FinOps инженеры не дадут соврать.
Целеполагание и алгоритмы минимизации у амёбы есть. Но внутренний мир то откуда?
Кстати про "какого быть летучей мышью" Мне кажется теоретически это вполне осуществимо. Человеческий мозг скорее всего во всём превосходит мышиный. Его надо лишь опустить до нужного уровня. Это можно сделать, если уметь точечно подавлять/возбуждать разные когнитивные функции. Пока вроде не умеют, но это не невозможно.
При этом видимо придётся подавить и сознание. Т.е. человек будет не осознавать себя мышью. Но сможет потом повспоминать, какого это - быть мышью.
Не уверен, что начинать с трудной проблемы - это самый продуктивный подход. В данной книге автор занимался очень конкретным вопросом - когда именно возникло сознание. Рассмотрел много разных гипотез, что такое сознание и когда оно возникло. Сам лично искал сознание у улиток (не нашёл). Потом определил несколько свойст сознания (этому посвящена значительная часть книги), самое понятное из которых - что необходима речь и внутренний диалог. "Трудную проблему" он видимо задоджил.
Автор утверждает, что сознание особо не нужно ни для чего, а следовательно и для ИИ тоже. Ну и пока что мы не видим, для каких наших целей нужно делать сознание у ИИ. Люди скорее боятся, что оно может самопроизвольно возникнуть.
Сознания у кошки нет - с этим согласны вроде большинство исследователей. А данной книге прямо утверждается, что для сознания нужен язык, а у кошки его очевидно нет.
Душу автор не рассматривает совсем. Хотя мне кажется, что это понятие, довольно близкое сознанию.
>А еще это хорошо объясняется отсутствие научного подхода (в первую очередь критического мышления, когда человек на основе эксперимента отвергает неверные теории) и непонимание причинно-следственных связей (когда незнание причины события приравнивает к источнику всех действий невидимого внешнего актора).
Я такое объяснение конечно слышал. Но она всегда казалось мне натянутым. Почему из непонимания причинно-следственных связей должны рождаться голоса предков? Или камней? Мне кажется такое объяснение возникло просто за неимением лучших
К сожалению нам приходится обходиться без определений. Даже у числа нет определения. А "бикамеральный разум" в понятии автора - это когда у человека есть две параллельно действующие ментальные (когнитивные) структуры - одна принимает решения и объявляет их, а другая исполняет это решения.
Автор заявляет, что изменения в мозге произошли. Структура (когнитом) мозга человека зависит от его воспитания и взросления. Сейчас мы знаем, что это видно уже на МРТ.
"Илиада" - это не художественная литература. Это текст, описывающих для древних греков их мир. Она для нас художественная, поскольку мы считаем большую часть текста выдумкой. Мне не кажется, что греки так же считали.
Мне кажется такое разделение на железный и гуманитарный мир не совсем корректно. Pax Silica создавался железным, чтобы решить основную проблему США - нехватку редкоземельных и прочих металлов. При этом своим софтом они делиться вообще не торопятся. Это скорее две плоскости - в железном и софтовом измерении мир делится по-разному
Когда подписываешь манифест предполагается, что ты сам ему собираешься следовать. Иначе это не манифест, а манипуляция. Их модели с открытыми весами открыты явно для галочки - они на голову слабее их же закрытых моделей или китайских с отрытыми весами.
Начать с того, что называется оно "Открытые веса и американское ИИ лидерство" и посвящено тому, как хорошо должны жить американцы. Почему остальных это должно волновать - непонятно.
Почему OpenAI и Google подписали это письмо - тоже непонятно. Они собираются открывать веса своих топовых моделей?
Ну и почему open weight AI приравнивается с open source софту - тоже непонятно. Письмо отверждает, что отрытые веса "позволяют многим организациям строить ... продвинутые модели". Как можно построить продвинутую модель, зная только её веса, но не код обучения и датасет - непонятно.
Это сильное упрощение. Причин у крестовых походов много - кроме религиозных и экономических можно вспомнить о законах наследования. Земли наследовал только старший сын - остальных рыцарей нужно было куда-то пристраивать. Вот их и отправили подальше.
Все эти причины верные, но ни одна не является самодостаточной.
Насколько мне известно, он единственный попробовал изложить эти концепции на бумаге. Я, признаться, надеялся, что это будет внятное изложение. Но не случилось.
Насколько я понимаю, "После проверки портовым контролем судно было признано непригодным для дальнейшего плавания." Перевозить опасный груз на непригодном судне выглядит плохой идеей. А в УК РФ это называется преступная халатность.
Кёртис говорит не про отдельных защитников прав чернокожих - а конкретно про освобождение рабов после войны Севера и Юга в США.
Ответственным за взрыв в Бейруте, очевидно, должен быть прежде всего владелец судна. Его тоже по квоте взяли?
Доступность жилья (цена жилья делённая на зарплату) действительно один из самых известных критериев, что в 50-е было лучше. Странно, что сам Кёртис этого не упоминает. Вообще мне кажется я бы лучше обосновал прелести 50-х, чем сам Кёртис.
По архитектуре трансформеров промпт читается весь сразу. Потом генерируется следующий токен, добавляется к промпту, и снова читается весь сразу. Если мы попробуем сгененировать следующий токен после промпта "Зелёное яблоко лежит на столе", то "зелёное" уже может сослаться на "яблоко". Но этого не происходит, т.к. это нарушает работа KV-кеша.
При приходе нового токена значения Key и Value не пересчитываются, а берутся из кэша. Считаются только Query, ну и MLP слои. А сохранённые в кэше Key и Value ссылаются только назад.
Да - инференс - это хороший бизнес. Но только чтобы выплатить долг в 3 трлн нужно гораздо больше, чем просто хороший бизнес.
Мне кажется это не решение. Это дополнительная проблема. Ведь конкуренты тоже смогут делать инфернс за копейки, придётся с ними конкурировать - так что большой маржи не заработаешь. И даже наоборот - если чят будет работать на каждом смартфоне локально - зачем 100500 датацентров.
Большую часть времени я осознаю себя, т.е. какая-то часть моего мозга оценивает происходящее со мной.
Например, когда я хожу, я сознательно словами продумываю, куда мне надо повернуть и зачем. За исключением случаев, когда гуляю бессознательно, размышляя о чём-то постороннем.
Когда общаюсь, то либо сознательно словами продумываю мою реакцию или ответ, либо уже непосредственно словами отвечаю (не внутренний диалог).
С книгой тоже в некотором роде общение словами. За исключением случаев, когда я задумываюсь о чём-то другом, бессознательно проглатывая слова из книги.
Как я понимаю, никто не может осознанно воспринимать сырую информацию - ультразвук или красный цвет. До осознанного переживания добирается сильно переработанная информация (т.е. после большого количества слоёв нейронной сети).
Чисто теоретически, никто не мешает возбуждать более глубокие слои сети, чтобы человеку казалось, что он видит красный цвет, при том, что нейроны глаза могут вообще молчать. С точки зрения сознания разницы нет, т.е. человек не сможет вам ответить, что он видит разницу.
Уже сейчас проводят эксперименты, возбуждая зрительную кору. И даже слепой "видит" фосфены, т.е. вспышки света. Пока, конечно, точность таких экспериментов очень низкая
Ну так объясните нам разницу.
Не уверен, что такое квалиа. Но видеть - это точно не сознание. Вон меня только что увидела камера, распознала мой номер и открыла шлагбаум. Т.е. увидела и приняла решение. Но вряд ли это можно назвать сознанием.
Автор книги определяет сознание прежде всего как внутренний диалог и представление о самом себе. Для принятия даже сложных решений (для которых нужен большой мозг) внутренний диалог не является необходимым. По сути идея автора в том, что правое полушарие мозга бессознательно обрабатывало большой объём информации и принимало сложные решения, которые потом сообщало левому полушарию. Которое, в свою очередь, это решение исполняло, используя все доступные когнитивные ресурсы.
Никем не проверяемых ресурсов очень много. Сейчас принято делать микросервисы. А с Claude-code один человек может тянуть целый сервис, а то и несколько. Причём часто заводят отдельные AWS аккаунты на DEV, STG и PRD. Получается какой-нибудь джуниор или просто раздолбай может обладать несколькими облачными аккаунтами, за которые платит компания. Где гарантия, что он точно отслеживает все события и траты на этих аккаунтах? Скажем - лишние 500$ трат - это сбежавший чятик или увеличение количества пользователей сервиса. Ответить бывает сложно - FinOps инженеры не дадут соврать.
Целеполагание и алгоритмы минимизации у амёбы есть. Но внутренний мир то откуда?
Кстати про "какого быть летучей мышью" Мне кажется теоретически это вполне осуществимо. Человеческий мозг скорее всего во всём превосходит мышиный. Его надо лишь опустить до нужного уровня. Это можно сделать, если уметь точечно подавлять/возбуждать разные когнитивные функции. Пока вроде не умеют, но это не невозможно.
При этом видимо придётся подавить и сознание. Т.е. человек будет не осознавать себя мышью. Но сможет потом повспоминать, какого это - быть мышью.
Не уверен, что начинать с трудной проблемы - это самый продуктивный подход. В данной книге автор занимался очень конкретным вопросом - когда именно возникло сознание. Рассмотрел много разных гипотез, что такое сознание и когда оно возникло. Сам лично искал сознание у улиток (не нашёл). Потом определил несколько свойст сознания (этому посвящена значительная часть книги), самое понятное из которых - что необходима речь и внутренний диалог. "Трудную проблему" он видимо задоджил.
Книжка вообще не выглядит поверностной.
Автор утверждает, что сознание особо не нужно ни для чего, а следовательно и для ИИ тоже. Ну и пока что мы не видим, для каких наших целей нужно делать сознание у ИИ. Люди скорее боятся, что оно может самопроизвольно возникнуть.
Сознания у кошки нет - с этим согласны вроде большинство исследователей. А данной книге прямо утверждается, что для сознания нужен язык, а у кошки его очевидно нет.
Душу автор не рассматривает совсем. Хотя мне кажется, что это понятие, довольно близкое сознанию.
>А еще это хорошо объясняется отсутствие научного подхода (в первую очередь критического мышления, когда человек на основе эксперимента отвергает неверные теории) и непонимание причинно-следственных связей (когда незнание причины события приравнивает к источнику всех действий невидимого внешнего актора).
Я такое объяснение конечно слышал. Но она всегда казалось мне натянутым. Почему из непонимания причинно-следственных связей должны рождаться голоса предков? Или камней? Мне кажется такое объяснение возникло просто за неимением лучших
Пара ответов:
К сожалению нам приходится обходиться без определений. Даже у числа нет определения. А "бикамеральный разум" в понятии автора - это когда у человека есть две параллельно действующие ментальные (когнитивные) структуры - одна принимает решения и объявляет их, а другая исполняет это решения.
Автор заявляет, что изменения в мозге произошли. Структура (когнитом) мозга человека зависит от его воспитания и взросления. Сейчас мы знаем, что это видно уже на МРТ.
"Илиада" - это не художественная литература. Это текст, описывающих для древних греков их мир. Она для нас художественная, поскольку мы считаем большую часть текста выдумкой. Мне не кажется, что греки так же считали.
Мне кажется такое разделение на железный и гуманитарный мир не совсем корректно. Pax Silica создавался железным, чтобы решить основную проблему США - нехватку редкоземельных и прочих металлов. При этом своим софтом они делиться вообще не торопятся. Это скорее две плоскости - в железном и софтовом измерении мир делится по-разному
Когда подписываешь манифест предполагается, что ты сам ему собираешься следовать. Иначе это не манифест, а манипуляция.
Их модели с открытыми весами открыты явно для галочки - они на голову слабее их же закрытых моделей или китайских с отрытыми весами.
Очень странное письмо - ничего не понятно.
Начать с того, что называется оно "Открытые веса и американское ИИ лидерство" и посвящено тому, как хорошо должны жить американцы. Почему остальных это должно волновать - непонятно.
Почему OpenAI и Google подписали это письмо - тоже непонятно. Они собираются открывать веса своих топовых моделей?
Ну и почему open weight AI приравнивается с open source софту - тоже непонятно. Письмо отверждает, что отрытые веса "позволяют многим организациям строить ... продвинутые модели". Как можно построить продвинутую модель, зная только её веса, но не код обучения и датасет - непонятно.
Это сильное упрощение. Причин у крестовых походов много - кроме религиозных и экономических можно вспомнить о законах наследования. Земли наследовал только старший сын - остальных рыцарей нужно было куда-то пристраивать. Вот их и отправили подальше.
Все эти причины верные, но ни одна не является самодостаточной.
Насколько мне известно, он единственный попробовал изложить эти концепции на бумаге. Я, признаться, надеялся, что это будет внятное изложение. Но не случилось.
Насколько я понимаю, "После проверки портовым контролем судно было признано непригодным для дальнейшего плавания." Перевозить опасный груз на непригодном судне выглядит плохой идеей. А в УК РФ это называется преступная халатность.
Кёртис говорит не про отдельных защитников прав чернокожих - а конкретно про освобождение рабов после войны Севера и Юга в США.
Ответственным за взрыв в Бейруте, очевидно, должен быть прежде всего владелец судна. Его тоже по квоте взяли?
Доступность жилья (цена жилья делённая на зарплату) действительно один из самых известных критериев, что в 50-е было лучше. Странно, что сам Кёртис этого не упоминает. Вообще мне кажется я бы лучше обосновал прелести 50-х, чем сам Кёртис.
Про автомагистрали - неплохо было бы обосновать. Вот тут указано, что построено 27 тысяч миль дорого (Timeline - Contributions and Crossroads: Our National Road System’s Impact on the U.S. Economy and Way of Life (1916- 2016) | Federal Highway Administration). Они точно все никому не нужны?
По архитектуре трансформеров промпт читается весь сразу. Потом генерируется следующий токен, добавляется к промпту, и снова читается весь сразу. Если мы попробуем сгененировать следующий токен после промпта "Зелёное яблоко лежит на столе", то "зелёное" уже может сослаться на "яблоко". Но этого не происходит, т.к. это нарушает работа KV-кеша.
При приходе нового токена значения Key и Value не пересчитываются, а берутся из кэша. Считаются только Query, ну и MLP слои. А сохранённые в кэше Key и Value ссылаются только назад.