Кстати говоря, я думаю что пиарщики фейбука приложили очень много усилий, чтобы любое ограничение на фейсбук воспринималось именно так. Чтобы люди сами не хотели, чтобы фейсбук, непример, требовал с них документы с датой рождения.
Хотя по современным меркам сделать сервис, который бы надёжно проверял дату рождения по паспорту, а потом удалял все персональные данные, не очень сложно. И обеспечить ему прозрачную работу тоже не сложно (например, независимый лицензируемый государством оперсорсный сервис). Специалистов и денег у фейсбука на это точно хватит. Но они конечно вместо этого будут рассказывать страшные истории про то, как сам фейсбук будет хранить банковские карты и паспорта людей. А потом они ещё и утекут хакерам.
Не вижу что-то, как именно Фейсбук будет детектировать подростков. Они сами будут вводить дату рождения? Кажется, при таком подходе это всё может не сработать
Добавлю, что люди, работающие полный рабочий день на удержание детей в фейсбуке проходят жёсткий отбор на собеседованиях. Там действительно работают одни из лучших специалистов в индустрии. И получают одну из лучших зарплат в индустрии (особенно до бума ИИ)
Строго говоря, взлом чужих серверов является уголовным преступлением. В данном случае расследуют это преступление сами же подозреваемые. Почему мы должны верить хоть единому их слову? Какова вероятность, что они не приврали в самом важном месте? Разве не каждое официальное сообщение от OpenAI проходит согласование с их отделом PR (особенно в преддверии IPO)?
Кстати говоря - в Германии семейное обучение вообще запрещено. Потому что право ребёнка на общение со сверстниками ставится выше права родителей по контролю над детьми. Выглядит разумно как по мне.
Мне кажется это не решение. Это дополнительная проблема. Ведь конкуренты тоже смогут делать инфернс за копейки, придётся с ними конкурировать - так что большой маржи не заработаешь. И даже наоборот - если чят будет работать на каждом смартфоне локально - зачем 100500 датацентров.
Большую часть времени я осознаю себя, т.е. какая-то часть моего мозга оценивает происходящее со мной. Например, когда я хожу, я сознательно словами продумываю, куда мне надо повернуть и зачем. За исключением случаев, когда гуляю бессознательно, размышляя о чём-то постороннем. Когда общаюсь, то либо сознательно словами продумываю мою реакцию или ответ, либо уже непосредственно словами отвечаю (не внутренний диалог).
С книгой тоже в некотором роде общение словами. За исключением случаев, когда я задумываюсь о чём-то другом, бессознательно проглатывая слова из книги.
Как я понимаю, никто не может осознанно воспринимать сырую информацию - ультразвук или красный цвет. До осознанного переживания добирается сильно переработанная информация (т.е. после большого количества слоёв нейронной сети).
Чисто теоретически, никто не мешает возбуждать более глубокие слои сети, чтобы человеку казалось, что он видит красный цвет, при том, что нейроны глаза могут вообще молчать. С точки зрения сознания разницы нет, т.е. человек не сможет вам ответить, что он видит разницу. Уже сейчас проводят эксперименты, возбуждая зрительную кору. И даже слепой "видит" фосфены, т.е. вспышки света. Пока, конечно, точность таких экспериментов очень низкая
Не уверен, что такое квалиа. Но видеть - это точно не сознание. Вон меня только что увидела камера, распознала мой номер и открыла шлагбаум. Т.е. увидела и приняла решение. Но вряд ли это можно назвать сознанием. Автор книги определяет сознание прежде всего как внутренний диалог и представление о самом себе. Для принятия даже сложных решений (для которых нужен большой мозг) внутренний диалог не является необходимым. По сути идея автора в том, что правое полушарие мозга бессознательно обрабатывало большой объём информации и принимало сложные решения, которые потом сообщало левому полушарию. Которое, в свою очередь, это решение исполняло, используя все доступные когнитивные ресурсы.
Никем не проверяемых ресурсов очень много. Сейчас принято делать микросервисы. А с Claude-code один человек может тянуть целый сервис, а то и несколько. Причём часто заводят отдельные AWS аккаунты на DEV, STG и PRD. Получается какой-нибудь джуниор или просто раздолбай может обладать несколькими облачными аккаунтами, за которые платит компания. Где гарантия, что он точно отслеживает все события и траты на этих аккаунтах? Скажем - лишние 500$ трат - это сбежавший чятик или увеличение количества пользователей сервиса. Ответить бывает сложно - FinOps инженеры не дадут соврать.
Целеполагание и алгоритмы минимизации у амёбы есть. Но внутренний мир то откуда?
Кстати про "какого быть летучей мышью" Мне кажется теоретически это вполне осуществимо. Человеческий мозг скорее всего во всём превосходит мышиный. Его надо лишь опустить до нужного уровня. Это можно сделать, если уметь точечно подавлять/возбуждать разные когнитивные функции. Пока вроде не умеют, но это не невозможно.
При этом видимо придётся подавить и сознание. Т.е. человек будет не осознавать себя мышью. Но сможет потом повспоминать, какого это - быть мышью.
Не уверен, что начинать с трудной проблемы - это самый продуктивный подход. В данной книге автор занимался очень конкретным вопросом - когда именно возникло сознание. Рассмотрел много разных гипотез, что такое сознание и когда оно возникло. Сам лично искал сознание у улиток (не нашёл). Потом определил несколько свойст сознания (этому посвящена значительная часть книги), самое понятное из которых - что необходима речь и внутренний диалог. "Трудную проблему" он видимо задоджил.
Автор утверждает, что сознание особо не нужно ни для чего, а следовательно и для ИИ тоже. Ну и пока что мы не видим, для каких наших целей нужно делать сознание у ИИ. Люди скорее боятся, что оно может самопроизвольно возникнуть.
Сознания у кошки нет - с этим согласны вроде большинство исследователей. А данной книге прямо утверждается, что для сознания нужен язык, а у кошки его очевидно нет.
Душу автор не рассматривает совсем. Хотя мне кажется, что это понятие, довольно близкое сознанию.
>А еще это хорошо объясняется отсутствие научного подхода (в первую очередь критического мышления, когда человек на основе эксперимента отвергает неверные теории) и непонимание причинно-следственных связей (когда незнание причины события приравнивает к источнику всех действий невидимого внешнего актора).
Я такое объяснение конечно слышал. Но она всегда казалось мне натянутым. Почему из непонимания причинно-следственных связей должны рождаться голоса предков? Или камней? Мне кажется такое объяснение возникло просто за неимением лучших
К сожалению нам приходится обходиться без определений. Даже у числа нет определения. А "бикамеральный разум" в понятии автора - это когда у человека есть две параллельно действующие ментальные (когнитивные) структуры - одна принимает решения и объявляет их, а другая исполняет это решения.
Автор заявляет, что изменения в мозге произошли. Структура (когнитом) мозга человека зависит от его воспитания и взросления. Сейчас мы знаем, что это видно уже на МРТ.
"Илиада" - это не художественная литература. Это текст, описывающих для древних греков их мир. Она для нас художественная, поскольку мы считаем большую часть текста выдумкой. Мне не кажется, что греки так же считали.
Мне кажется такое разделение на железный и гуманитарный мир не совсем корректно. Pax Silica создавался железным, чтобы решить основную проблему США - нехватку редкоземельных и прочих металлов. При этом своим софтом они делиться вообще не торопятся. Это скорее две плоскости - в железном и софтовом измерении мир делится по-разному
Когда подписываешь манифест предполагается, что ты сам ему собираешься следовать. Иначе это не манифест, а манипуляция. Их модели с открытыми весами открыты явно для галочки - они на голову слабее их же закрытых моделей или китайских с отрытыми весами.
Начать с того, что называется оно "Открытые веса и американское ИИ лидерство" и посвящено тому, как хорошо должны жить американцы. Почему остальных это должно волновать - непонятно.
Почему OpenAI и Google подписали это письмо - тоже непонятно. Они собираются открывать веса своих топовых моделей?
Ну и почему open weight AI приравнивается с open source софту - тоже непонятно. Письмо отверждает, что отрытые веса "позволяют многим организациям строить ... продвинутые модели". Как можно построить продвинутую модель, зная только её веса, но не код обучения и датасет - непонятно.
Кстати говоря, я думаю что пиарщики фейбука приложили очень много усилий, чтобы любое ограничение на фейсбук воспринималось именно так. Чтобы люди сами не хотели, чтобы фейсбук, непример, требовал с них документы с датой рождения.
Хотя по современным меркам сделать сервис, который бы надёжно проверял дату рождения по паспорту, а потом удалял все персональные данные, не очень сложно. И обеспечить ему прозрачную работу тоже не сложно (например, независимый лицензируемый государством оперсорсный сервис). Специалистов и денег у фейсбука на это точно хватит. Но они конечно вместо этого будут рассказывать страшные истории про то, как сам фейсбук будет хранить банковские карты и паспорта людей. А потом они ещё и утекут хакерам.
Не вижу что-то, как именно Фейсбук будет детектировать подростков. Они сами будут вводить дату рождения? Кажется, при таком подходе это всё может не сработать
Добавлю, что люди, работающие полный рабочий день на удержание детей в фейсбуке проходят жёсткий отбор на собеседованиях. Там действительно работают одни из лучших специалистов в индустрии. И получают одну из лучших зарплат в индустрии (особенно до бума ИИ)
Отдельным родителям тягаться с этим трудновато
Строго говоря, взлом чужих серверов является уголовным преступлением. В данном случае расследуют это преступление сами же подозреваемые. Почему мы должны верить хоть единому их слову? Какова вероятность, что они не приврали в самом важном месте? Разве не каждое официальное сообщение от OpenAI проходит согласование с их отделом PR (особенно в преддверии IPO)?
Кстати говоря - в Германии семейное обучение вообще запрещено. Потому что право ребёнка на общение со сверстниками ставится выше права родителей по контролю над детьми. Выглядит разумно как по мне.
Да - инференс - это хороший бизнес. Но только чтобы выплатить долг в 3 трлн нужно гораздо больше, чем просто хороший бизнес.
Мне кажется это не решение. Это дополнительная проблема. Ведь конкуренты тоже смогут делать инфернс за копейки, придётся с ними конкурировать - так что большой маржи не заработаешь. И даже наоборот - если чят будет работать на каждом смартфоне локально - зачем 100500 датацентров.
Большую часть времени я осознаю себя, т.е. какая-то часть моего мозга оценивает происходящее со мной.
Например, когда я хожу, я сознательно словами продумываю, куда мне надо повернуть и зачем. За исключением случаев, когда гуляю бессознательно, размышляя о чём-то постороннем.
Когда общаюсь, то либо сознательно словами продумываю мою реакцию или ответ, либо уже непосредственно словами отвечаю (не внутренний диалог).
С книгой тоже в некотором роде общение словами. За исключением случаев, когда я задумываюсь о чём-то другом, бессознательно проглатывая слова из книги.
Как я понимаю, никто не может осознанно воспринимать сырую информацию - ультразвук или красный цвет. До осознанного переживания добирается сильно переработанная информация (т.е. после большого количества слоёв нейронной сети).
Чисто теоретически, никто не мешает возбуждать более глубокие слои сети, чтобы человеку казалось, что он видит красный цвет, при том, что нейроны глаза могут вообще молчать. С точки зрения сознания разницы нет, т.е. человек не сможет вам ответить, что он видит разницу.
Уже сейчас проводят эксперименты, возбуждая зрительную кору. И даже слепой "видит" фосфены, т.е. вспышки света. Пока, конечно, точность таких экспериментов очень низкая
Ну так объясните нам разницу.
Не уверен, что такое квалиа. Но видеть - это точно не сознание. Вон меня только что увидела камера, распознала мой номер и открыла шлагбаум. Т.е. увидела и приняла решение. Но вряд ли это можно назвать сознанием.
Автор книги определяет сознание прежде всего как внутренний диалог и представление о самом себе. Для принятия даже сложных решений (для которых нужен большой мозг) внутренний диалог не является необходимым. По сути идея автора в том, что правое полушарие мозга бессознательно обрабатывало большой объём информации и принимало сложные решения, которые потом сообщало левому полушарию. Которое, в свою очередь, это решение исполняло, используя все доступные когнитивные ресурсы.
Никем не проверяемых ресурсов очень много. Сейчас принято делать микросервисы. А с Claude-code один человек может тянуть целый сервис, а то и несколько. Причём часто заводят отдельные AWS аккаунты на DEV, STG и PRD. Получается какой-нибудь джуниор или просто раздолбай может обладать несколькими облачными аккаунтами, за которые платит компания. Где гарантия, что он точно отслеживает все события и траты на этих аккаунтах? Скажем - лишние 500$ трат - это сбежавший чятик или увеличение количества пользователей сервиса. Ответить бывает сложно - FinOps инженеры не дадут соврать.
Целеполагание и алгоритмы минимизации у амёбы есть. Но внутренний мир то откуда?
Кстати про "какого быть летучей мышью" Мне кажется теоретически это вполне осуществимо. Человеческий мозг скорее всего во всём превосходит мышиный. Его надо лишь опустить до нужного уровня. Это можно сделать, если уметь точечно подавлять/возбуждать разные когнитивные функции. Пока вроде не умеют, но это не невозможно.
При этом видимо придётся подавить и сознание. Т.е. человек будет не осознавать себя мышью. Но сможет потом повспоминать, какого это - быть мышью.
Не уверен, что начинать с трудной проблемы - это самый продуктивный подход. В данной книге автор занимался очень конкретным вопросом - когда именно возникло сознание. Рассмотрел много разных гипотез, что такое сознание и когда оно возникло. Сам лично искал сознание у улиток (не нашёл). Потом определил несколько свойст сознания (этому посвящена значительная часть книги), самое понятное из которых - что необходима речь и внутренний диалог. "Трудную проблему" он видимо задоджил.
Книжка вообще не выглядит поверностной.
Автор утверждает, что сознание особо не нужно ни для чего, а следовательно и для ИИ тоже. Ну и пока что мы не видим, для каких наших целей нужно делать сознание у ИИ. Люди скорее боятся, что оно может самопроизвольно возникнуть.
Сознания у кошки нет - с этим согласны вроде большинство исследователей. А данной книге прямо утверждается, что для сознания нужен язык, а у кошки его очевидно нет.
Душу автор не рассматривает совсем. Хотя мне кажется, что это понятие, довольно близкое сознанию.
>А еще это хорошо объясняется отсутствие научного подхода (в первую очередь критического мышления, когда человек на основе эксперимента отвергает неверные теории) и непонимание причинно-следственных связей (когда незнание причины события приравнивает к источнику всех действий невидимого внешнего актора).
Я такое объяснение конечно слышал. Но она всегда казалось мне натянутым. Почему из непонимания причинно-следственных связей должны рождаться голоса предков? Или камней? Мне кажется такое объяснение возникло просто за неимением лучших
Пара ответов:
К сожалению нам приходится обходиться без определений. Даже у числа нет определения. А "бикамеральный разум" в понятии автора - это когда у человека есть две параллельно действующие ментальные (когнитивные) структуры - одна принимает решения и объявляет их, а другая исполняет это решения.
Автор заявляет, что изменения в мозге произошли. Структура (когнитом) мозга человека зависит от его воспитания и взросления. Сейчас мы знаем, что это видно уже на МРТ.
"Илиада" - это не художественная литература. Это текст, описывающих для древних греков их мир. Она для нас художественная, поскольку мы считаем большую часть текста выдумкой. Мне не кажется, что греки так же считали.
Мне кажется такое разделение на железный и гуманитарный мир не совсем корректно. Pax Silica создавался железным, чтобы решить основную проблему США - нехватку редкоземельных и прочих металлов. При этом своим софтом они делиться вообще не торопятся. Это скорее две плоскости - в железном и софтовом измерении мир делится по-разному
Когда подписываешь манифест предполагается, что ты сам ему собираешься следовать. Иначе это не манифест, а манипуляция.
Их модели с открытыми весами открыты явно для галочки - они на голову слабее их же закрытых моделей или китайских с отрытыми весами.
Очень странное письмо - ничего не понятно.
Начать с того, что называется оно "Открытые веса и американское ИИ лидерство" и посвящено тому, как хорошо должны жить американцы. Почему остальных это должно волновать - непонятно.
Почему OpenAI и Google подписали это письмо - тоже непонятно. Они собираются открывать веса своих топовых моделей?
Ну и почему open weight AI приравнивается с open source софту - тоже непонятно. Письмо отверждает, что отрытые веса "позволяют многим организациям строить ... продвинутые модели". Как можно построить продвинутую модель, зная только её веса, но не код обучения и датасет - непонятно.