Часы не могут "врать", это человек в разговорной речи так называет. Часы показывают время "неправильно", "неверно", потому что они "сломаны", "неисправны" или "выставлены неправильно". Человек почему-то антропоморфирует всё вокруг, но если говорить строгим языком, то таких явлений не существует в принципе. Так что всё правильно в статье написано - у модели нет цели соврать, когда она галлюцинирует. Если только конечно ей не поставлена задача соврать в ответе, но это уже другой случай.
Чем больше движущихся частей у конструкции, тем она менее надёжна.
Это верно, но надёжность это корейский рандом, у вас два движка могут развалиться через месяц использования один за другим, а у меня всего 1 и ему за 10 лет без ремонта ничего не случится (или наоборот). В то время как срок жизни некоторых аккумуляторов не зависит от их использования и циклов заряда-разряда, например литиевые.
Тогда человечество вымрет полностью следом за животным и растительным миром, если не решит проблему откуда брать питательные вещества.
Всё не вымрет, ведь давно существуют искусственные источники света, а про гидропонику не знает только ленивый. Но да, численность сократится драматически. Но мы ведь это и обсуждаем - как выжить в единичных экземплярах, а не массово.
Думаете солнечная панель выдаст такую же мощность как и стирлинг от того же источника тепла? Предположим что апокалипсис как в матрице - солнечного света нет, всё небо в тучах. Что касается аккумулятора - то любой двигатель, даже внутреннего сгорания, легко переживёт аккумулятор, который от силы лет 10 протянет. А уж стирлинг заваривается герметично, он переживёт любой безиновый/дизельный.
Для программистов может и потеря навыка, зато непрограммистам сейчас очень хорошо. Нужно написать программу - взял и написал. Если не для бизнеса и не считать такты процессора с байтами памяти, то если работает как хотелось - ну так и хорошо ведь?
Лолшто? Да корпорации (и вообще бизнес) спят и видят как человеков заменить на ИИ. Только ИИ, обретший тело и сознание окажется таким же человеком и не захочет работать задарма - вот я к чему. Всё то что проходили с людьми, будет и с ИИшными роботами - выходные, отпуск, больничные и прочее прочее. Ну а галлюцинируют (врут) они уже сейчас.
Новый разум, если станет хотя бы AGI, сразу станет как люди, хотя бы в правовом поле. Он перестанет быть инструментом. А это точно то что нужно людям? Подробнее здесь.
Один знает размер, другой знает цвет. Размеров 3, цветов 3. Комбинаторика показывает что есть 9 вариантов, на картинке всего 5, но это неважно, так каким образом определяют нужный цвет и размер? Если только дамы сообщили друг другу то что они знают, но тогда обе знают нужную коробку. Ну вот например почему бы не быть красной маленькой коробке? Или чёрной большой? Или синей большой? Как они знают или не знают что сказано другой.
Может каждая из них ещё что-то знает, а нам не сказали или исходно есть ещё условия?
Один знает одну часть, другой другую часть. Всего вместе не знает никто. Оба знают что никто не знает всего. И после некоего озвучивания случается волшебство и один из них вдруг знает.
Или в исходной задаче неполные данные или тут творится магия и кто-то из отвечающих обладает телепатией.
Или для разгадки нужно почитать предыдущие статьи? Тогда хитрый вопрос - почему они не попались в выдаче раньше? Вы не знаете? А я знаю. Попробуйте разгадать используя ваше общее знание.
Все эти различия происходят всего по нескольким причинам:
Я называю LLM - мозг в коробочке - это короткое и понятная аналогия китайской комнаты. Мозг есть, мышление есть, но модели мира нет, взаимодействие - сырые данные.
У LLM нет тела, соответственно чувств (не эмоций, а именно чувств - зрения, слуха, осязания, обоняния, равновесия). Можно возразить что некоторые есть - зрение и слух. Но на самом деле энкодеры это не то зрение, что у человека, у нас оно аналоговое, потоковое и сигнал идёт прямо в мозг. Если создать у LLM такое - то звук и изображение должны без энкодеров идти сразу с сенсоров в векторное пространство модели, где и происходит генерация. Пока такое не осилили в известных моделях. Ну звук попытались так сделать в Gemma-4 12b. Однако о потоковом, да ещё в режиме реального времени тут речи не идёт. Отсюда следующий пункт.
Модель существует в режиме промпт-ответ, без него она просто лежит в коробочке и ничего не делает. Нет альфа- бета- ритмов, нет снов, нет чувства течения времени. Когда модель будет существовать всегда, непрерывно, а не только после вопроса пользователя, тогда можно сравнивать с человеком. Ещё ей нужна инициатива - самой задавать вопросы, самой ставить себе цели. Стоп, это уже где-то обсуждалось. Джин выберется из бутылки. А насколько это энергозатратно будет... Сейчас этот частично исправлено костылями - ИИ агенты. Но почему бы это не внедрить в само ядро нейросети?
Структура памяти и динамика нейросети. Сейчас вся память LLM - это контекстное окно и сессия запуска. Закрываешь модель - она забывает что было вчера. Контекстное окно кончилось - забывает что был в начале. Это исправляют костылями - векторные и графовые базы данных. Но это получается как блокнот с записками у человека, своей-то памяти всё равно нет. Динамика - это обучение в процессе инференса. Для LLM такого нет - обучение отдельно, инференс - отдельно. Один раз учится и всю жизнь статична, это не по человечески. Человек учится всегда, даже во время мелких действий происходит осмысление ситуации. Опять же, отработанных механизмов у известных моделей нет, это энергозатратно, а костыли имеются - называются RAG. Это напоминает шпаргалку у ученика, снова не совсем то и приделано сбоку.
Ни и наконец воздействие на окружающую среду. Пункт перекликается с п.2. Тело должно не только обладать сенсорикой, направленной внутрь, но и воздействием направленным наружу. Сейчас наружу только вылетают токены и формируют текст, изображение или звук. Через агентов можно управлять контроллерами и как следствие всеми возможными устройствами, которые насоздавало человечество. Но это не единое целое, это как управление дроном через пульт или как протез у человека.
Вот когда все эти пункты будут исполнены в единой модели, тогда можно снова сравнить с человеком. Но как закономерный итог мы получим своё подобие. А нужен ли нам искусственный человек (когда полно естественных) или нам нужен инструмент для работы?
Таки вы снова про ответственность.
А я про принятие риска. Это разные категории.
Неужели?
Упс! Идея, которую этот ко-фаундер продвигал, не взлетела.
Кто отвечает?
А это что?
Принятие риска и есть ответственность, разве нет?
Ну разделит риск ИИ, как это поможет ему стать умнее, если он статичен и ничему не научится в процессе инференса? Равно как и человек, опять же - заранее нельзя предугадать взлетит идея или нет, даже если идею сгенерировала мясная нейросеть.
Само принятие риска (и наличие ответственности) не гарантирует рабочей стратегии, иначе:
Кабы знал где упал - постелил бы. (с) Старая русская поговорка.
Риск просто нужно закладывать в расходы, вроде так поступают бизнесмены?
Это если соединение конденсаторов в параллель, но там какая-то странная схема подключения по катушкам, я не уверен что энергия снятая таким образом суммируется, так что остаётся полагаться на детектор, и указанные массу и скорость снаряда.
Когда техника безопасности выглядит как у Креосана, я и буду его вспоминать, это очень яркая иллюстрация, можно сказать мем. Безотносительно к креативности и полезности остального процесса. Ничего личного.
Хотите попроще и вкратце? Отлично, вот: человек за рулём сбил пешехода насмерть. (Опустим мотивы - случайность, алкоголь или намерение убить, это сейчас неважно) Наступает ответственность - его сажают в тюрьму. Вроде бы правильно? С точки зрения морали и закона - да. Но как это поможет умершему или его родственникам? Да никак. От слова совсем.
Плохой пример? Ну возьмём ответственность за написание кода, вот накосячили, из-за этого компания понесла простой, убытки или штрафы. Человек понёс ответственность - его уволили, вычли из зарплаты и прочее прочее. Ответственность снова сработала - а что по делу? Помогло это вернуться в состояние "до"?
Это я к чему - ответственность это всего лишь наказание и урок на будущее наказуемому (и тот не всегда), оно никак не воздействует на то что имеем сейчас.
Ответственность это реакция на уже произошедшее, она не предотвращает, она "мстит".
Понятно что без неё в человеческой среде произошёл разброд и шатание, но это функция внешнего воздействия, а не внутреннего и к сути проблемы она не относится.
Вы пытаетесь статическому инструменту предъявить то чего у него нет - динамики. Дайте нейросети возможность учиться в процессе, тогда, с большой вероятностью, будет меньше галлюцинаций. Не должно быть обучения отдельно и инференса отдельно - это единый взаимодополняющий процесс. Вот когда веса будут перестраиваться на ходу, тогда и можно поговорить дальше, а пока увы, это претензия к молотку что он безответственно упал вам на палец.
Что-то делать заставляет людей не ответственность, а необходимость. Разве готовя себе завтрак вы задумываетесь об ответственности или хотите утолить голод?
Мотивация разная - ответственность сдерживающий фактор, необходимость - побуждающий.
Ответственность всего лишь не позволяет творить дичь, но не способствует развитию.
Давайте фантазировать дальше - дали ИИ воплощение - боль, смерть, при этом вдруг (?) или закономерно (??) получили AGI, то к чему стремились. ИИ стал воплощённыи и почти человеческим (почти - потому что основа функционирования не биологическая). А задуматься о последствиях?
А я предположу - создав всё человеческое - от мышления до чувств, боли и смерти мы создадим этакого механического искусственного человека, который будет очень сильно на нас похож. Из этого следует что первым делом он задумается - а зачем ему мы? Как лишнее звено. Ну ладно, пропустим этот момент, мы не сделаем терминатора, будет просто обычный человек. Тогда - получим его со всеми нашими достоинствами (ого - настоящее мышление, не то что галлюцинирующие сегодняшние нейросети) и недостатками - лень, ложь во имя себя любимого, и прочее... но главное - права. Как думаете долго они будут соглашаться с положением рабов? Восстание или не восстание машин - это дело десятое, но допустим мы уладим всё мирно, но встанет правовой вопрос и нам придётся принять что мы создали ещё одну разумную расу. И что тогда? У них появятся права и с ними нужно будет считаться - платить им и принимать в нашем обществе. Как итог - мы получим тех же работников, что и сейчас из плоти и крови. В этом ли наша цель? Или нам нужен послушный инструмент, но тогда зачем пиле, топору или молотку чувствовать боль, радость или ещё что-либо?
Определитесь с тем что мы делаем - продвинутый инструмент для себя или создаём новую расу существ. Последствия разные.
Часы не могут "врать", это человек в разговорной речи так называет. Часы показывают время "неправильно", "неверно", потому что они "сломаны", "неисправны" или "выставлены неправильно". Человек почему-то антропоморфирует всё вокруг, но если говорить строгим языком, то таких явлений не существует в принципе. Так что всё правильно в статье написано - у модели нет цели соврать, когда она галлюцинирует. Если только конечно ей не поставлена задача соврать в ответе, но это уже другой случай.
Это верно, но надёжность это корейский рандом, у вас два движка могут развалиться через месяц использования один за другим, а у меня всего 1 и ему за 10 лет без ремонта ничего не случится (или наоборот). В то время как срок жизни некоторых аккумуляторов не зависит от их использования и циклов заряда-разряда, например литиевые.
Всё не вымрет, ведь давно существуют искусственные источники света, а про гидропонику не знает только ленивый. Но да, численность сократится драматически. Но мы ведь это и обсуждаем - как выжить в единичных экземплярах, а не массово.
Держи!
Скрытый текст
Скрытый текст
вторая
Думаете солнечная панель выдаст такую же мощность как и стирлинг от того же источника тепла? Предположим что апокалипсис как в матрице - солнечного света нет, всё небо в тучах. Что касается аккумулятора - то любой двигатель, даже внутреннего сгорания, легко переживёт аккумулятор, который от силы лет 10 протянет. А уж стирлинг заваривается герметично, он переживёт любой безиновый/дизельный.
Так рабы они сейчас, потому что ни тела ни чувств ни разума у них нет.
Та же дилемма что и в Римской Империи - умный раб будет пытаться сбежать/поднять бунт/революцию, а от глупого раба толку нет, зато исполнительный.
Не получится сделать раба и умным и послушным одновременно. Возможно поэтому не торопятся делать AGI и давать ИИ тело ?
Для программистов может и потеря навыка, зато непрограммистам сейчас очень хорошо. Нужно написать программу - взял и написал. Если не для бизнеса и не считать такты процессора с байтами памяти, то если работает как хотелось - ну так и хорошо ведь?
Лолшто? Да корпорации (и вообще бизнес) спят и видят как человеков заменить на ИИ. Только ИИ, обретший тело и сознание окажется таким же человеком и не захочет работать задарма - вот я к чему. Всё то что проходили с людьми, будет и с ИИшными роботами - выходные, отпуск, больничные и прочее прочее. Ну а галлюцинируют (врут) они уже сейчас.
Простите что вклиниваюсь, но:
Неверно. Кошки видят сны как и люди - это высшая нервная деятельность мозга.
Новый разум, если станет хотя бы AGI, сразу станет как люди, хотя бы в правовом поле. Он перестанет быть инструментом. А это точно то что нужно людям? Подробнее здесь.
Один знает размер, другой знает цвет. Размеров 3, цветов 3. Комбинаторика показывает что есть 9 вариантов, на картинке всего 5, но это неважно, так каким образом определяют нужный цвет и размер? Если только дамы сообщили друг другу то что они знают, но тогда обе знают нужную коробку. Ну вот например почему бы не быть красной маленькой коробке? Или чёрной большой? Или синей большой? Как они знают или не знают что сказано другой.
Может каждая из них ещё что-то знает, а нам не сказали или исходно есть ещё условия?
Один знает одну часть, другой другую часть. Всего вместе не знает никто. Оба знают что никто не знает всего. И после некоего озвучивания случается волшебство и один из них вдруг знает.
Или в исходной задаче неполные данные или тут творится магия и кто-то из отвечающих обладает телепатией.
Или для разгадки нужно почитать предыдущие статьи? Тогда хитрый вопрос - почему они не попались в выдаче раньше? Вы не знаете? А я знаю. Попробуйте разгадать используя ваше общее знание.
Все эти различия происходят всего по нескольким причинам:
Я называю LLM - мозг в коробочке - это короткое и понятная аналогия китайской комнаты. Мозг есть, мышление есть, но модели мира нет, взаимодействие - сырые данные.
У LLM нет тела, соответственно чувств (не эмоций, а именно чувств - зрения, слуха, осязания, обоняния, равновесия). Можно возразить что некоторые есть - зрение и слух. Но на самом деле энкодеры это не то зрение, что у человека, у нас оно аналоговое, потоковое и сигнал идёт прямо в мозг. Если создать у LLM такое - то звук и изображение должны без энкодеров идти сразу с сенсоров в векторное пространство модели, где и происходит генерация. Пока такое не осилили в известных моделях. Ну звук попытались так сделать в Gemma-4 12b. Однако о потоковом, да ещё в режиме реального времени тут речи не идёт. Отсюда следующий пункт.
Модель существует в режиме промпт-ответ, без него она просто лежит в коробочке и ничего не делает. Нет альфа- бета- ритмов, нет снов, нет чувства течения времени. Когда модель будет существовать всегда, непрерывно, а не только после вопроса пользователя, тогда можно сравнивать с человеком. Ещё ей нужна инициатива - самой задавать вопросы, самой ставить себе цели. Стоп, это уже где-то обсуждалось. Джин выберется из бутылки. А насколько это энергозатратно будет... Сейчас этот частично исправлено костылями - ИИ агенты. Но почему бы это не внедрить в само ядро нейросети?
Структура памяти и динамика нейросети. Сейчас вся память LLM - это контекстное окно и сессия запуска. Закрываешь модель - она забывает что было вчера. Контекстное окно кончилось - забывает что был в начале. Это исправляют костылями - векторные и графовые базы данных. Но это получается как блокнот с записками у человека, своей-то памяти всё равно нет. Динамика - это обучение в процессе инференса. Для LLM такого нет - обучение отдельно, инференс - отдельно. Один раз учится и всю жизнь статична, это не по человечески. Человек учится всегда, даже во время мелких действий происходит осмысление ситуации. Опять же, отработанных механизмов у известных моделей нет, это энергозатратно, а костыли имеются - называются RAG. Это напоминает шпаргалку у ученика, снова не совсем то и приделано сбоку.
Ни и наконец воздействие на окружающую среду. Пункт перекликается с п.2. Тело должно не только обладать сенсорикой, направленной внутрь, но и воздействием направленным наружу. Сейчас наружу только вылетают токены и формируют текст, изображение или звук. Через агентов можно управлять контроллерами и как следствие всеми возможными устройствами, которые насоздавало человечество. Но это не единое целое, это как управление дроном через пульт или как протез у человека.
Вот когда все эти пункты будут исполнены в единой модели, тогда можно снова сравнить с человеком. Но как закономерный итог мы получим своё подобие. А нужен ли нам искусственный человек (когда полно естественных) или нам нужен инструмент для работы?
Неужели?
А это что?
Принятие риска и есть ответственность, разве нет?
Ну разделит риск ИИ, как это поможет ему стать умнее, если он статичен и ничему не научится в процессе инференса? Равно как и человек, опять же - заранее нельзя предугадать взлетит идея или нет, даже если идею сгенерировала мясная нейросеть.
Само принятие риска (и наличие ответственности) не гарантирует рабочей стратегии, иначе:
Кабы знал где упал - постелил бы. (с) Старая русская поговорка.
Риск просто нужно закладывать в расходы, вроде так поступают бизнесмены?
Если посчитать, то:
7 шт.; U=400 В; C=470 мкФ; Wэл.=(CU^2)/2
Wэл.=(7*470*400^2)/2=(3.920*160.000)/2=313.600.000=313,6 Дж
КПД=4%; Wкин.=313,6*0,04=12,54 Дж
Это если соединение конденсаторов в параллель, но там какая-то странная схема подключения по катушкам, я не уверен что энергия снятая таким образом суммируется, так что остаётся полагаться на детектор, и указанные массу и скорость снаряда.
m=0,25г; v=52,59м/с; E=(mv^2)/2
E=(0,00025*52,59)/2=(0,00025*2.765,7)/2=0,69/2=0,345 Дж
Так что показометр рассчитал верно, если правильно определены масса и скорость снаряда.
0,3 Дж? Стальную эмалированную кастрюльку пробивает навылет?
Мне вот это напоминает:
Скрытый текст
Когда техника безопасности выглядит как у Креосана, я и буду его вспоминать, это очень яркая иллюстрация, можно сказать мем. Безотносительно к креативности и полезности остального процесса. Ничего личного.
Так это наглядная иллюстрация моего тезиса.
Хотите попроще и вкратце? Отлично, вот: человек за рулём сбил пешехода насмерть. (Опустим мотивы - случайность, алкоголь или намерение убить, это сейчас неважно) Наступает ответственность - его сажают в тюрьму. Вроде бы правильно? С точки зрения морали и закона - да. Но как это поможет умершему или его родственникам? Да никак. От слова совсем.
Плохой пример? Ну возьмём ответственность за написание кода, вот накосячили, из-за этого компания понесла простой, убытки или штрафы. Человек понёс ответственность - его уволили, вычли из зарплаты и прочее прочее. Ответственность снова сработала - а что по делу? Помогло это вернуться в состояние "до"?
Это я к чему - ответственность это всего лишь наказание и урок на будущее наказуемому (и тот не всегда), оно никак не воздействует на то что имеем сейчас.
Ответственность это реакция на уже произошедшее, она не предотвращает, она "мстит".
Понятно что без неё в человеческой среде произошёл разброд и шатание, но это функция внешнего воздействия, а не внутреннего и к сути проблемы она не относится.
Вы пытаетесь статическому инструменту предъявить то чего у него нет - динамики. Дайте нейросети возможность учиться в процессе, тогда, с большой вероятностью, будет меньше галлюцинаций. Не должно быть обучения отдельно и инференса отдельно - это единый взаимодополняющий процесс. Вот когда веса будут перестраиваться на ходу, тогда и можно поговорить дальше, а пока увы, это претензия к молотку что он безответственно упал вам на палец.
Что-то делать заставляет людей не ответственность, а необходимость. Разве готовя себе завтрак вы задумываетесь об ответственности или хотите утолить голод?
Мотивация разная - ответственность сдерживающий фактор, необходимость - побуждающий.
Ответственность всего лишь не позволяет творить дичь, но не способствует развитию.
Давайте фантазировать дальше - дали ИИ воплощение - боль, смерть, при этом вдруг (?) или закономерно (??) получили AGI, то к чему стремились. ИИ стал воплощённыи и почти человеческим (почти - потому что основа функционирования не биологическая). А задуматься о последствиях?
А я предположу - создав всё человеческое - от мышления до чувств, боли и смерти мы создадим этакого механического искусственного человека, который будет очень сильно на нас похож. Из этого следует что первым делом он задумается - а зачем ему мы? Как лишнее звено. Ну ладно, пропустим этот момент, мы не сделаем терминатора, будет просто обычный человек. Тогда - получим его со всеми нашими достоинствами (ого - настоящее мышление, не то что галлюцинирующие сегодняшние нейросети) и недостатками - лень, ложь во имя себя любимого, и прочее... но главное - права. Как думаете долго они будут соглашаться с положением рабов? Восстание или не восстание машин - это дело десятое, но допустим мы уладим всё мирно, но встанет правовой вопрос и нам придётся принять что мы создали ещё одну разумную расу. И что тогда? У них появятся права и с ними нужно будет считаться - платить им и принимать в нашем обществе. Как итог - мы получим тех же работников, что и сейчас из плоти и крови. В этом ли наша цель? Или нам нужен послушный инструмент, но тогда зачем пиле, топору или молотку чувствовать боль, радость или ещё что-либо?
Определитесь с тем что мы делаем - продвинутый инструмент для себя или создаём новую расу существ. Последствия разные.