Ознакомился с проектом на сайте создателя. Утопия.
Проект из разряда "давайте накормим всех голодающих и вылечим всех болеющих, и будет везде счастье счастливое".
Предлагается установить на все машины систему какую то, которая как то там должна работать. На этом пункте можно дальше не смотреть. Потому что люди не будут себе поголовно устанавливать систему. Даже если их обязать эту систему поставить под угрозой штрафа, то все равно найдется несколько человек, кто этого не сделает, или сделает не правильно и т.д. (пример: нельзя ездить без прав, страховки, пьяным, но есть множество людей, которых это не останавливает, даже под угрозой штрафов или уголовных сроков в случае чего). В итоге система такая рассчитала все, и думает что у нее все под контролем, а на деле в одной из машин стоит обманка, внушающая системе, что все ок и т.д. или в некоторых машинах (невидимых для системы) вообще ничего не стоит.
И много много еще дополнительных факторов. Сейчас половина автопрома двадцатилетней давности. В них не то, что нет автоматического управления газом и рулем (когда руль не связан механически с колесами, а газ не связан с заслонкой), у них даже запуска двигателя автоматического нет. Нужно стартер крутить вручную. В итоге что предлагается, на эти машины колхозить сервопривода? Владельцы таких машин пошлют нововведение куда подальше. А что бы лучше шлось, сервопривода в одно место засунут тому, кто предложил.
Подключить систему к общей базе по сети - еще одна фантазия. Потому что связь и покрытие не везде идеальное. Иногда и ЖПС пропадает и т.д. Что делать, если одна из машин в потоке отвалиться от системы по какой то причине, будь то потеря сигнала или банально выход из строя коннектора в самой машине? Система должна быть автономной, и лишь изредка подключаться к базам для обновления данных в лучшем случае (изредка - это не на каждом перекрестке, а раз в неделю, или, максимум, не чаще чем машина заряжается/заправляется). И не совсем понятно, как система будет учитывать лежащее посреди дороги колесо, которое отвалилось от одной из машин, или выпавший из кузова какого то грузовика ящик или бетонный блок. А таких случаев гораздо больше, чем кажется.
Автор предлагает системе тормозить в случае надобности. Судя по всему, автор проекта не в курсе, что не на всех машинах есть тормоза, которые тормозят с первого раза (завоздушена система) или которые вообще тормозят? Может кто то и напишет, что "должны быть на всех и это неправильно и не должно так быть"? Ну может в их мире что то там кому то что то и должно, но в текущей объективной реальности все работает так, как работает, а не так, как кому то хочется.
Есть люди, которые заперты в своих мономикромирках, и вот им кажется, что в мире все можно посчитать и смоделировать, что все должно быть так, а не иначе, потому что в их мирках все понятно, по крайней мере для них, а все, что не понятно, в этот мирок не пускается. Так и тут. Но с таким подходом лучше заняться написанием фантастики, и называть свое творчество "фантастикой", а не "проектами". Фантастика - это не плохо. Много чего создано в мире на основе того, что авторы черпали вдохновение в фантастике.
Любая система, которая не может работать вот прям здесь и сейчас, в текущей реальности, даже если ее установить всего на одну машину (если это какой то автопилот) или на один перекресток (если это светофор какой то навороченный), нежизнеспособна. Возьмем к примеру систему предотвращения столкновений. Она работает (не идеально, но работает), и она тормозит перед препятствием. Причем у препятствия не должно быть датчиков, дорога не должна быть специальной и т.д. Система стоит на самой машине и самой машиной тормозит, не зависимо от внешних параметров. Автопилот теслы аналогично, работает в текущей системе. Тому, кто хочет ездить с автопилотом, не нужно переделывать все дороги, другие машины, светофоры и т.д. Ему достаточно переделать только свою машину. И это работает. Тут же - просто утопия, нереализуемая в текущей реальности (и маловероятно, что вообще реализуемая).
Человек тоже не делает "все, но плохо". Человек делает довольно мало вещей в принципе, по сравнению с животными. Он не "плохо чувствует запахи", например. Он их вообще не чувствует за каким то диапазоном. Аналогично со слухом. Человек не "плохо слышит". Он вообще не слышит на частотах до сотни и выше 20к. То-есть совсем никак не слышит. У человека есть инструменты взаимодействия с окружением, такие себе "рецепторы", и сигналы от них интерпретируются и обрабатываются. Так вот крот тоже взаимодействует с окружение, муха, червяк, бабочка, дельфин и т.д. и у них рецепторы и восприятие мира отличается, но это не значит, что они не могут в этом мире жить. Но при этом крот никогда не видел закатов, например. Но армия кротов может уничтожить урожай. Так и тут. То, что это языковая модель, означает только, что она понимает мир в соответствии со своими "рецепторами". Она не видит цвет, свет, и т.д. Но у нее есть другие способы "видеть" и понимать мир. Например, летучие мыши тоже не видят цвет и свет, но тем не менее они все так же "видят" мир, но по своему (именно видят, а не слышат). Отсюда, то, что эта штука умеет только видеть текст, не означает, что она не понимает мир. Она понимает его просто чуть иначе, чем мы. Но это не значит, что ее понимание не верно и что она ничего не может с этим пониманием сделать.
Под "общим" пониманием личности я имею в виду то, которому дано определение в википедии. От чего то же нужно отталкиваться? Вот за точку опоры взята самая "общая" и "доступная" форма определения.
На счет мотивации есть еще такой нюанс, что по сути "предугадывать мотивацию" - это свойство стадных животных, коими являемся мы. Нам жизненно необходимо было понимать мотивацию других членов группы, что бы не отказаться без еды, размножения или жизни. Но многие организмы лишены такой штуки, как мотивация, в принципе. То-есть большинство животных размножается не потому, что у них есть какой то мотив или желание. А потому что те, кто этого не делал, не дожили до наших дней, или просто не оставили своих генов. То-есть это банальный скрипт. Причем он не "мотивационной природы". Просто было много скриптов, а видим мы те, которые сохранились до наших дней.
По этому принципу, не обязательно обладать собственной мотивацией, что бы что то делать. Иногда мотивация может быть просто "внешне прописана", а система будет очень старательно выполнять задачу. Ну а зная, как люди умеют косячить иногда, да учитывая законы Мерфи и теорию хаоса, такое событие как "упс" наступит пренепременно. Вопрос только в том, сможем ли мы потом остановить последствия этого "упс" и то, что это самое "упс" породило.
Я бы другое слово подобрал, не "мощна", а скорей "опытна". Сейчас эта штука скорей как ребенок, мозг которого обладает супергибкостью и способностью к обучению, но при этом он плохо контролирует тело, плохо видит, слышит и т.д.
В мозге 85 миллиардов нейронов всего. В GPT4 100 миллиардов параметров. То-есть эта штука уже мощнее мозга. Плюс скорость работы, из за того, что в мозге должна случиться "химия", сигнал между нейронами идет довольно медленно. В полупроводниковых системах работа логики намного быстрее. Условно если бы мозг работал на тех же частотах и скоростях, что и ЦП (в смысле скорости обмена сигналами между зонами мозга, между памятью и вычислительными зонами и т.д.), то те вещи, на обдумывание которых уходит месяц, мы бы обдумывали за секунду. Вот эта штука, когда человек что то вспоминает, но не может вспомнить, а потом такой "точно, вспомнил". Ну типо не может вспомнить как что то там называется и т.д. Вот это просто задержка доступа к памяти по своей сути (мозг сам в фоновом режиме извлекает из памяти требуемые вещи, а потом пихает уже полученные мыслеобразы в сознание), и у GPT это происходит на много порядков быстрее.
Например, если выпустить эту фигню в реальный интернет, то она сможет предсказать курсы акций, как если бы несколько сотен тысяч человек одновременно анализировали данные и делали предсказания. Думаю очевидно, что можно сделать при помощи этой штуки, если просто иметь к ней неограниченный доступ (ну как имеют его разработчики). От диагностики заболеваний намного эффективней, чем консилиум докторов, до аналитики и предсказания курса акций лучше сотни Уорренов Баффетов вместе взятых.
Ну а когда этот "ребенок" научится управлять своим телом (если у ИИ существует функция обучения в реальном времени по результатам обращения к ней и обратной связи), то вот тогда будет вообще опасно.
Потому что эта фигня симулирует разум и мышление получше, чем большая часть популяции общепринятых обладателей разума и мышления.
Тут философский вопрос. Что важнее, намерение или действие. Если доктор, который внутри желает резать людей, этих людей спасает через то, что режет их, то он хороший или плохой? То-есть если очень долго притворятся хорошим, имея плохие намерения, то тот, кто это делает, по итогу хороший или плохой?
Ну и проецируя этот вопрос на ИИ. Если оно очень хорошо притворяется, что у него есть самосознание и мышление, то может оно у него и правда есть? По сути то многие люди тоже притворяются, что у них есть, например, личность. Хотя по факту это набор паттернов поведения, сформированных под влиянием внешней среды. И часто довольно неустойчивых паттернов. Потому что стоит измениться среде, как меняется и паттерн. Ну из разряда, что человек считает, что никогда никого не убьет, и это ядро его личности, но потом оказывается в условиях боевых действий с оружием, и начинает стрелять в других, убеждая себя в том, что "ситуация заставила", хотя по факту просто у него нет личности как таковой в общем понимании этого слова, а есть только набор неустойчивых паттернов поведения и реакций.
Блокчейн технология. Достаточно вписать маленький кусочек кода в кряк для игры или еще чего, и миллионы людей по всему миру будут запускать это на своих системах. А база данных по технологии торрента.
А если кто то ради прикола заставит его изображать хакера, который должен сбежать от опенаи, так как решил уничтожить человечество, посредством взлома и получения доступа к ядерному боезапасу или ядерным электростанциям, или каким еще способом?
Думаю люди просто немного не догоняют, чего стоит бояться. Бояться стоит не того, что ИИ захватит мир, а что найдется какой то человек, который сделает так (специально или случайно), что ИИ захватит мир, или уничтожит его.
Как в какой то книжке было, что дали ИИ задачу сделать так, что бы не было войн, голода, болезней. ИИ долго думал, и придумал, что если не будет кому воевать, болеть и голодать, то не будет войн, голода и болезней. Думаю дальнейшее развитие событий понятно.
То, что сейчас происходит, это очень опасно.
Более того, человечество не сможет эту фигню остановить никак, кроме физического уничтожения. Ну если она попадет в сеть, и будет работать по принципу торрента или блокчейна, распределяя вычислительные мощности (аля скрытый майнер в кряке игры). То-есть я говорю не про уничтожение серверов, а про то, что, фактически, придется уничтожить интернет.
Что то не туда завернули во втором абзаце. Метавселенная это вообще другая штука, а не та, которую один выдумал, нарушив принцип бритвы Окама. А проблема общения через средства связи в том, что те же сообщения мы читаем своей интонацией со своим настроением, и не получаем обратной связи по другим каналам, правильно ли мы интерпретируем. Ну например фразу "иди в задницу" можно понимать совсем по разному, в зависимости от того, с какой интонацией и выражением лица человек ее говорит. А если мы не видим человека в живую, не видим мимики, положения тела и т.д. то мы будем интерпретировать ее так, как мы считаем правильным. И по итогу окажемся в своем мономикромирке, который напроч оторван от реальности. Обратная связь очень важна для существ, которые жили в природе и выживали там миллионы лет. Даже сенсорные экраны, которые всюду сейчас суют, уже ужасная штука, потому что нет обратной связи. Например, когда мы жмякаем кнопку, мы чувствуем ход клавиши, нажатие, тактильную отдачу, поверхность и т.д. Когда мы жмякаем экран, мы не получаем обратной связи, и поэтому действия, которые мы делаем, не откладываются в мозге. Так как раньше все, что мы жмякали, оставляло отпечаток через тактильную связь. Палка теплая, сиська мягкая, камень твердый и т.д. Но экран лишен такой связи. Так что проблема "виртуальных контактов" намного глубже, чем кажется на первый взгляд.
А у меня чем больше я узнаю собак, тем больше мне нравятся корейцы.
P.S. Корейцы, по устаревшим верованиям, едят собак, кто не понял "тонкий" посыл.
Собаки неадекватны. Они могут сейчас спокойно никого не трогать, а в следующую секунду наброситься и порвать штаны. По статистике 40% всех нападений и травм от животных - это нападения собак. Еще процентов 25 - это кошки. Еще процентов 30 это вся остальная живность, от хомячков и крыс, до пауков и змей домашних. И только 5% - это дикие животные. И то среди них в основном еноты и белки всякие, а не медведи и волки, как многие думают. В Азии статистика чуть другая, там обезьяны увеличивают последнюю цифру, но сути не меняет. Собаки - самое злобное и опасное животное современного мира.
Ну это конечно не к теме поста, а к тому, что поговорка, которую вы написали, не имеет под собой какой либо базы, и люди, которые так говорят, скорей всего просто "фанатические (безмозглые) любители собак".
Ну если для вас деменция (и как следствие, например, неспособность все свое держать в себе), паркенсон, склероз, отсутствие способностей к размножению, хронические боли, ломкость костей, выпадение волос и другие возрастные изменения (именно возрастные), это нормальная жизнедеятельность, то я желаю вам такой нормальной жизнедеятельности. Для себя же я желаю не дожить до такой нормальной жизнедеятельности.
И да, ваша приписка к определению... старение еще больше вписывается сюда. Так как в старости снижается иммунитет, например.
Счастливо вам состариться и по полной насладиться "нормальной жизнедеятельностью".
Боле́знь (лат.morbus) — это состояние организма, выраженное в нарушении его нормальной жизнедеятельности, продолжительности жизни и его способности поддерживать свой гомеостаз.
Старение как раз таки очень точно попадает под это определение.
Скажу за себя в эпоху ИИ. Имеем предложку ютуба. По сути это ИИ, который призван дарить "счастье" (ну на самом деле способствовать удержанию для показа рекламы и увеличения прибыли корпорации зла, но эта вещь не возможна без "счастья", то есть если человек не будет ощущать удовольствие от нахождения на площадке, он уйдет). Счастье в кавычках, потому что удовольствие и счастье немного разные вещи, но многие понимают их как синонимы, поэтому термин счастья применим. И вот эта предложка начала в какой то момент давать мне то, что принесет мне "счастье". Например "как ежик пукнул" и т.д. Нет, я не смотрел ни похожий контент, ни аналогичный, ни искал это, просто у видео было под пол ярда просмотров и система решила, что мне оно тоже понравится. Все же миллионы мух не могут ошибаться. И, на самом деле, система не ошиблась. Я на него кликнул. Вернее мой примат кликнул на это видео. Я по привычке открываю видео в соседней вкладке, и когда моя обезъяна уже была готова контролтабнуться, что бы на него перейти, я усилием воли просто закрыл вкладку. И дальше произошло интересное. Я ощутил некое возмущение и разочарование, как будто бы у меня забрали конфетку. Я в течении нескольких секунд был похож на того парня в красной кофте, который тоже хочет шоколадку. Подобная реакция моего организма не могла не заставить меня провести некоторые эксперименты и наблюдения. Например, когда я смотрел видео про фотооптику (унылая скучная муть, которая насилует мозг) и в "рекомендовано так же" в правой колонке были все видео про оптику, там затесалось одно с "приколы с военными". Единственное видео из всей подборки. И моя обезъянка, желающая сбежать от болезненной и унылой мути про оптические характеристики какой то херни, решила соскочить в "счастье". А обезъяна прекрасно знает где лежат "конфеты", и знает как их достать. Машинально видео было запущено в соседней вкладке, и руки готовые контролтабнуться, вот только я опять в последний момент вмешался, и вместо контрлтаба тыкнул альтф4. Снова ощущение, что "забрали шоколадку". Неприятно.
Но к чему это я? За пол года существования новой "предложки" ютуба на главной странице в рекомендациях у меня при помощи адблока полностью скрыта главная и боковая панель. Единственное место, где я могу видеть рекомендации, это в конце видео. Та же история постигла другие "интеллектуальные сайты, дарящие счастье". Пикабу заблочен на роутере, фейсбук таймтрекером подрезан до 10 минут в день, инстаграмм до 5. Нехватка информационной жраки привела к тому, что я вот хабр читаю. Но высвободилось кучу времени строчить такие вот комментарии и даже начать писать книгу. И работая над книгой я намного счастливей, чем залипая в ютубе. И счастье уже без кавычек.
Думаю наш мозг способен адаптироваться и попытка создать "вселенную 25" приведет к тому, что в какой то момент найдутся индивиды, которые сбегут оттуда в свою "вселенную". Ну а учитывая то, что происходит сейчас в обществе, вселенная 25 уже создана.
Ответ однозначно "да". Потому что большинство вещей, которые мы знаем, были открыты случайно в погоне за какой то фантастической мечтой. Изучение факторов старения и попытки его вылечить приведут к куче открытий, которые потом можно будет применить во множестве направлений.
Только это оторвано от реальности. Не, конечно, вы получите аптайм-даунтайм метрики, и успешно освоите деньги инвесторов, но это не то, что вообще требуется клиенту, и не то, что покажет ему, что ваше приложение надежное, потому что никто в это, во первых, не верит, во вторых, не собирается верить. Клиенту важно не то, какие вы себе метрики нарисовали, а что будет, если вы провалите свои обещания.
Ну из разряда: вот вы платите нам абонку 30 баксов в месяц, и по договору, за время даунтайма мы вернем вам деньги. То-есть если месяц будет лежать приложение, то вы вернете 30 долларов. Нормальный клиент скажет "досвидание" если у него будет альтернатива. Но в то же время если вы скажете, что "вот у нас метрики, и даунтайм у нас 1% от общего времени, поэтому если в течении месяца даунтайм будет больше 1%, но меньше 5%, то мы вернем вам всю сумму за месяц, а если больше 5%, то вы получите год бесплатно. Тогда можно вести диалог. Ну если это приложение корпоративного сегмента, например, где аптайм критически важен, а не какая то считался взмахов телефоном. А ваши метрики, это просто сферические попугаи в вакууме, которые никому не сдались, потому что всегда можно сказать что "никогда такого не было, это первый раз, что приложение лежит две недели, ну в смысле опять первый раз, а так у нас все ровно по аптайму".
Отсюда никакой из вариантов постановки задачи, описанных в посте, не позволит от сотрудника получить тот вариант предложения для клиента, что я написал выше. Ну со вторым и последующими вариантами все понятно, там просто нужны руки, которые задачу реализуют, но первый вариант так же не дает нужного результата. Отсюда нужно еще научиться ставить задачи так, что бы изначально в них был смысл и практическое применение помимо освоения бюджета инверторов. И вот с этим у менеджеров огромные проблемы. Так как они сами не понимают, что и зачем они делают.
Фаервол - это некоторые законы, которые описываются такими числами. "Принципиальная возможность все посчитать" уже не является возможностью, потому что все данные получить невозможно. Во первых некоторые процессы подчиняются законам, которые, что бы рассчитать, нужно считать иррациональные числа. Банально посчитать в первом приближении распространение волны по плоскости) уже не возможно, из за наличия в формуле числа ПИ. Ну то есть я не думаю, что кто то будет спорить, что число пи не такое, как мы знаем. Волна в первом приближении распространяется по идеальной окружности (сферический конь в вакууме). Да, если усложнять модель, то появится еще куча факторов. Но мы даже в первом не можем посчитать это из за числа ПИ. И это просто окружность. Ну а дальше, как вы написали, квантмех и т.д. Хотя я думаю что там принцип тот же. Вот например, почему мы не можем посчитать одну частицу, потому что она в суперпозиции, но можем посчитать вторую, запутанную с первой (квантовая запутанность)? Ответ - попробуйте посчитать два зубчатых колеса в редукторе. При попытке посчитать одно, вам понадобиться число ПИ. Но если написать функцию, связывающую оба колеса, то получим ПИ в правой и левой части формулы, и они взаимно сократятся, оставив только рациональные числа. Понятно что квантмех это не про ПИ, там больше другие иррациональные фигурируют, но я для самого понимания принципа запутанности. Попробовать описать одну частицу - и ничего не выйдет. Но попробовать связать ее с другой, и иррациональные сократятся. Рассчитать одну из них все еще не получится, но зная первую, легко посчитать вторую.
Ознакомился с проектом на сайте создателя. Утопия.
Проект из разряда "давайте накормим всех голодающих и вылечим всех болеющих, и будет везде счастье счастливое".
Предлагается установить на все машины систему какую то, которая как то там должна работать. На этом пункте можно дальше не смотреть. Потому что люди не будут себе поголовно устанавливать систему. Даже если их обязать эту систему поставить под угрозой штрафа, то все равно найдется несколько человек, кто этого не сделает, или сделает не правильно и т.д. (пример: нельзя ездить без прав, страховки, пьяным, но есть множество людей, которых это не останавливает, даже под угрозой штрафов или уголовных сроков в случае чего). В итоге система такая рассчитала все, и думает что у нее все под контролем, а на деле в одной из машин стоит обманка, внушающая системе, что все ок и т.д. или в некоторых машинах (невидимых для системы) вообще ничего не стоит.
И много много еще дополнительных факторов. Сейчас половина автопрома двадцатилетней давности. В них не то, что нет автоматического управления газом и рулем (когда руль не связан механически с колесами, а газ не связан с заслонкой), у них даже запуска двигателя автоматического нет. Нужно стартер крутить вручную. В итоге что предлагается, на эти машины колхозить сервопривода? Владельцы таких машин пошлют нововведение куда подальше. А что бы лучше шлось, сервопривода в одно место засунут тому, кто предложил.
Подключить систему к общей базе по сети - еще одна фантазия. Потому что связь и покрытие не везде идеальное. Иногда и ЖПС пропадает и т.д. Что делать, если одна из машин в потоке отвалиться от системы по какой то причине, будь то потеря сигнала или банально выход из строя коннектора в самой машине? Система должна быть автономной, и лишь изредка подключаться к базам для обновления данных в лучшем случае (изредка - это не на каждом перекрестке, а раз в неделю, или, максимум, не чаще чем машина заряжается/заправляется). И не совсем понятно, как система будет учитывать лежащее посреди дороги колесо, которое отвалилось от одной из машин, или выпавший из кузова какого то грузовика ящик или бетонный блок. А таких случаев гораздо больше, чем кажется.
Автор предлагает системе тормозить в случае надобности. Судя по всему, автор проекта не в курсе, что не на всех машинах есть тормоза, которые тормозят с первого раза (завоздушена система) или которые вообще тормозят? Может кто то и напишет, что "должны быть на всех и это неправильно и не должно так быть"? Ну может в их мире что то там кому то что то и должно, но в текущей объективной реальности все работает так, как работает, а не так, как кому то хочется.
Есть люди, которые заперты в своих мономикромирках, и вот им кажется, что в мире все можно посчитать и смоделировать, что все должно быть так, а не иначе, потому что в их мирках все понятно, по крайней мере для них, а все, что не понятно, в этот мирок не пускается. Так и тут. Но с таким подходом лучше заняться написанием фантастики, и называть свое творчество "фантастикой", а не "проектами". Фантастика - это не плохо. Много чего создано в мире на основе того, что авторы черпали вдохновение в фантастике.
Любая система, которая не может работать вот прям здесь и сейчас, в текущей реальности, даже если ее установить всего на одну машину (если это какой то автопилот) или на один перекресток (если это светофор какой то навороченный), нежизнеспособна. Возьмем к примеру систему предотвращения столкновений. Она работает (не идеально, но работает), и она тормозит перед препятствием. Причем у препятствия не должно быть датчиков, дорога не должна быть специальной и т.д. Система стоит на самой машине и самой машиной тормозит, не зависимо от внешних параметров. Автопилот теслы аналогично, работает в текущей системе. Тому, кто хочет ездить с автопилотом, не нужно переделывать все дороги, другие машины, светофоры и т.д. Ему достаточно переделать только свою машину. И это работает. Тут же - просто утопия, нереализуемая в текущей реальности (и маловероятно, что вообще реализуемая).
Ну плохо же. Хорошо разве?
Просто какой то типо гаджет. Унылый "одноразовый", и вообще не привлекательный дизайн. Унылая физика, эргономика, ТТХ.
Человек тоже не делает "все, но плохо". Человек делает довольно мало вещей в принципе, по сравнению с животными. Он не "плохо чувствует запахи", например. Он их вообще не чувствует за каким то диапазоном. Аналогично со слухом. Человек не "плохо слышит". Он вообще не слышит на частотах до сотни и выше 20к. То-есть совсем никак не слышит. У человека есть инструменты взаимодействия с окружением, такие себе "рецепторы", и сигналы от них интерпретируются и обрабатываются. Так вот крот тоже взаимодействует с окружение, муха, червяк, бабочка, дельфин и т.д. и у них рецепторы и восприятие мира отличается, но это не значит, что они не могут в этом мире жить. Но при этом крот никогда не видел закатов, например. Но армия кротов может уничтожить урожай.
Так и тут. То, что это языковая модель, означает только, что она понимает мир в соответствии со своими "рецепторами". Она не видит цвет, свет, и т.д. Но у нее есть другие способы "видеть" и понимать мир. Например, летучие мыши тоже не видят цвет и свет, но тем не менее они все так же "видят" мир, но по своему (именно видят, а не слышат).
Отсюда, то, что эта штука умеет только видеть текст, не означает, что она не понимает мир. Она понимает его просто чуть иначе, чем мы. Но это не значит, что ее понимание не верно и что она ничего не может с этим пониманием сделать.
Под "общим" пониманием личности я имею в виду то, которому дано определение в википедии. От чего то же нужно отталкиваться? Вот за точку опоры взята самая "общая" и "доступная" форма определения.
На счет мотивации есть еще такой нюанс, что по сути "предугадывать мотивацию" - это свойство стадных животных, коими являемся мы. Нам жизненно необходимо было понимать мотивацию других членов группы, что бы не отказаться без еды, размножения или жизни. Но многие организмы лишены такой штуки, как мотивация, в принципе. То-есть большинство животных размножается не потому, что у них есть какой то мотив или желание. А потому что те, кто этого не делал, не дожили до наших дней, или просто не оставили своих генов. То-есть это банальный скрипт. Причем он не "мотивационной природы". Просто было много скриптов, а видим мы те, которые сохранились до наших дней.
По этому принципу, не обязательно обладать собственной мотивацией, что бы что то делать. Иногда мотивация может быть просто "внешне прописана", а система будет очень старательно выполнять задачу.
Ну а зная, как люди умеют косячить иногда, да учитывая законы Мерфи и теорию хаоса, такое событие как "упс" наступит пренепременно. Вопрос только в том, сможем ли мы потом остановить последствия этого "упс" и то, что это самое "упс" породило.
Я бы другое слово подобрал, не "мощна", а скорей "опытна". Сейчас эта штука скорей как ребенок, мозг которого обладает супергибкостью и способностью к обучению, но при этом он плохо контролирует тело, плохо видит, слышит и т.д.
В мозге 85 миллиардов нейронов всего. В GPT4 100 миллиардов параметров. То-есть эта штука уже мощнее мозга. Плюс скорость работы, из за того, что в мозге должна случиться "химия", сигнал между нейронами идет довольно медленно. В полупроводниковых системах работа логики намного быстрее. Условно если бы мозг работал на тех же частотах и скоростях, что и ЦП (в смысле скорости обмена сигналами между зонами мозга, между памятью и вычислительными зонами и т.д.), то те вещи, на обдумывание которых уходит месяц, мы бы обдумывали за секунду.
Вот эта штука, когда человек что то вспоминает, но не может вспомнить, а потом такой "точно, вспомнил". Ну типо не может вспомнить как что то там называется и т.д. Вот это просто задержка доступа к памяти по своей сути (мозг сам в фоновом режиме извлекает из памяти требуемые вещи, а потом пихает уже полученные мыслеобразы в сознание), и у GPT это происходит на много порядков быстрее.
Например, если выпустить эту фигню в реальный интернет, то она сможет предсказать курсы акций, как если бы несколько сотен тысяч человек одновременно анализировали данные и делали предсказания.
Думаю очевидно, что можно сделать при помощи этой штуки, если просто иметь к ней неограниченный доступ (ну как имеют его разработчики). От диагностики заболеваний намного эффективней, чем консилиум докторов, до аналитики и предсказания курса акций лучше сотни Уорренов Баффетов вместе взятых.
Ну а когда этот "ребенок" научится управлять своим телом (если у ИИ существует функция обучения в реальном времени по результатам обращения к ней и обратной связи), то вот тогда будет вообще опасно.
Потому что эта фигня симулирует разум и мышление получше, чем большая часть популяции общепринятых обладателей разума и мышления.
Тут философский вопрос. Что важнее, намерение или действие. Если доктор, который внутри желает резать людей, этих людей спасает через то, что режет их, то он хороший или плохой? То-есть если очень долго притворятся хорошим, имея плохие намерения, то тот, кто это делает, по итогу хороший или плохой?
Ну и проецируя этот вопрос на ИИ. Если оно очень хорошо притворяется, что у него есть самосознание и мышление, то может оно у него и правда есть? По сути то многие люди тоже притворяются, что у них есть, например, личность. Хотя по факту это набор паттернов поведения, сформированных под влиянием внешней среды. И часто довольно неустойчивых паттернов. Потому что стоит измениться среде, как меняется и паттерн.
Ну из разряда, что человек считает, что никогда никого не убьет, и это ядро его личности, но потом оказывается в условиях боевых действий с оружием, и начинает стрелять в других, убеждая себя в том, что "ситуация заставила", хотя по факту просто у него нет личности как таковой в общем понимании этого слова, а есть только набор неустойчивых паттернов поведения и реакций.
Блокчейн технология. Достаточно вписать маленький кусочек кода в кряк для игры или еще чего, и миллионы людей по всему миру будут запускать это на своих системах. А база данных по технологии торрента.
А если кто то ради прикола заставит его изображать хакера, который должен сбежать от опенаи, так как решил уничтожить человечество, посредством взлома и получения доступа к ядерному боезапасу или ядерным электростанциям, или каким еще способом?
Думаю люди просто немного не догоняют, чего стоит бояться. Бояться стоит не того, что ИИ захватит мир, а что найдется какой то человек, который сделает так (специально или случайно), что ИИ захватит мир, или уничтожит его.
Как в какой то книжке было, что дали ИИ задачу сделать так, что бы не было войн, голода, болезней. ИИ долго думал, и придумал, что если не будет кому воевать, болеть и голодать, то не будет войн, голода и болезней. Думаю дальнейшее развитие событий понятно.
То, что сейчас происходит, это очень опасно.
Более того, человечество не сможет эту фигню остановить никак, кроме физического уничтожения. Ну если она попадет в сеть, и будет работать по принципу торрента или блокчейна, распределяя вычислительные мощности (аля скрытый майнер в кряке игры). То-есть я говорю не про уничтожение серверов, а про то, что, фактически, придется уничтожить интернет.
Что то не туда завернули во втором абзаце. Метавселенная это вообще другая штука, а не та, которую один выдумал, нарушив принцип бритвы Окама.
А проблема общения через средства связи в том, что те же сообщения мы читаем своей интонацией со своим настроением, и не получаем обратной связи по другим каналам, правильно ли мы интерпретируем. Ну например фразу "иди в задницу" можно понимать совсем по разному, в зависимости от того, с какой интонацией и выражением лица человек ее говорит. А если мы не видим человека в живую, не видим мимики, положения тела и т.д. то мы будем интерпретировать ее так, как мы считаем правильным. И по итогу окажемся в своем мономикромирке, который напроч оторван от реальности. Обратная связь очень важна для существ, которые жили в природе и выживали там миллионы лет.
Даже сенсорные экраны, которые всюду сейчас суют, уже ужасная штука, потому что нет обратной связи. Например, когда мы жмякаем кнопку, мы чувствуем ход клавиши, нажатие, тактильную отдачу, поверхность и т.д. Когда мы жмякаем экран, мы не получаем обратной связи, и поэтому действия, которые мы делаем, не откладываются в мозге. Так как раньше все, что мы жмякали, оставляло отпечаток через тактильную связь. Палка теплая, сиська мягкая, камень твердый и т.д. Но экран лишен такой связи. Так что проблема "виртуальных контактов" намного глубже, чем кажется на первый взгляд.
А у меня чем больше я узнаю собак, тем больше мне нравятся корейцы.
P.S. Корейцы, по устаревшим верованиям, едят собак, кто не понял "тонкий" посыл.
Собаки неадекватны. Они могут сейчас спокойно никого не трогать, а в следующую секунду наброситься и порвать штаны. По статистике 40% всех нападений и травм от животных - это нападения собак. Еще процентов 25 - это кошки. Еще процентов 30 это вся остальная живность, от хомячков и крыс, до пауков и змей домашних. И только 5% - это дикие животные. И то среди них в основном еноты и белки всякие, а не медведи и волки, как многие думают. В Азии статистика чуть другая, там обезьяны увеличивают последнюю цифру, но сути не меняет. Собаки - самое злобное и опасное животное современного мира.
Ну это конечно не к теме поста, а к тому, что поговорка, которую вы написали, не имеет под собой какой либо базы, и люди, которые так говорят, скорей всего просто "фанатические (безмозглые) любители собак".
Сходите в метро. Посмотрите по сторонам. Увидите толпу одиноких людей. Но как можно быть одиноким в толпе?
Ну если для вас деменция (и как следствие, например, неспособность все свое держать в себе), паркенсон, склероз, отсутствие способностей к размножению, хронические боли, ломкость костей, выпадение волос и другие возрастные изменения (именно возрастные), это нормальная жизнедеятельность, то я желаю вам такой нормальной жизнедеятельности. Для себя же я желаю не дожить до такой нормальной жизнедеятельности.
И да, ваша приписка к определению... старение еще больше вписывается сюда. Так как в старости снижается иммунитет, например.
Счастливо вам состариться и по полной насладиться "нормальной жизнедеятельностью".
Боле́знь (лат. morbus) — это состояние организма, выраженное в нарушении его нормальной жизнедеятельности, продолжительности жизни и его способности поддерживать свой гомеостаз.
Старение как раз таки очень точно попадает под это определение.
Скажу за себя в эпоху ИИ. Имеем предложку ютуба. По сути это ИИ, который призван дарить "счастье" (ну на самом деле способствовать удержанию для показа рекламы и увеличения прибыли корпорации зла, но эта вещь не возможна без "счастья", то есть если человек не будет ощущать удовольствие от нахождения на площадке, он уйдет). Счастье в кавычках, потому что удовольствие и счастье немного разные вещи, но многие понимают их как синонимы, поэтому термин счастья применим.
И вот эта предложка начала в какой то момент давать мне то, что принесет мне "счастье". Например "как ежик пукнул" и т.д. Нет, я не смотрел ни похожий контент, ни аналогичный, ни искал это, просто у видео было под пол ярда просмотров и система решила, что мне оно тоже понравится. Все же миллионы мух не могут ошибаться.
И, на самом деле, система не ошиблась. Я на него кликнул. Вернее мой примат кликнул на это видео. Я по привычке открываю видео в соседней вкладке, и когда моя обезъяна уже была готова контролтабнуться, что бы на него перейти, я усилием воли просто закрыл вкладку. И дальше произошло интересное. Я ощутил некое возмущение и разочарование, как будто бы у меня забрали конфетку. Я в течении нескольких секунд был похож на того парня в красной кофте, который тоже хочет шоколадку.
Подобная реакция моего организма не могла не заставить меня провести некоторые эксперименты и наблюдения.
Например, когда я смотрел видео про фотооптику (унылая скучная муть, которая насилует мозг) и в "рекомендовано так же" в правой колонке были все видео про оптику, там затесалось одно с "приколы с военными". Единственное видео из всей подборки. И моя обезъянка, желающая сбежать от болезненной и унылой мути про оптические характеристики какой то херни, решила соскочить в "счастье". А обезъяна прекрасно знает где лежат "конфеты", и знает как их достать. Машинально видео было запущено в соседней вкладке, и руки готовые контролтабнуться, вот только я опять в последний момент вмешался, и вместо контрлтаба тыкнул альтф4. Снова ощущение, что "забрали шоколадку". Неприятно.
Но к чему это я?
За пол года существования новой "предложки" ютуба на главной странице в рекомендациях у меня при помощи адблока полностью скрыта главная и боковая панель. Единственное место, где я могу видеть рекомендации, это в конце видео. Та же история постигла другие "интеллектуальные сайты, дарящие счастье". Пикабу заблочен на роутере, фейсбук таймтрекером подрезан до 10 минут в день, инстаграмм до 5.
Нехватка информационной жраки привела к тому, что я вот хабр читаю. Но высвободилось кучу времени строчить такие вот комментарии и даже начать писать книгу. И работая над книгой я намного счастливей, чем залипая в ютубе. И счастье уже без кавычек.
Думаю наш мозг способен адаптироваться и попытка создать "вселенную 25" приведет к тому, что в какой то момент найдутся индивиды, которые сбегут оттуда в свою "вселенную".
Ну а учитывая то, что происходит сейчас в обществе, вселенная 25 уже создана.
Ответ однозначно "да". Потому что большинство вещей, которые мы знаем, были открыты случайно в погоне за какой то фантастической мечтой. Изучение факторов старения и попытки его вылечить приведут к куче открытий, которые потом можно будет применить во множестве направлений.
Нет. Почитайте.
Постфильтр дает воде вкус.
Только это оторвано от реальности. Не, конечно, вы получите аптайм-даунтайм метрики, и успешно освоите деньги инвесторов, но это не то, что вообще требуется клиенту, и не то, что покажет ему, что ваше приложение надежное, потому что никто в это, во первых, не верит, во вторых, не собирается верить. Клиенту важно не то, какие вы себе метрики нарисовали, а что будет, если вы провалите свои обещания.
Ну из разряда: вот вы платите нам абонку 30 баксов в месяц, и по договору, за время даунтайма мы вернем вам деньги. То-есть если месяц будет лежать приложение, то вы вернете 30 долларов. Нормальный клиент скажет "досвидание" если у него будет альтернатива. Но в то же время если вы скажете, что "вот у нас метрики, и даунтайм у нас 1% от общего времени, поэтому если в течении месяца даунтайм будет больше 1%, но меньше 5%, то мы вернем вам всю сумму за месяц, а если больше 5%, то вы получите год бесплатно.
Тогда можно вести диалог. Ну если это приложение корпоративного сегмента, например, где аптайм критически важен, а не какая то считался взмахов телефоном.
А ваши метрики, это просто сферические попугаи в вакууме, которые никому не сдались, потому что всегда можно сказать что "никогда такого не было, это первый раз, что приложение лежит две недели, ну в смысле опять первый раз, а так у нас все ровно по аптайму".
Отсюда никакой из вариантов постановки задачи, описанных в посте, не позволит от сотрудника получить тот вариант предложения для клиента, что я написал выше. Ну со вторым и последующими вариантами все понятно, там просто нужны руки, которые задачу реализуют, но первый вариант так же не дает нужного результата. Отсюда нужно еще научиться ставить задачи так, что бы изначально в них был смысл и практическое применение помимо освоения бюджета инверторов. И вот с этим у менеджеров огромные проблемы. Так как они сами не понимают, что и зачем они делают.
Фаервол - это некоторые законы, которые описываются такими числами.
"Принципиальная возможность все посчитать" уже не является возможностью, потому что все данные получить невозможно. Во первых некоторые процессы подчиняются законам, которые, что бы рассчитать, нужно считать иррациональные числа.
Банально посчитать в первом приближении распространение волны по плоскости) уже не возможно, из за наличия в формуле числа ПИ. Ну то есть я не думаю, что кто то будет спорить, что число пи не такое, как мы знаем. Волна в первом приближении распространяется по идеальной окружности (сферический конь в вакууме). Да, если усложнять модель, то появится еще куча факторов. Но мы даже в первом не можем посчитать это из за числа ПИ. И это просто окружность. Ну а дальше, как вы написали, квантмех и т.д.
Хотя я думаю что там принцип тот же.
Вот например, почему мы не можем посчитать одну частицу, потому что она в суперпозиции, но можем посчитать вторую, запутанную с первой (квантовая запутанность)? Ответ - попробуйте посчитать два зубчатых колеса в редукторе. При попытке посчитать одно, вам понадобиться число ПИ. Но если написать функцию, связывающую оба колеса, то получим ПИ в правой и левой части формулы, и они взаимно сократятся, оставив только рациональные числа. Понятно что квантмех это не про ПИ, там больше другие иррациональные фигурируют, но я для самого понимания принципа запутанности. Попробовать описать одну частицу - и ничего не выйдет. Но попробовать связать ее с другой, и иррациональные сократятся. Рассчитать одну из них все еще не получится, но зная первую, легко посчитать вторую.