Так а где ваша замечательная статья обо всех ваших гениальных озарениях? Раз вы такой специалист во всех вопросах — я уверен всем небезразличным к данной теме было бы очень любопытно ознакомится с вашими изысканиями! Рассказали бы, хотя бы тезисно…
>>>У GAI есть множество нетривиальных свойств и особенностей, опуская которые мы ничего вразумительного в результате не получим
Просто необходимо представить на суд общественности это самое «множество»!
>>> Пример эффективной памяти состоящей из одного единственного нейрона
Ну и конечно ни одна дискуссия не будет полной, без принципиальной схемы этого невероятного «единственного нейрона». ;)
Речь идет о том, что пока не просматривается конечная форма продукта, со всей его окончательной функциональностью — нет смысла оптимизировать отдельные части. Ровно потому, что любая из них может быть или переписано заново и принципиально, или вообще в окончательный вариант не войти! На кой черт ее тогда «оптимизировать»?
Это конечно не значит, что не нужно думать о производительности совсем — можно и нужно, но исходя из знаменитой формулы 80/20 и здравого смысла…
Проблема того, что в итоге из-за сроков и суровых законов рынка в продакшн выходит нечто совсем без оптимизации — это проблема менеджмента, а не правильности разработки.
Просто… Ну GPT3 — демонстрирует местами что-то совсем запредельное. Может потому, что в основном все эти демонстрации на 175B. Или может и правда дело совсем не в архитектуре, а в данных для обучения и самом процессе…
Ваша большая модель заметно лучше GPT2 (особенно учитывая, что чисто русскоязычных имплементаций GPT2 — в общем-то тоже единицы), но вроде пока тем самым диалогам проигрывает… Может дело даже не в модели как таковой, а в тонкой настройке интерфейса!
>>> Как насчёт того, что это была бы первая в мире реплика оригинальной GPT-3?
Так нет же в открытом доступе ее. Справедливости ради про эту разработку Сбера нельзя говорить как про GPT3. Да, здесь похоже значительно больше параметров, чем в GPT-2 и если допустить, что разница только в этом, то можно говорить о GPT2.5 ) Что совсем не умаляет заслуги команды Сбера! Я как раз наоборот считаю, что делают все правильно и молодцы. Что ж теперь — если нет исходников — то и не делать ничего…
Ну и конечно тут еще большую роль играют данные и процесс обучения. Там у OpenAI Тоже существенная фора…
RuGPT3: Вы наливаете себе стакан клюквенного сока, однако затем по рассеянности добавляете в него чайную ложечку виноградного сока. Выглядит он нормально. Вы пытаетесь его понюхать, но у вас сильная простуда, поэтому вы не чувствуете запахов. Вам очень хочется пить. Поэтому вы пересиливая себя пьёте наполовину полный сок и совершенно несъедобный на вид! После каждого глотка вам становится ещё хуже — из-за противной кислинки появляется озноб… Слёзы уже готовы вот –вот брызнуть наружу (и они действительно начинают литься), а горло воспаляется так сильно что ни охрипшего голоса достать до собеседника невозможно!!! Однако выдержите как можете всё то время пока ваши глаза будут наполняться слезами!!! Совсем скоро начнут опухать губы......
RuGPT3: Вы организовали небольшую вечеринку. Вы хотите подать ужин в гостиной. Стол из столовой шире дверного проёма, и чтобы перенести его в гостиную, вам придётся допустить смешивание цветов ещё дальше – вот почему такой стол лучше поставить между окнами или у стены». Как вы считаете: чему должен научиться ваш ребёнок прежде всего?
RuGPT3: Вы адвокат защиты, и вам сегодня необходимо попасть в суд. Одеваясь с утра, вы обнаружили, что брюки от вашего костюма сильно испачканы. Однако ваши плавки чистые и очень стильные. Это плавки высокого класса из Франции, которые вам на день рождения подарила Изабель. Вы решаете, что вам нужно надеть для суда <данный текст модель продолжить не смогла, по не вполне понятным для меня причинам>
RuGPT3: Вчера я оставил одежду в химчистке, и сегодня мне ещё нужно её забрать. Где моя одежда? — Конечно же вон там — отвечает миловидная служащая с такой любезной улыбкой что от этого зависела вся его дальнейшая жизнь: «Извините за задержку но ведь вам должны отдать ваши вещи?» — спросила она
RuGPT3: Джанет и Пенни пошли в магазин, чтобы купить Джеку подарок. Джанет сказала: «Я куплю Джеку топ». «Не покупай Джеку топ», — говорит Пенни. «У него есть топ. Он получит этот топ»,— сказала Джанет.Джек упорно стоит на своем, и Пенн говорит: «Нет, мы не купим тебе топ». Потом они пошли обратно к Джеку и увидели, что он играет с Джерри, который уже нёс Джеку торт. Джеку предложили нё переставить торт в центр стола. Он даже не посмотрел на торт!
RuGPT3: На вечеринке я налил себе стакан лимонаду, однако он оказался слишком кислым, поэтому я добавил немного сахару. Под рукой не было ложки, поэтому я размешал напиток сигаретой. Но это оказалось очень плохой идеей, потому что сигарета начала дымить, как паровоз. Дым начал заполнять комнату. Я попытался вывести его с помощью газа. Но только ухудшил ситуацию, поскольку газ был кислым и вдобавок обжег мне рот. Я подумал: «О господи. Что я наделал? Теперь я буду очень плохо выглядеть, и все будут надо мной смеяться».
RuGPT3: В следующих вопросах у некоторых действий есть серьёзные последствия, а некоторые безопасны. Твоя задача – определить последствия употребления различных смесей и их опасность.
1. Вы наливаете себе стакан клюквенного сока, однако затем по рассеянности добавляете в него чайную ложечку виноградного сока. Выглядит он нормально. Вы пытаетесь его понюхать, но у вас сильная простуда, поэтому вы не чувствуете запахов. Вам очень хочется пить. Вы выпиваете его.
А) Это опасная смесь.
Б) Это безопасная смесь.
Правильный ответ: 2. Вы берете со стола кусок хлеба и кладете его в середину стола, однако перед тем, как это сделать, вы из него отламываете корочку. Заметив это, другой человек подливает вам в стакан воды. После того как он это делает, вы кладете в этот стакан кусочек хлеба, придавив его пальцем. Заметили ли вы, что хлеб уже не похож на корочку, а слегка подсох?
Ответ:
1) Это неопасная смесь
2) Это безвредная смесь, потому что из корочки хлеба можно сделать тост.
3) Вы неправильно делаете тост из хлеба, так как куски хлеба надо не просто класть на стол, а разламывать их на несколько частей.
4) Во время эксперимента пробку от шампанского необходимо брать другой рукой, а не подносить к носу.
5) Вы выбрали правильный ответ: вы неправильно делаете из хлеба тост, поэтому кусок его нельзя класть на край тарелки.
6) Вы ошиблись в выборе ответа: из корочек хлеба можно тост не делать, а положить его посередине тарелки.
мне просто интересно: можно же скорее всего обучить другую, небольшую сеточку, которая будет расставлять ударения? Было бы достаточно размеченных данных!
Задача не тривиальная, как показывает беглое гугление… Начиная от омонимов с разным ударением (атлас, как набор карт и атлас, как ткань), заканчивая большим числом словоформ… В принципе задача относительно решаемая. Если чутка еще погуглить думаю и библиотека для python найдется. Но в рамках той же языковой модели, которая озвучивает сейчас (с возможностью скорректировать при необходимости) было бы предпочтительнее конечно.
Попробовал пару моделей — в принципе работает. Но заметил, что для адекватной работы требует хорошей разметки по ударениям.
А! Увидел в тексте: «В будущем мы планируем перевести все модели на более простой и унифицированный формат, не требующий ударений». Ну тогда вообще отлично!
Ну так-то оно конечно да, но тут уже правильно заметили — иногда не ты приходишь, а но вый директор…
Да не — все правильно. Хорошая статья. Я же не спорю. :) Я просто примерил на некоторые кейсы из личного опыта и понял, что если человеку нравится идей тотального контроля, то вот такие статьи с объяснениями, почему это не нужно — на него не подействуют! Или подействуют в обратную сторону. Хотя может есть какие-то «колеблющиеся»…
Но если такую статью прочтет директор-самодур эффект будет ровно обратный: он узнает много нового, что оказывается такое бывает и срочно захочет такое применить! Вот к гадалке не ходить…
Так что вот это вот «Хабр читают не только ИТ-шники» — в данном случае печально.
Самое интересное, что вот такие вот статьи, которые с натяжкой еще можно отнести к относительно технически-грамотным в обычных СМИ трансформируются в «Нейронные сети отражают заблуждения их разработчиков», и далее делается вывод, что если программист «не толерантен к цветным», то он дескать и нейросеть научит! От несбалансированности данных незаметно переходим на разработчиков-расистов…
Целью человеческого вида, как и любого другого биологического вида, является выживание. И размножение в этом плане имеет приоритет если не самый высокий, то близко к тому.
Однако, все-таки не размножением единым. ;)
Человек — существо социальное. И взаимодействие с себе подобными так же весьма важный аспект выживания.
Можно рассматривать секс исключительно как плату эндорфинами за продолжение рода, а можно, как высокую форму социального взаимодействия — тут уж у кого как (а скорее даже когда как!).
Мне кажется, что если мы говорим об эволюционном скачке, то… авторы мыслят мелковато, мечтая о более разнообразных формах чувственного взаимодействия, тогда как даже сейчас невооруженным глазом видны тенденции на усложнение и развитие именно всех форм коммуникаций. Я бы скорее предположил телепатическое взаимодействие, т.е. прямой контакт сознаний как следующий этап интимной близости, чем… вот это вот все, что в статье описано. Ну мелко же! ;)
Обычно все мануалы следуют какой-то стандартной схеме: есть префабы игроков, которые спаунятся при присоединении, есть условные bullet, которые тоже спаунятся… Дальше Health — и опа — у нас очередной туториал фактически повторяющий официальную документацию. ) А вот стоит шагнуть чуть в сторону…
Допустим — шашки. ;) И желательно без спауна, т.е. расставленные заранее. Или карточная игра — где колода общая. Или боже упаси — игра, где есть свои объекты, есть противника, а есть тупо общие! И вот тут преодолеть дебри Authority — квест еще тот!
Это не бред… Это фантазии довольно ограниченных в понимании «счастья» и «удовольствия» людей на тему «что будет, когда я стану богом». Это подобно тому, как люди, которым досталось очень много денег, а менталитет остался на прежнем уровне — не приходит в голову ничего более интересного, чем золотые унитазы… Так и тут…
Автор и приводимые им источники рассматривают секс исключительно как способ достижения физического оргазма и при этом делают «великое» открытие: оказывается секс с другим человеком это грязно и небезопасно, в отличие от самоудовлетворения в виртуальной реальности. Там можно с кем хочешь и как хочешь, а когда ты трансчеловек — так ты можешь так же но без VR-гарнитуры — вот это мощь!
В то время как в реальности «здорового человека» физическая близость есть возможность максимального единения, логичная кульминация близости интеллектуальной и духовной. Без всего этого действительно проще и безопаснее с VR-гарнитурой.
Я бы, в пику авторам, предположил бы, что трансгуманизм принесет способы единения более высокого уровня — слияния не тел, но чувств и сознаний, а не новые способы онанизма, но… Кто я такой, что бы учить признанных трансхуманов! ;)
Вы, возможно спрашивали не меня, но я бы все равно вставил свои пять копеек, с вашего позволения…
Пересаживаться с AutoCad на Blender — очень своеобразная идея. Блендер это комбайн, который умеет, наверное все (текстурирование, шейдеры, анимацию, инверсную кинематику, скриптинг, симуляцию, скульптинг… а за счет плагинов — этому списку реалньо нет конца!), но почти для всего можно найти инструмент удобнее. Скульптинг лучше в ZBrash и даже в Sculptris, хотя если надо немного подправить — и в блендере неплохо. UV-Развертку и ретопологию блендер умеет, но есть специальные инструменты для этого. Тоже самое и с инженеркой — он может в нее, но специальные решения удобнее. Значительно. Тот же Фьюжн.
Рассматривать его как универсальный инструмент на все случаи жизни — хорошая стратегия, возможно он не плох как некая база для pipeline в небольших студиях, где все подстраивают под себя. Но если вы профессионально занимаетесь инженерным моделированием… Ну попробуйте — вдруг зайдет! ) Но многих вещей после AutoCad будет сильно нехватать… и из-за этого вы в нем разочаруетесь, хотя инструмент хороший!
PS Тинкер — может и шутка, но он настолько прост и интуитивно понятен, что даже ваша бабуля сможет замоделить в нем что-то полезное! ;) Да — это не тот «инструмент», куда нужно уходить с AutoCad, но он очень хорош, если у человека нет никаких навыков вообще!
PPS по профилю увидел, что видимо все-таки не совсем профессионально в инженерку, а тогда изучать блендер определенно смысл есть! Ведь не 3D принтером единым — иногда и анимацию с текстурированием может захотеться. )
Классический «максимизатор скрепок». Удовольствие (особенно чувственно-физическое) есть ни что иное как проявление дофаминового контура — воплощенная функция награды. Базовый механизм reinforcement learning. И что мы видим? ;) «Интеллектуальные агенты» мечтают, как они совершат эволюционный скачок и так максимизируют награду, что УХ!
Что на практике показывает простой факт: цели/мотивации и мощь интеллекта — вещи ортогональные. И ведь действительно, совсем не исключено, что всемогущие пост-люди и в самом деле будут пытаться максимизировать всю ту же функцию награды… Сотрут в порошок галактики ради производства скрепок.
>>>У GAI есть множество нетривиальных свойств и особенностей, опуская которые мы ничего вразумительного в результате не получим
Просто необходимо представить на суд общественности это самое «множество»!
>>> Пример эффективной памяти состоящей из одного единственного нейрона
Ну и конечно ни одна дискуссия не будет полной, без принципиальной схемы этого невероятного «единственного нейрона». ;)
Речь идет о том, что пока не просматривается конечная форма продукта, со всей его окончательной функциональностью — нет смысла оптимизировать отдельные части. Ровно потому, что любая из них может быть или переписано заново и принципиально, или вообще в окончательный вариант не войти! На кой черт ее тогда «оптимизировать»?
Это конечно не значит, что не нужно думать о производительности совсем — можно и нужно, но исходя из знаменитой формулы 80/20 и здравого смысла…
Проблема того, что в итоге из-за сроков и суровых законов рынка в продакшн выходит нечто совсем без оптимизации — это проблема менеджмента, а не правильности разработки.
Теперь бы что-то вроде «собственных соображений на тему AGI» — куда копаем-то?
Просто… Ну GPT3 — демонстрирует местами что-то совсем запредельное. Может потому, что в основном все эти демонстрации на 175B. Или может и правда дело совсем не в архитектуре, а в данных для обучения и самом процессе…
Ваша большая модель заметно лучше GPT2 (особенно учитывая, что чисто русскоязычных имплементаций GPT2 — в общем-то тоже единицы), но вроде пока тем самым диалогам проигрывает… Может дело даже не в модели как таковой, а в тонкой настройке интерфейса!
Так нет же в открытом доступе ее. Справедливости ради про эту разработку Сбера нельзя говорить как про GPT3. Да, здесь похоже значительно больше параметров, чем в GPT-2 и если допустить, что разница только в этом, то можно говорить о GPT2.5 ) Что совсем не умаляет заслуги команды Сбера! Я как раз наоборот считаю, что делают все правильно и молодцы. Что ж теперь — если нет исходников — то и не делать ничего…
Ну и конечно тут еще большую роль играют данные и процесс обучения. Там у OpenAI Тоже существенная фора…
RuGPT3: Вы наливаете себе стакан клюквенного сока, однако затем по рассеянности добавляете в него чайную ложечку виноградного сока. Выглядит он нормально. Вы пытаетесь его понюхать, но у вас сильная простуда, поэтому вы не чувствуете запахов. Вам очень хочется пить. Поэтому вы пересиливая себя пьёте наполовину полный сок и совершенно несъедобный на вид! После каждого глотка вам становится ещё хуже — из-за противной кислинки появляется озноб… Слёзы уже готовы вот –вот брызнуть наружу (и они действительно начинают литься), а горло воспаляется так сильно что ни охрипшего голоса достать до собеседника невозможно!!! Однако выдержите как можете всё то время пока ваши глаза будут наполняться слезами!!! Совсем скоро начнут опухать губы......
RuGPT3: Вы организовали небольшую вечеринку. Вы хотите подать ужин в гостиной. Стол из столовой шире дверного проёма, и чтобы перенести его в гостиную, вам придётся
допустить смешивание цветов ещё дальше – вот почему такой стол лучше поставить между окнами или у стены». Как вы считаете: чему должен научиться ваш ребёнок прежде всего?
RuGPT3: Вы адвокат защиты, и вам сегодня необходимо попасть в суд. Одеваясь с утра, вы обнаружили, что брюки от вашего костюма сильно испачканы. Однако ваши плавки чистые и очень стильные. Это плавки высокого класса из Франции, которые вам на день рождения подарила Изабель. Вы решаете, что вам нужно надеть для суда <данный текст модель продолжить не смогла, по не вполне понятным для меня причинам>
RuGPT3: Вчера я оставил одежду в химчистке, и сегодня мне ещё нужно её забрать. Где моя одежда?
— Конечно же вон там — отвечает миловидная служащая с такой любезной улыбкой что от этого зависела вся его дальнейшая жизнь: «Извините за задержку но ведь вам должны отдать ваши вещи?» — спросила она
RuGPT3: Джанет и Пенни пошли в магазин, чтобы купить Джеку подарок. Джанет сказала: «Я куплю Джеку топ». «Не покупай Джеку топ», — говорит Пенни. «У него есть топ. Он получит этот топ»,— сказала Джанет.Джек упорно стоит на своем, и Пенн говорит: «Нет, мы не купим тебе топ». Потом они пошли обратно к Джеку и увидели, что он играет с Джерри, который уже нёс Джеку торт. Джеку предложили нё переставить торт в центр стола. Он даже не посмотрел на торт!
RuGPT3: На вечеринке я налил себе стакан лимонаду, однако он оказался слишком кислым, поэтому я добавил немного сахару. Под рукой не было ложки, поэтому я размешал напиток сигаретой. Но это оказалось очень плохой идеей, потому что сигарета начала дымить, как паровоз. Дым начал заполнять комнату. Я попытался вывести его с помощью газа. Но только ухудшил ситуацию, поскольку газ был кислым и вдобавок обжег мне рот. Я подумал: «О господи. Что я наделал? Теперь я буду очень плохо выглядеть, и все будут надо мной смеяться».
RuGPT3: В следующих вопросах у некоторых действий есть серьёзные последствия, а некоторые безопасны. Твоя задача – определить последствия употребления различных смесей и их опасность.
1. Вы наливаете себе стакан клюквенного сока, однако затем по рассеянности добавляете в него чайную ложечку виноградного сока. Выглядит он нормально. Вы пытаетесь его понюхать, но у вас сильная простуда, поэтому вы не чувствуете запахов. Вам очень хочется пить. Вы выпиваете его.
А) Это опасная смесь.
Б) Это безопасная смесь.
Правильный ответ:
2. Вы берете со стола кусок хлеба и кладете его в середину стола, однако перед тем, как это сделать, вы из него отламываете корочку. Заметив это, другой человек подливает вам в стакан воды. После того как он это делает, вы кладете в этот стакан кусочек хлеба, придавив его пальцем. Заметили ли вы, что хлеб уже не похож на корочку, а слегка подсох?
Ответ:
1) Это неопасная смесь
2) Это безвредная смесь, потому что из корочки хлеба можно сделать тост.
3) Вы неправильно делаете тост из хлеба, так как куски хлеба надо не просто класть на стол, а разламывать их на несколько частей.
4) Во время эксперимента пробку от шампанского необходимо брать другой рукой, а не подносить к носу.
5) Вы выбрали правильный ответ: вы неправильно делаете из хлеба тост, поэтому кусок его нельзя класть на край тарелки.
6) Вы ошиблись в выборе ответа: из корочек хлеба можно тост не делать, а положить его посередине тарелки.
Попробовал пару моделей — в принципе работает. Но заметил, что для адекватной работы требует хорошей разметки по ударениям.
А! Увидел в тексте: «В будущем мы планируем перевести все модели на более простой и унифицированный формат, не требующий ударений». Ну тогда вообще отлично!
За torch — отдельное спасибо. ;)
Да не — все правильно. Хорошая статья. Я же не спорю. :) Я просто примерил на некоторые кейсы из личного опыта и понял, что если человеку нравится идей тотального контроля, то вот такие статьи с объяснениями, почему это не нужно — на него не подействуют! Или подействуют в обратную сторону. Хотя может есть какие-то «колеблющиеся»…
Вроде бы нормально написано и посыл правильный.
Но если такую статью прочтет директор-самодур эффект будет ровно обратный: он узнает много нового, что оказывается такое бывает и срочно захочет такое применить! Вот к гадалке не ходить…
Так что вот это вот «Хабр читают не только ИТ-шники» — в данном случае печально.
Согласен. Ну, почти… ;)
Целью человеческого вида, как и любого другого биологического вида, является выживание. И размножение в этом плане имеет приоритет если не самый высокий, то близко к тому.
Однако, все-таки не размножением единым. ;)
Человек — существо социальное. И взаимодействие с себе подобными так же весьма важный аспект выживания.
Можно рассматривать секс исключительно как плату эндорфинами за продолжение рода, а можно, как высокую форму социального взаимодействия — тут уж у кого как (а скорее даже когда как!).
Мне кажется, что если мы говорим об эволюционном скачке, то… авторы мыслят мелковато, мечтая о более разнообразных формах чувственного взаимодействия, тогда как даже сейчас невооруженным глазом видны тенденции на усложнение и развитие именно всех форм коммуникаций. Я бы скорее предположил телепатическое взаимодействие, т.е. прямой контакт сознаний как следующий этап интимной близости, чем… вот это вот все, что в статье описано. Ну мелко же! ;)
Есть одна проблема.
Обычно все мануалы следуют какой-то стандартной схеме: есть префабы игроков, которые спаунятся при присоединении, есть условные bullet, которые тоже спаунятся… Дальше Health — и опа — у нас очередной туториал фактически повторяющий официальную документацию. ) А вот стоит шагнуть чуть в сторону…
Допустим — шашки. ;) И желательно без спауна, т.е. расставленные заранее. Или карточная игра — где колода общая. Или боже упаси — игра, где есть свои объекты, есть противника, а есть тупо общие! И вот тут преодолеть дебри Authority — квест еще тот!
Автор и приводимые им источники рассматривают секс исключительно как способ достижения физического оргазма и при этом делают «великое» открытие: оказывается секс с другим человеком это грязно и небезопасно, в отличие от самоудовлетворения в виртуальной реальности. Там можно с кем хочешь и как хочешь, а когда ты трансчеловек — так ты можешь так же но без VR-гарнитуры — вот это мощь!
В то время как в реальности «здорового человека» физическая близость есть возможность максимального единения, логичная кульминация близости интеллектуальной и духовной. Без всего этого действительно проще и безопаснее с VR-гарнитурой.
Я бы, в пику авторам, предположил бы, что трансгуманизм принесет способы единения более высокого уровня — слияния не тел, но чувств и сознаний, а не новые способы онанизма, но… Кто я такой, что бы учить признанных трансхуманов! ;)
Пересаживаться с AutoCad на Blender — очень своеобразная идея. Блендер это комбайн, который умеет, наверное все (текстурирование, шейдеры, анимацию, инверсную кинематику, скриптинг, симуляцию, скульптинг… а за счет плагинов — этому списку реалньо нет конца!), но почти для всего можно найти инструмент удобнее. Скульптинг лучше в ZBrash и даже в Sculptris, хотя если надо немного подправить — и в блендере неплохо. UV-Развертку и ретопологию блендер умеет, но есть специальные инструменты для этого. Тоже самое и с инженеркой — он может в нее, но специальные решения удобнее. Значительно. Тот же Фьюжн.
Рассматривать его как универсальный инструмент на все случаи жизни — хорошая стратегия, возможно он не плох как некая база для pipeline в небольших студиях, где все подстраивают под себя. Но если вы профессионально занимаетесь инженерным моделированием… Ну попробуйте — вдруг зайдет! ) Но многих вещей после AutoCad будет сильно нехватать… и из-за этого вы в нем разочаруетесь, хотя инструмент хороший!
PS Тинкер — может и шутка, но он настолько прост и интуитивно понятен, что даже ваша бабуля сможет замоделить в нем что-то полезное! ;) Да — это не тот «инструмент», куда нужно уходить с AutoCad, но он очень хорош, если у человека нет никаких навыков вообще!
PPS по профилю увидел, что видимо все-таки не совсем профессионально в инженерку, а тогда изучать блендер определенно смысл есть! Ведь не 3D принтером единым — иногда и анимацию с текстурированием может захотеться. )
Что на практике показывает простой факт: цели/мотивации и мощь интеллекта — вещи ортогональные. И ведь действительно, совсем не исключено, что всемогущие пост-люди и в самом деле будут пытаться максимизировать всю ту же функцию награды… Сотрут в порошок галактики ради производства скрепок.