Как стать автором
Обновить
0
0.6

Пользователь

Отправить сообщение

Спасибо, материалы исключительно интересные.

Общий посыл понятен. Идея в том, чтобы обучать как можно более сложные сети на как можно более полной информации о мире. В итоге есть шанс получить сеть, которая будет понимать все и будет в состоянии решать любые задачи как человек.

ИМХО, здесь может быть все же одна проблема. В такой постановке мы создаем сеть, которая может "грезить" о том, как мир мог бы себя вести, но в ней нет механизма, который мог бы заставить мир вести себя так, как поставлено в задаче.
Это тонкое различие, может его даже вовсе нет, это предположение.
Сейчас если мы задачем вопрос чату GPT с просьбой построить стратегию достижения некой цели, он может справиться с этой задачей. Но здесь интересно как он это делает. По сути он имеет картину мира в которой есть вопросы о стратегии и хорошие ответы на них. И он грезит в этой картине, генерируя продолжение мира - ответ, зная начало мира - вопрос.
В этой схеме нет места целевой функции - насколько хороша стратегия, и нет итерационных попыток нахождения лучших стратегий. Есть только предсказание "что обычно отвечают на такие вопросы".

Например, если сделать робота на этих принципах и попросить его собрать мебель из Икеи, робот будет мыслить в ключе "как обычно собирают мебель" а не в ключе "цель - собранная мебель, ищем наилучший из возможных путей достижения цели". Человек решает эту задачу вторым способом, если решает ее впервые. И вероятно решает эту задачу первым способом, если он делал это уже 500 раз.

Если это предположение о неполноте существующей модели верно, то нам потребуется еще один щаг - научиться делать с нейронной сетью нечто, что позволило бы ей активно искать стратегии достижения цели.

Могу сказать по опыту этого месяца, что прямо сейчас трудно войти в айти после 45 даже если ты всю жизнь в нем отработал.

Вот здесь есть очень интересный момент. Вы пытетесь сформировать некое обходное объяснение, подтверждающее вашу точку зрения, потому что изначально она вам нравится.
Что меня пугает - GPT никогда так не делает, потому что у него есть память и логика, но нет психики. В итоге он всегда отвечает предельно здраво, его никогда не заносит в демагогию как человека, он никогда не спорит из принципа и всегда все понимает настолько верно насколько позволяют его возможности. Это определенно большое превосходство над человеком, которое позволит AI захватить мир.

Ведь понятно же что GPT3 выдал такой ответ не потому что он догадался до каких-то нюансов о которых вы говорите или зацепился за слово "поместить". Он просто не понимает что будет и как работает двигатель. А GPT4 уже понимает и отвечает в точности на заданный вопрос, здраво и взвешенно. При этом он отвечает именно на заданный вопрос а не на тот вопрос, который ему захотелось ответить и который при желании можно высосать из формулировки (как бывает с людьми).

Как-то непонятно. Пытались усилисть вирус для того, чтобы быть готовыми к эпидемии заранее, но когда эпидемия началась, то тот факт что кто-то пытался усилить вирус считается доказательством того что вирус создан искусственно.

Казалось бы, по логике, если кто-то создает супервирусы чтобы подготовиться к эпидемии, то первое о чем должны думать эти люди - как не выпустить созданный супервирус. И вероятно это и было первое о чем они думали. Тогда откуда следует, что они таки его выпустили?

Ну как же, вопрос был предельно ясный и валидный - чем еще предмет в цилиндре плох, если он ни за что не цепляется. Ответ у 3.5 отсутствовал - он ответил что будет если цепляется (это противоречит вопросу), а что будет если не цепляется не ответил.

Возможно вы не очень внимательно прочитали вопрос...

Потому что они и не могут повредиться согласно постановке вопроса. Если GPT отвечает на любой вопрос в духе инструктора по технике безопасности, это не те ответы которые нам нужны.

Платить за GPT 4 однозначно стоит, потому что он умнее.
Вы же хотите, чтобы тот кто дает вам советы был умным.
Чтобы это проверить подходит любой пример, требующий чуть большего чем просто компиляции входных обучающих материалов.

Много раз с этим сталкивался, только что попробовал пример который пришел в голову:

GPT4

Вопрос:
" Что будет, если в полость цилиндра двигателя внутненнего сгорания поместить достаточно объемный посторонний предмет так, чтобы он не мешал движению поршня или работе свечи?"

Ответ:

Если в полость цилиндра двигателя внутреннего сгорания поместить достаточно объемный посторонний предмет так, чтобы он теоретически не мешал движению поршня или работе свечи зажигания, это все равно приведет к ряду серьезных проблем и может нанести значительный ущерб двигателю. Рассмотрим несколько потенциальных последствий:

  1. Изменение объема камеры сгорания: Посторонний предмет изменит геометрию камеры сгорания, что приведет к изменению степени сжатия. Это может привести к ухудшению процесса сгорания, снижению мощности и КПД двигателя.

  2. Нарушение процесса сгорания: Любой предмет в камере сгорания может мешать нормальному распределению топливно-воздушной смеси и ее эффективному сгоранию. Это может вызвать неравномерное сгорание, детонацию и повышенный выброс вредных веществ...

Обратите внимание, GPT начал с изменения размера камеры и он знает что это может вызвать детонацию.

Ответ на тот же вопрос GPT3.5:

Если в полость цилиндра двигателя внутреннего сгорания поместить достаточно объемный посторонний предмет так, чтобы он не мешал движению поршня или работе свечи, это может привести к серьезным последствиям для работы двигателя. Вот несколько возможных последствий:

  1. Повреждение поршня и цилиндров: При движении поршня он может столкнуться с посторонним предметом, что может привести к повреждению как самого поршня, так и стенок цилиндра.

  2. Повреждение клапанов: При работе двигателя посторонний предмет может

Здесь сразу видно, что это обычное бла-бла-бла без понимания проблемы. Т.е. просто генерация похожего на правду текста вместо ответа на вопрос.

Отказывать россиянину в работе по признаку гражданства конечно никто не будет, но если аутсорс компания работает на европейского заказчика (про США не знаю), она не разрешит работать с российского IP. Обычно когда берут на работу сразу предупреждают, что это обязательное условие их европейский клиентов - IP членов команды не должны быть российскими или белорусским. По этой причине многие компании которые изначально были российскими или белорусскими сейчас набирают на работу русскоязычных в европе.

Это уже модульная архитектура. Функционал сгруппирован по отдельным модулям. Не нужен никакой "один объект" какого-то там класса.

Вроде бы и да, можно называть это "модулями" вместо объеков. Но именно такой способ введения в ООП я вроде видел у Uncle Bob.

Сколько не читай про ООП, все равно ясной картины как это использовать нет. Мой собственный опыт - есть три способа использовать ООП, два из них эффективны, а третий не представляю чем полезен:

Первый повод применения ООП

Есть функция, внутри которой вызывается еще несколько функций, внутри которых еще несколько. В во внутренние функции приходится передавать много входных параметров. Вместо этой конструкции создаем объект с одним публичным методом и множеством приватных. Приватные методы получают доступ к данным объекта и теперь не нужно передавать так много параметров. Кроме того приватные методы прячутся в классе, упрощая понимание.

Наконец, интерфейсы, IoC контейнеры и фабрики позволяют очень удобно комбинировать подобные объекты-функции для юнит-тестов или разных сценариев.

Второй повод применения ООП

Для описания объектов, существующих полностью в виртуальном мире (не моделирующих реальные объекты). Лучше всего это работает в фреймворках UI - кнопки, панельки, элементы. Еще это некие классы-сервисы для обработки чего-то.

Здесь в отличии от предыдущего случая у функции больше одного публичного метода, все они работают с одними данными.

Третий способ (который так и не понял)

DDD - объекты как модели неких сущностей реального мира. Если это "записи" без поведения, вопросов нет. Если данные с поведением, не представляю как это сделать не усложнив все неимоверно. Если кто-то умеет, можете описать.

Конечно же я не об этом. Просто сам бизнес так устроен. Сложные и эффективные концепции требуют взаимодействия большого количества умных людей. Те решения, которые они произведут для начала опять потребуют очень продвинутых людей для правильного пользования этими концепциями, и только потом будет надежда привлечь обычных инженеров для каких-то конечных прикладных задач. Для бизнеса это плохой план. Бизнесу нужно достигать результата с теми людьми что есть, обучение и создание множества команд для него не проблема, для него проблема если все будет завязано на одного умника, понимающего всю концепцию.
Для меня характерный пример тот же html. Наверно можно посадить крутых программистов-математиков, вроде тех что придумывают всякие Hackel, чтобы они изобрели некую абстрактную "теорию верстки", в которой десятком базовых тегов можно красиво достичь любых нужных эффектов. Вместо этого мы имеем сложную систему верстки, с множеством запутанных нюансов и наложением разных подходов и концепций.
Но для бизнеса это не проблема - запутанной версткой пользоваться больно, но освоить ее в конечном итоге может каждый. Верстку, основанную на неких абстрактных концепциях смог бы понять далеко не каждый, а тогда что в ней за выгода.
Другой пример - лет 10 назад начали плодиться фреймворки, которые позволяют добавить поле в конфигурацию ORM и тут же фактически без кода получить его в web-UI. А потом про них все забыли. Потому что "горизонтальная" сложность (куча маперов, dto и так далее) - это не проблемы для бизнеса и решается большим количеством людей, а "вертикальная" сложность требует малого количества очень умных людей и это проблема.

Проблема ненужности программистов решилась легко. Дело в том, что платформы и фреймворки пишут тоже программисты и уж они позаботились о том, чтобы никого нельзя было пускать даже добавить кнопку в приложение, если он не потратил годы на изучение: ООП, SOLID, паттернов, бекенд языка, нескольких десятков фреймворков под этот язык, SQL и NO-SQL баз, брокеров сообщений, микросервисов, облачной платформы, непрерывной интеграции, контейнеров, верстки, js/ts, пары фронтенд фреймворков, котнроля версий... что там еще?
Это все, плюс хороший аджайл, плюс тесты, плюс ревью позволяют добавлять один атрибут к классу силами команды из нескольких человек целый спринт, еще и не справятся. А это значит у всех есть работа!
А если бы дале волю математикам, которые не секут в правильной разработке, то эти яйцеголовые чего доброго написали бы какую супер-систему, в которой подумал, добавил член в уравнение и все сразу появлилось и в базе и в UI.

Это шутка была, конечно. Есть объективные причины и все такое.
Но изобретатель фортрана, который надеялся что избавиться от программистов наверняка так бы подумал, если бы переместился в сегодняшний день.

Вы решили поменять компанию и теперь уже сразу ищите позицию именно тимлида. Когда вы начинаете поиск работы на тимлидерскую должность, то обнаруживается один лаг в найме. Везде вас будут проверять как senior‑разработчика в первую очередь, а уже во вторую очередь ваши тимлидерские скилы.

О, как раз мой случай: с тимлида перешел на мидла.

На самом деле все даже интереснее.

Во-первых, тимлид в некой компании одного продукта для внутреннего рынка и тимлид в аутсотигне или просто на международном рынке - это вообще могут быть совершенно разные профессии, требующие не то что разных навыков - разных людей.
Правда, не все так безнадежно. Если компании нужен чистый тимлид, то мне показалось, что они таки готовы закрыть глаза на тех навыки (уровень мидла их устравивает) но только при условии абсолютно релевантного опыта: сходный продукт, сходные процессы и т.д. В моем случае это совпадение маловероятно.

Во-вторых здесь интересно, что справиться с работой синьора на самом деле не проблема. "Год не присал код" - это не много, такое никого не волнует, я почти не программировал 7 лет. Но опыт так просто не пропьешь, пару ночей посидел, гдялишь, дело пошло и уже всех синьоров обогнал. Но вот показать знания синьора на собесе - это намного сложнее.
В итоге я не нашел другого выхода, кроме как заходить в индустрию по новой начиная с мидла. Дальше нужно надеяться что у команды будет синьорская работа и нужно эту работу на себя активно тянуть, чтобы снова стять синьором. По ощущениям молодому (я имею ввиду до 45) и активному на это нужен год. Такому как я старому и выгоревшему, похоже года 2. Стоит ли опять после этого метить в тимлиды, хороший вопрос.

Замечание: Что такое "сложность" на самом деле не знает никто. Мы определяем это понятие интуитивно, но не существует никакой теории позволяющей формально подсчитать насколько сложность одного объекта больше или меньше чем сложность другого. Формально, математически, как угодно технологическая сингулярность ничем не отличается от бума размножения бактерий миллиарды лет назад.

Всю принципиально программировал только те вещи которые мне нравятся и был счастлив. Утром за чаем и в транспорте не мог дождаться когда же попаду на работу и начну делать очередную задачу. В 48 лет в силу обстоятельств лет решил заняться программированием чисто за деньги. Теперь живу в тоскливом бесконечном тоннеле боли, страдания и отстутствия смысла. Все время заставлять себя заниматься работой, все время изучать то что не хочется изучать и обсуждать с людьми то на что мне по сути пофиг, все время доказывать что ты хороший специалист - сплошная боль каждый день.

Чистой воды лицемение. Конкретно сегодня в 21-м веке все переживают за гибнущих детей Сомали или Афганистана, но беда в том что у подобных конфликтов вообще нет никакого решения, они обусловленны дикостью, осталостью и бедностью определенных социумов и как бы мы не хотели мы не можем никак это остановить. Можем только усугубить вмешательством как правило. Поэтому мы склонны не думать про эти конфликты. Однако есть ненужные конфликты, не имеющие подобных оснований, которые можно и нужно пытаться остановить.

Да и вообще, это ложь что войны в природе человека. Человек готов убивать когда он живет очень плохо, тестно, у него 10 детей а еда есть только на двоих. Тогда война это норма. Если убивать хочет человек, базовые потребности которого удовтетворены, это патология, которая должна быть изжита. В этом месте не нужно только указывать пальцем на США, которые сыты но начинают войны. Когда развитое общество лезет наводить свои порядки танками к неразвитому и погрязшему в конфликтах, это вероятно плохо (хотя кто знает), но не настолько плохо как конфликты относительно благополучных стран, которые потенциально вообще могут раздолбать всю цивилизацию.

Первое, OpenAI нафиг не интересен ваш прорывной продукт и тем более они не знакомы с вашими конкурентами. Второе, никто не станет обучать сеть на материали который в нее вливают пользователи по двум причинам: эта информация абсолютно непригодна для обучения и эта информация конфиденциальна.

И того, вы вообще о чем?

12 ...
10

Информация

В рейтинге
1 804-й
Зарегистрирован
Активность