Для меня это всё выглядит как игры в термины и слова. Что такое "я" или "копия"? Обе копии идентичны и равнозначны, и меня (ещё до копирования) вполне устраивает знание, что только одна из двух копий по итогу сохранится.
То есть с моей точки зрения это вопрос психологии. Для меня проблемы нет, для кого-то другого есть, ну и окей, не каждый же обязан пользоваться этой технологией, если она ему кажется неубедительной.
Ну вот с моей точки зрения вы (осознанно или нет) играете со словами, которые звучат одинаково, а смысл разный. Типа, купил лук в магазине, а он не стреляет, как же так, зато в суп положить можно.
Так и здесь, когда вы говорите, что вам нужно не описание, а продукт, то как же понять, вам нужен мессенджер или расчёт для бухгалтерии? Значит, уже есть описание -- "мессенджер". Далее, как понять, он должен работать под Windows или Android? Пишем дальше, Android.
И вот если вы будете продолжать в том же духе, то дойдёте уже до кода на Java, потому что код на Java и есть чёткая формальная спецификация (которая якобы "не нужна"), которая затем уже компилируется с помощью javac в байт-код, являющийся уже итоговым продуктом.
Я не вижу, что изменится с появлением ChatGPT. Вы, вероятно, исходите из посылки, что люди умеют писать по-русски, но не умеют писать на Java, и в этом проблема. Но ровно в той же логике рассуждали и авторы Fortran, и авторы SQL, и авторы UML. Так вот, они были неправы: проблема именно в том, что люди не умеют писать по-русски. Нормальное описание задачи нужно выдаивать, по ходу дела принимая массу сопутствующих решений. Обычный нормальный человек не обучен чётко формулировать свои желания, и описание "продукта" является понятным только ему самому, потому что он работает full time в своей области, и многое для него само собой разумеется.
В этом смысле можно поставить AI в тот же ряд, что и: языки высокого уровня (SQL, Java), открытые библиотеки (тот же Json парсер, преобразование картинок, математика и т.п.), StackOverflow, графические средства разработки (всякие CASE-средства, трансляторы UML). Но вот почему-то ничего из упомянутого не побудило заказчиков бросать свою работу и заниматься рисованием диаграмм UML или сочинением SQL запросов.
Я думаю, это во многом соотношение некоей реальности и наших произвольных определений "самости", которая во многом культурно обусловлена. Даже человека можно воспитать в максимальной отстранённости от "самоцентричного" взгляда, приучить воспринимать себя всего лишь как часть некоего организма, не имеющую особой субъектности, а предназначенную лишь для общей миссии. Если совсем далеко заходить, можно спросить, насколько индивидуальность/личность/самосознание "зашиты" в мозг от природы, а насколько развиты в результате воспитания, и каковы пределы пластичности этой системы.
Вы незаметно переехали с формата "программист будет давать спецификацию ИИ, а он уже будет программировать" на "работать на них будет сильный ИИ". Я не думаю, что ИИ будет "работать" в том смысле, что он будет вместо программиста.
Если угодно, работа инженера -- это составление чёткой формальной спецификации продукта плюс (тут уже куда более размыто) непосредственное и плотное участие в разработке содержимого этой спецификации. А как это составление выглядит на практике -- написание документа или кода на Java -- уже вопрос десятый.
Ну этого никто не знает. Сейчас разработчиков больше, чем 20 лет назад, но 20 лет назад людям тоже есть что-то было надо. Может, если стоимость разработки софта понизится, то увеличится количество проектов, которые компании рискнут потянуть. Собственно, развитие средств разработки и бесплатных библиотек пока что играют на руку рынку труда. Казалось бы, что ест разработчик кода, который теперь просто берётся с гитхаба? А он работает над проектом, которого бы не было вообще, если бы цена разработки не упала.
Ну это же вопрос определений. Будут называть "разработчиком" того, кто готовит пригодную для AI спецификацию (достаточно формальную и полную) и скармливает её боту, а начальству выдаёт результат.
Да, я думаю, что наше представление о "личности" как о некоем "оригинале" идёт из обычной интуиции, а клонирование/телепортация контринтуитивны. Но что ж с того, квантовая механика тоже контринтуитивна, придётся этому обучиться.
Даже сейчас у нас есть, скажем, картина маслом, которая "оригинал", а всё остальное "копии". Но для гравюры единственного "оригинала" нет, есть серия отпечатков с одной и той же исходной формы, и если в трёх музеях висят три разных отпечатка, каждый может утверждать, что оригинал у него.
Со страхом смерти вопрос интересный. Если мы будем знать, что личность можно восстановить из бэкапа, может, и бояться меньше будем. Как мы знаем, человеческая психика в таких вопросах очень гибка.
Ну вот это ради бога, я двумя руками за. Просто, по всей видимости, даже если вам это будет казаться большим бустом продуктивности, для бизнеса, который считает общие доходы и общие расходы, это даст, условно, 5% прироста. (Цифра с потолка, конечно). Ну то есть здорово, но не революция-революция.
Эта мысль кристально понятна и вполне обсосана в литературе, но тем не менее, я не понимаю, что она меняет.
Некий субъект просыпается в хорошем таком молодом теле, чувствует себя прекрасно и при этом помнит предыдущие 80 лет своей жизни, например. Он считает себя мной, при этом никакого другого "меня" в природе не существует. Почему его должно волновать мнение окружающих, которые доходчиво объяснят ему, что он на самом деле клон и самозванец, а оригинал безвозвратно погиб?
Теперь сделаем шаг назад. Предположим, вы мне (пока живому, но старому) говорите: так мол и сяк, мы твоё сознание скопируем в молодое тело, а тебя уничтожим, согласишься? Так вот, да, соглашусь, потому что буду знать, что клон вполне обоснованно будет считать себя мной, а мнение "меня старого" уже будет неактуально.
Ну и, наконец, предположим, что, как вы и говорите, эксперимент пошёл "не так", и у нас оказалось два клона. Этот сюжет, как мне кажется, интересен лишь потому, что у нас для него нет прецедента, то есть мы не привыкли иметь дело с двумя людьми, которые обладают идентичными личностями и памятью. Но если бы мы в такую ситуацию попали, что с того? У нас уже сейчас есть близнецы, которые выглядят одинаково, и ничего. Теперь будут близнецы, которые будут воспринимать себя одной личностью. Но если они (оба, хе-хе) адекватные люди и понимают, как оно произошло, то просто пожмут друг другу руки и пойдут каждый своей дорогой, а через десять лет их опыт уже будет разным, и личности тоже потихоньку разойдутся. Не вижу здесь проблем.
Вопрос "кто из близнецов настоящий" лишён смысла, они оба "настоящие", ровно так же, как у каждого из нас есть, скажем, "настоящая" (genuine) копия Windows на компьютере, а через какое-то время они уже будут разными, хотя и произошедшими из одного корня. Возвращаясь к нынешним (телесным) близнецам, вас же не смущает, что когда-то оба из них появились из одной яйцеклетки, а потом со временем разошлись, и вы не спрашиваете себя, кто из них "подлинник", а кто "клон". Оба подлинники.
Соглашусь с комментатором ниже -- ничего "не по-другому". Более того, есть ещё один нюанс: если картина висит в музее и не продаётся, то экспертная оценка используется ну разве что для страхования при перевозке, но это всё так, вилами по воде. Если предмет искусства не продаётся, то и цены он (фактически, по определению) не имеет, так что любые оценки весьма условны.
Экономическая теория учит, что цена определяется балансом спроса и предложения. На мои пятна спроса нет, стало быть, цена низкая, вот и всё, и незачем обсуждать качество моих талантов.
Да, это так, и всё это тем не менее не меняет абсолютно ничего в моём комментарии. Вы же не думаете, что в Microsoft не способны сделать нормальное меню "Пуск" или панель задач потому, что их программисты устали и не масштабируются? Ну будет вам вместо тонны мусора десять тонн мусора, радости-то.
Вы почему-то исходите из того, что уникальности уже достаточно для того, чтобы иметь коллекционную ценность. Но это же не так, если я нарисую пятна, это будет уникальное, но коллекционно малоценное произведение. Пятна Поллока ценны именно тем, что это пятна Поллока, и ничего с этим сделать нельзя, и потребительские качества тут не при чём.
Как внешний наблюдатель вы можете воспринимать это именно так. Но мне-то что? Субъективно я именно буду считать что заснул и проснулся, и какое мне дело до того, как это выглядит для других?
Вообще вся эта заваруха с ChatGPT и проч., по крайней мере, в сфере разработки софта вступает в известное противоречие с массой литературы, написанной со времён Брукса (1975) и получившей новое дыхание с развитием Agile (конец девяностых - начало нулевых). Я говорю конкретно о концепции, что написание кода по спецификации не является "узким местом" в разработке софта. Можно сказать, что написанием кода по спецификации занимается и компилятор Фортрана, то есть новость несвежая, и если этим же займётся AI, ну и ради бога.
Да, мы можем потратить день-другой на дебаг или даже неделю-другую на возню с фреймворком, но упомянутая литература доказывает, что всё это семечки по сравнению с настоящими проблемами типа "писали год, и написали не то, что требовалось" или "в процессе решили добавить/выбросить/переделать, получилась ерунда". В качестве аналогии отмечу, что в любом треде про "слепую" печать найдётся комментарий о том, что, дескать, нет у меня проблем печатать 100500 символов в минуту, и даже повышение скорости набора в десять раз ничего не даст.
С этой логикой я не совсем согласен, но в целом рассуждение логичное. Предположим, что ChatGPT работает как очень хороший программист, и сможет написать вам софт по текстовому описанию. Но ведь любая крупная контора типа Microsoft или Google уже живёт в этих условиях: у них легионы этих первоклассных разработчиков, и что это им дало? Положа руку на сердце, не живём мы в мире удобного, безбажного и производительного софта, значит, не в программистах дело.
Разница не в "потребительских свойствах", а в культурной ценности / редкости / коллекционной значимости (если только не записывать их также в потребительские свойства). Аналогично, какое-нибудь лимитированное издание игры Super mario bros в коллекционном картридже будет стоить на аукционе куда дороже обычного, хотя внутри будет одна и та же игра. Ну или банально какой-нибудь девайс с ранним серийным номером, которых мало сохранилось, хотя более поздних идентичных много.
Я не говорю, что это делается без ведома Маска, но не вижу причин видеть за такими письмами какую-то избыточную эмоциональность. Обычное дело, одни грозятся в суд подать на других, никогда такого не было и вот опять.
Вообще говоря, если его юристы не шлют подобные письма счастья, то зачем они тогда нужны? Независимо от того, что о происходящем думает руководитель, юридический отдел должен по идее пытаться мешать конкуренту, если видит для этого возможность.
Для меня это всё выглядит как игры в термины и слова. Что такое "я" или "копия"? Обе копии идентичны и равнозначны, и меня (ещё до копирования) вполне устраивает знание, что только одна из двух копий по итогу сохранится.
То есть с моей точки зрения это вопрос психологии. Для меня проблемы нет, для кого-то другого есть, ну и окей, не каждый же обязан пользоваться этой технологией, если она ему кажется неубедительной.
Ну вот с моей точки зрения вы (осознанно или нет) играете со словами, которые звучат одинаково, а смысл разный. Типа, купил лук в магазине, а он не стреляет, как же так, зато в суп положить можно.
Так и здесь, когда вы говорите, что вам нужно не описание, а продукт, то как же понять, вам нужен мессенджер или расчёт для бухгалтерии? Значит, уже есть описание -- "мессенджер". Далее, как понять, он должен работать под Windows или Android? Пишем дальше, Android.
И вот если вы будете продолжать в том же духе, то дойдёте уже до кода на Java, потому что код на Java и есть чёткая формальная спецификация (которая якобы "не нужна"), которая затем уже компилируется с помощью javac в байт-код, являющийся уже итоговым продуктом.
Я не вижу, что изменится с появлением ChatGPT. Вы, вероятно, исходите из посылки, что люди умеют писать по-русски, но не умеют писать на Java, и в этом проблема. Но ровно в той же логике рассуждали и авторы Fortran, и авторы SQL, и авторы UML. Так вот, они были неправы: проблема именно в том, что люди не умеют писать по-русски. Нормальное описание задачи нужно выдаивать, по ходу дела принимая массу сопутствующих решений. Обычный нормальный человек не обучен чётко формулировать свои желания, и описание "продукта" является понятным только ему самому, потому что он работает full time в своей области, и многое для него само собой разумеется.
В этом смысле можно поставить AI в тот же ряд, что и: языки высокого уровня (SQL, Java), открытые библиотеки (тот же Json парсер, преобразование картинок, математика и т.п.), StackOverflow, графические средства разработки (всякие CASE-средства, трансляторы UML). Но вот почему-то ничего из упомянутого не побудило заказчиков бросать свою работу и заниматься рисованием диаграмм UML или сочинением SQL запросов.
Я думаю, это во многом соотношение некоей реальности и наших произвольных определений "самости", которая во многом культурно обусловлена. Даже человека можно воспитать в максимальной отстранённости от "самоцентричного" взгляда, приучить воспринимать себя всего лишь как часть некоего организма, не имеющую особой субъектности, а предназначенную лишь для общей миссии. Если совсем далеко заходить, можно спросить, насколько индивидуальность/личность/самосознание "зашиты" в мозг от природы, а насколько развиты в результате воспитания, и каковы пределы пластичности этой системы.
Вы незаметно переехали с формата "программист будет давать спецификацию ИИ, а он уже будет программировать" на "работать на них будет сильный ИИ". Я не думаю, что ИИ будет "работать" в том смысле, что он будет вместо программиста.
Если угодно, работа инженера -- это составление чёткой формальной спецификации продукта плюс (тут уже куда более размыто) непосредственное и плотное участие в разработке содержимого этой спецификации. А как это составление выглядит на практике -- написание документа или кода на Java -- уже вопрос десятый.
Ну этого никто не знает. Сейчас разработчиков больше, чем 20 лет назад, но 20 лет назад людям тоже есть что-то было надо. Может, если стоимость разработки софта понизится, то увеличится количество проектов, которые компании рискнут потянуть. Собственно, развитие средств разработки и бесплатных библиотек пока что играют на руку рынку труда. Казалось бы, что ест разработчик кода, который теперь просто берётся с гитхаба? А он работает над проектом, которого бы не было вообще, если бы цена разработки не упала.
Вам спасибо :)
Ну это же вопрос определений. Будут называть "разработчиком" того, кто готовит пригодную для AI спецификацию (достаточно формальную и полную) и скармливает её боту, а начальству выдаёт результат.
Да, я думаю, что наше представление о "личности" как о некоем "оригинале" идёт из обычной интуиции, а клонирование/телепортация контринтуитивны. Но что ж с того, квантовая механика тоже контринтуитивна, придётся этому обучиться.
Даже сейчас у нас есть, скажем, картина маслом, которая "оригинал", а всё остальное "копии". Но для гравюры единственного "оригинала" нет, есть серия отпечатков с одной и той же исходной формы, и если в трёх музеях висят три разных отпечатка, каждый может утверждать, что оригинал у него.
Со страхом смерти вопрос интересный. Если мы будем знать, что личность можно восстановить из бэкапа, может, и бояться меньше будем. Как мы знаем, человеческая психика в таких вопросах очень гибка.
Вот это легко, конечно. Но как мы знаем, и без клонирования личности мы сейчас эти истории едим полной ложкой.
Ну вот это ради бога, я двумя руками за. Просто, по всей видимости, даже если вам это будет казаться большим бустом продуктивности, для бизнеса, который считает общие доходы и общие расходы, это даст, условно, 5% прироста. (Цифра с потолка, конечно). Ну то есть здорово, но не революция-революция.
Эта мысль кристально понятна и вполне обсосана в литературе, но тем не менее, я не понимаю, что она меняет.
Некий субъект просыпается в хорошем таком молодом теле, чувствует себя прекрасно и при этом помнит предыдущие 80 лет своей жизни, например. Он считает себя мной, при этом никакого другого "меня" в природе не существует. Почему его должно волновать мнение окружающих, которые доходчиво объяснят ему, что он на самом деле клон и самозванец, а оригинал безвозвратно погиб?
Теперь сделаем шаг назад. Предположим, вы мне (пока живому, но старому) говорите: так мол и сяк, мы твоё сознание скопируем в молодое тело, а тебя уничтожим, согласишься? Так вот, да, соглашусь, потому что буду знать, что клон вполне обоснованно будет считать себя мной, а мнение "меня старого" уже будет неактуально.
Ну и, наконец, предположим, что, как вы и говорите, эксперимент пошёл "не так", и у нас оказалось два клона. Этот сюжет, как мне кажется, интересен лишь потому, что у нас для него нет прецедента, то есть мы не привыкли иметь дело с двумя людьми, которые обладают идентичными личностями и памятью. Но если бы мы в такую ситуацию попали, что с того? У нас уже сейчас есть близнецы, которые выглядят одинаково, и ничего. Теперь будут близнецы, которые будут воспринимать себя одной личностью. Но если они (оба, хе-хе) адекватные люди и понимают, как оно произошло, то просто пожмут друг другу руки и пойдут каждый своей дорогой, а через десять лет их опыт уже будет разным, и личности тоже потихоньку разойдутся. Не вижу здесь проблем.
Вопрос "кто из близнецов настоящий" лишён смысла, они оба "настоящие", ровно так же, как у каждого из нас есть, скажем, "настоящая" (genuine) копия Windows на компьютере, а через какое-то время они уже будут разными, хотя и произошедшими из одного корня. Возвращаясь к нынешним (телесным) близнецам, вас же не смущает, что когда-то оба из них появились из одной яйцеклетки, а потом со временем разошлись, и вы не спрашиваете себя, кто из них "подлинник", а кто "клон". Оба подлинники.
Соглашусь с комментатором ниже -- ничего "не по-другому". Более того, есть ещё один нюанс: если картина висит в музее и не продаётся, то экспертная оценка используется ну разве что для страхования при перевозке, но это всё так, вилами по воде. Если предмет искусства не продаётся, то и цены он (фактически, по определению) не имеет, так что любые оценки весьма условны.
Экономическая теория учит, что цена определяется балансом спроса и предложения. На мои пятна спроса нет, стало быть, цена низкая, вот и всё, и незачем обсуждать качество моих талантов.
Да, это так, и всё это тем не менее не меняет абсолютно ничего в моём комментарии. Вы же не думаете, что в Microsoft не способны сделать нормальное меню "Пуск" или панель задач потому, что их программисты устали и не масштабируются? Ну будет вам вместо тонны мусора десять тонн мусора, радости-то.
Вы почему-то исходите из того, что уникальности уже достаточно для того, чтобы иметь коллекционную ценность. Но это же не так, если я нарисую пятна, это будет уникальное, но коллекционно малоценное произведение. Пятна Поллока ценны именно тем, что это пятна Поллока, и ничего с этим сделать нельзя, и потребительские качества тут не при чём.
Как внешний наблюдатель вы можете воспринимать это именно так. Но мне-то что? Субъективно я именно буду считать что заснул и проснулся, и какое мне дело до того, как это выглядит для других?
Вообще вся эта заваруха с ChatGPT и проч., по крайней мере, в сфере разработки софта вступает в известное противоречие с массой литературы, написанной со времён Брукса (1975) и получившей новое дыхание с развитием Agile (конец девяностых - начало нулевых). Я говорю конкретно о концепции, что написание кода по спецификации не является "узким местом" в разработке софта. Можно сказать, что написанием кода по спецификации занимается и компилятор Фортрана, то есть новость несвежая, и если этим же займётся AI, ну и ради бога.
Да, мы можем потратить день-другой на дебаг или даже неделю-другую на возню с фреймворком, но упомянутая литература доказывает, что всё это семечки по сравнению с настоящими проблемами типа "писали год, и написали не то, что требовалось" или "в процессе решили добавить/выбросить/переделать, получилась ерунда". В качестве аналогии отмечу, что в любом треде про "слепую" печать найдётся комментарий о том, что, дескать, нет у меня проблем печатать 100500 символов в минуту, и даже повышение скорости набора в десять раз ничего не даст.
С этой логикой я не совсем согласен, но в целом рассуждение логичное. Предположим, что ChatGPT работает как очень хороший программист, и сможет написать вам софт по текстовому описанию. Но ведь любая крупная контора типа Microsoft или Google уже живёт в этих условиях: у них легионы этих первоклассных разработчиков, и что это им дало? Положа руку на сердце, не живём мы в мире удобного, безбажного и производительного софта, значит, не в программистах дело.
Разница не в "потребительских свойствах", а в культурной ценности / редкости / коллекционной значимости (если только не записывать их также в потребительские свойства). Аналогично, какое-нибудь лимитированное издание игры Super mario bros в коллекционном картридже будет стоить на аукционе куда дороже обычного, хотя внутри будет одна и та же игра. Ну или банально какой-нибудь девайс с ранним серийным номером, которых мало сохранилось, хотя более поздних идентичных много.
Я не говорю, что это делается без ведома Маска, но не вижу причин видеть за такими письмами какую-то избыточную эмоциональность. Обычное дело, одни грозятся в суд подать на других, никогда такого не было и вот опять.
Вообще говоря, если его юристы не шлют подобные письма счастья, то зачем они тогда нужны? Независимо от того, что о происходящем думает руководитель, юридический отдел должен по идее пытаться мешать конкуренту, если видит для этого возможность.