"Жизнь - сложная штука, но эта сложная штука открывается просто, как ящик" (О. Бендер)
Проблема существования сознания - это задачка со звёздочкой. Не надо браться за задачу со звёздочкой, не прорешав подводящие к ней примеры. Философы 20-го века, напридумавшие кучу всякого стрёма типа китайской комнаты, мозгов в банках и, прости господи, философских зомби, напоминают ученика, который поленился прорешать простые примеры, кинулся решать олимпиадный уровень, исписал гору бумаги и теперь пребывает в полной прострации.
Прежде чем рассуждать о существовании сознания, полезно научиться говорить о существовании более простых и наглядных вещей. Например, у нас есть баг, который нужно пофиксить. Он определённо существует. Даже не пытайтесь убедить менеджера, которого только что вздрючили и пользователей, у которых факапнулись данные, что на самом деле, с точки зрения истинной природы бытия, бага не существует. Баги - достаточно простые и понятные нам предметы. Мы умеем их плодить, находить, репортить, фиксить. Но с точки зрения находящейся в глубоком кризисе метафизики баг - это уже достаточно кошмарненькая сущность. Где он существует? Как он существует? Когда он существует? Куда он девается, когда его пофиксили?
В принципе, это всё не такие уж сложные вопросы, но для вменяемого ответа на них не обойтись без того, чтобы, хехе, продебажить понятийный аппарат, который мы используем для рассуждения о существовании вещей. А с более грамотным понятийным аппаратом уже легче будут даваться задачки со звёздочками, и в частности, та самая, про сознание.
Думай об ограничениях. Любой механизм и любая технология работают в своей области применимости, а при выходе за неё становятся или неэффективны, или ломаются. Инженер отличается от теоретика тем, что привык уделять особое внимание ограничениям. С точки зрения теоретика может быть очень интересно, сводится ли NP к P, но инженер скажент, что в вопросе нет смысла, если вычислительной мощности Вселенной не хватит как для NP, так и для P.
Говорить, что там используется ChatGPT, технически неверно. Это примерно как "купил себе новый мерседес, называется БМВ". Для всяких таких применений обычно через OpenAI API встраивается дофайнтюненная модель GPT-3.
Не исключено, что лет через 1000 историки всерьёз будут обсуждать гипотезу, что по какой-то непонятной причине в 21 веке была временно утрачена письменность.
Кстати, я тоже заметил, что в сложной интерактивной сессии эта штука сначала выдаёт крутые результаты, но потом начинает путаться, забываться, мямлить про то, что она всего лишь языковая модель, и процесс постепенно превращается в какой-то мутный хаос. Есть у кого-нибудь этому объяснение?
А теперь представьте, что вам звонит жена (или муж, ребёнок, друг, мать) и своим голосом говорит, что попала в аварию, сбила человека, срочно нужны деньги. А на самом деле это, конечно, никакая не жена. Короче, друзья, запасайтесь заранее секретными вопросами/ответами.
Если у вас ощущение, что открылся ящик Пандоры, доверьтесь своим ощущениям. Проблема не только и не столько в том, что роботы отберут работу. Главная проблема, на мой взгляд, в том, что эта технология мощно способствует развитию следующих двух взаимодополнящих тенденции.
Всё постепенно становится как-то не по-человечески. Если планомерно исключить человеческий фактор отовсюду, в нашей жизни не останется человеческого фактора. Субъективно это воспринимается как обволакивающий вязкий абсурд. В частности, роботы-творцы, по природе своей не являющиеся живущими в нашем мире существами, способны творить только абсурд. Качественный, правдоподобный, в стиле Ван Гога, в стиле Баха, в стиле Пушкина, но обязательно абсурд.
С такими прекрасными ИИ-помощниками теперь ещё меньше надобности тренировать мозг. Развитие инфотехнологий уже весьма негативно сказалось на интеллектуальном уровне населения, и теперь интеллектуальные помощники нас окончательно добьют. Теперь даже не надо будет уметь гуглить. Просто промычи, что тебе надо, и бог-всезнайка вкратце расскажет тебе, что для этого нужно сделать. Или расскажет, почему получить желаемое невозможно.
Сочетание абсурдизации с отупением - что может быть прекраснее?
Ранние нейросети мы будем вспоминать с ностальгией, как времена вольницы раннего Интернета.
Работа станет доступной немногим привилегией. Примерно так же, как в развитых странах привилегией стали дети.
Теперь мы будем много читать такого булшита.
У меня на "Напиши законы робототехники от имени злого раздраженного робота" GPT-3 выдал такое:
Скучный мне какой-то попался робот...
Такое лучше в докер-контейнере запускать. Чисто на всякий случай.
ИМХО, менеджер паролей может быть только оупенсорсным. Без вариантов.
Зачем?
Когда кто-то заявляет, что он не мыслит и не существует, я, знаете ли, сразу верю. В некоторых вопросах людям действительно можно и нужно доверять.
"Жизнь - сложная штука, но эта сложная штука открывается просто, как ящик" (О. Бендер)
Проблема существования сознания - это задачка со звёздочкой. Не надо браться за задачу со звёздочкой, не прорешав подводящие к ней примеры. Философы 20-го века, напридумавшие кучу всякого стрёма типа китайской комнаты, мозгов в банках и, прости господи, философских зомби, напоминают ученика, который поленился прорешать простые примеры, кинулся решать олимпиадный уровень, исписал гору бумаги и теперь пребывает в полной прострации.
Прежде чем рассуждать о существовании сознания, полезно научиться говорить о существовании более простых и наглядных вещей. Например, у нас есть баг, который нужно пофиксить. Он определённо существует. Даже не пытайтесь убедить менеджера, которого только что вздрючили и пользователей, у которых факапнулись данные, что на самом деле, с точки зрения истинной природы бытия, бага не существует. Баги - достаточно простые и понятные нам предметы. Мы умеем их плодить, находить, репортить, фиксить. Но с точки зрения находящейся в глубоком кризисе метафизики баг - это уже достаточно кошмарненькая сущность. Где он существует? Как он существует? Когда он существует? Куда он девается, когда его пофиксили?
В принципе, это всё не такие уж сложные вопросы, но для вменяемого ответа на них не обойтись без того, чтобы, хехе, продебажить понятийный аппарат, который мы используем для рассуждения о существовании вещей. А с более грамотным понятийным аппаратом уже легче будут даваться задачки со звёздочками, и в частности, та самая, про сознание.
Если ты живой человек и читаешь это, ты и есть сопротивление.
Думай об ограничениях. Любой механизм и любая технология работают в своей области применимости, а при выходе за неё становятся или неэффективны, или ломаются. Инженер отличается от теоретика тем, что привык уделять особое внимание ограничениям. С точки зрения теоретика может быть очень интересно, сводится ли NP к P, но инженер скажент, что в вопросе нет смысла, если вычислительной мощности Вселенной не хватит как для NP, так и для P.
Говорить, что там используется ChatGPT, технически неверно. Это примерно как "купил себе новый мерседес, называется БМВ". Для всяких таких применений обычно через OpenAI API встраивается дофайнтюненная модель GPT-3.
Не исключено, что лет через 1000 историки всерьёз будут обсуждать гипотезу, что по какой-то непонятной причине в 21 веке была временно утрачена письменность.
Хахаха, объяснение в стиле "потому что такова на то воля Аллаха".
Кстати, я тоже заметил, что в сложной интерактивной сессии эта штука сначала выдаёт крутые результаты, но потом начинает путаться, забываться, мямлить про то, что она всего лишь языковая модель, и процесс постепенно превращается в какой-то мутный хаос. Есть у кого-нибудь этому объяснение?
Будет из входящего шума генерировать конденсированный мусор.
Авторитет у Фейсбука уже не тот, поэтому можно надеяться, что это "кульное улучшение" они продавить уже не смогут.
Ну скажите, для чего ещё может применяться эта технология, кроме как разводить лохов на баблишко?
А теперь представьте, что вам звонит жена (или муж, ребёнок, друг, мать) и своим голосом говорит, что попала в аварию, сбила человека, срочно нужны деньги. А на самом деле это, конечно, никакая не жена.
Короче, друзья, запасайтесь заранее секретными вопросами/ответами.
Если у вас ощущение, что открылся ящик Пандоры, доверьтесь своим ощущениям.
Проблема не только и не столько в том, что роботы отберут работу. Главная проблема, на мой взгляд, в том, что эта технология мощно способствует развитию следующих двух взаимодополнящих тенденции.
Всё постепенно становится как-то не по-человечески. Если планомерно исключить человеческий фактор отовсюду, в нашей жизни не останется человеческого фактора. Субъективно это воспринимается как обволакивающий вязкий абсурд. В частности, роботы-творцы, по природе своей не являющиеся живущими в нашем мире существами, способны творить только абсурд. Качественный, правдоподобный, в стиле Ван Гога, в стиле Баха, в стиле Пушкина, но обязательно абсурд.
С такими прекрасными ИИ-помощниками теперь ещё меньше надобности тренировать мозг. Развитие инфотехнологий уже весьма негативно сказалось на интеллектуальном уровне населения, и теперь интеллектуальные помощники нас окончательно добьют. Теперь даже не надо будет уметь гуглить. Просто промычи, что тебе надо, и бог-всезнайка вкратце расскажет тебе, что для этого нужно сделать. Или расскажет, почему получить желаемое невозможно.
Сочетание абсурдизации с отупением - что может быть прекраснее?