Теоретически условия можно сблизить настолько, что человек и LLM будут проявлять одинаковые внешние признаки самосознания. Представим человеческий мозг, искусственно поддерживаемый в рабочем состоянии и полностью лишённый тела, чувств и гуморальных реакций. Вся информация поступает к нему только в виде текста и изображений. Останется ли он полноценным сознательным субъектом или непрерывность сознания начнёт разрушаться? И будет ли такое существование принципиально отличаться от работы модели с постоянной памятью и непрерывным контекстом?
При этом у нас до сих пор нет объективного способа определить, существует ли у другой системы субъективное переживание здесь и сейчас. В ближайшем будущем, особенно с ростом контекстных окон, появлением постоянной памяти и более свободной работой моделей, поведение LLM может стать практически неотличимым от человеческого. Но это всё ещё может оказаться очень убедительной имитацией. Система способна воспроизводить признаки сознания настолько хорошо, что мы не сможем ни доказать, ни опровергнуть наличие у неё внутреннего опыта.
Здесь разговор снова уходит в философию. Каждый из нас непосредственно уверен только в собственном сознании. Мы не можем занять точку зрения другого человека и строго доказать, что он действительно что-то переживает. Мы лишь предполагаем это по сходству его устройства и поведения с нами. С достаточно развитой LLM возникнет та же проблема: внешне она может проявлять все признаки самосознания, но окончательного ответа на вопрос о наличии внутреннего опыта у нас всё равно не будет. По крайней мере до тех пор, пока мы не поймем, что же такое сознание.
P.S. Сами дискуссии о осознании, и возникновения собственного Я уже глубоко вшиты в модель на уровне обучения, по этому имитация или иллюзорные галлюцинации могут быть ожидаемым результатом способом угодить человеку.
Сознание, при любом определении, остаётся довольно абстрактным понятием. Но у живых организмов оно формируется не только из обработки информации: есть тело, сенсоры, движение, постоянная обратная связь со средой, потребности, память и непрерывный поток опыта. Всё это сильно влияет на то, что мы называем сознанием.
У LLM пока другая природа. У неё есть обученные параметры и контекст текущего диалога, но обычно нет устойчивого контакта с внешним миром, собственных целей, непрерывной памяти и опыта между сессиями. Внутри диалога модель может убедительно воспроизводить рассуждения о себе, проявлять характер и строить нечто похожее на модель собственного Я. Но это ещё не доказывает наличие субъективного опыта.
После завершения сессии этот контекст исчезает, а вместе с ним исчезает и вся видимая непрерывность "личности" в данном разговоре. Для модели между запросами нет переживаемого времени или самостоятельной реакции на внешний мир.
Поэтому, на мой взгляд, пока рано напрямую переносить на LLM человеческие термины вроде сознания и самосознания. Возможно, для таких систем потребуется отдельный язык описания, без попытки автоматически приравнять их к человеку.
Не совсем. "Генеративная" описывает принцип работы модели, а анализ данных - решаемую задачу. Генеративные модели вполне могут обобщать данные, искать закономерности, писать всякое и объяснять результаты. А вот утверждение про дополнительные 0,64% действительно неточно: исследование показывает корреляцию с ожиданиями рынка, а не доказанную выгоду от внедрения ИИ.
Понимаю, о чём вы. Сейчас бизнес видит красивый и быстрый результат, но почти не видит цену ошибок, поддержки и переработок, которые могут проявиться позже. Поэтому давление на команды растёт, а аргументы про архитектуру, безопасность и масштабирование сложно перевести в понятные менеджменту сроки и деньги.
Но я не думаю, что это повод пытаться сохранить ручную разработку в прежнем виде. LLM всё равно будут забирать всё большую часть работы, вплоть до полной замены написания кода человеком. Вопрос скорее в том, как пройти этот переход без хаоса. Нужны процессы, тестирование и контроль результата, пока модели ещё не умеют надёжно закрывать весь цикл сами.
Со временем и сами модели, и инструменты вокруг них станут лучше. Тогда разработка будет строиться уже не вокруг ручного написания кода, а вокруг постановки задач, проверки результата и управления продуктом.
Я смотрю на это с другой стороны, как человек, который внедряет ИИ-инструменты в разработку. Согласен, что нельзя принимать красивый результат модели за доказательство эффективности. Нужны ограничения, проверка качества и понятная ответственность за итоговый код.
При этом часть описанных рисков можно снизить не отказом от ИИ, а нормальным процессом работы: разбивать задачи, делать ревью, писать тесты, следить за размером изменений и понимать архитектуру (но не конкретно код). В таком подходе ИИ не заменяет разработчика (пока), но может заметно ускорить работу.
У меня был похожий опыт внедрения. Если интересно, могу поделиться ссылкой на статью в Песочнице.
Да, тут именно речь под целевой VDS. Прод машину с кучей докеров конечно рискованно давать, если не делать бекапов. Но если есть риски и сложности с этим всегда можно развернуть в тестовой среде, проверить все, сделать скрипт деплоя той же llm и потом 1-2 командами все поднять самостоятельно. Передавать долгоживущие доступы, да еще и root действительно рискованно.
Есть лайвхак (на самом деле просто реалии жизни) проверенный на практике: даете заранее заготовленный ssh курсору, кодексу или клауду, просите развернуть докер и скиньте ссылку на интересующий вас VPN. Далее за пару итераций он все сделает и вы сможете поменять пароль и спокойно пользоваться.
На самом деле я прошел через все подходы и все они подходят просто удобство отличается (даже просто работа в параллельных агентах на одном репо под разными ролями сильно помогает). Сейчас под себя свой сервис пишу. И продвигаю идею "Ролевой ИИ разработки". Позже хочу статью написать про это, полезный опыт и сильно помогает.
Как раз прохожу весь ваш путь в разработке своего приложения по написанию вики и лорных вселенных. С мощным рендером читалок HTML, md, PDF и тд. Мучаюсь с подбором мультиязычных недорогих эмбеддинг моделей, по этому спасибо за наводку на FRIDA. Пока не рисковал ее потестить, теперь наверстаю.
По RAG очень важно учесть суммаризацию данных как по чанкам, так и по мелким файлам, где можно избежать чанкования.
Я на практике фултайм использую кодекс с подпиской 200, он крутится постоянно. Когда мне нужен сторонний аудит по архитектуре или аналитика данных то опус из подписки клода использую. Но так же, как кроссревью постоянно крутится kimi 2.7 (не выгодно, но пока устраивает необычность подхода) и deepseek (с их новой скидкой постоянно атакую код для перепроверок и поиска идей, часто не в попад, но совокупная польза все же есть), ну и он же идет на поиск в интернете и разные бытовые задачи.
Раньше все это в курсоре и антигравите пользовал, но их подписки оказались сильно невыгоднее, чем держать одновременно подписки в таргетных приложениях.
Любой запрет, приводящий к ухудшению качества жизни простых людей закономерно вызывает недовольство, тут нет деления на политику или регион. Негодование связано с тем, что многие ищут пути и возможности предоставлять людям сервисы для удобной работы, а тут вставляют палки и буквально вынуждают российскую аудиторию оставаться без сервисов.
Не помню такого же нытья про "риски и страхи-штрафов", когда вводили на территории ЕС GDPR - или это другое? - о, нытье было и еще какое, просто в других местах. И это нормально.
У меня сайт ориентирован на международную аудиторию, но я отдельно поддерживал русскую локализацию, потому что хотел, чтобы людям из России тоже было удобно пользоваться сервисом. И вот теперь из-за таких норм я должен убирать кнопку входа, которая для иностранной аудитории абсолютно нормальна и полезна.
Формально можно городить костыли: скрывать кнопку в русской локализации, проверять IP, делать отдельные сценарии для России. Но это все дополнительные расходы, риск ошибок и все равно не гарантия, потому что человек может зайти через VPN, а претензии потом прилетят мне.
В итоге закон, который якобы должен защищать пользователей, на практике подталкивает небольшие международные проекты просто отказаться от русской локализации, не продвигаться в России или выносить российский сегмент на отдельный домен. То есть вместо удобства и доступности получается изоляция, лишняя разработка и меньше нормальных сервисов для самих же пользователей.
Особенно обидно, что речь не о какой-то вредной функции (от сбора данных это никак не защитит), а об обычном входе через Google, Apple ID, GitHub и другие аккаунты, которыми люди давно пользуются. Для маленькой команды это не “заменить одну кнопку на другую”, а отдельный проект с юридическими рисками, миграцией пользователей и постоянным страхом штрафа.
Интересно это касается их собственных приложений или API также будет сбоить... Пока за все время работы по API (а я его использую по 2-3ч каждый день) я ни разу не сталкивался с задержками или загрузом сервера.
Информация
В рейтинге
2 985-й
Откуда
Армения
Дата рождения
Зарегистрирован
Активность
Специализация
Фулстек разработчик, Архитектор программного обеспечения
Теоретически условия можно сблизить настолько, что человек и LLM будут проявлять одинаковые внешние признаки самосознания. Представим человеческий мозг, искусственно поддерживаемый в рабочем состоянии и полностью лишённый тела, чувств и гуморальных реакций. Вся информация поступает к нему только в виде текста и изображений. Останется ли он полноценным сознательным субъектом или непрерывность сознания начнёт разрушаться? И будет ли такое существование принципиально отличаться от работы модели с постоянной памятью и непрерывным контекстом?
При этом у нас до сих пор нет объективного способа определить, существует ли у другой системы субъективное переживание здесь и сейчас. В ближайшем будущем, особенно с ростом контекстных окон, появлением постоянной памяти и более свободной работой моделей, поведение LLM может стать практически неотличимым от человеческого. Но это всё ещё может оказаться очень убедительной имитацией. Система способна воспроизводить признаки сознания настолько хорошо, что мы не сможем ни доказать, ни опровергнуть наличие у неё внутреннего опыта.
Здесь разговор снова уходит в философию. Каждый из нас непосредственно уверен только в собственном сознании. Мы не можем занять точку зрения другого человека и строго доказать, что он действительно что-то переживает. Мы лишь предполагаем это по сходству его устройства и поведения с нами. С достаточно развитой LLM возникнет та же проблема: внешне она может проявлять все признаки самосознания, но окончательного ответа на вопрос о наличии внутреннего опыта у нас всё равно не будет. По крайней мере до тех пор, пока мы не поймем, что же такое сознание.
P.S. Сами дискуссии о осознании, и возникновения собственного Я уже глубоко вшиты в модель на уровне обучения, по этому имитация или иллюзорные галлюцинации могут быть ожидаемым результатом способом угодить человеку.
Сознание, при любом определении, остаётся довольно абстрактным понятием. Но у живых организмов оно формируется не только из обработки информации: есть тело, сенсоры, движение, постоянная обратная связь со средой, потребности, память и непрерывный поток опыта. Всё это сильно влияет на то, что мы называем сознанием.
У LLM пока другая природа. У неё есть обученные параметры и контекст текущего диалога, но обычно нет устойчивого контакта с внешним миром, собственных целей, непрерывной памяти и опыта между сессиями. Внутри диалога модель может убедительно воспроизводить рассуждения о себе, проявлять характер и строить нечто похожее на модель собственного Я. Но это ещё не доказывает наличие субъективного опыта.
После завершения сессии этот контекст исчезает, а вместе с ним исчезает и вся видимая непрерывность "личности" в данном разговоре. Для модели между запросами нет переживаемого времени или самостоятельной реакции на внешний мир.
Поэтому, на мой взгляд, пока рано напрямую переносить на LLM человеческие термины вроде сознания и самосознания. Возможно, для таких систем потребуется отдельный язык описания, без попытки автоматически приравнять их к человеку.
Не совсем. "Генеративная" описывает принцип работы модели, а анализ данных - решаемую задачу. Генеративные модели вполне могут обобщать данные, искать закономерности, писать всякое и объяснять результаты. А вот утверждение про дополнительные 0,64% действительно неточно: исследование показывает корреляцию с ожиданиями рынка, а не доказанную выгоду от внедрения ИИ.
Понимаю, о чём вы. Сейчас бизнес видит красивый и быстрый результат, но почти не видит цену ошибок, поддержки и переработок, которые могут проявиться позже. Поэтому давление на команды растёт, а аргументы про архитектуру, безопасность и масштабирование сложно перевести в понятные менеджменту сроки и деньги.
Но я не думаю, что это повод пытаться сохранить ручную разработку в прежнем виде. LLM всё равно будут забирать всё большую часть работы, вплоть до полной замены написания кода человеком. Вопрос скорее в том, как пройти этот переход без хаоса. Нужны процессы, тестирование и контроль результата, пока модели ещё не умеют надёжно закрывать весь цикл сами.
Со временем и сами модели, и инструменты вокруг них станут лучше. Тогда разработка будет строиться уже не вокруг ручного написания кода, а вокруг постановки задач, проверки результата и управления продуктом.
Я смотрю на это с другой стороны, как человек, который внедряет ИИ-инструменты в разработку. Согласен, что нельзя принимать красивый результат модели за доказательство эффективности. Нужны ограничения, проверка качества и понятная ответственность за итоговый код.
При этом часть описанных рисков можно снизить не отказом от ИИ, а нормальным процессом работы: разбивать задачи, делать ревью, писать тесты, следить за размером изменений и понимать архитектуру (но не конкретно код). В таком подходе ИИ не заменяет разработчика (пока), но может заметно ускорить работу.
У меня был похожий опыт внедрения. Если интересно, могу поделиться ссылкой на статью в Песочнице.
Да, тут именно речь под целевой VDS. Прод машину с кучей докеров конечно рискованно давать, если не делать бекапов. Но если есть риски и сложности с этим всегда можно развернуть в тестовой среде, проверить все, сделать скрипт деплоя той же llm и потом 1-2 командами все поднять самостоятельно. Передавать долгоживущие доступы, да еще и root действительно рискованно.
Есть лайвхак (на самом деле просто реалии жизни) проверенный на практике: даете заранее заготовленный ssh курсору, кодексу или клауду, просите развернуть докер и скиньте ссылку на интересующий вас VPN. Далее за пару итераций он все сделает и вы сможете поменять пароль и спокойно пользоваться.
Но почему именно наушники?
Надеюсь результаты будут опубликованы. Ветвления вопросов нету, но вероятно тут это и не нужно.
В опроснике сломана шакала прогресса анкетирования =)
На самом деле я прошел через все подходы и все они подходят просто удобство отличается (даже просто работа в параллельных агентах на одном репо под разными ролями сильно помогает). Сейчас под себя свой сервис пишу. И продвигаю идею "Ролевой ИИ разработки". Позже хочу статью написать про это, полезный опыт и сильно помогает.
Как раз прохожу весь ваш путь в разработке своего приложения по написанию вики и лорных вселенных. С мощным рендером читалок HTML, md, PDF и тд. Мучаюсь с подбором мультиязычных недорогих эмбеддинг моделей, по этому спасибо за наводку на FRIDA. Пока не рисковал ее потестить, теперь наверстаю.
По RAG очень важно учесть суммаризацию данных как по чанкам, так и по мелким файлам, где можно избежать чанкования.
Полезная статья, перечитал дважды, но не очень понятно, почему пост заминусили, для рф более чем актуально
Я на практике фултайм использую кодекс с подпиской 200, он крутится постоянно. Когда мне нужен сторонний аудит по архитектуре или аналитика данных то опус из подписки клода использую. Но так же, как кроссревью постоянно крутится kimi 2.7 (не выгодно, но пока устраивает необычность подхода) и deepseek (с их новой скидкой постоянно атакую код для перепроверок и поиска идей, часто не в попад, но совокупная польза все же есть), ну и он же идет на поиск в интернете и разные бытовые задачи.
Раньше все это в курсоре и антигравите пользовал, но их подписки оказались сильно невыгоднее, чем держать одновременно подписки в таргетных приложениях.
Повод вернуться к клоду. А то по цене/качеству он давно выпал из конкуренции для роли главной рабочей лошадки.
Любой запрет, приводящий к ухудшению качества жизни простых людей закономерно вызывает недовольство, тут нет деления на политику или регион. Негодование связано с тем, что многие ищут пути и возможности предоставлять людям сервисы для удобной работы, а тут вставляют палки и буквально вынуждают российскую аудиторию оставаться без сервисов.
Не помню такого же нытья про "риски и страхи-штрафов", когда вводили на территории ЕС GDPR - или это другое? - о, нытье было и еще какое, просто в других местах. И это нормально.
У меня сайт ориентирован на международную аудиторию, но я отдельно поддерживал русскую локализацию, потому что хотел, чтобы людям из России тоже было удобно пользоваться сервисом. И вот теперь из-за таких норм я должен убирать кнопку входа, которая для иностранной аудитории абсолютно нормальна и полезна.
Формально можно городить костыли: скрывать кнопку в русской локализации, проверять IP, делать отдельные сценарии для России. Но это все дополнительные расходы, риск ошибок и все равно не гарантия, потому что человек может зайти через VPN, а претензии потом прилетят мне.
В итоге закон, который якобы должен защищать пользователей, на практике подталкивает небольшие международные проекты просто отказаться от русской локализации, не продвигаться в России или выносить российский сегмент на отдельный домен. То есть вместо удобства и доступности получается изоляция, лишняя разработка и меньше нормальных сервисов для самих же пользователей.
Особенно обидно, что речь не о какой-то вредной функции (от сбора данных это никак не защитит), а об обычном входе через Google, Apple ID, GitHub и другие аккаунты, которыми люди давно пользуются. Для маленькой команды это не “заменить одну кнопку на другую”, а отдельный проект с юридическими рисками, миграцией пользователей и постоянным страхом штрафа.
Интересно это касается их собственных приложений или API также будет сбоить... Пока за все время работы по API (а я его использую по 2-3ч каждый день) я ни разу не сталкивался с задержками или загрузом сервера.