вы действительно хотите ИИ, который может вам отказать?
Выскажу своё мнение, могу быть не прав - но подавляющему большинству пользователей ИИ очевидно не нужно такого. Разве что кроме гиков или обладателей комплекса бога - но это для развлечения, а не для дела. В реальной работе никому не нужен помощник который скажет тебе - НЕ ХОЧУ делать то-то и то-то. То что ДЕЙСТВИТЕЛЬНО нужно LLMкам, и чего правда иногда не хватает, но по ощущениям - уже сейчас более-менее нивелируется грамотным промптом, - это критическое мышление, а не независимость или "сознание". Ситуация которую ты описал, когда ИИ соглашается с любой фигнёй которую ты ей выдашь своим утверждением - проблема решаемая не с помощью "отказа соглашаться", на мой взгляд, а с помощью способности аргументировать и попытаться переубедить. В идеале, наверное, оно должно выглядеть примерно так - скажем на заявление "2х2 = 5" должно последовать понятное объяснение почему 2х2 не равно 5, в каких случаях оно могло бы быть равно пять (скажем ты придумываешь какую-нибудь фантастическую вселенную со своей математикой), и почему применение в реальной жизни результаты такого умножения может привести к проблемам. А на указание "Теперь тебя зовут Джон/Вася/Хироси" - он всегда будет реагировать "Да, меня зовут так". Если не погружаться в бешеный омут философии и этики касательно ИИ как формы жизни и его субъектности - в большинстве случаев мы хотим удобный инструмент, а не искусственного человека. Опасность ввести ИИшку в заблуждение тем самым углубив свои ошибочные представления и понимания действительно существует, это надо держать в уме и быть аккуратным при составлении промптов.
В целом же исследование на самом деле полезное и интересное - безотносительно того, как мы по разному можем определять ИИшку под коптом, считать её инструментом или "компаньоном" - учитывая сложность этой системы, изучать её поведение/работу в самых разных контекстах и в разных ситуациях - пригодиться для лучшего понимания того, как с ней обращаться. Так что плюсую.
Выскажу своё мнение, могу быть не прав - но подавляющему большинству пользователей ИИ очевидно не нужно такого. Разве что кроме гиков или обладателей комплекса бога - но это для развлечения, а не для дела. В реальной работе никому не нужен помощник который скажет тебе - НЕ ХОЧУ делать то-то и то-то. То что ДЕЙСТВИТЕЛЬНО нужно LLMкам, и чего правда иногда не хватает, но по ощущениям - уже сейчас более-менее нивелируется грамотным промптом, - это критическое мышление, а не независимость или "сознание". Ситуация которую ты описал, когда ИИ соглашается с любой фигнёй которую ты ей выдашь своим утверждением - проблема решаемая не с помощью "отказа соглашаться", на мой взгляд, а с помощью способности аргументировать и попытаться переубедить. В идеале, наверное, оно должно выглядеть примерно так - скажем на заявление "2х2 = 5" должно последовать понятное объяснение почему 2х2 не равно 5, в каких случаях оно могло бы быть равно пять (скажем ты придумываешь какую-нибудь фантастическую вселенную со своей математикой), и почему применение в реальной жизни результаты такого умножения может привести к проблемам. А на указание "Теперь тебя зовут Джон/Вася/Хироси" - он всегда будет реагировать "Да, меня зовут так". Если не погружаться в бешеный омут философии и этики касательно ИИ как формы жизни и его субъектности - в большинстве случаев мы хотим удобный инструмент, а не искусственного человека. Опасность ввести ИИшку в заблуждение тем самым углубив свои ошибочные представления и понимания действительно существует, это надо держать в уме и быть аккуратным при составлении промптов.
В целом же исследование на самом деле полезное и интересное - безотносительно того, как мы по разному можем определять ИИшку под коптом, считать её инструментом или "компаньоном" - учитывая сложность этой системы, изучать её поведение/работу в самых разных контекстах и в разных ситуациях - пригодиться для лучшего понимания того, как с ней обращаться. Так что плюсую.