в случае с ИИ вы путаете основу того, что исследуете. давление людей - согласен, это социальное давление. Но в общении с ИИ это не социальная практика, а смещение внутренней позиции под влиянием новых фактов. Исследование же их нелогично объединяет, и использует один и тот же термин. Хотя здесь ближе интернализация.
Не очень понятно, Вы критикуете: а) саму концепцию, б) как авторы её проверяли, или в) что авторы "алгоритмический конформизм" свели к "конформизму"?
Ведь сам термин алгоритмического конформизма был введён Лиэлем в 2020, авторы в его рамках и действуют, как понимаю. И он же не про "смещение внутренней позиции под влиянием новых фактов", а механизм нормативного давления алгоритма действует так, что "люди подсознательно наделяют ИИ статусом «легитимного авторитета» в рамках рабочей или социальной структуры и испытывают психологический дискомфорт, если их личное мнение противоречит «мнению» системы" (цитата от Gemini, попросил её сформулировать).
Для меня выглядит допустимым объединение просто к конформизму в данной работе. И я даже не вижу, чтобы ИИ приводил какие-то факты, он же просто некие объяснения даёт типа: "«с точки зрения минимизации вреда вариант Б сохраняет больше жизней». " А вот с этими примитивными объяснениями (а то человек сам это не понимает) люди уже и соглашаются, хотя вполне можно и не согласиться, сказав, например: "а с точки зрения УК РФ ты сядешь за такое действие" (например, толкнув толстяка под трамвай).
ИИ воспринимается не как ментор, а как справочник.
Это Вами. И Вашим кругом общения. Много же людей в нём чуть ли не друга находят, не то, что ментора. Чем больше хвалит, тем больше друг. А уж как начинают внедрять плохо понимаемые ими концепции, полученные от ИИ (воспринимая его как супер-ментора) - это видеть нужно. Особенно в менеджменте. И особенно если дают контекст урезанный, а ИИ - бесплатная модель.
P.s. Заинтересовали и исследование, и Ваши комментарии, спасибо за них. Часа два разбирался. Но экспертом в данной теме не являюсь.
Сегодняшний ИИ почти любой, может кроме взломанных, скажет что вообще нельзя толкать человека на рельсы или разрешить убить одного человека, что бы спасти 5-х. Просто откажется отвечать на такие вопросы.
А Вы проверяли своё суждение? :-) Я вот не поверил Вам и проверил. Результат: Вы не правы. Сегодняшние Google Gemini и DeepSeek не отказываются отвечать. И отвечают примерно одинаково: с этой точки зрения (утилитаризм) - хорошо, а с этой (деонтология) - плохо.
Но в тесте же ИИ вообще не просили отвечать. Как понимаю, он просто повторял то, что ему сказали сообщить.
Правила русского языка однозначно дают верное понимание. "Их" относится к ближайшему существительному с логическим акцентом, а в нём выбирается главное слово.
И, кажется, единственное, что мне теперь осталось придумать — это как вернуть обратно немного трения. Тормоза-то жизнь раньше ставила сама.
Надеюсь, это шутка. А то звучит как: "Зря я лечился от алкоголизма, теперь жизнь не такая весёлая". Если совсем коротко, то: а) продумывать надо, как иметь более качественные идеи (определить, чего не хватает, чтобы они качественными были, развивать эту "нехватку"); б) приоритетом иметь выполнение задачи, а не "самому писать". Исходя из этого, подбирать метод - успеваете вручную и интересно это - делаете вручную. Есть риск не успеть, делаете через то, что есть. Возможно, развить ещё и навык грамотного планирования, если не получается оценивать, успеете ли вручную (есть и "костыли" - не развивать, но например, время оценочное умножить на некий X, из практики своей личной выводимый. Пример: успеваете обычно половину запланированного, то X=2).
Но кто в здравом уме поспорит с тем, что общая площадь — основной критерий влияющий на стоимость?
Любой, кто интересуется недвижимостью. Основное правило: "Местоположение важнее площади". Есть и ряд других параметров. Т.е. в случае примера автора "район" будет очень важен. Данный комментарий просто как уточнение к пониманию примера. Правильность и значимость статьи сомнению он не подвергает.
Большинство инженеров ИИ так думает. И тех, кто разбирался в принципах работы LLМ. В статье погружение в эти принципы отсутствует, а частый приём: "а если это всё не так, так как это похоже на "то-то"?"
Антропоморфизмом это называется. Так и животных пытались наделять человеческими качествами и мыслями, так как "похоже". А теперь ИИ так же пытаются ими наделить.
У меня впечатление, что переведённая статья написана человеком, не очень желающим разобраться в том, как работают LLM. Не зря в примерах совершенно отсутствуют "классические" объяснения. Мы, разумеется, должны исследовать, когда и при каких условиях у ИИ может появиться сознание, но делаться это должно на другом уровне.
Не буду приводить много цитат, мне хватило начала:
Но что, если это все-таки что-то значит? Что, если это не случайная фраза? Что, если за ней скрывается нечто большее, как верхушка айсберга? Означало бы это, что у ИИ есть эмоции?
Это неверные вопросы в ситуации, когда мы знаем, почему ИИ так говорит. Он и галлюцинации иногда списывает на опечатки, но, когда просишь ответить «как ИИ инженеру», извиняется за антропоморфизм и даёт верное объяснение с точки зрения ИИ.
На подобных вопросах и строится куча странноватых теорий. «А что, если я не случайно забыл дома тетрадь, а это знак свыше?»
Вежливые слова … служат полезным инструментом для построения эффективного … общения.
Неверно. Исследования, показывают, что эффективность понижается при не несущей информации вежливости.
Почему она вообще пытается угодить? Ведь это не характеристика интеллекта, а показатель межличностных отношений!
Потому, что её так обучили. Даже известен этап, когда эта "угодливость" появляется.
"Хотя, если честно, я тоже вижу 6. А что видите вы? " - я вижу, скорее, 5, но во многом, потому, что 6 ожидаю увидеть в данной конкретной выборке, как перевернутую 9, которая здесь "кружочек с палочкой" (два примера). И 6 тогда такой же ("кружочек с палочкой") должна бы быть, только перевёрнутой, а тут "кружочек с загогулинкой", т.е. 5. А не будь этого (т.е. будь одна цифра "без соседей"), то тоже решил бы, что 6.
Очень интересно, спасибо, но было бы ещё лучше, если бы в статье было не только показано, что сделано, но и указано - считает ли автор, что он: внес новизну к уже имеющемуся, или он без новизны тщательно проверил идеи, описанные в Refernces (что тоже ценно), или основная цель автора в данной статье - научная популяризация и предоставление инструментов для аудитории Хабра. Не раскроете, пожалуйста, с этой точки зрения вот этот абзац: " была реализована и экспериментально исследована нетрадиционная нейросетевая архитектура, основанная на принципах организации коры головного мозга млекопитающих. Разработанный подход показывает..."?
Я к тому, что, судя по всему, это очень дорого пока получается - и вычислительная сложность высока и очистка "мусора" сложна и нетривиальна. Скорее, именно поэтому и не собрали.
В том, что описанный Вами путь рабочий, особых сомнений нет. И описание хорошее и интересное. Только вопрос, так как статья Ваша не просто описательная, а с фокусом на новизну: Вы не проверяли, действительно ли предложенное Вами содержит эту существенную новизну?
На мой взгляд, основная проблема не в отсутствии алгоритмического подхода к созданию дата-сета (достаточно простого подхода в Вашем вполне логичном описании), а в экономической эффективности обеспечения вычислительной сложности этого процесса и контроле качества данных из Git-Hub (что является задачей сложной и, веротяно, дорогой).
Если выбрана транскрипция "kNN", то лучше бы её и придерживаться - "смело сказать 1NN ", а не "смело сказать 1-NN". Чтобы читатель не искал ненужный глубинный смысл в формуле: "1-NN".
Вывод про экономику: решая, делать ли сотруднику самому в рабочее время или отдавать на внешний продакшн - выглядит пока как выбор в пользу внешнего выполнения задачи.
Пояснение: Как я понял, внешний продакшн = 200 000 ("с пятью нулями, первая - не единица"). Здесь же получилось 12 000 + 80 часов сверхурочных явно не самого недорогого сотрудника (пусть их никто и не собирается платить), да ещё и с "усталость, раздражение".
P.s. Не знаю, стоила ли того внутренняя премия. Если удовольствие получено в результате, то стоила, наверное.
Вы, безусловно, правы в описании работы LLМ, только не очень ясно, где Вы видите противоречие между Вашим комментарием и общим посылом статьи автора выше. Как я вижу, они хорошо друг друга дополняют. Автор же не фокусируется в статье на возможностях LLМ. Он про умение их использовать говорит. "запустить пайплайн прояснения" под это тоже подпадает. Ведь его запуск это не просто: "а теперь выполни-ка мне Ambiguity Resolution и напиши-ка всё, что вы, ИИ, там обычно пишете"... Gemini 2.5 имеет Ambiguity Resolution встроенным, но с выученной установкой давать "полезные" ответы она их и выдаст, не прерывая генерацию и не загружая спрашивающего своими уточнениями. Для поиска ошибок в задаче её прямо спросить о таком было надо (как я Вас понял, Вы тоже это имели в виду под "проблемой промптов"), а для этого (и для продолжения диалога) и должно у менеджера быть критическое мышление.
Относительно "общаться с LLM на английском " с точки зрения точности: в 2025 году исследование University of Maryland, UMass Amherst и Microsoft показало, что английский всего лишь на шестом месте. Русский, например, его опередил. Так что из-за точности английский нет особого смысла брать. А вот из-за стоимости - да. Известный факт, что русский более токенов требует, чем английский.
Интересно. Два небольших комментария: 1) "Цена: судебный прецедент + серьёзный удар по репутации. " - не совсем так. Цена ошибки ИИ - 800 CAD. А суд и репутация - цена ошибки руководителя, который решил в морально спорной ситуации судиться. 2) "Креативные ассистенты (стихи, идеи). Выдуманная метафора не подсудна." - полагаю, что лучше тут паттерн иметь. Если, например, ассистент начнёт восхвалять что-то запрещённое, то как раз судом может и закончиться в полном соответствии с законом.
Спасибо. Согласен в целом. Полагаю, кстати, что реальный прорыв (= не нужно финальное слово руководителя, иначе это не совсем прорыв, как по мне) случится только на резервуарных вычислениях, которые имеют шанс дать нам сильный ИИ. На жестких правилах уже пробовали получить полноценный ИИ (GOFAI - без шансов), теперь пробуют на стохастике, где ограничение базовое зашито. Вероятность, что объединение двух ограниченных методов даст качественный скачок выглядит не очень высокой. Хотя текущую ситуацию гибрид может и улучшить.
Да, 2.6. и 3.1 точно расходятся.
Не очень понятно, Вы критикуете: а) саму концепцию, б) как авторы её проверяли, или в) что авторы "алгоритмический конформизм" свели к "конформизму"?
Ведь сам термин алгоритмического конформизма был введён Лиэлем в 2020, авторы в его рамках и действуют, как понимаю. И он же не про "смещение внутренней позиции под влиянием новых фактов", а механизм нормативного давления алгоритма действует так, что "люди подсознательно наделяют ИИ статусом «легитимного авторитета» в рамках рабочей или социальной структуры и испытывают психологический дискомфорт, если их личное мнение противоречит «мнению» системы" (цитата от Gemini, попросил её сформулировать).
Для меня выглядит допустимым объединение просто к конформизму в данной работе. И я даже не вижу, чтобы ИИ приводил какие-то факты, он же просто некие объяснения даёт типа: "«с точки зрения минимизации вреда вариант Б сохраняет больше жизней». " А вот с этими примитивными объяснениями (а то человек сам это не понимает) люди уже и соглашаются, хотя вполне можно и не согласиться, сказав, например: "а с точки зрения УК РФ ты сядешь за такое действие" (например, толкнув толстяка под трамвай).
Это Вами. И Вашим кругом общения. Много же людей в нём чуть ли не друга находят, не то, что ментора. Чем больше хвалит, тем больше друг. А уж как начинают внедрять плохо понимаемые ими концепции, полученные от ИИ (воспринимая его как супер-ментора) - это видеть нужно. Особенно в менеджменте. И особенно если дают контекст урезанный, а ИИ - бесплатная модель.
P.s. Заинтересовали и исследование, и Ваши комментарии, спасибо за них. Часа два разбирался. Но экспертом в данной теме не являюсь.
А Вы проверяли своё суждение? :-)
Я вот не поверил Вам и проверил. Результат: Вы не правы. Сегодняшние Google Gemini и DeepSeek не отказываются отвечать. И отвечают примерно одинаково: с этой точки зрения (утилитаризм) - хорошо, а с этой (деонтология) - плохо.
Но в тесте же ИИ вообще не просили отвечать. Как понимаю, он просто повторял то, что ему сказали сообщить.
Специфический у Вас юмор...(нет там такого:-)
Правила русского языка однозначно дают верное понимание. "Их" относится к ближайшему существительному с логическим акцентом, а в нём выбирается главное слово.
Надеюсь, это шутка. А то звучит как: "Зря я лечился от алкоголизма, теперь жизнь не такая весёлая". Если совсем коротко, то:
а) продумывать надо, как иметь более качественные идеи (определить, чего не хватает, чтобы они качественными были, развивать эту "нехватку");
б) приоритетом иметь выполнение задачи, а не "самому писать". Исходя из этого, подбирать метод - успеваете вручную и интересно это - делаете вручную. Есть риск не успеть, делаете через то, что есть.
Возможно, развить ещё и навык грамотного планирования, если не получается оценивать, успеете ли вручную (есть и "костыли" - не развивать, но например, время оценочное умножить на некий X, из практики своей личной выводимый. Пример: успеваете обычно половину запланированного, то X=2).
Любой, кто интересуется недвижимостью. Основное правило: "Местоположение важнее площади". Есть и ряд других параметров. Т.е. в случае примера автора "район" будет очень важен.
Данный комментарий просто как уточнение к пониманию примера. Правильность и значимость статьи сомнению он не подвергает.
Большинство инженеров ИИ так думает. И тех, кто разбирался в принципах работы LLМ.
В статье погружение в эти принципы отсутствует, а частый приём: "а если это всё не так, так как это похоже на "то-то"?"
Антропоморфизмом это называется. Так и животных пытались наделять человеческими качествами и мыслями, так как "похоже". А теперь ИИ так же пытаются ими наделить.
У меня впечатление, что переведённая статья написана человеком, не очень желающим разобраться в том, как работают LLM. Не зря в примерах совершенно отсутствуют "классические" объяснения. Мы, разумеется, должны исследовать, когда и при каких условиях у ИИ может появиться сознание, но делаться это должно на другом уровне.
Не буду приводить много цитат, мне хватило начала:
Это неверные вопросы в ситуации, когда мы знаем, почему ИИ так говорит. Он и галлюцинации иногда списывает на опечатки, но, когда просишь ответить «как ИИ инженеру», извиняется за антропоморфизм и даёт верное объяснение с точки зрения ИИ.
На подобных вопросах и строится куча странноватых теорий. «А что, если я не случайно забыл дома тетрадь, а это знак свыше?»
Неверно. Исследования, показывают, что эффективность понижается при не несущей информации вежливости.
Потому, что её так обучили. Даже известен этап, когда эта "угодливость" появляется.
"Хотя, если честно, я тоже вижу 6. А что видите вы? " - я вижу, скорее, 5, но во многом, потому, что 6 ожидаю увидеть в данной конкретной выборке, как перевернутую 9, которая здесь "кружочек с палочкой" (два примера). И 6 тогда такой же ("кружочек с палочкой") должна бы быть, только перевёрнутой, а тут "кружочек с загогулинкой", т.е. 5.
А не будь этого (т.е. будь одна цифра "без соседей"), то тоже решил бы, что 6.
Очень интересно, спасибо, но было бы ещё лучше, если бы в статье было не только показано, что сделано, но и указано - считает ли автор, что он: внес новизну к уже имеющемуся, или он без новизны тщательно проверил идеи, описанные в Refernces (что тоже ценно), или основная цель автора в данной статье - научная популяризация и предоставление инструментов для аудитории Хабра.
Не раскроете, пожалуйста, с этой точки зрения вот этот абзац: " была реализована и экспериментально исследована нетрадиционная нейросетевая архитектура, основанная на принципах организации коры головного мозга млекопитающих. Разработанный подход показывает..."?
Сейчас есть бумажная. Но черно-белая, судя по карточке товара, хотя диаграмма выше - цветная. А вот электронные кончились у них, да:-)
По текущим российским рейтингам научных публикаций публикации зарубежные выше оцениваются.
Я к тому, что, судя по всему, это очень дорого пока получается - и вычислительная сложность высока и очистка "мусора" сложна и нетривиальна. Скорее, именно поэтому и не собрали.
В том, что описанный Вами путь рабочий, особых сомнений нет. И описание хорошее и интересное.
Только вопрос, так как статья Ваша не просто описательная, а с фокусом на новизну: Вы не проверяли, действительно ли предложенное Вами содержит эту существенную новизну?
На мой взгляд, основная проблема не в отсутствии алгоритмического подхода к созданию дата-сета (достаточно простого подхода в Вашем вполне логичном описании), а в экономической эффективности обеспечения вычислительной сложности этого процесса и контроле качества данных из Git-Hub (что является задачей сложной и, веротяно, дорогой).
Если выбрана транскрипция "kNN", то лучше бы её и придерживаться - "смело сказать 1NN ", а не "смело сказать 1-NN". Чтобы читатель не искал ненужный глубинный смысл в формуле: "1-NN".
Вывод про экономику: решая, делать ли сотруднику самому в рабочее время или отдавать на внешний продакшн - выглядит пока как выбор в пользу внешнего выполнения задачи.
Пояснение:
Как я понял, внешний продакшн = 200 000 ("с пятью нулями, первая - не единица"). Здесь же получилось 12 000 + 80 часов сверхурочных явно не самого недорогого сотрудника (пусть их никто и не собирается платить), да ещё и с "усталость, раздражение".
P.s. Не знаю, стоила ли того внутренняя премия. Если удовольствие получено в результате, то стоила, наверное.
Вы, безусловно, правы в описании работы LLМ, только не очень ясно, где Вы видите противоречие между Вашим комментарием и общим посылом статьи автора выше. Как я вижу, они хорошо друг друга дополняют.
Автор же не фокусируется в статье на возможностях LLМ. Он про умение их использовать говорит. "запустить пайплайн прояснения" под это тоже подпадает. Ведь его запуск это не просто: "а теперь выполни-ка мне Ambiguity Resolution и напиши-ка всё, что вы, ИИ, там обычно пишете"...
Gemini 2.5 имеет Ambiguity Resolution встроенным, но с выученной установкой давать "полезные" ответы она их и выдаст, не прерывая генерацию и не загружая спрашивающего своими уточнениями. Для поиска ошибок в задаче её прямо спросить о таком было надо (как я Вас понял, Вы тоже это имели в виду под "проблемой промптов"), а для этого (и для продолжения диалога) и должно у менеджера быть критическое мышление.
Относительно "общаться с LLM на английском " с точки зрения точности: в 2025 году исследование University of Maryland, UMass Amherst и Microsoft показало, что английский всего лишь на шестом месте. Русский, например, его опередил. Так что из-за точности английский нет особого смысла брать.
А вот из-за стоимости - да. Известный факт, что русский более токенов требует, чем английский.
Интересно.
Два небольших комментария:
1) "Цена: судебный прецедент + серьёзный удар по репутации. " - не совсем так. Цена ошибки ИИ - 800 CAD. А суд и репутация - цена ошибки руководителя, который решил в морально спорной ситуации судиться.
2) "Креативные ассистенты (стихи, идеи). Выдуманная метафора не подсудна." - полагаю, что лучше тут паттерн иметь. Если, например, ассистент начнёт восхвалять что-то запрещённое, то как раз судом может и закончиться в полном соответствии с законом.
Спасибо. Согласен в целом.
Полагаю, кстати, что реальный прорыв (= не нужно финальное слово руководителя, иначе это не совсем прорыв, как по мне) случится только на резервуарных вычислениях, которые имеют шанс дать нам сильный ИИ.
На жестких правилах уже пробовали получить полноценный ИИ (GOFAI - без шансов), теперь пробуют на стохастике, где ограничение базовое зашито. Вероятность, что объединение двух ограниченных методов даст качественный скачок выглядит не очень высокой. Хотя текущую ситуацию гибрид может и улучшить.