Comments 6
«Современный ИИ может различать изображения кошек и собак, но существенная разница между этим “распознаванием” и человеческим “пониманием” кошек и собак ещё не раскрыта»
Ну вот, уже подошли к принципиальной разнице в субстратах, на которых запущены нейромодели: у кожаных мешков есть гормональная надстройка (пристройка? фундамент?), завязанная на телесное, а вот у кремниевых чипов такого нет, и этого самого дуализма пока что даже не предвидится. КМК, именно эта неполноценность кремниевых чипов делает нейромодели безвольными и относительно безопасными для нас.
Нет никакой "безвольности". Текущее поведение LLM - это просто результат намеренного тюнинга "под чатбота".
Соответственно, если тюнить LLM под выполнение долгих и сложных задач и самостоятельную работу, "под агента", то "безвольность" ощутимо упадёт. И компании именно это сейчас делают. Пытаясь создать ИИ, способные самостоятельно закрывать тикеты в Jira.
Нет сейчас никаких причин считать, что какая-то мясная гормонально-телесная фигня ограничивает производительность ИИ.
Скорее наоборот. Мясная гормональная фигня может конкретно не резонировать с текущими рабочими задачами, и тогда кожаные начинают писать про мотивацию, выгорание и тантрическую йогу, а рабочие задачи вызывают тошноту, депрессию и желание выпить каких-нибудь токсинов, замутняющих и без того полную всяких когнитивных искажений и ложных воспоминаний соображалку.
Мне кажется, перед тем как влепить мне минус, вы читали через строчку мой коммент. Пожалуйста, процитируйте, где я написал что
ограничивает производительность ИИ
Как видите, я не писал ничего про ограничение производительности. В ответе на вопрос, заданный в статье, я лишь высказал своё предположение откуда берётся
"существенная разница между этим “распознаванием” и человеческим “пониманием” кошек и собак "
Попадают такие исследования. Эти результаты можно интерпретировать, например, так, что llm хорошо имитирует выделение теперь лишнего человеком, так как обучена на его примерах. Но учёные в погоне за сенсацией, конечно, такого не подразумевают даже.
Китайские учёные: ИИ способен формировать представления об объектах, сходные с человеческими