Сегодня интеллект модели ИИ оценивается по качеству ее генерациий, а не по качеству ее мыслей.
Другими словами, мы заставляем модель сказать что-то и оцениваем, является ли это «что-то», например, сгенерированный текст, «разумным», вместо того, чтобы оценивать, откуда «взялось» это поколение интеллекта.
Ключевым моментом является наличие высококачественных внутренних представлений о мире (модель мира). Таким образом, мы должны оценивать интеллект мыслей, которые ведут к тем генкрациям (в то время как модель, выводящая интеллектуальный текст, может сигнализировать о том, что она интеллектуальна, она также может сигнализировать о том, что модель запомнила этот вывод).
Сегодня интеллект модели ИИ оценивается по качеству ее генерациий, а не по качеству ее мыслей.
Другими словами, мы заставляем модель сказать что-то и оцениваем, является ли это «что-то», например, сгенерированный текст, «разумным», вместо того, чтобы оценивать, откуда «взялось» это поколение интеллекта.
Ключевым моментом является наличие высококачественных внутренних представлений о мире (модель мира). Таким образом, мы должны оценивать интеллект мыслей, которые ведут к тем генкрациям (в то время как модель, выводящая интеллектуальный текст, может сигнализировать о том, что она интеллектуальна, она также может сигнализировать о том, что модель запомнила этот вывод).