Search
Write a publication
Pull to refresh

Comments 7

В нашем мире все создано эволюционно, т.е. мелкими шагами.
Только так можно создать такие сложные вещи как, например, человек.
Аналогично с мышлением: только путём мелких умозаключений можно
создать, например, гениальное открытие.

LLM постепенно осваивают мышление мелкими мыслями.
Даже локальная LLM, если дать пример, начинает делать
логические выводы в несколько шагов и получать новые знания.

Утверждать что LLM что-то не может нельзя, потому что
возможности LLM зависят от контекста на естественном языке,
а его возможности безграничны.

К сожалению - ограниченны. ЛЛМ почти подошли к своему физическому пределу.
1. предел - это энергия. Я уже говорил в разных комментах ранее, что что данное ограничение было "предсказано" еще в начале 2010х годах. Как это проверить? Берутся разные ЛЛМки, по мощностям, лучше всего одну и ту же: не, как пример (параметры взял от балды): на 100, на 100, на 500, на 1000 и т.д. - параметров и производятся замеры. Так , если данные аппроксимировать, появляется закономерность по затратам энергии на единицу мощности, график начинает расти по экспоненте.
2. Неуправляемый рост энтропии при увеличении мощности системы - это уже наблюдается у самых последних разработок ЛЛМ - растет кол-во ошибок (ЛЛМщики их называют - галлюцинациями и т.д.)

И это не самое главное. Основная проблема в том, что энтропия растет не только при увеличении "емкости" системы, она возрастает и при увеличении "генерации" Информации, рождаемой нейронной сетью.

https://habr.com/ru/articles/776080/

https://royalsocietypublishing.org/doi/10.1098/rspa.2014.0540

Подсирать то она точно сможет "душевно" и с "любовью" и даже талантливо , раз такая статистика "красивая"

"ИИ начнёт работать по принципам самой Вселенной" ИИ уже работает по принципам самой вселенной, проблема здесь в понимании слова вселенная - для ИИ это двоичный мир едениц и нулей, исскуственно созданный субъектом, а значит эта вселенная субъективна, в отличии от вселенной которая контактирует с человеком, она объективна. ИИ хоть и может контактировать с объективной вселенной по средствам диффузионных моделей, но это лишь зрительный контакт, имитирующий одно из чувств человека, даже если у ИИ будут все 5 чувств они будут лишь имитацией и информация полученная от них будет перевариваться внутри субъективной вселенной, построенной на цифре.

Ии да. Но AGI изменит всю парадигму :)

Sign up to leave a comment.

Articles