Комментарии 14
Эээ...
Я бы почитал?
Опять кто-то Хабр с твиттером перепутал
Прочитал ... это не столько статья о том, что нынешний ИИ тупиковый, сколько аргумент в пользу гибридного будущего, типа всю мощь современных LLM сохранят, но постепенно дополнят долговременной памятью, непрерывным обучением, более сложной архитектурой и механизмами социальной безопасности. Думаю так и будет
а где статья?
в самом начале новости указал ссылку, на всякий случай дублирую: https://neuronovosti.ru/anokhin-pu/
Коллеги, вот какие моменты для себя отметил в статье:
1) Про синхронизацию: В искусственных сетях синхронизация отсутствует — обучение там идет через подстройку весов, исходя из средней скорости их обновления.... В живой нервной системе обработка сигналов на уровне отдельных импульсов (спайков) крайне эффективна, а сама информация не объединяется в общие массивы (не агрегируется). Создавать алгоритмы для импульсных нейросетей (Spiking Neural Networks), которыми сейчас активно занимаются исследователи, гораздо сложнее...
2) про алгоритмы: люди будут вынуждены задуматься о более совершенных алгоритмах и более эффективной архитектуре. Архитектура современных больших языковых моделей слишком проста: даже если взять Трансформер, в нем все равно используется базовая однородная структура связей, преимущественно с прямым распространением сигнала (feed-forward). При этом не учитывается разнообразие нейронов...
И правда, моделей то нейронов и правда много - вот пример репозитория, который развиваю https://github.com/D2718281828nis/Neuro-Neuron_Models
3) про ИИ и карьеру ученого: нынешним студентам неизбежно придется столкнуться с этой проблемой. Альтернативы нет — они окажутся в эпицентре этих вызовов. Именно по этой причине я инициировал проект AnyMind....
В оригинала интервью этот проект упоминается как AnyMind. На просторах интернета удалось найти ссылку на него (в прямую он просто не гуглится): https://anyminds.org
я думаю они несколько предвзяты , например синхронизация вполне реализуется в ряде моделей. См например . https://pubmed.ncbi.nlm.nih.gov/15497433/ or https://onlinelibrary.wiley.com/doi/10.1901/jeab.1999.71-257 or https://pubmed.ncbi.nlm.nih.gov/17725055/ or https://pubmed.ncbi.nlm.nih.gov/12729977/ ///
P.S.всем кто невнимателен перевод статьи тут https://neuronovosti.ru/anokhin-pu/
Статья хорошая. Зацепило что в ИИ все на весах, а в мозге на импульсах. Из-за этого SNN делать сложно, но они интересны по ресурсам. И да, архитектура у LLM сейчас слишком простая и одинаковая. В биологии все сильно разнообразнее
Найс новость состоящая из заголовка и ссылки на другой сайт))0
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Опубликована беседа Константина Анохина с Му‑мин Пу о сознании и ИИ