86 миллиардов нейронов работают без attention. 500 миллионов лет

Каждое утро в нашем заведении начинается одинаково (с)

Это мы про любимый референс ML-инженеров: «Мозг — 86 миллиардов нейронов, 20 ватт. Наша цель — приблизиться.» И дальше 500 страниц про сжатие модели с 405B до 70B параметров. Ребята. Вы сравниваете кирпич с клеткой печени. По весу.

Параметр нейросети — число в ячейке Excel. С претензией. Нет состояния, нет времени, нет химии. Между запросами — мёртв.

Нейрон мозга — живая клетка, внутри которой мини-сеть из 5-10 ветвей, каждая решает независимо. Синапсы устают и восстанавливаются. Обучение управляется кальцием, а не программистом. Вокруг — астроциты, которые регулируют тысячи нейронов сразу.

Один нейрон = тысячи параметров. 86 миллиардов × тысячи = квадриллионы. GPT — это 0.001% мозга.

А «20 ватт»? Мозг тратит на думание ~2W. Остальные 18 — чтобы клетки не сдохли. GPU тратит 300W и 0W на бытие. Разница не в 15 раз — в 150.

Полный разбор с наукой — у нас в телеге: https://t.me/metabolicai/433