Комментарии 15
Уважаемый, у нас в тренде вайб-кодинг и сопли про выгорание. Ваша статья чертовски сложная про какие-то там архитектуры чипов. Ещё и ссылки на источники приведены! Вы из этих «правильных» не правильных что ли? А ну прекратите не медленно!
(Выше была шутка. Статью читал с удовольствием.)
А рамках этой статьи хабр ещё торт
Так эта статья как раз про вайб-кодинг. Про железо которое обеспечивает возможность оного.
Как вы лихо-то извернули! А я тоже лихо изверну. Вот положим, выходит статья про новые методы лечения в психиатрии. Допустим, эти методы будут сверхуниверсальные и дают новые возможности в диагностике и лечении болезней. Этот метод безусловно всем будет необходим. Им будут пользоваться врачи. С помощью этого метода будут эффективно лечить людей с разными диагнозами, к примеру, кратно увеличится эффективность коррекционных методов в лечении олигофрении, хотя и не излечая полностью. Или кратно увеличит эффективность лечения других расстройств. Вот эта статья будет про что? Про описание возможностей метода, про психиатров, про спектр заболеваний или только лишь про олигофрению?
Вот только это перевод. Что, впрочем, не отменяет удовольствия от хорошего материала и ссылок в конце
А для простых смертных, выразить в виде "архитектура гугля при обучении моделей эффективней решений Nvidia на 1 затраченный kW в N раз" как-то можно, или об этом остаётся только догадываться?
Статью ещё полностью (вдумчиво) не читал, но при наблюдении топологий, в голове всплывают транспьютеры и прочее параллельное времён конца 1980-х.
(Автору спасибо, хабр - торт).
В моё время TPU - это был Turbo Pascal Unit.
Спасибо за статью, очень познавательно. Жаль, что это всё- внутренняя кухня и простым смертным недоступна.
Интересно, когда-нибудь TPU можно будет купить простым смертным за доступную цену?
Сейчас NPU встраивают в последние поколения процессоров. Функционально должно быть похоже на TPU.
А чем тензорные ядра видеокарт не годятся? Конечно, они не так эффективны, но тоже хорошо задачи решают. TPU на текущий момент слишком промышленная штука имхо.
Хотя, если/когда вся работа с компом на 90+ процентов уйдёт в нейросети, вплоть до того, что даже интерфейс будет рисовать сетка и никто вообще кодить не будет, то да — такие штуки будут лежать в основе железа. Ну или какие‑нибудь нейроморфные аналоговые оптические чипы.
У каждого своя мера испорченности, критерий доступности :)
Вообще, для подобных Gareware Programmable ASIC вижу, что необходимо не только вылить в кремнии - но построить экосистему, придумать для каких целей использовать
Пока есть все на уровне эмуляциик к примеру https://github.com/UCSBarchlab/OpenTPU
Осталось придумать для этого задачу, и понять зачем текущие ограничения не подходят.
Так вот пока неясна судя проекта eFabless, который реализовал opensourse toolchain для разных выпускаемых Gareware Programmable ASIC
https://efabless.com/notice исходя обсуждений https://semiwiki.com/forum/threads/efabless-just-shut-down.22217/
Хотя особо не вникал в подробности в eFabless, но строя сетевую инфраструктуру для этого Fog Cloud , периодически в кулурах можно услышать вздохи по eFabless, и где еще отыскать альтернативы ему для модели дистрибуции по wholesale
Вообще, для подобных Gareware Programmable ASIC вижу, что необходимо не только вылить в кремнии - но построить экосистему, придумать для каких целей использовать
Например для локальных LLM. В соседних постах пытаются запускать DeepSeek на локальных компах, и работает это все сейчас довольно медленно.
Что же такое TPU