Comments 8
Да-да, виноват элемент с открытым исходным кодом, поэтому нужно всё закрыть.
Авообще надеюсь, что у людей глаза откроются на подобную централизацию вещей, которые таковыми быть не должны по определению.
Интересно, а как вы предлагаете подобные вещи делать без централизации? Децентрализованные ИИ, если и возможны, то пока на грани фантастики.
Децентрализованные ИИ, если и возможны, то пока на грани фантастики.
Есть проект:
https://github.com/bigscience-workshop/petals
Судя по описанию, идея - запускать модель BLOOM распределённо на машинах добровольцев, которые подключают свои GPU в пул
Крутая штука. Но судя по описанию оно скорее просто распределённое, чем децентрализованное. Т.е. оно решает не ту проблему, о которой говорит @0x22almostEvil
Я скорее о том, что модель закрыта и доступ к ней возможен только через OpenAI. Про BLOOM/BLOOMZ в курсе, проект интересный, особенно эдакая bit-torrent реализация через petals, но лицензия RAIL напрягает, очень уж в ней пункты есть специфичные. Есть альтернатива в виде Open Assistant (в разработке, сам участвую по мере свободного времени и возможностей), в процессе написания здесь статьи о ней.
Возможно, что я не так выразился. Имел в виду скорее открытость. Под децентрализацией имел в виду, что возможность (с точки зрения открытости исходного кода) запускать на собственном железе (необязательно потребительском) должна быть у каждого, а не только в одном центральном ресурсе. Конечно, если вы позиционируете себя в качестве "OpenAI" — не Closed ведь назвались — от Google вот закрытость лично у меня не вызывает столь бурной реакции. А так резко сменили курс, нехорошо получается. А касательно невозможности — уже есть LLaMa.cpp* (возможен запуск на телефоне 7B и 13B с q = 4), Alpaca.cpp (то же самое), Bloom/BloomZ (реализована децентрализация в прямом смысле через Petals), BloomZ.cpp (те же самые возможности, что и у LLaMa.cpp*/Alpaca.cpp) YaLM (в теории запуск возможен, но в силу архитектуры модели не очень оптимален... Один энтузиаст даже статью об этом успел выкатить).
P.S. На всякий:
* Meta — запрещённая на территории РФ организация.
Видимо код сервиса вокруг GPT-4 она же сама и писала
20 марта OpenAI приостановила работу ChatGPT на 4 часа из-за утечки части диалогов пользователей