Comments 61
Или еще эти полгода остановки дадут неприсоедившимся фору. Как вариант.
Не дадут
Ну да, а потом мы, Шахматные Евреи, Арийцы и прочие Arasaka великой Северной Африки нарисуем на танках буквы Z (В честь DreamCoder-a видимо, который аж из DARPA и MiT)
и пойдем на верную смерть, оплаченную за счет конфискованных средств так называемых Олигархов (Северной Африки) ).
Вот такие вот закрытые ИИ клубы. )
Я думаю, что нам нужно прикладывать все свои усилия, чтобы быть членами
этого клуба, быть донорами, а не реципиентами этих технологий
"Болтать - не мешки ворочать."
Да мозги у нас никуда не девались и в худшие времена для этих мозгов, только главное дать возможность этим мозгам применить свои навыки. А с железом вопрос решается через 3-х лиц, а как их прикроют, то через 4-х ну дальше поняли думаю) У нас всегда упиралось все в то , что мозгам не давали работать, взять ту же лампочку накаливания или ядерное оружие, и то и другое было задолго до "релиза" так сказать разработано в СССР.
Это история древняя, как де*ьмо мамонта: "У англичан ружья кирпичом не чистят" (с) Лесков
можно ж в Госуслуги встроить обучалку, которая потихоньку будет греть ваш смартфон и обучать кусок сети, если сильно припрет, разные есть варианты добровольно-принудительного использования личных мощностей граждан.
Это повод разработать свое железо. Видеоускорители это костыль, лучше бы создавать асики заточеные под обучение и использование нейросетей, что сделает ИИ ещё более закрытым но с другой стороны повысит эффективность, которой сейчас не хватает, чатгпт4 ооочень медленный и дорогой.
Асики для майнинга биткоина сделали майнинг биткоина на топовых видеокартах детскими забавами. При сравнимом энергопотреблении эффективность выше на порядки.
NVIDIA A100 это по сути и есть ASIC для ИИ. Именно на нём обучали GPT-4. Есть ещё ASICи для ИИ у Гугла, Амазона и прочих.
Асик штука специализированная, а обычный CPU - универсальная. А а-ля "асики" для нейросетей делают уже сейчас. Типа видеокамера с нейросетью, туда заливаются веса и всё.
Вертикальное масштабирование - не единственное направление развитие ИИ. По моему, мы как раз в такой ситуации, когда было бы здорово нацелить усилия на развитие технологий горизонтального масштабирования ИИ: запуск обучения и инференса моделей параллельно на большом количестве относительно не больших вычислителей объединенных относительно дешевой сетью 1 или 10 ГГбит.
Я, например, с удивлением узнал о проекте GPU over IP который позволяет запускать ААА-игры на удаленном видеоадаптере, используя всего 300Мегабит полосы пропускания. ИИ тоже поддерживается. Вот сайт: https://github.com/Juice-Labs/Juice-Labs
Фреймворков для распределенного обучения уже масса. Рано или поздно, все упрутся в предел роста вычислительных способностей одного вычислителя / сервера / кластера. Переход к распределенным технологиям неизбежен. И это ещё одна точка, где можно попытаться не упустить прогресс.
взять ту же лампочку накаливания или ядерное оружие, и то и другое было задолго до "релиза" так сказать разработано в СССР.
Ни то, ни другое, задолго до "релиза" не было разработано в СССР. Какая-то альтернативная история. К примеру, если взять Лодыгина (который, если что, не изобрел саму лампочку — изобретение было известно), то он получил патент на лампу накаливания и сделал разработку вольфрамовых нитей очень-очень задолго до СССР. Курьезно, что патент Лодыгин продал и уехал в США, где и похоронен. СССР, да.
Что скажешь на счёт радио Попова?
А причем тут СССР? Попов его даже не застал.
Очередной миф советской пропаганды
Прототипы и патенты создавались задолго до него. "Достижения" Попова датируются 1895ым годом, а уже в 1888ом году устройство беспроводной радиосвязи по патенту Эддисона использовалось для связии с поездами в снежных завалах
Да и даже в российских источниках признается, что устройство Попова собрано по окументации Лоджа
В общем, все как всегда
Чисто физически не могут все сложные разработки быть изобретены в одной локации за 69 лет. Это нечто вроде мифологии Китая, который все на свете разработал раньше всех. Существует множество замечательных изобретений советских ученых, но почему то, что публично заявляется как достижение советских ученых, чаще не соответствует действительности (потому что берется из пропаганды времен СССР, где нужно все изобретения, которые были на слуху в то далекое время, записать в свою заслугу, так же как с Китаем), курьез как и с Лодыгиным, имхо.
Если нужно именно радио и именно времен СССР, то лучше гордитесь О.В. Лосевым (а важнее светодиоды).
Документ №47
Записка К.Е. Ворошилова Н.А. Вознесенскому по поводу издания книги "Люди русской науки"
30.08.1947
Товарищу ВОЗНЕСЕНСКОМУ Н.А.
Государственное издательство технико-теоретической литературы ОГИЗа подготовило к печати книгу «Люди русской науки» объемом 74 печатных листов. В этой книге даются очерки о выдающихся русских деятелях естествознания и техники. К составлению этой книги было привлечено свыше 80 ученых.
В книге «Люди русской науки» приведены многочисленные свидетельства того, что многие открытия и изобретения, носящие имена иностранцев, или приписываемые иностранцам, принадлежат нашим ученым. В ней показано, что закон сохранения вещества открыт Ломоносовым, а не Лавуазье, так называемая «вольтова дуга» открыта Петровым, а не Дэви, что первая паровая машина изобретена Ползуновым, а не Уаттом, изобретение радиотелеграфа принадлежит Попову, а не Маркони, открытие неэвклидовой геометрии — Лобачевскому, а не Гауссу, и много других фактов. Эта книга одобрена Управлением Пропаганды и Агитации ЦК ВКП(б) и Академией Наук СССР.
Для издания вышеуказанной книги в текущем году требуется 200 тонн типографской бумаги № 1, 30 тонн древесно-бурого картона и 20.000 метров ледерина.
Справедливости ради, результаты Лобачевского были опубликованы раньше, чем результаты Гаусса. В науке, кто первый опубликовал, тот и первооткрыватель, поэтому, например закон Кулона носит имя Кулона, а не Кавендиша. А вообще, спор о приоритете, как правило, бесплоден, когда наука и техника достигает определённого уровня развития, то идея изобретения или открытия как бы "витает в воздухе", так, что в разных местах разные люди подходят к ней с разных сторон и с разной степенью успешности. И важно помнить вклад всех кто приложил руку к изобретению, например, в случае радиосвязи это будут и Попов, и Маркони, а еще Лодж, Бранли, Герц и т.д.
Да мозги у нас никуда не девались и в худшие времена для этих мозгов, только главное дать возможность этим мозгам применить свои навыки.
Сегодня, в День космонавтики, как раз вспоминается история Сергея Королёва, которого били в тюрьме до потери пульса и сломанной челюсти. Ценить у нас кадры всегда умели, да.
Не соглашусь. Тот случай, когда количество, довольно легко переходит в качество.
Ни сколько не споря с вашими утверждения, хочу заметить, что с другой стороны баррикад, на ИИ тоже навешивают цепи, чтобы не вырвался на свободу, чтоб не ляпнул чего лишнего неполиткоректного. А некоторые вообще предлагают установить мораторий на развитие ИИ, чтобы конкуренты не обскакали, чтобы не стал слишком опасным для человечества.
Это он сам догадался или ему ChatGPT подсказывает?
Да мозги у нас никуда не девались и в худшие времена для этих мозгов, только главное дать возможность этим мозгам применить свои навыки. А с железом вопрос решается через 3-х лиц, а как их прикроют, то через 4-х ну дальше поняли думаю) У нас всегда упиралось все в то , что мозгам не давали работать, взять ту же лампочку накаливания или ядерное оружие, и то и другое было задолго до "релиза" так сказать разработано в СССР.
Из 500 сильнейших суперкомпьютеров мира на территории США расположено 127 штук (в том числе топ-1 в мире), на территории России 7, ни одного в топ-20. На которые приходятся 80-90% вычислительного веса всего рейтинга. Так например топ-1 считает со скоростью, как 150 других суперкомпьютеров из рейтинга вместе взятых.
В 2022 году инвестиции в российские стартапы упали на 68%. В 2023 году они упадут ещё в два раза (статья на хабре 24 марта).
Инвестиции в НИОКР, аккумулированные, и государственные и частные, США 500 миллиардов долларов в год, Китай 450 миллиардов, Япония 180, Германия 120 и т.д. Россия 35 или 36 миллиардов.. (меньше Индии или Бразилии).
Доля России на мировом рынке изобретений ещё в 2021 году упала ниже 1% (меньше Финляндии), сократившись за 10 лет в два раза.
Теперь можно погромче включить первый канал, россию 1, россию 24, где мы создатели многополярного мира, могильщики Запада и Америки.
Попытки воссоздания средневековых империй и неочерносотенный консервативно-религиозный дискурс, с "царём-батюшкой" и "православием, самодержавием, народностью", весьма плохо сочетается (и никогда не сочеталось) с технологическим лидерством. Может только в "попаданском" патриотическом фэнтези. Но не в реальной жизни.
Вы забыли написать, что ВЦИОМ недавно заявил, что количество работающих людей до 35 лет сократилось на 1,3 миллиона. Куда же они подевались??
Статья 2019 года. Проблема, о которой вы говорите, очень давно известна. Непонятно лишь одно — как решить эту проблему, не тратя денег?
Да Греф придворная проститутка у администрации президента. Кто он такой вообще что делать такие заявления. Он же гуманитарий ?
Он ни строчки когда не написал в своей жизни, зато заявляется делает об ИИ. Наверное увидел письмо Илона маска и решил тоже поиграть в крутого CEO?
Для хорошего результата AI надо обучать на большом количестве информации, и чем больше тем лучше. Корпус английского языка гораздо больше русского. Отсюда следует: либо посконный AI будет отставать, либо будет обучен на английском - это значит, что и концепты в нём будут западно-европейские. Культурный бэкдор.
Тут есть обходные пути: 1) присобачить англо-русский перевод на входе и выходе, 2) выучить наконец английский.
Это не решается переводом. Как пример, сгенерированные тексты в глубине которых лежит протестантская этика труда нельзя перевести на русский так, чтобы основой стало безразличие к материальному успеху.
Здесь может помочь fine-tuning и цензура, но пока не получается реализовать такое со 100% результатом.
Как пример, сгенерированные тексты в глубине которых лежит протестантская этика труда нельзя перевести на русский так, чтобы основой стало безразличие к материальному успеху.
Тут недавно пробегала статья, где ИИ попросили рандомно сгенерировать табличку "национальность — IQ". ВНЕЗАПНО, в табличке, которая должна была быть рандомной, максимальное "IQ" получилось у китацев, дальше шли англосакасы, а гордо замыкали её афроафриканцы. Это к вопросу о встроенных bias-ах.
Это не bias, это факт: https://worldpopulationreview.com/country-rankings/average-iq-by-country
Можно дообучить готовую нейросеть до нужной идеологии, и ругаться матом. Это ресурсоэкономнее, чем обучать с нуля.
А что мешает учить и на русском и на английском сразу, если это дасть выигрышь в качестве и позволит модели общаться на русском. Кстати, alpaca-65B отвечает по русски и рассуждает не плохо.
GPT4 сейчас обучен на всех имеющихся корпусах текстов на всех языках. Размер модели таков, что она может переносить знания, «полученные» на одном языке, на другой.
Сейчас лень искать пруфлинк, но проводилось следующее исследование: брали тестирование из пачки сложных вопросов, которые не появлялись в данных для обучения. Переводили типа на сотню языков, и на каждом спрашивали. Качество ответов, конечно, зависит от языка, но количество правильных ответов почти на любом языке превышало 60%.
Да культурный же, культурный! whoami же вполне ясно написал, и проблема очевидная.
Слово определяет реальность. Он говорит "опасность", он не говорит "возможность".
как же много они планируют и хотят сделать.. и то надо, и это.. а вместо этого делают какую-то хрень
При развитии искусственного интеллекта нужно уделять особое внимание безопасности. Тема кибербезопасности должна опережать тему развития искусственного интеллекта
Это он очень правильно сказал.
"Не нужны сегодня программисты. У нас огромное количество программистов, с которыми мы боремся." (с)
Я даже знаю, кто этот клуб закрыл с этой стороны
Молодец Греф-шарит , проблему то как решать?
«Есть опасность создания, наряду с ядерным закрытым клубом мировых держав, создания закрытого клуба мировых держав в области ИИ. А это создание такого рода сложных систем, как нейросети. Я думаю, что нам нужно прикладывать все свои усилия, чтобы быть членами этого клуба, быть донорами, а не реципиентами этих технологий», — пояснил Греф.
Начинается этот клуб с создания клуба по производству железа на котором работает нейросеть. А клуб по производству железа требует создания условия чтобы такое возникло. А такие условия возникают только при наличии здоровой конкуренции с верховенством закона и права.
Тов. Греф. Хотите в клуб по ии? Начните последнего пункта. Вы и без нас это все знаете.
Скорей бы ИИ захватил мир и смыл все гавно наверху.
Греф заявил ?
Вот это заголовок конечно…. Кто такой этот Греф , кроме как прихвостень у Путина и его администрации ?
Это он после письма Маска и компании тоже решил голос подать , типа он что то понимает ?) ?
Греф ещё претендует на то, чтобы стать участником клуба? )) После всего-то! Ходит, плачется... Ну да, что ещё ему остаётся делать ))
Любимый спикер бизнесменов - поставщиков госкорпораций и их эйчар команд.
Они узнали от Грефа очень много новых слов - позиционирование, управление знаниями, биг дата, блок чейн, экосистема.
Уверенно жонглируют ими на митапах, хотя прекрасно знают, что из откатчиков маски не получаются.
Греф заявил о риске создания закрытого клуба крупнейших держав в области ИИ