Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 36
Искусственный интеллект на то и искусственный. Ему не нужно существовать, думать и ощущать в реальном времени. Искусственная икра не растет в рыбе, ее создают совершенно иначе, быстро, под 1 цель - съесть. Обычная икра может быть съедена, а может стать продолжением рода, искусственная - нет. В этом и суть, искусственный интеллект существует только в момент вызова, он уже обучен настолько, насколько возможно, он видит мир по фотографиям, знает, что называется красивым, а что горячим. При любой сенсорной аппаратуре он не сможет почувствовать горячее просто и потому, что у него никогда не будет нейронов отвечающих на боль, он ее не ощутит. Ему это и не нужно. Человек тоже не знает что такое смерть, не знает какого это, мы видим, но не пробуем умирать, потому что знаем что плохо. Необязательно чувствовать чтобы знать, что плохо, а что хорошо. Я уверен люди занимающиеся разработкой делают все возможное, чтобы их продукт был лучшим по цене, качеству и себестоимости
То, что ИИ предварительно обучен и его веса заморожены и не позволяют проводить непрерывное обучение как у биологических организмов - это уже как бы очень ощутимый недостаток, причем архитектурный, неустранимый при текущей концепции обучения и построения сетей. Я вижу основу нормальной системы с непрерывным обучением в виде динамической нейросети или динамического графа. Динамический здесь значит - изменение структуры сети в процессе обучения: добавление или удаление нейронов или логических элементов и связей между ними в процессе обучения и функционирования. Сейчас же нейросети имеют фиксированную структуру - меняются только веса. А динамическая сеть добавляет еще степени свободы, используя которые можно потенциально повысить возможности системы. С точки зрения математики надо создать алгоритм эволюции нейросети/графа при наблюдении паттернов для начала из обучающей выборки. Например, когда в обучающей выборке часто повторяет наблюдение трех признаков (есть корреляция между ними), создается новый элемент сети в виде нейрона, который распознает объект, составленный из этих трех признаков. Сначала формировать простые признаки, а на основе их более сложные, повышать уровень абстракции. Сюда еще можно добавить общие закономерности обучения - аналог функции потерь в нейросетях. Например, увеличивать степень обобщения сети через слияние подобных распознавателей и формирования распознавателя более общей концепции. Или для увеличения точности распознавания - наоборот делать расщепление исходного распознавателя на два, чтобы учесть частные случаи. По идее после обучения на исходном наборе данных будет сформирована какая-то структура сети, которая сможет корректироваться и обучаться при функционировании и наблюдении новых данных. Если между знаниями сети и новыми данными есть конфликт, то в сети должен работать фоновый алгоритм, который будет модифицировать сеть и устранять противоречия между знаниями, такой заполнитель пробелов так сказать. Но видимо создание чего-то такого в реальности сталкивается с большими техническими трудностями в плане масштабирования, точности, вычислительных ресурсов. В машинном обучении много людей работают над динамическими нейросетями и динамическими графами, но почему-то реальные решения и продукты делаются на основе нейросетей с фиксированной архитектурой и обученными алгоритмом обратного распространения ошибки на большом массиве данных. Видимо, это сделать гораздо проще технически, чем на основе динамических систем. Может и существуют какие-то интересные прототипы систем с динамической структурой, но они, например, не масштабируются, нестабильны в плане точности, вычислительно неэффективны и так далее.
Аналогия с искусственной икрой - блестящая!
Т.к. нет философского ответа на что такое хорошо и что такое плохо то математическая модель не может быть определена .
Попытка свести её к статистическим извращениям через функции накопленных знаний будет называться целевым манипулированием.
Интеллект — это способность поставить правильный вопрос. Это способность увидеть проблему там, где её не видели.
Тут, понимаешь, философы уже лет двести бьются над вопросом, что есть интеллект, китайские комнаты придумывают всякие, тест Тьюринга сначала придумали, потом сказали, что простоват и усложнили, потом вообще выкинули нафиг, а все оказалось это пустое, интеллект оказывается "способность поставить правильный вопрос". Все, начиная с Платона с Аристотелем и далее там, Локк, Тьюринг, Серл, Чалмерс и Кант- на выход, вопрос закрыт!
Живой интеллект — это поток. Непрерывный, фоновый, работающий даже тогда, когда «никто не спрашивает».
Этот поток у нормального человека выключается в 23-00 и снова включается в 7-00. Получается, нормальный человек- не обладает живым интеллектом? Вот только не надо тут сказки про то, что во сне мозг дескать работает там чего-то. Так-то серваки с ЛЛМками тоже без обработки промптов жрут ЭЭ и че-то там гоняют в памяти, демонов своих каких-то, драйвера и прочую ихнюю кремниевую физиологию, а не просто так стоят без действия. Чем это от сна отличается- решительно непонятно. Ладно, не хочете сон- пусть будут коматозники- у них поток прекращается, медикаментозно прямо прекращается. То есть- прерывистый. они, получается, точно без интеллекта? да?
А теперь посмотри на любую современную LLM. Что она делает, когда ты ей ничего не говоришь? Ничего. Она выключена между вызовами
Также, как и ты, с 23-00 до 7-00. См. абзац выше.
Здесь нет того, что мы называем сознанием. Ведь сознание — это не последовательность слов, а многослойное поле, в котором разные процессы идут параллельно, влияют друг на друга, порождают друг друга
Вы называете сознанием... Еще бы Вы могли бы хоть как-то сформулировать, а что же Вы называете сознанием... проблема только в том, что современных апологетов и противников ИИ Тьюринг по уровню понимания обгонял настолько же, насколько сторонники естественного интеллекта опережают интеллект искусственный.
Современные LLM масштабируются количественно. Хочешь умнее — добавь параметров. Хочешь ещё умнее — добавь ещё параметров. Хочешь совсем умнее — построй кластер на 100 000 GPU. Лично я считаю, что это тупиковый путь.
Ну так и мозги точно также масштабируются количественно! ланцетник-дрозофила-лягушка-мышка-кошка-обезьянка- человекообразная обезьяна- человек- чем количественно масштабнее мозга- тем толще и крепче в ней признаки интеллекта.
Теперь самый скользкий вопрос. Тот, на который все боятся отвечать. Является ли то, что мы строим, сознанием?
Самый скользкий вопрос совсем в другом! он в том, что вообще есть из себя сознание. Вот когда будет понимание того, что оно есть, тогда и можно будет оценивать, строим мы его, или что-то другое.
Если современная LLM — это просто очень большая функция интерполяции, то почему мы упорно называем её «интеллектом»?
Рискну допустить, что мы ее называем интеллектом потому, что интеллект и есть именно что очень большая функция интерполяции! Мыслительную деятельность нематоды уже лет двадцать как смоделировали полностью в численной модели. Вот прямо все ее 104 нейрона со всеми их нейромедиаторами, волнами проводимости и ионным обменом. И ее нервная деятельность оказалась именно большой интерполяцией. В чем разница интерполяции из 104 нейронов и 104 триллионов нейронов с принципиальной точки зрения?
Если сознание — это поток, а не срез, то как его вообще можно смоделировать на системе, которая существует только в момент вызова?
А вот здесь я начал подозревать, что сознание автора как раз и есть поток. Просто поток токенов, в белковой черепушке, но ничем не отличающийся от кремния. срез, поток, если...
Если живой интеллект учится через взаимодействие с миром, а не через пассивное чтение корпуса текстов, то почему мы до сих пор делаем упор на второе?
Это обезьяна учится через взаимодействие с миром. Селедка учится через взаимодействие с миром. Собачка или кошечка. А человек- учится через изучение корпуса текстов, корпус это называется "учебники", "библиотека", "литература" и еще много разных названий, но сути это не меняет. Человек учится через речь, причем, по большей части написанную.
Если мы когда-нибудь действительно создадим искусственный интеллект — что мы с ним будем делать?
Мы будем ему завидовать.
В основном неплохо, но вот это...
человек- учится через изучение корпуса текстов
никуда не годится требует уточнения. Да, ученик учится, накапливает информацию, но знаниями она станет тогда, когда он научится применять ее во взаимодействии с реальным миром. Вышел такой ученик из школы, неважно, средней или высшей – и прямо он такой обученный, ага! Только мало кто доверит ему хоть что-то серьезное "без опыта". А опыт приобретается не в книжках, а на собственных шишках.
Вот и ИИ тоже обучается, но не может понимать смысла получаемой и выдаваемой информации, ибо взаимодействия с реальностью у него нет. Сейчас уже начали осознавать, что доверять ему ответственные задачи неразумно следует очень осторожно.
технически, интеллект есть у ученика еще до того, как он накопил информацию и она стала знаниями. Вопрос-то вроде как обсуждается о том, является ли ИИ интеллектом, али нет, ТС вот утверждает, что нет, ибо у него, у ТСа, есть какое-то свое ему одному понятное определение интеллекта, и вот в его определение ИИ вроде как не укладывается, на том основании, что ИИ типа не умеет в правильно заданные вопросы. Вы вот ввели какую-то новую мутную концепцию- "знания", которые есть не просто информация, а информация такая, какую ученик научился применять во взаимодействии с реальным миром. Ну ок. Теория относительности тогда никак не есть знания, потому что никто никогда вообще даже в теории не может ее применить в своем взаимодействии с реальным миром. Вы вот котлетку можете в мире сьесть, на гвоздик наступить, винишка там хлопнуть можете, а ОТО применить- не можете. И что теперь, на этом основании нужно.... эээээ.... признать у Вас отсутствие интеллекта? ну вы владеете информацией, но применить к миру ее не можете и знаниями она у Вас не является, а значит необходимое условие для признания лично Вас интеллектом не выполнено, так? Ладно, можете ОТО считать знанием. Но ведь она вытащена не из взаимодействия с миром! она получена чисто на основе наблюдений за принципиально недоступными для нас штуками- теория Максвелла, орбита Меркурия, отклонения света за Юпитером.... в общем, все ее основания Эйнштейн видел глазами издалека, никак не прикасаясь руками. что мешает ИИ заниматься таким же?
технически, интеллект есть у ученика еще до того, как он накопил информацию
Ну, скажем так, зачатки интеллекта. Они есть и у обезьяны и даже у некоторых птиц. Интеллект надо развивать путем решения задач и проблем, иначе он так и останется в зачаточном состоянии.
Вы вот ввели какую-то новую мутную концепцию- "знания", которые есть не просто информация, а информация такая, какую ученик научился применять во взаимодействии с реальным миром
Чтобы приобрести знания нужен опыт использования имеющейся информации. Если ученик, как попугай, выдал нужную информацию на уроке, скажем, закон Ома, но не умеет его применить, решив задачу, учитель поставит ему пару и скажет, что знаний у него нет. Так что это не моя выдумка. Без применения информации во взаимодействии с реальным миром знаний быть не может, именно поэтому все ИИ галлюцинируют, по большому счету им нельзя доверять, ведь их обучали на всем, в том числе и на высказываниях полных идиотов.
Теория относительности тогда никак не есть знания
А вот тут вы совершенно правы, это не знания, а информация в ученых трудах и учебниках, знанием она станет для вас, если вы пойдете работать в соответствующую отрасль.ОТО чрезвычайно полезная штука и активно применяется, например в той же GPS в вашем телефоне. Но многие об этом не знают. Тем не менее они имеют знания в других областях человеческой деятельности, вот даже вы знаете, какое винишко можно хлопнуть, а какое не стоит. Опыт!
У учеников не интеллект, а его зачатки. Ок. У Вас тоже какое-то своё определение интеллекта.
ОТО пр меняется в ГПС? Да! Я, в общем-то, в курсе. Но! Это все опосредованные какие-то знания. Вы в книжке прочитали про то, что ото там юзают. Не ручками в лесу об ОТКРЫТИИ постучали, а не мониторчике глазками цифровые буковки об том почитали! Это все еще знания, или только информация? Если информация- то у Вас вообще никаких знаний, кроме печеной картошки, нету. А если ото знания- то ничто не мешает и ИИ эти знания иметь и с миром также взаимодействовать, как и Вы с гпсом взаимодействуете.
"Это обезьяна учится через взаимодействие с миром. Селедка учится через взаимодействие с миром. Собачка или кошечка. А человек- учится через изучение корпуса текстов, корпус это называется "учебники", "библиотека", "литература" и еще много разных названий, но сути это не меняет. Человек учится через речь, причем, по большей части написанную".
В науке существует большое количество базовых понятий, не сводимых к более простым понятиям (“множество”, “точка”, “длина” и т.д. - могу ошибаться в приведенных мною примерах, но это сути не меняет). И эти понятия нам каким-то образом (“интуитивно” - кстати, тоже понятие, которое тяжело объяснить и свести к более простому и понятному) понятны. Возможно, как раз через обширный опыт непосредственного взаимодействия с внешним миром (“практику”). Вам не кажется, что “чтение корпуса текстов” не позволяет/затрудняет сколько-нибудь серьезно выходить ИИ за рамки этого корпуса именно потому, что не позволяет сформировать у ИИ аналога нашего “интуитивного” понимания этих базовых понятий? Или это надуманная проблема? Я бы мог сам себе возразить, что во многих современных теориях некоторые их этих “интуитивных” понятий могут становятся на первый вгляд абсолютно “контринтуитивными” (таже “длина” в теории относительности). Но, во-первых, если глубоко вникнуть в теорию, зачастую, “конринтуитивности” значительно убавляется. А во-вторых, чтобы к этой контринтуитивной гипотезе прийти, надо все равно оттолкнуться от чего-то интуитивно понятного…)
лично мне не кажется, что ограничение доступного количества каналов восприятия в чем-то ограничивает ИИ. Аргументация примерно следующая- у нас, у людей- вообще нет никаких каналов для восприятия космологии. Мы не видим ни линии водорода, ни фоновое микроволновое излучение, ни даже далеких галактик. Мы их воспринимаем исключительно как изображения на мониторе. то есть, как bmp-шки. ну и как таблички в эекселе с цифирьками какими-то. и ничего, как-то же у нас космология существует. Биология наша- тоже существует, несмотря на то, что смотрит она на своей предмет изучения чисто через микроскоп и тоже никак на него по большому счету напрямую мы повлиять и повзаимодействовать не можем. Мы вообще всю нашу высокоинтеллектуальную деятельность строим исключительно на основе показаний приборов. без какого-бы то ни было личного субьективного чувственного опыта. а если я смотрю на показания прибора- то не один ли мне нюанс, смотрю я на них на реальной стрелке осциллографа, или на оцифрованном видосике? а если оцифрованного видосика достаточно- то ИИ его может видеть ничуть не хуже, чем я. А значит, и лимитов каких-то принципиальных по этой части у него нет. Поэтому искренне полагаю, что для развития интеллекта достаточно хотя бы одного канала восприятия информации. И, кстати, слепо-глухо-немые люди меня в этом поддерживают- у них канал восприятия информации тоже один, чисто тактильный, а интеллект у них тем не менее формируется.
А вот рассуждения про "непосредственное взаимодействие" с миром и "посредственное"- не понимаю вообще- Ваш мозг взаимодействует с миром посредством ручек, ножек, вкусовых сосочков и прочего, но в любом разе опосредованно. А интеллект в замкнутом объеме черепной коробки предположительно таки формируется. А раз такое опосредованное взаимодействие с миром канает, то почему не может канать другое опосредованное взаимодействие с миром? не вижу тут ограничений.
Имхо, очень многие люди всю свою жизнь - “труба": их включают утром, их натаскивают на датасет в школе и в институте, их включают в работу на работе. Иногда дообучают на датасетах из ТВ и интернета. Всё.
В остальное время они заняты решением двух базовых задач: пожрать и поразмножаться.
То есть суть естественного интеллекта как раз к тому и сводится, чтобы просто решать текущую задачу в соответствии с пройденным обучением.
В остальное время они заняты решением двух базовых задач: пожрать и поразмножаться.
А, ну то есть вы заметили, что эти две базовые задачи существуют? И что для их решения зачастую даже интеллект не нужен? Вон у инфузории ни мозга, ни нервной системы, однако она прекрасно реагирует на изменения окружающей среды, питается и размножается.
Интеллект в процессе эволюции возник как надстройка над уже существующими биологическими механизмами. Не интеллект придумал, что организму нужно питаться, избегать опасности и размножаться. Эти задачи существовали задолго до появления нервной системы. Интеллект лишь позволил решать их более эффективно.
Внимание, вопрос: если убрать биологическую основу, которая порождает потребности и мотивацию, откуда у интеллекта вообще возьмутся собственные цели? Он может решать поставленные задачи, но почему он должен захотеть поставить себе хоть одну?
"способность поставить правильный вопрос"
Чья способность и что значит "правильный", с чьей точки зрения "правильный, с точки зрения хомо, синтетойда, экипажа 3I/Atlas или вообще гратсов из соседнего пространства?
Вообще забавно конечно. На сколько философский пост.
Не существует чё кого, математического определения ни интеллекту, ни сознанию. Все что описано это субъективные ощущения и факторы которые можно оспорить и опровергнуть, подвергнуть сомнению.
Термин AI все же является более маркетинговым ходом. LLM было, есть и видимо в каком то обозримом будущем будет единственным верным определением.
Я повторюсь в очередной раз и немного перефразирую, или же дополню свои предыдущие мысли. Но интеллект это увы, не линейная функция с определенным набором параметров. Как и сознание и все что определяет нас в личность(чему кстати тоже нет определения) .
Но основное преимущество интеллекта перед любой машиной это иррациональность построенная на интуиции которая в свою очередь базируется на опыте, который в свою очередь базируется на иррациональных решениях)) замкнутый круг)) Многое что нам знакомо сейчас и кажется совершенно логичным, верным и единственно верным ранее могло не существовать и появится по банальной причине. Стечению обстоятельств, случайностей и иррациональностей (особенно что касается научных открытий) . Если вникнуть то там вообще куда не плюнь появилось случайно , надо просто верить принимать как должное )) А на вопрос почему, существует только один ответ, потому ))
И ответа на то, когда может появится AGI нет ни у кого) это возникнет, как баг, ошибка или что то ещё. Но точно ни как достижение или прорыв))
Все правильно. Но всегда найдутся те кто будут доказывать что то что и не заявлялось как ии, а как языковая модель, нейросеть (проще говоря разросшийся скрипт) это ИИ. Для удобства и громких заголовков для инвесторов стали называть ИИ, но и только. Просто новый вид программы, который нарастили за счёт аппаратных мощностей. Изобретает или открывает чтото скрипт, нет, только перебирает варианты, выдает поисковой запрос, не правильный не рабочий, а в силу своей внутренний начинки и заданным параметрам, то что может быть правильным, но может и не оказаться, может быть "галлюцинацией".
Я даже рад что наверное не доживу до момента, когда этот "пузырь" через 1-2 десятка лет схлопнется последствиями, от того что куску бесконечно и бесконтрольно нарощенному скрипту доверят какието глобальные задачи и оно все "сломается", но с точки зрения скрипта "это правильный вариант"
Конечный ответ - 42
Учёные говорят, что есть сложная ДНК, которая развивается миллиарды лет. На основе этой ДНК развивается сложный мозг. В этом сложном мозге развивается интеллект. На его развитие влияют те слои, про которые пишет автор.
Но решительно непонятно, к чему автор эти слои собирается прикручивать? И на основании чего ожидается получить хоть сколько схожий с работой мозга результат?
Есть концепт пока теоретический, в данный момент довожу до ума проект, который по плану станет финансовой базой для реализации интеллекта как самодостаточного "субъекта".
Остановитесь, пока не поздно! Зачем нам настоящий “искуственный интеллект”? Вы Терминатора вообще смотрели??? Пусть остаётся на уровне современный нейронок. Это уже и так довольно опасно, но хотя бы в виде опасного инструмента в руках плохих человеков. Зачем же нам самостоятельный искусственный плохой человек?
Почему же плохой? Точнее, для кого?
Например, человек, живущий в квартире, который решил вдруг потравить тараканов - плохой человек! С точки зрения тараканов, они тут жили задолго до него.
А с его точки зрения плохи тараканы...
Другой вопрос, что тараканам будет неосмотрительно заводить в своей квартире человека...
Вспомнился анекдот. Времена холодной войны. В КГБ приходит изобретатель. И говорит, я мол тут такую штуку изобрёл, всем врагам конец ! Представьте себе коробочку. На ней кнопочки, на которых написано Нью-Йорк, Лондон, Париж и т.п. Нажимаешь на Нью-Йорк - Нью-Йорка нет. На Лондон - Лондона нет. На Париж - Парижа нет. Его похвалили, и вежливо спрашивают, а как же мол это сделать ? На что он отвечает - а это уж пусть инженеры думают !
Ладно, это ирония. Респект за статью. Рад что тут есть люди, которые и о таких вещах задумываются.
Ну так компьютер сам и не смотрит фильмы, и не слушает музыку, которую хранит, и даже ту которую сам создаёт,-всё равно не как не оценивает.
Внесу и я свои 5 копеек, возразив автору, что то, что они там строят - это та же самая труба, только разрезанная по шву и расправленная в лист. А поверх листа укладывают ещё один лист. Потом ещё и ещё. И на этом его аналогия теряет красоту. А ещё он пишет, что их "сознание" непрерывно, что у него, помимо прошлого и настоящего, есть ещё и будущее, поскольку оно умеет что-то там планировать. Вопервых, квазинепрерывность эотго сознания можно заалгоритмиззировать таким образом, что эти плоские трубы будут гонять токены друг между другом, а пищу для этих токенов будут давать, скажем, камеры, которые будут инициировать запрос за запросом, и этот момент уже давно и в "трубах" реализован. А по поводу планирования... А что оно будет планировать? А главное, с какой целью? Определённой алгоритмом непрерывной инициации запросов?
Тут немного мимо. Внутри у нас не просто токены туда-сюда гоняются по триггеру с камеры. Формируется конкретный, плотный сигнал. Текст пока прикручен исключительно по первости, как временный бутстрап для ускорения адаптации. Но как только она научится нормально говорить и воспринимать мир, это будут уже не текстовые токены, а полноценные сигналы. А насчёт планирования так оно нужно не для того, чтобы тупо обслуживать алгоритм непрерывных запросов, а чтобы она была субъектом, а не просто реактивной функцией на входе.
Несколько вопросов для автора:
Что такое система как феномен?
Как определить границы системы?
Нужно ли ИИ ставить задачи самому себе?
Как определить вес события?:
Ты пытаешься загнать в академические определения, но мы говорим о конкретной архитектуре. Система для нас замкнутый контур обработки сигналов, порождающий адаптацию, а не просто набор модулей. Границы этого контура проходят там, где физический сигнал оцифровывается сенсорным слоем и где внутреннее решение снова становится воздействием на среду. Внутри этих границ ИИ обязан уметь ставить задачи сам себе, иначе это просто реактивная функция на внешний триггер, а не субъект. Вес события при этом определяется не объёмом данных, а мерой его влияния на внутреннее состояние новизной сигнала и его релевантностью текущим целям. Высокий вес заставляет систему пересобирать контекст, низкий уходит в фон. Так что мы проектируем это так, чтобы она сама решала, когда и зачем ей реагировать, а не просто гонять токены по чужой команде.
Любой объект, явление - система! Жёсткая, со строгими правилами организации внутренних и внешних связей (потоков, взаимодействий и ТД.) . Статистическое процеживание в трубе (мы это знаем и умеем) не отменяет необходимость знание правил системы, умения построения критериев оценки информации, и и.д. Сейчас судя по всему нам светлее под фонарем.
>А теперь посмотри на любую современную LLM...
Вы про LLM пишете или про ИИ? Чем вам языковая модель не угодила? Тем, что написала за вас статью, и это видит каждый читатель?
Я правильно понимаю, что языковая модель, запрограммированную последовательно генерировать слова, вы обвиняете в том, что она последовательно генерирует слова?
>Ведь сознание — это не последовательность слов, а многослойное поле, в котором разные процессы идут параллельно, влияют друг на друга, порождают друг друга.
Вы описали работу SNN - синаптической нейросети.
>Современные LLM масштабируются количественно. Хочешь умнее — добавь параметров...
Современные LLM масштабируются как угодно. И в ширь и в глубь. И даже архитектурно... И когда вы задаёте риторический вопрос - что же мы строим, у меня стойкое впечатление, что к этому "мы" вы не имеете никакого отношения.
Вы, сударь, так легко подменяете систему концепцией и наоборот, что становится видно, что уроки философии вы в школе прогуливали.
Так о чём же статья?
Привет)
Я уже девять месяцев обкатываю похожую систему, могу предложить вам почитать дневник разработки, возможно он будет вам полезен, а если нет, можете просто почитать как я набиваю шишки)
Кода нет и не будет, но есть идеи и наблюдения.
https://github.com/mikedeblin/lena/
Отличный проект очень интересные решения из обвязки, у нас был подобный прототип первоначально, но мне крайне не нравилось решение с неким dmn_loop, пожтому сильно углубились в проектирование ядра, но пока упёрлись в необходимость специфического оборудования, так что пока на паузе. А статью я давно написал, пока занимаюсь другим проектом чтобы было чем инвестировать.
Интересно, Вас трансформер натолкнул пойти ему архитектуру менять?
Всё конечно звучит как гипотезы, которые нужно проверить. Но вы опять посадите всё на гпу, цпу, рам и диск. И супер скоростей и чудес там не случится. Окажется потом чтобы провернуть через компьютер мысль, нужно 15квт блок питания
Супер чудес и не ожидаем, но фактически субъекту не нужно много должно быть по итогу, такая штука должна уметь масштабироваться и благодаря арзитектуре ядра не требует тэррабайтов VRAM, а так да всё те же gpu cpu но просто поскольку это веса то тут уже интересная интеграция на квантовых компьютерах может получиться, там где мы получаем эффект с помощью алгоритвом на квантовом комптютере уже нативно, то есть ещё меньге ресурсов нужно, но тут ещё думать и думать как говорится.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Труба, обёрнутая в трубу или почему современные ИИ это иллюзия, и какой путь мы выбрали вместо них