Комментарии 194
К сожалению, нейросетки сейчас тренируются далеко не на создание новых штук.
А они вообще в принципе могу тренироваться на что-то новое, что отсутствует в датасете?
"Тренироваться" в практическом смысле этого слова - наверное, нет. Тут, кажется, возникает следующий вопрос: достаточно ли нам текущих популярных методов "тренировки" для того, чтобы получить нечто, что мы можем назвать гордым словом Искусственный Интеллект. Или нужно что-то большее?
(Кажется, тут нужен настоящий специалист по ИИ, а не недоучка с полыхающим пайторчем. Если на Хабре есть таковой, не поленись, напиши свое мнение!)
что мы можем назвать гордым словом Искусственный Интеллект ...
Это вы про генеративные модели, что ли? Так это к интеллекту не имеет никакого отношения, так как у них детерминированный алгоритм выполнения.
Насколько мне известно, недетерминированность алгоритмов выполнения естественного интеллекта тоже никем строго не доказана. Из простого отсутствия возможности предсказания его дальнейших действий недетерминированность не следует.
Насколько мне известно, недетерминированность алгоритмов выполнения естественного интеллекта тоже никем строго не доказана.
Вот только следует начинать с определения самого термина "интеллект"
Посмотри на том же ютюбе гайды фокусников - путём определенных фраз, жестов и действий они могут заставить человека загадать заранее известное число. Причём, независимо от поля, религии, возраста - они всегда выдают одно и то же число, эти не детерминированность интеллекта? Любые случае вещи, приходящие в мозг человека связанны с происходящими событиями с ним.
seed как бы используется. а выбирается он случайно.
ИИ делают не для гордости, а для денег в широком смысле. Будет делать за 10 баксов то, что вы делаете за 100 (вряд ли вы изобретаете новую физику). Продадут вашему работодателю за 20, что бы он мог вас уволить.
Пока рано, но через год, возможно
А потом, моему работодателю придется давать мне 100 просто так, чтобы я мог купить, то, что раньше покупал на зарплату.
Нет, давать придется не работодателю, а государству, и не 100, а прожиточный минимум, чтобы на базовые продукты хватало. Сохранение высокого уровня потребления при потери востребованности никто никому никогда не гарантировал.
А вот как остаться востребованным при научно-технической революции - это отдельный сложный и интересный вопрос.
Сохранение высокого уровня потребления при потери востребованности никто никому никогда не гарантировал.
Вот только вместе с этим лесом идет и высокий уровень производства (ибо а нафига, если никто не может купить?), из-за чего работодатель не заменяет человека за 100 нейронкой за 20, а просто закрывается по банкротству т.к его товары никому не нужны и он не получает прибыли, о чем вам комментатор выше и намекал.
Да, я вижу эту проблему.
Но если просто поднять налоги и раздать всем высокие пособия - это тоже сомнительный путь. В результате у людей просто не будет стимула к чему-то стремиться и развиваться и постепенно можем получить деградацию населения.
И решения этой дилеммы лично я не вижу, особенно с учетом того, что процесс перехода будет растянут во времени и не однороден в разных странах, так что если зажимать бизнес в одном месте, он просто может сменить юрисдикцию.
Вы не дооцениваете людей. Да люди в сути своей довольно ленивы, но если смотреть шире, то возможно для вас будет открытием, что всë что окружает вас придумали люди не для того что бы срубить бабла, а в большинстве одержимые своим делом. Да таких не много, но именно они и двигают прогресс, своей неуëмной жаждой познания, стремлению к новому и т. д. А остальные, ленивые и т. д. и сейчас по сути балласт который и могут заменить роботы...
Ниши рантье и фермера-собственника роботы не смогут заменить просто по природе института собственности. Для остальных людей придётся выдумывать новые bullshit jobs, чтобы они не ели людей прямо на улице от безделья. Или дождаться, пока численность населения не сколлапсирует до размеров, которые новая экономика способна прокормить. Хотя если страна по итогам инноваций может прокормить меньше людей, это означает понижение её ранга в мировом порядке, а не повышение: элементарно уменьшается налогооблагаемая база и численность лояльных людей, которые можно поставить под ружьё и удерживать территорию.
Если технические инновации не приводят к улучшению жизни людей без потерь, прогрессом это очень сложно назвать. Если, скажем, в медицине изобретут способ продлевать жизнь за счёт пожирания трупов свежеубитых людей - это будет откат обратно к каннибализму и уничтожение тонкой и долго настраиваемой системы противовесов у общества, где действовало табу на людоедство.
Но если просто поднять налоги и раздать всем высокие пособия - это тоже сомнительный путь. В результате у людей просто не будет стимула к чему-то стремиться и развиваться и постепенно можем получить деградацию населения.
Вы не могли бы чуть развернуть свою мысль? Именно работа 8 на 5 дает стимул развиваться?
Все ли пенсионеры деградируют выйдя на пособие от государства?
Сюда же, кстати, полицейские, судьи, пожарники и те, у кого есть ранний выход на пенсию
Стимул развиваться дает желание иметь хороший уровень жизни, если он будет по умолчанию обеспечен всем, то многие не станут развивать свой потенциал. Зачем напрягаться, если нет в этом нужды?
Как пример я бы привел не пенсионеров - они свое уже отработали, а гетто на пособии в США, где есть целая не малая прослойка общества которая никогда не работала и не собирается, причем некоторые уже не в первом поколении.
Кажется, что в какой-то мере эту проблему можно решить правильным воспитанием. Если с детства всем обществом в человека закладывается, что "хороший уровень жизни" --- это самоцель, то на выходе и получается весь спектр общества потребления с гетто (с бесконечным кпд --- минимально терпимые условия при нуле затрат сил), "офисным болотом", коррупцией, деградацией элит и т.д.
Если же пытаться вкладывать в головы детям (и искренне поддерживать эту идею в обществе) , что только созидание достойно человека (что не отрицает хорошего уровня жизни самих созидателей и, в идеале, улучшает уровень жизни окружающих), что каждый достойный человек должен оставить после себя что-то хорошее. И не только своим конкретно детям, но и всей стране, и всему человечеству. То тогда, вероятно, больше будет людей желающих и стремящихся реализовать себя и свои идеи на благо другим даже при "изначально хорошем уровне благосостояния". И нет, такими всë равно станут не все (по крайней мере, не сразу). Но, может быть, и не нужно, чтобы все...
СССР пытался построить "общество созидателей". И даже местами неплохо получалось. Но потом (когда условия жизни начали отставать от тех, которые люди считали "хорошими", т.е. в некотором роде зависть) что-то пошло не так. Но социальный строй "социализм" не обязателен, для "общества созидателей". Как ни странно, в те годы (и несколько раньше) и в кап. странах (по крайней мере в некоторых, хотя и в разной степени в разных) созидатели вполне себе ценились. Хотя, конечно, "пробиться" со своими идеями для людей из разных слоëв стоило очень разных усилий. Но почему-то кажется, что развал ссср отрицательно сказался не только на нас, но и на них. Стремление сделать что-то ХОРОШЕЕ хотя бы для своей страны почему-то почти полностью исчезло из "списка целей" и их "высших слоëв" (у которых "условия жизни" изначально были практически максимально хорошими из возможного и потому вряд ли могла стоять цель их улучшения) , и в большинстве наших. И в народах в существенной (хотя и немного разной в разных народах) степени тоже.
Просто перенаправляем производство с массовых товаров, на элитные. Ну будет не миллион айфонов, а сотня огромных яхт. Делов то. Не говоря о том, что внедряют автоматизацию не затем чтобы людей заменить. А затем чтобы производительность поднять, т.е генерировать больше прибыли. Тем самым даже если через государство платить вам туже зарплату, всё равно прибыль фирмы будет выше
Насколько я вижу, автоматизация интеллектуального труда приведёт просто к большей концентрации ресурсов в руках крупных владельцев бизнесов. Средний класс уже сейчас отчётливо демонстрирует тенденции к сокращению, а если забрать "беловоротничковые" работы, которые исторически его в значительной мере формировали, то получим ещё большее расслоение общества на ультра богатых и на банально бедных.
В принципе, что-то подобное уже происходило во времена промышленной революции. Новые владельцы "мануфактур" и "фабрик" могут использовать сколько угодно ресурсов на статусное потребление и постройку условных дворцов. Да, изменится структура производства и потребления, но проблемы с недостатком потребления не будет.
А государство возьмет эти деньги от работодателя, ибо неоткуда. И круг замкнется. Работодатель (а точнее капиталист) получает прибыль не автоматически, а только если его товары купят. А чтобы купили, то людям нужны деньги, которые они получают зарплатами. Даже если и никто не работает, а все получают пособия, все равно, эти пособия должны быть настолько большими, чтобы хватило на весь произведенный товар. Это возможно если товары подешевеют значительно или если пособия вырастут значительно. Иначе, производитель просто загнется и никакие технологии его не спасут. Кстати, в последнее время, с увеличением автоматизации наблюдается очень быстрая бюрократизация всех производств. И это неспроста – людей нужно занять, хоть бессмысленной работой, чтобы им дать зарплаты, чтобы они купили то, что они производят. Как-то так.
А вот как остаться востребованным при научно-технической революции - это отдельный сложный и интересный вопрос.
Основных вариантов два. Первый - идти в те области, куда ИИ не допустят вне зависимости от того, насколько он станет лучше человека. Например, в спорт. Скажем, чемпионаты по шахматам и го до сих пор проводятся, хотя людей ИИ уже давно тут обыгрывает.
Второй - профессии, требующие мелкой моторики. Поскольку полноценную искусственную мышцу в ближайшие 70 лет совершенно точно не изобретут, а шаговые двигатели мышцам не конкурент, то всё, что требует точного и аккуратного использования мышечной силы, роботы у вас не отнимут. Скажем, профессии парикмахеров и стоматологов останутся. Часть операций автоматизировать смогут, но 100% замены при нашей жизни не предвидится.
Идея со спортом весьма логичная.
А с учетом популярности компьютерных игр, я предполагаю что популярность обычного спорта будет постепенно падать, а кибер-спорта расти. ИМХО наблюдать за компьютерной игрой более захватывающе, чем как две толпы гоняют мячик/шайбу.
Поскольку полноценную искусственную мышцу в ближайшие 70 лет совершенно точно не изобретут
Я бы не был так уверен - вот уже работающие прототипы: https://habr.com/ru/companies/sberbank/articles/888186/ . За пару десятилетий технологию могут доработать.
Второй - профессии, требующие мелкой моторики.
Спорно. Очень точные манипуляторы в хирургии применяются уже давно, пока под управлением человека, но это пока:
https://ru.wikipedia.org/wiki/Da_Vinci_(робот-хирург)
На мой взгляд перспективны в целом профессии где идет взаимодействие человек-человек, такие как психология. Даже если ИИ будет более эффективным консультантом, многие тем не менее захотят живого общения.
Популярность спорта желательно развивать как достойной деятельности для участия, а не для наблюдения.
Общался на эту тему с супругой, она психотерапевт. В общем люди в терапию приходят в подавляющем большинстве не за методологией, а за "исцеляющим контактом" из травмы. Какие-то простые вещи вроде лёгкой депрессии можно и с ГПТ попробовать шлифануть, спросив какой пропить антидепрессант, но это будет макияж и корней не затронет. Так что ИИ в этой сфере пока человека не заменит ровно до тех пор, пока не сотрётся грань и мы перестанем понимать, что это не человек перед нами.
Вы окий уровень потребления это ж база современного капитализма. Никто не будет стрелять себе в ногу прямо вот именно так.
Потом ваш работодатель даст вам 100, но не просто так, а чтобы за ИИ переделывать )
Работодатель платит зарплату. Сотрудник идет и тратит зарплату на еду, одежду, развлечения и т.п. Т.е. запускает деньги обратно в экономику. По сути, наняв ИИ вместо работника, работодатель платит ему зарплату. Пусть и меньшую чем человеку (хотя большой вопрос будет ли это дешевле человеческих ресурсов в развивающихся странах). Но робот пивка после смены не пойдет попить с друзьями. Выходит "система нипель" какая-то. Туда дуй, оттуда пусто.
Во-первых, ваше рассуждение правдиво, если работодатель один, или по крайней мере все синхронно ставят ИИ и это влияет на агрегированный спрос. Тем не менее, для большинства рабочих мест в экономике никакого ИИ не предвидится: мужики с ломами, которые под снегом асфальт у меня во дворе перекладывают каждый сезон, никуда не денутся. Соответственно, если 90% потребителей свою работу сохранят, то экономия в три раза для работодателя, заменившего сотрудников на ИИ, слихвой компенсирует падение спроса на 10%.
Во-вторых, зарплату ведь платят не роботу, а тому, кто его вам продаст. Он и пойдёт пить пиво на своей яхте с кокаином и мамзелями. Робот пока не может быть получателем денежных средств, на него банковский счёт не откроешь.
Этих мужиков с ломами не так уж и много, но в общем-то к тому и идет, что творческие профессии будут заменяться на ИИ, а тем кто раньше творил, придется за лом браться, и соотсветственно сильно понизить свои зарплатные ожидания.
Похожий процесс сейчас наблюдаем в торговле - оффлайн переходит в онлайн, бывшим продавцам приходится переквалифицироваться в водителей самокатов, но и там со временем вопрос решат в пользу роботов доставки, куда потом переквалифицироваться - не понятно.
куда потом переквалифицироваться - не понятно
Можно на стройку разнорабочим пойти
В идеальном мире - так и было бы: КРЕАКЛов вытесняет пролетариат: на стройках возникает нехватка рабочих рук с "ломами" -> зарплаты перетекают "на стройки", система переходит на новый виток спирали.
Многие строительные операции тоже автоматизируются в той или иной степени, сильно сокращая ручной труд, тут даже ИИ не нужен.
Видел недавно как полностью меняли дорогу - вместо толпы с ломами подъехала спец.машина типа экскаватора, но вместо ковша большой отбойный молоток, и весьма бодро "махала ломом" под управлением всего одного человека в кабине. Собирали сломанное тоже не лопатами а юрким мини-экскаватором с грейдейром.
Точно также и бетонные работы - бетономешалка + бетононасос очень сильно сокращают потребности в ручном труде.
Та же штукатурная станция в разы ускоряет штукатурку при больших площадях.
Причем это не какой-то прорывной супер-проект в столице - обычная стройка в провинции.
Это даже не про современную технологическую революцию, а про очень запоздалый переход от ручного труда к механизированному. Вот тот прикол, который начался несколько тысяч лет с укладки груза на колесо.
Сейчас такой грамотный оператор экскаватора-погрузчика (его уже не поворачивается язык назвать "тракторист") стоит умеренных денег и может решать даже в меру сложные задачи - я имею в виду сложность прикладную, вроде погодных и грунтовых обстоятельств.
Со временем просто всё больше и больше подобной работы будет доступно сперва просто механике, а потом и автоматизации. Когда-то думали, что экскаватор за пределами карьера будет неуместен, ан нет)
Полагаю, очередная революция будет не очень скоро, а до того времени будет перестройка процессов на новый лад. Какая профессия раньше обучала работе с лопатой - будет обучать работе с трактором, какая профессия делала лопаты - будет делать трактора, и так с продажами, с заказами, с обеспечением всего и вся.
С нейросетями в итоге примерно то же самое: условно на тыщу человек раньше были художники, писатели, немного программистов, немного инженеров по снабжению инфраструктуры для них. Условно на ту же тыщу сейчас художников и писателей меньше, а программистов для новых инструментов и инженеров для поддержки новой инфраструктуры больше.
" Он и пойдёт пить пиво на своей яхте с кокаином и мамзелями" - так это другая совсем структура трат. Это не заменит работяг с пивком и боулингом. Просто будет аккумулироваться доход у малого круга лиц пока морда не треснет.
Так простите, а мамзели? А те кто шьёт ботиночки для детей этих мамзелей, оставшихся в Урюпинске? А врачи-венерологи, которые мамзелей инспектирует? А те, кто яхту собирает? А те, кто бегает с калашниковым за зеброй, чтобы подать стейк из неё во время перерыва на обед? А те, кто кокаинум выращивает и возит? Любое потребление -- это зарплаты тех, кто потребляемые блага производит. Больше денег у толстосума -- длиннее яхты, больше рабочих на верфи, больше мамзелей, дольше ловится зебра. Единственный способ сделать так, чтобы деньги не циркулировали в экономике -- это положить их под подушку в виде налички, но обычно богатые люди так не делают.
Разве всем освободившимся ртам хватит этих профессий оставшихся? Мне кажется, что нет. Тогда им надо сокращать население и вводить безусловный базовый доход, чтобы голодных бунтов не было.
Человек есть кадавр, неудовлетворённый желудочно. То есть, сверхбогатый человек способен потребить практически неограниченное количество благ. Если блага станут совсем уж доступными, то статусное потребление станет изобретать новые. Например, как вам идея -- подавать в ресторане блюда из язычков перепёлок, у каждой из которых был личный массажист? Таким статусным потребление можно неограниченное количество рабочих рук занять. Пример -- рынок труда в Уганде. Люди живут в палатках, но в каждом магазинчике, владелец которого наскрёб денег на дверь, есть швейцар.
Может быть, работа в этом дивном новом мире в среднем будет менее увлекательной и творческой, но она будет, пока роботы не станут такими же универсальными и гибкими во взаимодействии с внешним миром, как живые люди (а тут LLM нам не помощники).
Разве всем освободившимся ртам хватит этих профессий оставшихся?
Хватит. Просто будет новый виток статусного потребления, как в свое время в Риме
Ну представим мир, где творческие профессии сегодняшнего дня заменяются ИИ агентами. Какую нишу тогда будут занимать инженеры, дизайнеры, программисты, аналитики, художники, музыканты, писатели, возможно, психоаналитики и т. д. Для них становится не понятна ниша, с голоду наверное не умрут, но видятся перспективы заниматься либо недоавтоматизированным ручным трудом, либо чем-то совсем сугубо человеческим, обучением чужих детей, например, т. к. за своих не заплатят. А это согласитесь далеко не всем зайдет.
Какую нишу тогда будут занимать инженеры, дизайнеры, программисты, аналитики, художники, музыканты, писатели, возможно, психоаналитики и т. д.
Ничем. А какая доля населения Земли таким занимается? 1% наберётся?
А это согласитесь далеко не всем зайдет.
А никто и не говорит, что эти изменения дружелюбны для работника. Я пишу только о том, что на текущем этапе уволить всех, кого можно заменить нейронкой, никак не повредит бизнесу, потому что влияние на совокупный уровень спроса слишком маленькое.
Да здесь все просто. Я уже, если на чат-ботов попадаю, на человека пытаюсь переключиться. Даже не читая. Так и с музыкой в светлом мире будущего. Созданную ИИ музыку обеспеченному человеку просто западло будет слушать.
Не говоря уже про психоаналитиков!
Всё так, потребление ещё сильнее перетечёт в верхний 1%
Хе хе. Нормально! Доступно расписали. Мамзелям вообще много чего может понадобиться. Новый двигатель экономики изобрели.
Нельзя сказать, что я прям мощный специалист, но математической базой ИИ интересуюсь давно, когда еще пайторча не было даже в проекте. Могу нейросети типа MLP делать вообще без ML-библиотек. Читал такие древности как "Персептроны" Марвина Минского и гомеостат Эшби. Сейчас RL изучаю.
В что мы понимаем под ителлектом ? Он вообще потдается реальному определению ? Если это про игру в шахматы, то в это машина может. Но придумать эту игру она не может.
Что такое все нейросетки по сути, с точки зрения математики ? Это результат математической аппроксимации, не больше и не меньше. Это функция. Каким то алгоритмом оптимизации функции (минимизации ошибки) подбирается лучшее по какому то критерию приближение известных данных. Если данные достаточно плотно и равномерно покрывают интересующую нас область (так плотно, что поведение приближаемой функции между известными точками близко к линейному), если все важные показатели измеряются, то все у нас получится. Можно даже в принципе не заморачиваться с нейросетками, а просто закодировать в таблице решений (метод ближайших k-соседей), хотя получится не очень компактно. Все прочее это массштабирование, поиск более эффективных алгоритмов оптимизации, адаптация алгоритмов под классы задач. Можно назвать это программированием машины на примерах. Но это все то же программирование человеком машины. И как и любая другая программа, она сломается если дать ей задачу, для которой она не программировалась. Можно создать массу отличных чудесных машин, удобных, полезных, забавных, поражающих воображение. Но это всегда будут только машины. И пока не доказано, что человек это тоже машина, у нас нет права перестать различать.
Упростим требования. Хочу, чтобы машина могла принимать решения в немарковской среде (в среде с памятью). RL Q-leaning этого в принципе по математическим основаниям не может делать. Можно сгладить проблему, перейдя к Deep Q-learning и прикрутив что-то типа LSTM. Но структуру этой LSTM будем определять мы, человеки, возможно в помощь привлекая другие машины/алгоритмы (например, ГА). LSTM будет заточена под определенный класс задач и перейти к другому классу без человеков не сможет.
Машина не может стать как человек-ученик, так как не может в принципе использовать тетрадь для решения задачек. Машина может жестко закодировать все возможные способы решения типовых школьных задач у себя в "голове", но методом решения не овладеет. Таковы ограничения динамического программирования и Q-learning метода. А других методов для программирования машины на принятиеи решений мы пока не знаем.
Но придумать эту игру она не может.
Это далеко не факт. И требует доказательства.
Согласен. Общий случай не доказан. Но сейчас не могут.
Допустим мы вознамерились "найчить" этому нейросетку.
Придумаем формальный язык, способный описать любые логические игры (упс, такой язык невозможен. Гёдель запрешает.). Натренируем LLM на описаниях логических игр. Получим генератор описаний, на первый взгляд похожих на описание новых игр. В лучшем случае LLM уловит что-то общее в существующих играх и сделает гибрид.
Описание правил игры это последовательность слов и LLM все эти слова знает и знает как их комбинировать правильно. К тому же у него там внутри неонка генератор случайных чисел, так что он может генерировать практически произвольные имеющие смысл тексты. Значит может нагенерировать и правила игры до сих пор никем не придуманную.
Кстати, я делал эксперименты с генерацией описаний животных непохожие на ничего на Земле и ИИ очень даже справился. Другое дело, возможны ли эти организмы которые он описал, но описания (вкл. физиологии) были прямо ух!
Гёдель запрешает.
Вообще-то не запрещает. Все эти теоремы - они про крайние случаи, рассматривающие странные объекты типа нулей, бесконечностей, бесконечно вложенных объектов, и так далее. Кроме того, Гедель сформулирован в терминах арифметики Пеано, когда вы в последний раз смотрели на мир как на Пеано. Всё это, конечно, очень интересно математикам, чтобы понять - как устроен мир, что там у него работает внутри, есть ли за этим дном какое-то второе и третье дно.
Но в мире простых бытовых вещей, изолированные исключительные ситуации встречаются очень редко. И как с ними поступает обычный рациональный человек? Он говорит "ну нахрен" и пропускает их мимо. Это ответ на примерно все исключительные теоремы, включая все знаменитые эффекты теории относительности, квантовой механики, и тем более религии типа М-теории.
Ни М-теория, ни Гедель не запрещают тебе нагенерить миллион способов сходить в магазин за хлебом или собрать описания невозможных существ. Если ты думал, что идешь за хлебом каким-то новым, доселе неизвестным способом — нет, люди ходили в точности тем же путем тысячи лет подряд. Наверное, в истории можно найти челвека, у которого в точности та же комбинация длины левой и правой ноги, он шел по такой же траектории и запнулся такое же количество раз. Тысячи лет — это довольно долго, есть из чего выбрать.
Жизнь человека, который каждый день ходит на работу и покупает хлеб - бесконечно проще, чем даже жизнь бизнеса где работает, а бизнес в основном (количество промахов не более чем конечно (с)) ничего не просчитывает в формате "произвольного идеального решения в немарковской среде". Обычно люди ведут себя на основе традиций - все так делают и я так делаю.
В целом, большая часть художественной и хозяйственной деятельности человека описывается книжкой "Steal like an artist" - посмотри что делали люди вокруг тебя на протяжении сотен или тысяч лет, рекомбинируй минорные части этих занятий с небольшими модификациями — и вот твой план на жизнь. Рождение, школа, универ, немого поработать (скопировать с небольшими изменениями что-то существующее), сделать детей, пенсия, болезнь, смерть. Всё. Некоторая свобода есть только в вот этой маленькой вставочке. Которая — так себе свобода, ведь объем и дистанция рекомбинаций статистически понятна из предыдущего поколения (кто твои родтели и родители твоего окружения). В этом свете, RL на железе от Nvidia — это хоть и тупая, но более эффективная система, которая позволяет сжать весь этот процесс из сотен лет в сотни секунд. Мы занимаемтся одним и тем же, но железо на многие порядки быстрее и лучше.
Машина не может стать как человек-ученик, так как не может в принципе использовать тетрадь для решения задачек.
Кажется, вы проспали появление QwQ, Deepseek-R и подобных же моделей. Reasoning models - они как раз про это: такая модель, прежде чем выдать ответ, долго рассуждает, накидывает самые разные варианты, действует шаг за шагом, возвращается к предыдущим действиям, отбрасывая неверные, и в итоге приходит к ответу. В точности как школьник за тетрадкой.
ИИ - Иллюзия Интеллекта.
alpha-beta pruning в шахматных программах тоже варианты просчитывает, только по этому поводу хайпа нет.
LLM просто генерят пустословие (люди тоже так умеют), повторяют типичное продолжение текста со случайными вариациями, для поддержания иллюзии разумности у неискушенной публики. А под капотом 2*2=4.
Был хайп, когда нейросети выиграли человека в го, т. к. там есть проблемы с альфа-бета прунингом, слишком много вариантов, невозможно перебрать их на большую глубину.
Под капотом сильно сложнее чем 2*2=4, посмотрите структуру трансформера. Уже того что есть достаточно чтобы решать школьные задачи, а через пару лет могут подкрутить еще архитектуру или способы обучения и тогда уже смогут заменять людей со стажем лет 5 работы. Конечно найдутся те кто будут говорить что и это тупая машина, но что делать студентам и много кому еще, как конкурировать с ИИ?
И как и любая другая программа, она сломается если дать ей задачу, для которой она не программировалась.
Так и человек "сломается" на сложной задаче которой не обучался. Инженер операцию на сердце сможет сделать?
А обучение может занять много лет и не каждый человек в принципе обладает способностями для обучения любой деятельности.
Но придумать эту игру она не может.
Так и из людей придумать что-то новое и действительно стоящее способны единицы.
Вопрос то не в том, что ИИ сможет заменить абсолютно ВСЕХ.
Но большинство людей не занимаются чем-то уникально-прорывным, а решают вполне банальные однотипные задачи и если ИИ сможет их заменить, то это научно-техническая революция мощнее тех, что были ранее.
Да по моему текущий GPT уже можно называть гордым словом исскуственныц интеллект. Просто обрати внимание, на сколько он умён. Ещё чуть чуть, и людей обгонит
Для этого они должны
1) уметь предсказывать не только глобальную ошибку на датасете (аналог базальных ганглий с подкреплением дофамина), но и локальные (у неокортекса есть в каждой области есть слой 6, отвечающий за предсказание и корректировку локальной ошибки)
2) учитывать модуляцию сигнала (в сетках называется механизм внимания) не только на связи признаков , но и на обращение результата (слой 5 и модуляция других зон мозга). Это значит, если контекст связан с эмоциями, то в результате лимбическая система усиливает сигналы эмоционального планка описывающие текст. Но если преобладает моторная область (двигает рукой), то упор будет на сигналы соответствующие моторному контексту. Если с телом, то теменная зона. Если зрение или слух то аналогично. Если мы голодные, то усилиться сигналы связанные с этим в контексте. А не как сейчас случайно выбираем токен в обобщенных признаках. Сейчас в llm за обобщение отвечает FFN, а он ни как не регулируется, тупо обобщает признаки.
3) нет учёта фильтрации сигналов, как в таламусе . У него есть релейные нейроны, задача которых фильтровать сигнал, чтобы усиливать только важные. Этого вообще нет в ллм.
4) нет динамических систем предсказания. После обучения система статическая. Поэтому не способна изменять состояние, в рамках контекста. И его надо прогонять весь целиком снова и снова. А это важно, так как у нас есть механизм переноса динамического контекста в статический (кратковременная и долговременная память).
5) нет ни какой реализации теменной зоны. Которая у человека отвечает за связь себя и тела и отделением от внешнего мира. Это позволяет нам производить внутренний анализ
6) нет обратной связи, то есть конечный сигнал потом идёт на вход. Что позволяет нам рефлексировать. В текущих llm это все ограничено текущим контекстным окном и мы каждый раз прогоняем всю цепочку снова и снова.
7) нет учёта временной компоненты в ллм, которая играет важную роль через ритмы. Разделяя на слоги, слова, связывая разные сенсорные сигналы зрения и текста через усиления важных в контексте. Когда амплитуда совпадает, это усиливает значимость данного сигнала
8) нет учёта гистерезиса, когда рост и падение сигнала ассиситричны. То есть спад идёт быстрее, а рост медленнее. Это позволяет отсеивать шумы в сигналах
9) нет внутренней флуктуации, важного свойства хаотичных систем. Которые так же играют важную роль в предсказаниях и обобщении признаков
Я могу долго перечислять этот список. А пока llm это отличный инструмент для обобщения данных и поиска связей в этих обобщенных данных. Но к ИИ это не имеет ни какого отношения, ник слабому ни к сильному.
По 9 пункту, мне видется, могли бы помочь квантовые процессоры.
Но зачем? ГСПЧ изобрели сто лет как.
Этого достаточно для частичной реализации. Но флуктуации в хаотичных системах не имеют нормального распределения, а описаны фазовым пространством системы (теория хаоса).
Для пример, анализ речи который я делал, на основе градиентов (колебания пиков и движений артикуляторное во время речи).
Визуально это похоже на нормальное распределение, но в реальности расчеты показывают, что фазовое пространство (в рамках которого мы и получаем эти флуктуации) речи не имеет нормального распределения. В первом приближении ГСПЧ конечно подойдет, но конечно он не даст такого результата, который могут дать квантовые компьютеры, где флуктуации это их основа.
Речь просто пример такой хаотической системы. Точно так же какой являются нейроны, и множество других биологических процессов как на низком уровне, так и на верхнем уровне абстракции (вплоть до предсказания погоды). И тут ГСПЧ бесполезен, так как дает нормальное распределение, в то время как флуктуации хоть и похожи на нормальное распределение, но ими не являются.
Кажется, владельцы аппаратов по обучению llm пытаются сейчас решить пункт 4, скармливая сеткам контексты из чатов с пользователями. Остальные пункты либо игнорируются, откладывая на потом, либо подпираются костылями
Не совсем, просто про них нет громких заявлений.
1) Ошибка предсказания нейронов - это основа всех исследований в нейробиологии как на живых клетках, так и искусственных. Тут как фундаментальные исследования, так и локальные. Так же как и разработка влияния аналога дофамина на каждый блок архитектуры. Но для конечного пользователя это проходит мимо, так как там преследуются академические задачи и их не сильно волнует, можно на этом построить LLM или нет. Но много важных работ (но все они от 1950 до 2018 года)
2) Работы над таламус я пока видел разве только у DeepMind и еще тут. Но у них костяк это нейробиологии и уже следом идут инженеры. Собственно один из основателей DeepMind и получил Нобелевскую по нейронкам. Именно они разработали в свое время AlphaGo и AlphaZero (которые победили гроссмейстера в шахматах). Как и сейчас их модели Flamingo и Perceiver IO, которые являются мультимодальными и пожалуй единственными в своем роде.
3) Динамические системы тоже есть, точнее над ними работают. Название по памяти не вспомню, так как там исследуют конкретно динамику моделей без особой привязки к остальному.
4) временные компоненты это спайковые сетки, ordinary differential equation (ODE) как более точные модели нейронов чем спайки используемые зарубежными нейробиологами. Ну и конечно State Space Models (SMM), более новые подходы хранящие временную составляющую в скрытых состояниях (S4D, Mamba, H3 и другие), которые только набирают обороты и получили большой скачек в 2024 году и постепенно идущие на замену трансформерам в качестве гибридов с ними.
И так по всем пунктам. Но подобным ни кто не интересуется, кроме очень редких и узких специалистов (в России я таких не встречал пока что). Так как людям гораздо интересней обсуждать что ответила новая модель, а не их фундаментальные проблемы и их решения.
А у квадрокоптеров нет перьев, даже крыльев нет, но как-то они летают быстрее птиц. Может добавим и будут летать еще быстрее?
Очень может быть, аэродинамика у квадриков не ахти, крылья им бы не помешали. А может даже и перья.
Ну хорошо, если планеры, в форме крыла, они сильно быстрее и даже более маневренные чем птицы, но вот без перьев и ничего.
А автомобилей нет ног, но обгоняют лошадей. Это я к тому что не обязательно один в один повторять биологические варианты, техническое решение ИИ может сильно отличаться от своего биологического аналога.
техническое решение ИИ может сильно отличаться от своего биологического аналога
Это да, просто может заодно оказаться, что мы зря от него ждём такой же гибкости и универсальности, как от биологического аналога, и всегда можно будет заманить ИИ на территорию, где он благополучно застрянет.
А автомобилей нет ног, но обгоняют лошадей.
А еще отвратительно плавает, не очень то обгоняет по бездорожью, практически никак не обгонит в забирании на высокие поверхности, хренево перепрыгивает ямы, вязнет в банальной луже и многое многое другое.
Биологические варианты не обязательно прям 1 в 1 повторять, но как очень хороший референс для всех базовых функций системы (пусть и с отличающейся под капотом реализацией) использовать стоит ибо у природы за спиной миллионы лет эволюции с оттачиванием конкретных вещей под конкретные задачи, и вероятность того что новоизобретенный с нуля человеком велосипед окажется лучше в целом, а не на отдельно взятой маленькой функции (вроде текстогенерации) крайне мала.
На наш век и такой полумеры может хватить. Продолжим аналогию с авто и лошадью. Представьте Вам 45 лет, на дворе 1930 год, Вы всю жизнь пахали на лошади, разговарили с ней, кормили, поили, лечили, все здорово. Но вдруг всех загнали в колхоз, лошадей отобрали, дали тракторы. И куда теперь Ваши навыки по управлению лошадью? Они в миг ничего не стали стоить. Это очень серьезная революция для людей той эпохи. И большинство из тех кому было за 40 не смогли сесть на трактор, это слишком сильное изменение для них. Пришли более молодые и освоили трактор.
Так и на наш век может прийти такая революция, еще даже до того как изобретут сильный ИИ, который пусть не сможет думать так же как и человек. И это произведет серьезное изменения в средствах труда, и далеко не все профессионалы сегодняшнего дня смогут приспособится.
У эволюции нет конкретной цели, признаки закрепляются если они достаточно долго в популяции, но они далеко не всегда положительные, большая часть из них нейтральная, а часть вообще отрицательные.
Отдельные части тела могут лучше подходить под конкретные задачи, но эти части нужно правильно выявить и правильно понять как оно работает.
Человеческий организм прекрасный пример работы мозга, но то что касается других частей тела - тихий ужас (да и мозг работает далеко не так прекрасно, как кажется на первый взгляд) исключение излишних флуктуаций при полном повторении остальных систем уже может дать значительный прирост производительности
Есть квадрики-конвертопланы. Которые сочетают плюсы коптеров и самолётов.
Если наша задача быстро летать, то не стоит. Если задача -- сделать искусственную птицу, то давайте.
Скажите, сколько км может прилететь квадрокоптер на одном заряде? Птицы могут пролететь без остановке до 12000 км несколько суток.
Напомните мне: дальность полета, длительность полета и энергоэффективность квадрокоптера.
Может вы тогда сравните с гидрой по долгожительству? Закрыв глаза на все остальные факторы и влияние среды?
А как квадракоптер справляется в холодное время суток? Неужели перья птиц, кроме аэродинамики выполняют ещё роль терморегуляции? Не может быть, компромисс сочетания нескольких сложных функций, ради достижения максимальной эффективности энтропии.
Когда вы вырываете из контекста одну функцию, и затем сравнивает ее с более универсальный системой - это называется манипуляция.
Квадрокоптер конечно не энергоэфективен по сравнению с крылом самолетом. Зато у него есть преимущество он может зависнуть неподвижно в водухе, мало кто из птиц на такое способен. Но и птицы тоже к эффективным нельзя отнести, было много попыток создать летательные аппараты с машущими крыльями, ушли в трубу как раз из-за низкой эффективности. На счет температуры это не проблема, самолеты летают в воздухе с -50, и ничего.
Вы путаете причину и следствие. Вырвав из контекста только одну функцию. Если же вы начнете учитывать все условия, то у вас останется все меньше конечных вариантов решения. Это хорошо объясняется в теории конечных автоматов.
Для примера в биологии тоже самое. Выше два совершенно разных семейства, развивающихся на разных материках, но в одинаковых суровых условиях (на вершинах гор, где не выживают другие растения). В этих условиях, выживает единицы и все эти единицы сходятся к 4-5 видам формы, цветков и другим особенностям (не зависимо от семейства и материка и изначальной их формы).
Поэтому если вы начнете учитывать все важные детали. То получите птицу. Если же вам нужны только 1-3 функции то получите квадрокоптер/самолет. Поэтому в условиях среды обитания птицы эффективней самолета и квадрокоптера, но могут проигрывать в единичных функциях, так как они не дают им преимуществ.
В биологических системах есть свои ограничения, не знаю почему, возможно это просто тупиковые ветви эволюции. Например, нет колеса, вращающихся механизмов, по крайней мере среди крупных организмов. А вот люди сделали, и оно оказалось очень полезным во многих случаях.
Ваш пример тоже имеет свои ислючения - среди этой скудной растительности бегают ящерицы и ползают насекомые, они что тоже одна и та же биологическая форма?
Вполне возможно что для того чтобы ИИ мог обойти человека достаточно будет нескольких функций, а не большого комплекса сложных изменений. И обойдет он не везде и не тотально, но сильно потеснит сегоднящних профессионалов. Вопрос является ли трансформер такой штукой - ну скорее нет, чем да. Значит чего-то еще прикрутят, и оно, глядишь, зайдет.
Это называется оптимальная адаптации .
Подушковидная форма — уменьшает теплопотери и защищает от ветра.
Мелкие листья с восковым налетом — снижают испарение и отражают УФ-лучи.
Корни, растущие горизонтально — цепляются за тонкий слой почвы.
Как результат, неродственные виды из разных семейств независимо развили почти идентичную форму. Это и есть конвергентная эволюция в действии!
Животные имеют более усложненную форму выживания:
Мигрировать вниз по склону в более мягкие условия.
Активно искать пищу и укрытие (например, птицы летают на большие расстояния, грызуны прячутся в расщелинах).
Регулировать температуру тела
Разбиться по видам питания: Травоядные, Хищники, Падальщики, Насекомые
Разбиться на экологические ниши, чего не могут сделать растения на экстремальных высотах (так как ограничены светом, водой, микроскопическими участками почвы)
Так что еще раз, в каждой среде система находить компромисс для максимальной эффективности. Другим видам не нужно колесо, так как задача системы получить максимальные преимущества сейчас. Ей не нужны знания или возможности про запас. Вы ведь тоже не лезете изучать материал по данным направлениям, а рассуждаете на основе ваших текущих потребностей. Это и есть ответ на вопрос, почему другие крупные особи не используют колесо.
Не все так просто эволюция носит случайных характер. Пустынь на земле много, но кактусы развились только в Новом Свете, в других пустынных местах эволюция пошла по другому пути, и не надо писать, про супер уникальные условия, рандом или немного разные стартовые условия миллионы лет назад, все равно никто не отменял. Кактусы потом перетащили в другие пустынные (и не только) земли и они там замечательно себя чувствуют. А это значит, что среда не диктует одну и ту же форму.
У биологических систем задача просуществовать достаточно долго, чтобы оставить успешное потомство. Никто не собирает птиц на заводах.
Может быть, если бы стояла задача создать коптер способный зависать на месте, автономно заряжаться вдали от энергосетей при любой погоде и способный к самовопроизводству своих копий, то мы получили бы аналог колибри.
[1)--9)]
А кто Вам сказал, что этого ничего нет??! Как раз этим и занимаются. Есть и внимание, и состязательные сети, и самоконтроль, и самоанализ. Как будь-то нейронками занимаются какие-то дилетанты! (И они не всё Вам (и нам) до конца сообщают.) Я уверен, что самые продвинутые специалисты уже не мыслят в категории "ошибок на датасете". Надо понимать, что ошибка будет всегда, и главная задача заключается не в том, чтобы минимизировать эту ошибку. Гораздо важнее построить такую модель, которая обобщает опыт в целом, а не какой-то один отдельно взятый датасет. Мысль изреченная есть ложь в том смысле, что любое утверждение, строго основанное на определённом наборе данных, будет содержать неустранимую ошибку, которая существенным образом проявит себя на каких-нибудь новых данных. (Всегда существуют такие данные.) Именно поэтому, более правильная стратегия — продолжать наблюдение (или диалог) и постоянно получать новые данные.
Надо ещё понимать, что нынешний этап применения всех этих языковых моделей — это этап накопления хорошо структурированной информации, которую создатели этих моделей будут использовать для подкрепления чисто статистических построений.
нет учёта гистерезиса, когда рост и падение сигнала ассиситричны.
Ну у Вас и токен! Что там растёт, и что падает?
Постараюсь прояснить свою позицию:
Механизмы, о которых я говорил, включая гистерезис, — это не абстрактные идеи, а конкретные биологические процессы. Например, гистерезис в нейронах относится к асимметрии между скоростью активации (медленный рост сигнала) и деактивации (быстрый спад). Это физическое свойство помогает мозгу фильтровать шумы и выделять устойчивые паттерны. В текущих LLM такого механизма нет: обработка токенов не учитывает временную асимметрию сигналов, а предсказания строятся на статической трансформации входных данных.
Вы выражаете субъективные утверждения («специалисты уже не мыслят в категории ошибок», «всё это уже есть»), но не привели ни конкретных примеров, ни ссылок на архитектуры или исследования, которые реализуют упомянутые биологически механизмы.
Как в современных LLM эмулируется роль таламуса в фильтрации сигналов?
Где в трансформерах аналог динамического переноса контекста из кратковременной в долговременную память без перепрогона всей модели?
Какие компоненты LLM отвечают за асимметрию обработки сигналов (гистерезис) или модуляцию выходных данных через лимбическую «эмоциональную» систему?
Конструктивный диалог требует конкретики. Если вы утверждаете, что эти механизмы уже реализованы, было бы полезно услышать:
Ссылки на нейробиологические исследования.
Примеры искусственных сетей, где учтены, например, слои, аналогичные неокортексу (с предсказанием локальных ошибок) или таламусу (с динамической фильтрацией).
Как «самоконтроль» или «самоанализ» в LLM соотносятся с рекуррентной обратной связью мозга, где выход системы постоянно переоценивается на основе новых входных данных.
Поверхностные аналогии (вроде механизма внимания и состязательных сетей) не эквивалентны биологической сложности. Например, внимание в LLM работает с признаками, но не модулирует выходные сигналы через контекст, как это делает мозг. Если у вас есть данные, опровергающие это, давайте обсудим их предметно.
Гистеризис у нейронок будет выступать в качестве механизма предчувствия или предвидения? Кода привентивное гашение повторяющегося сигнала будет использовано для возврата системы в равновесие. Тот самый механизм который у нас частично отвечает за формирование зависимостей.
Тут немного описал это. Так же описывал в комментариях на хабре
https://habr.com/ru/companies/wunderfund/articles/894100/comments/#comment_28086760
То есть это работа механизма нейронов, которая включает в себя
повторяет адаптацию нейронов к устойчивым стимулам.
подавление шума, случайные флуктуации гасятся быстрее, чем значимые сигналы.
В реальном мозге нейроны обладают инерцией. Их активность не меняется мгновенно, а зависит от истории входных сигналов. Например, длительная стимуляция приводит к адаптации (замедленной реакции), а внезапное исчезновение сигнала даёт быстрое торможение.
Биологический аналог — деполяризация и гиперполяризация
При стимуляции порог активации нейрона может меняться (например, в зрительной коре — эффект усталости нейрона).
Если стимул долго действует, нейрон теряет чувствительность (адаптация).
Если стимул исчезает, он быстро переходит в состояние покоя.
Это как раз и есть гистерезис: рост медленный, спад быстрый.
Но изначально, я опирался на работу глиальных клеток и гомеостаза в них. Но там он происходит более медленно. А вот на уровне нейронов гистерезис работает постоянно и быстро.
Это связано с динамикой ионных каналов, где работает быстрее, другие медленнее. Что приводит к петле гистерезис: когда скорость подъема и падения не симметричная. Данный механизм, позволяет фильтровать шумы хоть на уровне нейронов, хоть на уровне глиальных клеток, хоть на гормональном уровне. Так как присутствует везде, даже в от биологии до электроники.
Согласно теореме Цыбенко нейросеть может апроксимировать любую функцию многих переменных
https://ru.wikipedia.org/wiki/Теорема_Цыбенко
то есть можно так подобрать коэффициенты, что получим желаемый нам вариант при определенных входных параметрах. В этом смысле они круче любого мозга. Проблема только в том, что нет хорошего способа подобрать эти коэффициенты. Поэтому с полносвязными сетями не сработались, начали делать на базе перцептронов структуры, которые более стабильно поддаются обучению. Но эти структуры не обязаны повторять элементы человеческого мозга.
Начните с предсказания погоды. Изучите теорию хаоса, тогда можно будет лучше понять, о чем именно теорема Цыбенко
Например, ознакомиться с научной работой Роберта Сапольского. А так же посмотреть для примера эти две его лекции про Хаос в биологии. Там и про теорию конечных автоматов захватывается и другие важные темы и нейронные сети.
https://youtu.be/MqtnpcdvxaI?si=ASbGKcDHxNz5UJzw
А так же его же лекцию про Эмерджентность и сложность систем.
https://youtu.be/ScKNmdoY2bE?si=bTt-E6tDKD42r2Gc
Заодно начать с его исследования "Редукционизм и изменчивость данных: метаанализ" на эту тему - про средний показатель ошибки в 18% на любом уровне детализации изучаемой системы
https://www.sci-hub.ru/10.1353/pbm.1996.0057?ysclid=m8n0xrlvjq495717602
Из современных https://pmc.ncbi.nlm.nih.gov/articles/PMC8168858/
И уже тогда возвращаться к теореме Цыбенко, чтобы понять, что конкретно она доказывает.
Предсказывать погоду умела нейросеть Вольфрам Альфа ещё лет 15 назад. И очень, к слову, неплохо.
А сейчас разучилась видимо) Посмотрите теорию хаоса, и почему погоду нельзя предсказать больше определенного промежутка. Прогноз погоды на длительные сроки (более 10–14 дней) ограничен из-за чувствительности атмосферы к начальным условиям — это один из ключевых принципов теории хаоса. Это 10-14 дней это при идеальных предсказанных условиях!
Более того, Wolfram Alpha не является нейросетью в современном понимании, это система символьных вычислений, которая агрегирует данные из проверенных источников (например, метеорологических служб). Wolfram Alpha показывала текущую погоду и краткосрочные прогнозы, но не генерировала их самостоятельно. Она использовала данные из внешних источников (National Weather Service).
DeepMind к примеру предсказывает сейчас погоду на 10 дней с точностью, сопоставимой с традиционными методами, но в 1000 раз быстрее. То есть вы не можете преодолеть этот предел.
Поверхностные аналогии (вроде механизма внимания и состязательных сетей) не эквивалентны биологической сложности ...
Искусственные нейронные сети никогда не были аналогом живых нейронных сетей, хотя первопроходцы и говорили об обратном. Да, некоторые принципы (понятные определённым образом на соответствующем временном отрезке) имеют некую аналогию. Но не более. Современные подходы пытаются быть более "биологичными". Но! Живая система — это аналоговая система. (Квантовые разборки пока можно оставить пуристам и теоретикам.) А это значит, что она всегда будет сложнее любой дискретной реализации.
Если у вас есть данные, опровергающие это, давайте обсудим их предметно.
Ох. Было бы просто здорово говорить предметно!
Например, внимание в LLM работает с признаками, но не модулирует выходные сигналы через контекст, как это делает мозг.
Откуда у Вас уверенность, что мозг работает именно так. И, кстати, что Вы здесь имеете в виду? Модуляция (Вы употребили именно это слово?) означает, что имеются некие входные сигналы, которые пропускаются через другие сигналы и на выходе получается своеобразная композиция. Например, амплитудно-частотная модуляция. Как у Вас описывается контекст? Какими сигналами? Вы, фактически, пишете о том, что внутри мозга есть генератор, который порождает однотипные сигналы, а контекст вносит в эти сигналы различия. Я Вас правильно понял?
Вы выражаете субъективные утверждения («специалисты уже не мыслят в категории ошибок», «всё это уже есть»), но не привели ни конкретных примеров, ни ссылок на архитектуры или исследования, которые реализуют упомянутые биологически механизмы.
Я бы сделал это с большим удовольствием. Если мне повезёт, то через месяц я смогу заняться этим с полной отдачей.
Как «самоконтроль» или «самоанализ» в LLM соотносятся с рекуррентной обратной связью мозга, где выход системы постоянно переоценивается на основе новых входных данных.
Мне-то всегда казалось, что глубокое обучение — это и есть (прежде всего) замыкание выхода на вход. Первоначально, сети с обратным распространением ошибки и были такими рекуррентными структурами. Имеются и специализированные рекуррентные сети, которые представляют собою, по сути многошаговые системы распознавания, когда процесс распознавания производится многократно, при этом меняется как состав классов, так и соответствующие им признаковые описания.
Мы обсуждаем отсутствие в LLM аналогов биологических процессов (гистерезис, таламическая фильтрация). Если вы утверждаете, что это уже есть — назовите конкретные архитектурные решения или исследования.
Я не готов объяснять, вам то, что вы сами не желаете изучить. Ко мне периодически приходят и пытаются доказать свое субъективное мнение. Поэтому не готов тратить свое время на человека, который не удосужился хотя бы поверхностно изучить, то о чем пишет.
Недавно попытался подобным образом объяснить одному (как вы писал поток сознания), расписать исследования о связи искусственных нейронных сетей и живых нейронов. Но это просто пустая трата времени.
P.S. Пока мы писали, на Хабре была опубликована статья.
Круто это конечно все, если Вы считаете, что в этом есть потенциал, то сделайте прототип, покажите профессионалам. У нас в стране много кто занимается нейронными сетями. Но вот наверное Илон Маск и Ко тоже смотрели в сторону имитации работы человеческого мозга, но тем не менее пошли все таки делать трансформер.
А вообще в будущем перспективными могут оказаться сети Колмогорова-Арнольда, там идея что будем подбирать разные математические функции активаций и передачи сигналов, в этом видится намного больше вариативности и потенциал, но снова не просматривается имитация работы мозга.
Было бы прекрасно, если бы люди сверялись сначала с существующими исследованиями (хотя бы 2012 года). А затем уже, строили выводы.
К примеру очень глубокое обобщение в "Канонические микросхемы для предиктивного кодирования" от Bastos
https://www.cell.com/neuron/fulltext/S0896-6273(12)00959-2
С тех пор прошло 13 лет, но многим людям до сих пор проще строить догадки, чем изучить то, что уже изучено.
и че, этим замечательным ученым гугл, OpenAI и другие миллиардные компании выплатили премию за величайший вклад в науку, или статьи так и остались буквами в интернете?
То что лично Вы, похоже идете этим путем это прекрасно и можно только приветствовать, возможно что-то интересное найдете. Просто странно утверждать, что биолическая структура ИИ это единственно верный возможный путь.
Просто био-аналоги самые эффективные и простые. Эволюция тысячи лет не просто так работала.
Мол у тебя в самой структуре обработки информации заложена фильтрация шумов и обобщения, на архитектурном уровне можно кодировать информацию фазами, обучение идёт банальной модуляцией частоты срабатываний. При это из всей сети в один момент времени работает не больше 5% клеток, представь что тебе надо не 100Вт для 7В сети а всего 5Вт, сильно? (утрирую конечно...)
В то время, как для прецептрона нам нужно вводить кучу мат аппарата и непонятных сложных штук просто что бы получить какие-то новые свойства. Обучение с подкреплением всё ещё через жопу работает, эх.
Самое грустное что есть крутые ИИ архитектуры, и они даже на хабре регулярно появляются, но потом оказывается, что вычислительно они вычислительно в несколько раз сложнее сложнее тупой свёртки с FNN, а разница в реальных приложениях ~5%, или их обучение происходит в разы дольше, или там часто идут запросы в рандомные куски памяти (Шёл 2025 год, DDR умеет только в ~400МГц если чтения рандомные) и всякие такие чисто бизнес-инженерные штуки
Притом мы уже можем делать ускорители, ну хотя бы, спайковых сетей, которые показывают свою эффективность. Но их сейчас рассматривают только в применении как агентов к реальной среде, а не анализу чатика в слаке
Для имитации творчества было бы достаточно научиться делать смещение. Пример: https://youtu.be/dOqzbr1aaIk Это соответствует пункту 2. Это был бы и самый простой путь улучшения ЛЛМ, т.к. опирается на уже существующие механизмы с минимальной модификацией.
Обучиться генерировать результат отсутствующий в датасете, очевидно могут. Например решать математические или логические задачи в существующих бенчмарках типа ARC-AGI. Тут скорее вопрос что подразумевается под "чем-то новым". Нарисовать уникальную картинку, скажем, собаки, имея примеры других картинок или текстовое описание животного, нейросети могут без проблем. Не зная вообще ничего о собаках, не смогут.
А они вообще в принципе могу тренироваться на что-то новое, что отсутствует в датасете?
Разумеется, могут. С одной стороны, полно статей, как нейронка научилась играть в какую-либо игру, не зная её правил, а только "наблюдая" за матчами. С другой стороны, та же AlphaGo: после загрузки базового набора данных далее тренировалась сама с собой, попутно выстраивая внутри себя какие-то правила оценки позиций и алгоритмы выбора хода (как мы бы это назвали, если бы программировали сами)
Даем нейросетке доступ до Реального Мира, включая свежие технологии типа Большого Коллайдера. Пусть ни в чем себе не отказывает, проводит любые эксперименты любыми методами. И пусть эта нейросетка попробует порассуждать и вывести физику заново.
В точности об этом есть сериал, "Задача трех тел".
Но вообще это не нужно, если мы не решаем глобальную проблему, а какие у нас глобальные проблемы?
Про игры тоже не понял, что это должно доказать, просто школьники, мечтавшие в геймдев подросли, хороших игр больше от этого не стало.
ИИ - это скорее про генерацию связи, нежели про открытие чего-то нового. То новое - оно запредельно связям, а значит недоступно как ии, так и человеческому сознанию. Скорее всего ии всего лищь переходный этап развития человечества, инструмент, который закроет все возможные дыры в накопленных за все время знаниях, упростив жизнь и даст некое новое осознание своего места во вселенной и настоящего поиска того, что не имеет никакого отношения к "связям"
Прочитал несколько ЖЗЛ про известных-великих. Текущая картина мира что наука это только про деньги. При их наличии можно организовать так чтобы ученых было как парикмахеров в стране. Зарплаты младших научных исследователей в большинстве стран мира ниже чем средняя зарплата по стране. Соответственно практически все рвутся в США и всё развивается там. Там был выстроен конвейер. Тысячи скаутов летают по стране и выискивают лучших выпускников и аспирантов, либо заметных состоявшихся специалистов. Вернее даже не лучших. Сами великие часто себя такими не считают. Судя по биографиям их заметно помотало на непонятных занятиях со слабыми результатами. Далее они занимаются не понятно чем, типа в Bell labs, почти безотчетно, с хорошим финансированием. Один пишет - "не помню чтобы за 15 лет кого-то уволили".
Обязаловки с научными статьями нет. Хьюбел и Визиел выдают по чайной ложке на пару, чтобы в конце концов получить нобелевскую премию. Отказываются от перехода на большие зарплаты, потому что денег и так слишком много.
Создатели Unix партизанскими методами много лет пилят ОС, без одобрения со стороны руководства. Вы можете себе представить чтобы айтишники были представлены сами себе?
Сейчас во многом это закончилось. Bell labs не имеет такого финансирования как раньше.
А мем с "британскими учеными" связан именно с тем что чиновники ввели KPI для них, и ученые вынуждены генерить треш. Этот путь сейчас повторяет Китай, который также лидирует в публикациях, часто с мутным результатом.
Текущая ситуация с нейронками, на мой взгляд, также связана с тем что KPI победил.
Но здесь та же проблема что и с людьми. Меритократия невозможна, потому что не существует четких критериев как отличить полезного члена общества от бесполезного.
KPI победил
Всё верно. При любой оптимизации ты получишь только то, что ты измеряешь. Точно так же и с нейронками - придумывают какие-то метрики и подгоняют алгоритмы под них.
Это все потому, что все измеряется деньгами. Целевая функция - работать, чтобы получать деньги. Будете вводить KPI, то будут и способы максимизировать выхлоп денег с этого KPI. Возможно идеи с безусловным доходом не так и плохи, а возможно система распределения материальных благ в обществе сломана и нуждается в пересмотре.
Проблема глубже. Нейронки наши мысли и бессознательные ожидания (от них) не читают. Люди на столько разные, что без конкретного промпта они не могут удовлетворить творческих мечтателей, выдавая нечто усредненное. Что-то новое состряпать вовсе не проблема, проблема организовать эволюцию всех этих попыток на реальном, живом контексте.
Что-то новое состряпать вовсе не проблема, проблема организовать эволюцию всех этих попыток на реальном, живом контексте.
Угу. Для этого сетки должны начать использовать саморефлексию для того чтобы признавать, что они галлюционируют. Но это не про текущее поколение llm
А люди то часто такой подход применяют?
Рассуждающие модели решают математические задачи, т. к. им это сложно они часто ошибаются на определенном шаге, делают проверку, понимают ошибку, откатываются назад, пробуют другие варианты решения.
Текущее поколение еще давно освоило такую технику, как "агенты", когда независимые модели перепроверяют результаты и отправляют на доработку при наличии несоответствий.
Зря Вы тесты MATH не дооцениваете. Они как раз могут быть полезны. В математике есть небольшое количество аксиом, все остальное многообразие строится на них и может быть выведено одно из другого. Это можно использовать для тренировки сетей. Например, взять школьную там доказывается несколько десятков теорем, можно на них потренироваться. И когда-нибудь ИИ докажет новые теоремы.
Я почему то не увидел пометки что основная часть статьи - это пересказ почти слово в слово физика и замечательного популяризатора Семихатова.
Вы слишком много ждёте от нейронок - это только способ оптимизаций выпуклых функций, для которых не работает что то попроще. Чистая математика и никакой философии.
"В свете этого, становятся существующие решения неинтересны."
Что-то с порядком слов
Имхо, следующий прорыв в нейронках должен быть в области генерации неожиданных вещей.
Сейчас LLM работают используя вероятности (веру). Чтобы выдавать "неожиданные вещи", нужно в алгоритм добавить "надежду" - принятие решений (скатывание в нестандартный поток мыслей) с высоким уровнем неопределенности или вопреки вере. И любовь, походу, нужна как балансер, между вероятным и невероятным. Последнее, кажется самым сложным, чтобы уложиться в практическую схему.
В нейросетках это называется температура. Повышаешь её и нейросеть начинает адово креативить, понижаешь и начинает работать крайне предсказуймо. В зависимости от задачи подбираешь нужную тебе температуру. А она в свою очередь работает просто через увеличение диапазона подходящих значений. Т.е например нейросетка думает что с 30% вероятностью дальше буква А, с 29% буква Б, 20% буква Г. То при минимальной температуре всегда будет первый вариант, при средней первый либо второй, а при максимальной все три. С каждым шагом тот же прижок и вуаля. Любой уровень креатива
Нет, это - не креатив, а разброс, вариативность. Одной из функций креатива является проверка разброса на полезность. Можно брутфорсить, а можно перекрестными проверками. Последние в миллиард раз эффективнее. Перекресные проверки - это схлопывание многомерного пространства в маломерное. Это уже почти то, что делает ЛЛМ, но не до конца. Когда вместо нескольких сгенерированых картинок вам выдадут одну и будут уговаривать, что перегенерировать ее не надо, то знайте, что тема удалась.
Это уже то с чем бороться надо. Потому как ИИ может сейчас подражать художнику и рассказывать, что он так видит, клиент ничего не понимает в исскустве и тд. Дабы протолкнуть текущий вариант без доп.работы. Но может не надо? Хех
Один режиссер уже попросил так нейронку сделать сюжет для фильма и она его месяцами скамила как настоящий сценарист. Говоря что вот вот будет готово, пусть через месяц придёт и тд. А он незнакомый с нейронками вёлся. Ведь ровно как настоящие сценаристы говорит!
Интуиция не врёт.
(Юдковский перевернулся в гробу)
Элиезер Юдковский? Который ГПиМРМ? Зачем он полез в гроб?
Ну а что такое "новые штуки", как не подмножество комбинации всего со всем, которое сумело получить общественное доверие?
Можно сгенерировать нейронкой, условно, фэнтезийный гибрид арфы с косой, и рисовальная нейронка даже предложит симпатичный форм-фактор с нескольких попыток; но смысловое наполнение появится только если будет доступный людям лор, который поясняет зачем такая штука.
Или взять пресловутое доказательство теоремы Ферма. Оно опирается на обширную теорию... которую люди в большинстве долго не могли понять, а значит и не могли проверить. Да, оно было создано человеком, но создателем подобного мысленного артефакта может выступить и нейронка.
Или если посмотреть на требования к безопасности, то есть риск создания нового легкодоступного массового оружия; такие исследования вполне могут запретить всем, кроме закрытых институтов.
Т.е. "новые штуки" от нейронок зависят от способности людей принять их.
Где-то с полгода назад была новость про нейронку, которую обучали на данных человеческой биохимии, гистологии и прочих фундаментальных биологических знаниях. И она стала делать очень неожиданные открытия, которые потом подтвердились реальными исследованиями. Возможно, что нейронка "понимает" нашу биохимию лучше чем сам человек.
Просто она оперирует сразу всеми знаниями комплексно. Когда объем информации очень велик, то автоматизация решает. Это как если у тебя есть доступ в самую большую библиотеку: информация вот она, ответ на нужный вопрос точно есть, но с какой книжки начать поиск и как оно перелинковано между собой - в голове удержать сложно.
Я тоже так думаю.
самая ресурсоёмкая задача это рисование без ошибок всегда, не все ИИ умеют рисовать пальцы или кисти, есть неточности с акссесуарами, отсюда следует такой подход не всегда повторяемо-воспроизводим на пике базе обучения ( тоесть художник когда подошел к каким-то навыкам, вероятность что кисть будет опущена мала )
Просто она оперирует сразу всеми знаниями комплексно. Когда объем информации очень велик, то автоматизация решает. Это как если у тебя есть доступ в самую большую библиотеку: информация вот она, ответ на нужный вопрос точно есть, но с какой книжки начать поиск и как оно перелинковано между собой - в голове удержать сложно.
Бинго. Поэтому крайне сомнительно звучат выводы автора: "Имхо, следующий прорыв в нейронках должен быть в области генерации неожиданных вещей. Вещей, которые не являются рекомбинацией и перевзвешиванием известных фактов.".
У меня вот есть уверенность, что даже находясь в пределах уже изученного может найтись много комбинаций, которые очень сильно могут продвинуть науку вперёд. Есть нейросети, способные выявлять зависимости, закономерности и аномалии в данных, которые для человека являются нечитаемыми. Какие перспективы открываются при правильном подходе к "парсингу" научных статей - поиску аномалий/противоречий или синтезу статей, который ещё не был выполнен.
Ключевой момент это снижение процента галлюцинаций. Сейчас сети очень часто галлюцинируют, но это замечаешь только если хорошо знаешь тему. Например, если спросить как с помощью существующей консольной команды сделать несуществующее действие.
Не обязательно. На текущий момент накоплено очень много знаний, так что даже специалисты из смежных областей могут не понимать друг друга. Если весь массив знаний формализовать и запустить процесс его обобщения, то, скорее всего, будет множество нового, для этого даже не обязательно использовать нейронные сети.
То ли моя память глючит, то ли "народная". Когда-то, ещё в прошлом десятилетии, обсуждался фармацевтический ИИ, который перебирал химические формулы и ненароком открыл несколько сверхсмертельных ядов. И тут якобы социально ответственные учёные якобы эти исследования свернули...
Что это было? И почему никто не вспоминает?
Возможно, у нее выйдет то же самое, что у Эйнштейна, Планка и компании. ИЛИ ВЫЙДЕТ ЧТО-ТО ПРИНЦИПИАЛЬНО ДРУГОЕ.
К сожалению, нейросетки сейчас тренируются далеко не на создание новых штук. Они тренируются на точное выполнение каких-то экзаменов. Причем, зачем-то точное в том смысле, что нужно решить экзамен, как если бы это делал человек. Очень спорная предпосылка. Это стало каким-то культом.
Тест Тьюринга? Да кто такой этот ваш Тьюринг?
Ну, кому как. Для меня нейронки успешно пишут сложных ботов для тг и простенькие игры типа tic tac toe ultimate одним запросом. Я бы на js неделю мучился с этом. Тексты, статьи, новости, редактура. Если вам что то не интересно, то это вооообще ничего не значит.
Если вы сейчас еще успеваете хотя бы посмотреть трейлеры новых качественных игр (в большинстве случаев, это ААА(А) проекты), то через несколько лет вам даже на это не хватит времени. Не говоря уж о том, чтобы во что-то из них поиграть
Последнее время пытаюсь найти хотя бы что-то, во что можно поиграть на телефоне (думаю, с пк похожая история). И листая по пол часа результаты поиска, я просто не могу найти ни одной подходящей игры. В основном выходит так:
это какая-то убогая поделка, в которую играют только из-за навязчивой рекламы в каждом приложении
неудобное управление или физика
ставший более модным вид сбоку (тут субъективщина - из 2D люблю только сверху)
классная игра, но с таким дисбалансом, что за донат люди получают в 10-100 раз больше результатов
и так далее
И вот такое ощущение, что сейчас просто пошли из крутости и качества в количество и максимизацию прибыли. Раньше встречал достойные игры, но они уже во многом устарели - где-то графикой, где-то люди наигрались и разбежались, а где-то понимаешь, что игре уже лет 10 и ее могут в любой момент закрыть, к тому же никогда не догонишь топов.
И в итоге полистаешь пол часа - час, не найдешь нормальной игры, и на ближайший месяц, отчаявшись, идешь заниматься чем-то другим.
после появления "точных" нейросетей мир, скорей всего, не пойдет по пути появления более крутых новых продуктов. Он пойдет по пути массовости
Возвращаясь к нейронкам. Кажется, что это в целом тренд такой - делать херню, но побольше. Что-нибудь да принесет денег. А то делая крутое, потратишь много денег, а не факт, что взлетит. А люди и это "схавают". И нейронки пришлись очень кстати. Они помогают ровно в этом - делать быстро какую-то херню. Т.е. тут дело не в нейронках, дело в рынке, в людях.
Согласен. Игры окончательно деградировали после где-то 2005 - 2010 года.
Это просто неэффективность поиска. После 2010 года стало кратно больше игр, требования бывалого игрока к ним выросли, так что за полчаса скролла топа можно ничего не найти, а топ разумеется нашпигован тем, что туда запихано эффективным SEO.
Если использовать другие способы поиска (рекомендации друзей или поиск больших игровых фэндомов), то результаты будут сильно другими.
Нет, это историческая закономерность. То же было с литературой, кино. Золотой век соотвествует своей эпохе. Для 3d-игр эта эпоха была в конце 90-х - начале 2000-х. Выразительные средства (в нашем случае видеокарты и движки) достигают необходимой зрелости, позволяют реализовать все что можно. Находятся те кто это делают. В последующем это будет в лучшем случае плагиат. Нельзя дважды войти в одну реку.
вот, тоесть всё равно експерт может сделать то что ему нужно, но придётся потратить время. это будь то картинка с ИИ, будь то код, всё равно пока есть нестыковки, для примера мне пришлось пазл делать для себя самому, и править картинку, которую я искал - равносильно применять уже художественный навык
но ИИ что-то делает отвечает на промпт уже хорошо наверно не знаю, но дорабатывать мне пришлось сколько раз к нему обращался ) у меня правда всего 2 раза было взаимодействие, но мне этого достаточно )
Я два раза пробовал кататься на сноуборде, чтобы понять - всё это фуфло. Разрекламировали в рекламе все эти горы, спуски с эффектными трюками и т.д., а я попробовал - и не то, что сальто не скрутил - я и на первом спуске, и на втором упал, не проехав и 50 метров, так что мне этого достаточно, чтобы уверовать в бесперспективность данного мероприятия)
Творческий кризис отражает кризис экономической модели, где главное - максимизация прибыли.
Кстати, а вот и вопросы от Татьяны Черниговской:
Какие вопросы ставит перед человечеством развитие искусственного интеллекта
Какой физике подчиняется человеческий мозг — физике Ньютона, Эйнштейна, Бора? Некоторые утверждают, что всем. Но что это значит и как это можно использовать?
Как предотвратить социальные проблемы, которые возникнут вместе с развитием цифровых технологий? Цифровая реальность уже отчасти выступает критерием отбора в социуме. Могут появиться страны, которые будут не допущены к цифровому миру из-за недостатка денег или отсутствия интеллектуальной среды. Это также может происходить внутри стран и вызывать социальные взрывы.
Как адаптировать этику и законодательство под новые реалии? Мир перестал быть человекомерным. Беспилотники уже давят людей. Кто несет за это ответственность — человек или машина?
Может ли у искусственного интеллекта появиться собственное «я» и как мы это поймем?
Пока мы точно знаем, что машина, которая принимает за нас решения, не осознает, что делает. Но научный прогресс идет к тому, что искусственный интеллект может стать личностью. Тогда развитие ИИ выйдет из-под контроля.
Нейронка и человек это принципиально разные системы. Человек обладает эмоциями, нейронка это просто вычислитель с перемножением матриц. Человекоподобие в рассуждениях ей создают искуственно через некие паттерны программирования. Человек же познает новое и двигается в новое и неизведанное только благодаря своему эмоциональному центру. У нейронок этого нет и не будет никогда. Они лишь инструменты и инструментами и останутся. Для кого-то это инструмент зарабатывания денег, для других - типа "двое из ларца" . И это в общем их предел.
Так эмоциональные центры тоже регулируются мозгом в ответ на всякие сигналы извне. Увидел вкусняшку -- мозг решил, что предвидятся нутриенты -- испытал радость. Ваш аргумент был бы валиден, если бы источником эмоций был бы какой-то абсолютно случайный процесс, который нельзя оцифровать, но это очевидно не так.
Никогда не говорите никогда. (Нуклеиновая кислота в капле жира - НИКОГДА! не станет прямоходящей)
Ничто не мешает подключить к нейронке какую-то эмоциональную подсистему, если будет такая необходимость.
Вчера отдал на откуп копилоту написание простой функции, получающей DateTime по строковым параметрам dd.MM.yyyy и HH:mm.
Сегодня полчаса потратил на поиск бага. Потому что копилот не предусмотрел случая, когда строки не соответствуют требуемому формату, в контроллере возникала ошибка и запрос не производил к изменениям в базе данных.
И в целом, пока 99% кода я пишу сам, потому что проверять код AI, даже простой, все равно требуется.
Но польза от него все равно есть, он заменяет StackOverflow, в половине случаев найти способ сделать что-то проще через него, вместо того чтобы гуглить.
Запросите его найти свою же ошибку, может поможет
Да тут не в том дело. В самом коде ошибки не было, ошибка возникала во время взаимодействия этой функции в рамках системы целой. Я-то систему понимаю, а у чата-гпт не хватит для этого длины контекста.
Не пробовали при формаровании ТЗ для нейро озвучить ему этот момент? При плохом ТЗ - результат ХЗ. Если бы вы дали плохое ТЗ живому программисту, результат, вероятнее всего, вышел бы идеинтичный. Именно поэтому существует такая профессия, как тестеры.
Ну так мы в этом случае не отличаемся от нейросети. Попросите меня, Вас, некого Васю, не зная всего проекта допустим такую же ошибку, вначале придётся всё рассказать
И что? Это типовая ситуация, написали функцию, принимает параметры, что-то выдает, но при использовании, где-то, что-то отваливается. Люди так же пишут. Вот это и надо улучшить, функции автоматом покрывать тестами. Проводить общее ревью, искать потенциальные места ошибок. Скоро появится такой функционал.
Людей тоже нужно тренировать по-другому, с самого детства.
Страшные вещи говорите, богопротивные.
Истории про открытия сделанными ИИ были. Многие говорят, что нейросети неспособны на что-то новое, так как просто ищут взаимосвязи, но мы, на самом деле, часто занимаемся тем же самым, не замечая этого, у нас взаимосвязи могут быть из очень разных областей, их трудно проследить, но они есть.
Причем, зачем-то точное в том смысле, что нужно решить экзамен, как если бы это делал человек. Очень спорная предпосылка. Это стало каким-то культом.
Это следствие из теста Тьюринга.
буквально только что искал в картинко ИИ то что мне было нужно(впервые) и что интересно местность по композиции он идеально сделал, а с запросом на не существующего персонажа пришлось редактировать кисточкой конечно же! ну тоесть рисовать пришлось, ну как я и думал ИИ только натренерованная помогает, и всё равно придётся дорабатывать
Двоякое у меня отношение к нейронкам. В плане картинок и видео, видя генерации сначала был вау эффект. Но быстро сошел на нет как сгенерированные картинки наводнили интернет. Теперь я испытываю лишь раздражение когда замечаю хотябы намек что картинка это не фото или рисунок сделанный человеком. А такое замечается инстинктивно и сразу не глядя пропускаешь.
С чатами тоже все не однозначно. С одной стороны я много раз обращалась к чату гпт, с запросами помощи по Линуксу. И тот даже помог мне пару полезных скриптов сделать и продуктивно использовать, это притом что я в программировании ноль и просто использовала то что мне выдавали. Проверяла как те срабатывают и просила исправить моменты что работали не так как ожидала. Но с другой стороны, нейронки врут и не краснеют, у них на что угодно есть ответ, даже если он не имеет ничего общего с реальностью. И они так уверенно говорят, выдавая все в утвердительном тоне как факт. Что не всегда разберёшь что правда, а что лишь фантазия.
Например сегодня я спросила китайский deepseek можно ли в плеере mpv включить какую опцию, что бы тот запоминал размеры и расположение окна с последнего сеанса, и при следующем запуске открывался так же. Или на худой конец можно ли выставить фиксированные размеры что бы плеер всегда с таким окном запускался. Нейронка выдала мне кучу команд с наказом все это в mpv.conf прописать. Перечисляя варианты, а вот если вы ещё хотите то, сё. Только вот ни одна команда не работала, буквально. Когда я ему сказала что ничего не вышло, ладно забудь мой вопрос. Нейронка ответила не надо отчаиваться, вот вам ещё решение которое точно сработает. Вам надо лишь поставить луа скрипт и прописать пару команд, только вот где взять этот скрип не сказала.
Тогда я обратилась с тем же вопросом к чату гпт. Он бы краток и лаконичен, он сразу сказал что надо луа скрипт и предоставил ссылку на гидзаб. И даже команду как фиксированный размер окна выставить, которая работала. Более того в процессе заметил что у меня в конфиге один параметр прописан, устаревший и не работающий, который лучше заменить на новый. Пояснив что это связано с отрисовкой через вулкан апи, что раньше была через опенгл. Все бы хорошо, только вот решение на основной вопрос так и не нашлось, потому что ссылка на гидзаб что мне дал чат для скачивания скрипта, вела на пустую мертвую страницу.
мне с картинками как художнику понравилось тут тебе и рефка и тренажёр ) тоесть править конечно придётся кисточкой (тут Digital художники поймут о чем), но вообще да это не стадик, тоесть он даёт картинку, правка будет от человека зависима от его опыта сопсно как и с кодом) тут кому как, кому проще с нуля рисовать, кодить, бывает просто рефка ваще отпад, но 6 пальцев например, ну как с кодом по ситуации )
Сразу инстинктивно? Исходя из результатов многих тестов "угадай, где нейро, а где реальное фото" - вы не правы. И насчет "врут и не краснеют, всегда на все есть ответ" - тоже не является правдой. Я даже не беру в рассчет Клода, который часто говорит о том, что чего-то не знает. Многие модели на данный момент при вопросе возможности чего-либо не выдумывают небылицы, а вполне прямо говорят, что этого нет, либо невозможно, либо не существует и т.д.
Часто ли вы видите действительно качественно сгенерированные картинки в сети. Большинство заваливают интернет дешевыми моделями генераций формулировок за пять секунд. Результат соответствующий. Особенно когда речь о художественных произведениях сравнения рисунков цифровыми кистями, или однообразными генерациями.
Может в мире существуют нейронки что регулярно не галюцинируют. Но самые известные и якобы лучшие по топам, это делают регулярно. Иначе не было новостей об очередном исследовании прим как недавно читала где выяснилось что поиск первоисточников новостей в 40-70% приводят к всяким левым сайтам. А люди подают в суд в опенаи, потому что по запросу инфы о себе же, сеть знает адрес, имя, кто еще есть в семье. И и придуманную историю как этот человек поубивал своих же детей.
Увы нейронки не знают что такое правда или лож. Они просо собирают подходящие по запросу крупицы информации из интернет клоаки где море дезинфы. Выдавая соответствующий результат.
Меня всегда удивляют люди, которые с твердой уверенностью говорят, что нейронки не могут ничего нового создать, кроме того что впитали из датасета. Типа все их построения картинок основаны на том, что они увидели прежде и просто делают рекомбинацию. Но ведь и люди так же. Мы с детства впервые видим дерево и осьминога, и потом когда рисуем картину мы добавляем к дереву щупальца и преподносим как что-то новое. Но ничего нового человек не создает. Он либо открывает что-то, либо рекомбинирует. Человек не может создать новую ноту или другой цвет радуги. Но может смешать пару нот и получить новую песню или смешать жёлтый и красный и получить оранжевый. Просто нейронки заточены на рекомбинации гораздо более продвинуто и быстро. Ведь в нашем мозгу ещё полно мусора и прочего бессознательного, что нужно самому организму и в чем совершенно не нуждаются нейронки
Человек может
- Открыть (невиданное им прежде)
- Рекомбинировать (соединить то, что открыл, во что-то новое)
Если кто-то скажет, что человек может выдвинуть гипотезу, то это тоже устная рекомбинация
Я могу быть не прав, и буду рад услышать встречный аргумент. Или хотя бы хоть что-то, что человек создал по-настоящему, без рекомбинации
"Но ведь и люди так же " - это доказано ?
проблема в том что некоторые стили отрисовки ИИ не покажут, и это не связано с умением ИИ, это наверно будет очень глубокое исследование по итогу, но я потестил одну нейронку она выдавала мне 1 стиль, и если были ошибки они были похожи
(аксесы, кисти, пальцы, иногда ступни) ну и да иногда игнорирование свойств тоесть она думает что так покажет так даже если указать что не так, ну словами я пробовал, с одной ИИ сегодня, в итоге я подобрал картинку с минимальными ошибками если это можно назвать ошибками и кисточкой дорабатывал
человек может создавать стили выражения, на протяжении веков с доисторического времени что известно повествование человком графической информации трансформировалось, от рисунков в пещерах до фотореалистичных портретов, откройте 10 стилей разных, даже в мультиках 80-90 стили разные
С языка снял!
Даем нейросетке доступ до Реального Мира, включая свежие технологии типа Большого Коллайдера. Пусть ни в чем себе не отказывает, проводит любые эксперименты любыми методами.
Какой автор отчаянный!
Фундаментальная наука - это потом. Сейчас нужно тренировать нейронки, чтобы они обучали другие нейронки и делали их лучше. Первая версия обучает вторую, вторая третью и так далее. Цепь замкнётся, что может очень быстро привести к созданию не просто AGI уровня нобелевского лауреата, а Сверхразума в миллионы раз более разумного.
Если хотите получить сложный интеллект (только сложные системы способны оперировать сложными функциями), то дайте больше количество логических элементов, и сложное тело с большим количеством разнообразных органов взаимодействия с окружающим миром.
ТС стоит русский язык подучить.
Мысль здравая.
Есть ограничение в конце всей этой идеи — наше восприятие. Мы же отбраковываем всё, что не понимаем или воспринимаем, как искажение. Примером тому те же многопальцевые картинки и прочие «артефакты», которые мы воспринимаем как неправильное. Может быть, это как раз эталон прекрасного, но не в нашем мире?
Отсюда вопросы к обратной связи. Ок, дадим большой нейросети придумывать всю физику с самого начала. В какой-то момент она придёт к тому, что мы уже знаем, и мы будем одобрять, мол, правильно работает. Затем она пойдёт дальше, и тут мы уже не будем одобрять. Если она будет работать в режиме обратной связи, то начнется коррекция поведения/результатов, чтобы получать только одобрямсы.
А если она будет работать без этого ограничения, то в какую сторону она пойдёт рассуждать? В каком моменте она остановится и скажет, что всё, додумлено?! И что мы поймём из того, что она предложит в итоге? А если она ответит «43», тогда как мы знаем, что правильный ответ — «42»…?
Второе ограничение — физика началась не от рассуждений, а от наблюдений за физиологией всего сущего. Электричество и радиация были обнаружены, а не рассчитаны. Много ли можно рассчитать, не наблюдая и не разгоняя условный ядрённый коллайдер?
Третье ограничение — а нейросетки думают? Размышляют? Сейчас они перебирают варианты и складывают что-то с чем-то. Мы это воспринимаем как рассуждение или как «следствие рассуждения», но сколько раз уже говорили, что нейросеть не понимает код, который она генерирует. Натренируйте её просто крутить стрелки на часах (замкнутая система с предопределенным количеством возможных вариантов) — она в любой момент будет способна сказать, который час, исходя из положения стрелок на циферблате. В какой момент мы сможем рассчитывать на то, что она будет сообщать нам время, которое отображает момент вращения планеты вокруг Солнца, а не время, которое складывается из положения стрелок на окружности?
Третье ограничение — а нейросетки думают? Размышляют? Сейчас они перебирают варианты и складывают что-то с чем-то.
А вы уверены что люди в этом от них принципиально отличаются?
Проблема с пальцами, что их в реальном мире мягко сказать далеко не пять всегда. Может быть как больше так и меньше. Так же в мультипликационном виде тоже. И завершается тем, что человеческие художники тоже пальцы плохо рисуют в основной массе.
.
Если что, для справки, любые неожиданные новые изобретения являются рекомбинацией чего-либо. Приведите пример, выбивающийся из этого? Картина Джаконды - нет ничего нового, просто рисунок сидящей женщины. Изобретение колеса - просто рекомбенация свойств ствола дерева тли круглого камня, стихи и произведения великих классиков - рекомбинация давно существующих слов/ситуаций/идей, чаще всего в той или иной степени/виде происходившими со многими в мире.
Попросил сделать логический анализ стать у Gpt:
Вот логические ошибки и спорные допущения, которые можно найти в тексте Олега Чирухина:
--
1. Ложная дихотомия (false dichotomy)
> «Мне нравится, как Claude рассуждает, и не нравится, как ChatGPT точно решает задачи. Следовательно, точность бесполезна, а рассуждение — полезно».
Ошибка: Автор противопоставляет «точность» и «рассуждение» как взаимоисключающие вещи, хотя они могут сосуществовать и дополнять друг друга. Рассуждение без точности может быть болтовнёй, а точность без рассуждения — бесполезной формальностью.
---
2. Подмена тезиса (straw man)
> «Нейросетки учат сдавать экзамены, как будто они хотят притвориться людьми».
Ошибка: Автор утрирует цели разработчиков: сдача экзаменов используется как тестовая метрика, а не как самоцель. Никто не утверждает, что нейросети должны "притворяться человеком" — это риторическая подмена.
---
3. Аргумент к интуиции (appeal to intuition)
> «Интуиция не врёт».
Ошибка: Интуиция может быть полезным источником гипотез, но она не является доказательством. Ссылаться на неё как на критерий истинности — логическая ошибка.
---
4. Скользкий склон (slippery slope)
> «В 2025 будет много игр, в 2028 — ещё больше, и мы вообще не сможем ни играть, ни обсуждать их. Следовательно, это бессмысленно».
Ошибка: Предположение, что рост количества приведёт к полному краху смысла, не учитывает возможные компенсирующие механизмы: фильтрация, кураторство, эволюция вкусов и т.п.
---
5. Ложная причинность (post hoc ergo propter hoc)
> «Много нейросетей — много решений — всё это стало неинтересным».
Ошибка: Автор предполагает, что количественный рост нейросетей привёл к снижению интереса, хотя это может быть вызвано множеством факторов — привыканием, отсутствием прорывов, изменением фокуса и т.д.
---
6. Обобщение и презрение к массовому
> «Большинство кастомных Инстаграмов не будут использоваться — значит, они бесполезны».
Ошибка: Это обобщение от частного к общему. Даже если 95% продуктов не используются, 5% могут быть критически важными и инновационными. Механизм проб и ошибок — естественный путь прогресса.
---
7. Отрицание ценности промежуточных этапов
> «Решение экзаменационных задач — тупо. Это бухгалтерия».
Ошибка: Автор принижает значимость формальной математики как основы для понимания и анализа. Без этих «бухгалтерских» этапов невозможны абстракции и открытия.
---
8. Убеждение через иронию / высмеивание (reductio ad ridiculum)
> «Вы бы там трусы и крестик сняли бы?»
Ошибка: Ироничная агрессия снижает силу аргумента. Высмеивание — это риторика, а не логика.
---
9. Ложная аналогия
> «Нейросети — как геймдев, и нас зальёт бессмысленным контентом».
Ошибка: Развитие нейросетей и индустрии видеоигр — разные процессы, с разными механизмами отбора, монетизации и потребления. Аналогия красивая, но логически непрочная.
Непонятно, как на этом новом отбивать деньги инвесторов
Автор вообще не разбирается в нейросетях. Статья по типу "Почему бы ученым не изобрести лекарство от рака, зачем они муравьям ходули придумывают" и "Почему люди создают бомбы, вместо того, чтобы создать устройства для телепортации". Слова максимально отдалённого от темы человека. Прочитайте о том, как вообще работает математическая модель "нейронная сеть", как ей реализовывают програмно, что есть "обучение" нейросети, как генерируется ответ и как используем имеющиеся данные и после этого стыдно будет за такую статью)
Даем нейросетке доступ до Реального Мира, включая свежие технологии типа Большого Коллайдера.
И достаточно быстро может выяснится что:
поведение пучков не объясняется существующей физикой
конструкторы БАК знали чем оно объсняется
выводы :) :
или перед нами работающий ксеноартефакт и выводы пойдут на эту тему
или от модели что то скрыли - и модель может например решить поковырять известную ей фантастику а там столько намеков всплывет (кстати а сам доступ к БАК на каком уровне? чертежи есть?)
а что если обе предыдущих версии верны и планета захвачена втихую?
Нейронки пошли не туда