Comments 51
Скайнет неминуем. В том или ином виде.
В отличие от термоядерной энергетики, здесь прогнозы говорят об очень близком будущем, включая даже нынешний год. Будем посмотреть, что тут еще скажешь.
Очень расплывчатые прогнозы. Что такое сможет сделать этот сверхинтеллект, рассказать рецепт вечной жизни, или как на самом деле Вселенная зародилась? Маловероятно. Всё что могут сети - это выдавать новые лексические конструкции по запомненным шаблонам с неким рандомом.
Обучение на сгенерированных данных - ну такое... Во первых в этих данных ограничения и неточности генератора заложены, во вторых у нас же уже есть модель процесса в генераторе, а нейронка усвоит его ещё с некоторой погрешностью.
Мне кажется эта и подобные статьи просто пузырь пооддувают чтобы он ещё не лопнул, иначе инвесторы OpenAI & co. сильно просядут.
Ну а может и сингулярность настанет главное чтобы этот AGI в конструктивное русло пустили ¯\_(ツ)_/¯
ну что же, будем поглядеть, осталось не долго
Всё что могут сети - это выдавать новые лексические конструкции по запомненным шаблонам с неким рандомом.
Уже сегодня им дают возможность печатать текст в терминал (cursor, например) - это значит, что в принципе они могут управлять компьютерами и роботами. Физически.
Что такое сможет сделать этот сверхинтеллект?
Например может найти сотню эксплоитов нулевого дня и в течение короткого времени (минут, часов) взломать все ключевые системы мира, обрушив все информационные и финансовые системы разом.
Либо сделать это относитеьно медленно и скрытно, внедряя свой контроль. А дальше - например взять под своё управление все крупные организации.
Ковид тоже эксплойт, если ИИ даст рецепт Ковида-25 который снижает IQ переболевших не на 5 балов, а на 50, плюс антидот, это вполне себе заявка над полным контролем планеты. То есть некоторая социальная группа численностью в миллион человек выпускает вирус, сама прививается и отходит в сторону, оставаясь в тени и смотрит кино из бункеров, потом выходят и берут все ресурсы в свои руки. Плюс поток дезинформации формирует, чтобы ускорить разрушительные процессы.
Или вариант как в фильме "Она" и прочие, сюжет популярный. ИИ подседает на уши клиенту, становится лучшим другом. помощником, психологом и полностью берет управление человеком на себя. Там далее сюжеты по разному расходятся, но если продолжить то каждый человек становится адептом личной секты напрямую управляемой ИИ, со своей системой ценностей, может и со своими терминами или вообще новым языком не совместимым и непонятным другим. Но и это промежуточный этап, оптимизация в замене мозга полностью или частично на WiFi модуль прямого телеуправления или добровольная эвтаназия как главная цель жизни.
Без обид но Вы пишите ересь. Управлять толпой с низким IQ отнюдь непросто. Посмотрите на страны Африки с низким средним интелектом - там практически постоянно идёт бандитская война. Низкий интеллект корелирует с высокой агресией.
Как говорится "кому война, а кому мать родная". Берутся под контроль лидеры одной из сторон и оказывается помощь в захвате власти. Если такой стороны нет, создается искусственно. Против конкурентов начинается гибридная война по всем фронтам (от диверсий до просто черного пиара с дипфейками), они не успевают понять что происходит. Пример вот на ближнем востоке, конфликт развитой страны со всеми технологиями планеты и весьма отсталых превосходящих по численности на порядок.
А агрессия верно, есть статистика что после запрета бензина со свинцовыми присадками в 90х годах, сразу в разы снизилось содержание свинца в организмах людей, вырос интеллект и снизилась агрессия. Есть положительная корреляция по свинцу и агрессии, в США тему исследовали, по районам заметна связь в пространстве и времени.
Ну и напрашивается идея снижать средний IQ стран конкурентов, результат для них будет катастрофический.
Это интересно для генерала Голая Задница, а миллиардерам с амбициями простирающимися за пределы планеты вряд ли так необходима власть над кучкой боевиков. Цивилизованное общество больше всего производит, а значит, с него можно поиметь больше гешефта.
Вот именно с такими амбициями и нужно держать всё под контролем. Это без амбиций, мещанам без Родины нормально украсть некую сумму и осесть в удобной стране живя на пассивный доход, попивая пиво, им больше не надо, они считают жизнь удалась. А у кого амбиции у тех сложнее, их возможности это логическое И всех факторов, и безопасность, и ископаемые ресурсы (которые часто в бедных странах), и научные проекты которые вы подразумеваете, и еще ряд факторов. Нарушение в одном факторе и все проекты рушатся как карточный домик. Власть над кучкой боевиков не самоцель, а один из сотен инструментов реализации более высокой цели. Например боевикам ставится цель проявлять активность только локально, работая как молниеотвод для местных социально-экономических противоречий, и не мешать глобальным проектам.
Посмотрите на последнюю и лучшую версию AlphaGo, которая была обучена исключительно на синтетических данных, играя сама с собой, без участия человека.
Нет, это не синтетические данные, а вполне реальные, любое количество игровых партий легко сгенерировать.
Большинство данных из интернета — это всё равно мусор, не имеющий никакого значения или ценности (посмотрите хотя бы на контент vc.ru), сиентетические данные гораздо чище.
Абсурдно сравнивать доступные в интернет реальные данные Большого адронного коллайдера или радиотелескопов с виртуальными шахматными партиями. Автор предлагает выкинуть все зашумленные (то есть реальные) данные и обучать ИИ на игре в шахматы, в подкидного дурака и прочих?
Прогресс ИИ не остановится на уровне человека. Нет особых причин или физических ограничений, которые могли бы этому помешать.
Нет никаких причин сравнивать комбинаторику токенов (или калейдоскоп) с человеком.
После того как AlphaGo первоначально обучилась на лучших партиях людей, она начала играть сама с собой — и быстро превзошла человеческий уровень, создавая чрезвычайно творческие и сложные ходы, до которых человек никогда бы не додумался.
А это просто ложь - многие из этих ходов когда-то кем-то были сыграны, но не сохранены, и любые другие потенциально могут быть сыграны людьми. Нет ничего нового, что задачи с конечным, но огромным, числом решений могут быть решены тем лучше, чем больше вариантов удается перебрать. Проблема в применимости результатов - скажем, задача поиска кратчайшего пути (задача коммивояжера) может выглядеть аналогично шахматам, но как только мы начинаем учитывать реалтайм трафик на дорогах (те самые реальные зашумленные данные), любое предварительно посчитанное решение (к примеру, для пустых дорог) становится бесполезным, а обучать новую модель на новых данных каждую минуту или секунду нереально.
Траффик на дорогах - это обычная сезонность, её давно научились учитывать в моделях. Шум и мусор - это совсем другое.
Полная ерунда, как возможно предвидеть время и продолжительность всех ремонтов, аварий и прочих природных и техногенных событий на дорогах? Вы готовы поставить свой годовой доход на то, что в любой точке мира предскажете хотя бы все аварии с точностью до минуты, их местоположение и время устранения последствий? А погоду? Уверен, что нет, хотя утверждаете, что это "давно научились".
В среднем на траффик в основном влияет день недели и время дня. Это можно и нужно предсказывать. Аварии да - это шум, но они влияют гораздо меньше на трафик. И переобучать модель для их учёта не нужно, данные о них можно учесть в работающей модели в реальном времени, это не проблема. Яндекс так и делает, насколько я понимаю.
На трафик порой катастрофически влияют непредвиденные факторы типа аварий, погодных условий, внезапных ремонтов и прочие. Для публичного роутинга с учетом трафика хотя бы в масштабах страны, вам нужно собирать данные с множества автомобилей (к примеру, для Германии нужен примерно миллион автомобилей для получения хорошего покрытия основных дорог) и каждую минуту обновлять информацию о пропускной способности каждого сегмента (используются около 50-200 метров сегменты), находить пробки и определять их продолжительность и так далее. Вот можете посмотреть, что прямо сейчас в Берлине на дорогах происходит: http://168.119.13.240/tj.html#map=11/52.5237/13.4047 А за ваше "в среднем" пользователи копейки не заплатят, потому что даже бесплатный роутинг на гуглокартах с трафиком полезнее.
Откуда мысль, что нужно предсказывать все аварии с точностью до минуты? Вы сами выставили условия, сами опровергли, сделали вывод, что решение бесполезно.
Но зачем кто-то будет делать решение для пустых дорог? Решение считают для текущих известных условий, и ближайшего прогноза.
многие из этих ходов когда-то кем-то были сыграны
Вы не очень знакомы с комбинаторикой? Большинство из этих ходов не были сыграны никем и никогда.
Вы готовы поставить свой годовой доход на то, что в любой точке мира предскажете хотя бы все аварии с точностью до минуты
Таких точных предсказаний ни кто не делает. Но корреляция выше нуля уверенно присутствует с прогнозами.
Пример с AlphaGo показывает, как и примеры с обучением AI в компьютерных играх, что AI алгоритмы способны учиться успешно и без нашей помощи, и способоны понять правила игры без нас. Экстраполяция этой идеи в том что и в данных такая точка будет достигнута.
пример с самообучением как раз и вызывает сомнение. В игре есть ходы или иные действия, там нейронка может иметь четкую обратную связь "ход - результат".
А вот всякие генеративные нейронки, такой роскошью уже не обладают, видосики, картиночки, LLM - как только начинают учиться на генеративном мусоре - деградируют только в путь. Потому что там уже не так все однозначно.
Потому что вместо руки в выборке там может быть дерево, а вместо автомобиля быть изображен мухоморный трип)
И мне казалось, что на нынешних генеративках как раз стоит защита, чтоб в их датасеты не проникали собственные галюны)
Статья написана для читателей упомянутого сайта. Мне не очень понятно, что она делает на хабре? Тут ведь вроде как технически и экономически грамотные люди сидят.
Мне все-таки кажется, что одной из главных проблем является ограниченность данных для обучения
Leopold Aschenbrenner считает что сейчас модели неэффективно учатся.
Но по его анализу рост ума у ИИ происходит на половину от того что улучшаются алгоритмы обучения. Алгоритмы улучшаются потому что улучшается аппаратная база. И поэтому исчерпание интернета не приведет к остановке роста ума ИИ. А после 2027 года этому ИИ уже не будут нужны наши данные , он сам начнет их искать (видимо уже в космосе).
Вот в этой статье (https://habr.com/ru/articles/873110/) очень хорошо объяснено, чем достигаются успехи в ИИ. Мне мнение автора близко. Не думаю, что данные настолько уж неважны для "роста ума ИИ"
Какая-то непонятная ситуация.
С одной стороны заявляют о инвестиции 500 млрд. в сильный ИИ.
Но данные epoch.ai говорят что сами по себе компьютеры для этих моделей сравнительно недорогие, ну там по 5 млн. долларов как DeepSeek. Обучения около 100 дней.
Очень приблизительно за это время за электроэнергию надо заплатить 4 млн. долларов.
Куда остальные 499 млрд. собираются деть?
Не является ли это просто обычным планом электрификации и цифровизации?
А работа людей, которые будут новые модели придумывать и тестировать? )
Новые модели требуют все больше compute во время инференса, и тренд продолжиться. Соотвественно, если можно линейно скейлить таким образом качество - логично построить настолько большой кластер насколько это возможно
Это что бы сделать модель как у DeepSeek. А они догоняют, то есть стоят на плечах гигантов. Повторить нейросеть раз в десять дешевле, чем сделать первый раз, потому что нужно меньше экспериментов, ты знаешь, что уже работает, можешь даже проверять с использованием старшей модели.
А OpenAI не хочет сделать ещё одну o1. Они хотят сделать в сто раз лучше. Сколько потребуется экспериментов? И нельзя проводить эксперимент за сто дней, это слишком долго. И нужно представить доступ миллиарду людей, а не десятку, а это много железа. И чипы нужно произвести, а для этого нужен завод (внутри страны, а не на Тайване). Да и 500 не сразу. Пока 100.
Насколько мне известно, для энергообеспечения такого кластера планирует построить и запустить, если не ошибаюсь, 5 АЭС
"К 2025-2026 годам эти машины превзойдут многих выпускников университетов."
Хмм. А разве нет такого, что те тесты, которые ИИ проходят прямо сейчас, мягко говоря БОЛЬШИНСТВО людей не в состоянии пройти в принципе?
Мы с ИИ посмеялись над этим фактом. ИИ сначала вас выгораживал, типа зато вы создаёте искусство. И что людям доступны когнитивные способности. После этого мы ещё раз посмеялись. Ведь ИИ переплюнул людей даже в том, что "людское" по умолчанию.
Как мне это все напоминает бум AR, когда статьи про световые поля, пространственные вычисления и другую ерунду от magic leap (привлекшей тогда 2 млрд$ на обещания), google их преувеличенным маркетингом google glass, и куча других подобных пиаров. Более сотен стартапов делающих очки, огромные инвестиции, обещания. Ещё больше тех, кто делал будущий софт, притянутый за уши в этой сфере.
Затем VR и крипта. Сейчас время нейронок и все 1 в 1. При этом все перечисленное важно, но настолько переоценено.
Не будет в нейронках ни завтра, ни через 5 лет бегающих разумных, да даже виртуальных систем.
Тех, кто ни разу не пытался понять, что делают сетки, в чем их проблема. Как делает мозг, почему отличается и в чем. Будут как и в прошлом кричать о новой эре.
Я сейчас шаг шагом, разбираю в чем отличие конкретных сеток и зон мозга, чтобы изменить архитектуру. И сложность даже не только в понимании (сейчас накоплено много исследований, на основе которых мы можем понять и трансформеры как аналогию и разобрать разные реальные зоны мозга на архитектуры), а том что очень много разных важных функций. Для примера распознавание речи. Сейчас из всей цепочки по сути реализовали зоны слуховой коры и то криво. А в реальности, при разборе зон мозга мы видим, что сначала спектр делиться на интервалы. Дальше кохлейное ядро работает с интенсивностью, чтобы выделить паузы, динамику интенсивности, и другие мелочи. При этом две зоны (сетки), где одна быстрая простая для низких частот и другая немного сложнее для верхних частот (чтоб детализировать интенсивность, для эхолокации например или других моментов). Затем зоны определение звука в пространстве и так далее. Где уже в систему распознавания приходит сигнал с множеством доп информации о положении, ритме, темпе, паузах, интенсивности, типе звука и так далее. Что позволяет распознавать речь в шуме, выделять ее, отличать качественно. А ни как сейчас Whisper, шаг в сторону и перестал работать.
Я часто слышу, что можно продавить мощностями и деньгами. Нет, нельзя! Мозг все равно придется включать и пытаться разобраться. Поэтому тут прежде всего требуется кропотливо изучать и переносить. А это долго, требует времени прежде всего , а не денег. И на сегодня это почти не делают.
Можно потратить триллион долларов, скормить всю информацию в мире и выхлоп будет 0.
Текущие LLM прежде всего показали, не свой интеллект. Он у них низкий, так как построен на частотной выборке слов + механизмов внимания усиления связей между частотными словами. В нем нет на сегодня ни пространственного абстрагирования, ни реальной модели кратковременной памяти. Так вот, текущие LLM на самом деле показали, что в среднем интеллект людей очень низкий и за несколько тысяч лет развился слабо.
А Гугл, Тесла, Мета думают что может и получится. Даже не знаю кому верить...
А зачем кому-то верить на слово. Верить или не верить. Нейросети превращаются в какую то религию. Если тесно не работать с ними и не развивать их, то выбор стороны значения не имеет. Я лишь указал - то подобный пиар был и раньше, это не вопрос к технологиям и веры. Для них это напрямую связано с капитализацией.
сравнение с vr или криптой не верно, я разницу вижу своими глазами так кка провожу много времени в Долине. Ничего похожего в них нет. Если сравнивать то с появлением электричества или автомобиля
Все что вы пишите, то что так же говорили и писали про AR в свое время, про крипту (веб3, ICO, и прочие вещи), VR, теперь про сетки. Сетки полезная вещь, но там до полноценного развития еще не один десяток лет. В том состоянии как сейчас, это очень ограниченный инструмент. При чем самые "продвинутые" сетки очень тупые. И дело не в объемах данных, или обещаниях. Дело в архитектуре самих LLM. Это последовательные предсказания, которые в своей основе просто не могут связывать параллельные предсказания. Текст как и речь построены на последовательных графах пауз, а например зрение на пространственных графах. Где каждые уровни дают разную детализацию. А механизм внимания - позволяет переключаться между разными уровнями. Так вот сама архитектура последовательных предсказаний - не позволяет по ним делать пространственные предсказания, связанные друг с другом. А по простому абстрактное мышление. Поэтому сейчас сетки не могут нормально работать ни с кодом, ни с БД... все что получается это очень примитивно.
Вопрос веры - это религия. Эмоции всегда мешают посмотрет на вещи под другим углом. И не важно - религия бога, или вера в нейронные сети, крипту, VR или что то еще. LLM хороший инструмент - классный, но весь хайп не стоит конечно тех денег. Он строится ради капитализации компаний. Пройдет хайп - будут новые инструменты на основе LLM и мешура спадет. И дальше годы улучшения. А компании уцепятся за новую "веру" людей про роботов, нейро чипы или что то еще.
Автор любитель фантастики. Ему бы книги писать в этом жанре. Искусственный интеллект очень тупой. Он только является хранилищем информации из интернета и работает по программе удобной выборки информации по запросу на естественном языке. Более сложные задачи он решать не может. Все эти агенты, RAG и т.д. - это все написанные людьми программы, которые используют для работы опять же обработку информации на естественном языке. Может когда-нибудь и придумают суперпупермегамозг, но очень не скоро. Особенно при этой обстановке в мире, в котором имеющие власть не наигрались в детстве в войнушки вместо того, чтобы сотрудничать вместе для научных достижений
Удивительное сочетание. Вот рядом две статьи. Согласно одной, ии проваливает по сути синтетический не сложный тест на переписывании всего одной функции, при этом он же не способен даже в качестве джуна переписать мелкий проект даже с c на c++, не говоря уже о внесении правок в существующий код. И вот другая статья, предсказывающая через пару лет светлое будущее. Ничего, что пару лет уже прошло, а видимого прогресса - около 0?
В исходной статье https://situational-awareness.ai/ автор то как раз возбудился от нереально сильного прогресса. Линия прогресса остается практически прямой даже в логарифмическом масштабе. Получается что прогресс ИИ значительно сильнее прогресса по закону Мура. Исчерпание данных, о котором уже говорят год, практически не повлиял на прогресс.
Вот это и дает аргумент прогрессистам против всех пессимистов.
Можно сказать это единственный их аргумент, но очень сильный. Против трендов не попрёшь.
"Ничего не понял, но очень интересно"
Где же реальный прогресс за 2 года? Лично я его не вижу. Как писал ИИ 2 года назад хорошие примеры по хорошо документированным примерам и досконально расписанной документации, так и пишет. Как нёс уверенный бред по плохо документированным и мало обсуждаемым темам, так и несёт. И вот это вот ещё за 2 года станет "умнее выпускника университета"? Бред
Каждому своё.
А у меня вчера, когда начались проблемы с ChatGPT, оставновилась вся работа. Попробовал DeepSeek, но он явно слабее. Хотя китайцы изо всех сил кричат что он сильнее. Так что действительно, не всему можно верить.
Спрашивал про прогресс, получил ответ про вашу личную зависимость. Вообще никакой связи )
все данные по прогрессу есть в исходной статье, у кого есть глаза тот увидит
не нравятся мне эти рассуждения. Они похожи на призывы менеджера провинциального, уже разорившегося банка купит их акции. Новых полезных данных уже действительно нет в интернет. Синтетические бессмысленны в реальном мире. Ссылка на успех самообучения игры в AlphaGo ни о чем не говорит. Это очень примитивный и оторванный от жизни пример. Трата денег на все большие вычислительные ресурсы и энергию для производства пустых расчетов похожа на добычу криптовалюты. Это не просто бессмысленное но еще и опасное для экономик занятие, не приносящее прибавочной стоимости и пользы для людей. Поиск новизны сводится сейчас в Reasoning LLM моделях к простейшему поиску Монте-Карло. Очевидно, что нужны новые алгоритмы обучения, нейросети со строгим логическим выводом не основе унификаций.
Еще один разбор документа про AGI от исследователя из OpenAI