Comments 50
Зима может настать, если замаячит новая область, грозящая бОльшими ROI. Её пока нет, прямо совсем.
Война
Массовые роботы. Кто-то из разработчиков представит убедительное технодемо на базе модели робота в пару тысяч долларов - и инвесторы сойдут с ума, даже если потом окажется, что технодемо работало при особых условиях, а цена в пара тысяч достигается только при заказе партии от двух миллионов единиц
Не особо интересно, слишком понятно, слишком легко видеть прогресс, спекулировать сложнее, иксов за два года можно не ждать. Если речь о бытовых универсальных роботах, то не понятно, в мире капитализма, не создаст ли это больше проблем, чем пользы (конечно же понятно). А робототехника для бизнеса/гос нужд живёт и прекрасно себе потихоньку развивается (и как инвестиционная область).
а как же искусственная матка, сейчас во всех странах мира кроме Африки и некоторых стран Азии рождаемость упала ниже уровня простого воспроизводства населения
так уже))) за 4-5К долларов -- промышленный робот с несколькими степенями свободы. Плюс достаточно легкое самообучение. В ютубе очень много роликов и с китайских выставок и с с заводов, где "до" работают люди, а "после" -- уже роботы.
Дело не в прибыльности. Предыдущие зимы были связаны с разочарованием, которое пришло, когда поняли, что текущий подход уже не даёт серьезного прогресса. Такое вполне возможно уже сейчас. Разработчики ИИ уже заявляют что текущих данных для обучения недостаточно для прогресса. И тут вопрос, удастся ли это обойти, придумав новые архитектуры нейронных сетей и способы их обучения, или нет. Если это не произойдет в ближайшие годы, то финансирование новых исследований будет сворачиваться в любом случае, но существующие ИИ решения никуда не денутся. Будут создаваться новые сервисы и развиваться существующие. Только в фундаментальные исследования в этой области вкладывать столько денег уже никто не будет. Условно говоря, наука перестанет развиваться и ИИ уйдет в чисто прикладную, инженерную область, где чего-то по-настоящему нового мы не увидим до следующего ренессанса.
Зачем? Достаточно, чтобы в этой области ROI сильно упал.
Я вижу эту зиму так: действительно творческие люди будут создавать что-то новое, но не будут зарабатывать на этом, потому что для них творчество интереснее денег.
А не творческие люди будут зарабатывать, используя нейросети, обученные на последних изысканиях прозябающих в нищете творческих людей.
P.S. хотя ведь и до настоящего момента так было.
Читатели пропускают важный пункт про энергетические и инфраструктурные издержки. А это один из главнейших факторов, препятствующих развитию ИИ. Энергетический кризис не за горами, он уже почти на пороге, о чем предупреждают сами владельцы дата-центров.
Инфраструктура еле выдерживает. Летом в долине ЦОД в Вирджинии был зафиксирован сбой, из-за которого сервера перешли на резервное питание. Если бы мгновенно не среагировали или резервы отказали, то весь штат оказался бы без электричества. На долгое время.
Для модернизации инфраструктуры нужны деньги, куда большие, чем вливают в нейросети. А именно 3 триллиона долларов.
Зима близко. Возможно, даже ближе, чем вы думаете
3 триллиона долларов это куда меньше, чем кажется. Это же не просто отдельная компания, это почти основной мировой тренд ИТ.
Что занимательно в этой цифре, что это примерно столько же, сколько зарабатывают все младшие и средние грейды IT специалистов за год на весь мир.
Будет повод подумать как сделать эффективные сетки с меньшим количеством параметров и менее затратным потреблением энергии.
А кто об этом думает? OpenAI, Google, Илон Маск эксплуатируют доступные им огромные средства самым нещадным образом. А когда появляется более эффективный игрок, как Deepseek, его начинают усиленно прижимать на мировом рынке. В большом бизнесе снуют одни акулы, которым плевать на рациональность и здравый смысл.
П.С. Какая у Хабра странная система рейтингов: высказываешь непопулярное мнение, например, против оверхайпнутых ИИ, так тебя изо всех сил гасят минусами и это не даёт писать часто комментарии, чтобы ответить всем, с кем вступил в диалог(
Какая у Хабра странная система рейтингов
Не странная , а высокоэффективная самоорганизующаяся система .
Карма — это ключевой инструмент внутрисайтового механизма коллективной модерации, позволяющий полноправным участникам сообщества наделять других участников сообщества правами, или, наоборот, ограничивать их полномочия, путём коллективного голосования.
Проще, говоря - цензура толпы.
Вам , зтотнало учесть сразу и придержать высказывать свое мнение ибо
Зарегистрирован
6 сентября 2024
Будете так продолжать
высказываешь непопулярное мнение
Сначала сможете отвечать в комментариях раз в час, потом раз в день, потом , если окажетесь непонятливый и упрямый - получите read only.
Это называется мнение сообщества Хабр.
Не вы первый , не вы последний .
Не "высокоэффективная самоорганизующаяся система", а токсичная, абсолютно неэффективная система, порождающая множество злоупотреблений. Благодаря этой системе хабр покинуло множество крутых специалистов, а больше всего кармы у тех, кто фактически ничего полезного на хабр не добавляет. Качество статей, ровно как и качество комментариев падает. Уровень обсуждений упал от аргументированных споров высококлассных специалистов до метания какашек школьниками друг в друга.
И вообще, самоорганизующихся системы уже давно показали свою несостоятельность. Просто потому, что в лидеры чаще всего в таких системах выбиваются те, кто не несёт пользы системе. А после этого система автоматически превращается в диктатуру, причем верность мнения не играет роли, а важно только приверженность "линии партии". Это приводит к отрицательному отсеву всех, кто мог бы принести пользу
Ну пока получается экстенсивно расширяться - они расширяются. В статье пишут про момент, когда это станет очень дорого.
Deepseek сделал дистилляцию своих моделей из более дорогих моделей конкурентов, и его серверы лежат под большой нагрузкой. Так что так дешево как они заявили на самом деле не работает.
сетки должны работать не по запросу, а постоянно, систематизируя и удаляя противоречия из набора (потока) входных данных, а также ставя маркеры источникам и их сигнатурам на основе формулы байеса (об условной вероятности)
Вирджиния не самый лучший штат, кстати какая именно Вирджиния?
А американской системе электроснабжения были присущи блэкауты и до эпохи массовых ЦОД.
Северная Вирджиния, там построена долина ЦОД - самый большой концентрат дата-центров в Америке. Исходя из проведенных в конце декабря исследований по показаниям датчиков, ЦОД приносят серьезные искажения напряжения в электрические сети, что уже чревато возникновением пожаров и выхода из строя техники и грозит серьезными перебоями при дальнейшем превышении нагрузки (а компании не останавливаются и продолжают наращивать в том районе количество серверов).
Дело же не в рядовых блэкаутах, а во влиянии ИИ на энергетику. Про Вирджинию - один из примеров. Дальше - больше. Эксперты хватаются за голову от того, что тока из-за ИИ потребляют выше, чем его успевают генерировать. Много питьевой воды используется для охлаждения оборудования, то есть ее количество для питья стремительно становится меньше (для использования в системах охлаждения воду превращают в техническую, состоящую из большого количества примесей, которых практически невозможно вычистить, то есть пить такую воду уже никто не будет). Для покрытия возросших аппетитов в энергии корпорации готовят запускать атомные станции, а те, работающие на предельных мощностях, увеличат риски аварий (сколько катастроф, подобно Чернобыльской АЭС, планету скоро ждёт?). Растущее в геометрической прогрессии количество дата-центров (лишь бы построить, на остальное плевать) приводит к большему выбросу углекислого газа; рекордные показатели CO2 в атмосфере + экстремальное снижение питьевой воды для охлаждения оборудования для ИИ = ускорение глобального потепления (за 2024 год температура на планете подскочила на немыслимые 1,5 градуса, прежде рост наблюдался как минимум в 2 раза более медленный).
Короче, проблем много, но о них редко говорят. А их надо решать уже сейчас, пока не стало слишком поздно
Чтобы зима ИИ сейчас действительно настала — кто-то должен удалить алгоритмы ИИ для улучшения изображения из моего телевизора и моего фотоаппарата, а также нейропроцессор из моего телефона. Как Вы себе это представляете?
Снижение хайпа вокруг темы ИИ несомненно будет, как, например, сейчас нет былого ажиотажа вокруг профессии космонавта (ранее: физика, летчика, тракториста). Но я бы не стал называть это снижение интереса «зимой».
Мы видим признаки пузыря.
Наконец-то это сказано! То, что все думают , но боятся сказать громко.
Когда пузырь сдуется
Пузыри лопаются . За этим следуют падения рынков. Не удивлюсь, что сейчас разворачиваются события аналогичные предшествующие 2008 , на манер описанных в отличном фильме "The Big Short".
Пузырь недвижимости был чисто спекулятивный — люди на ожидании роста цены покупали недвижимость и толкали цену вверх. Пузырь же ИИ надувается на ожиданиях научно‑технического прогресса, и в этом плане гораздо уместнее сравнение с пузырём доткомов.
В 90-х годах рынок сделал фальстарт, накачав деньгами ИТ и лопнув всего за несколько лет до появления Фейсбука, Ютуба и Твиттера. И в случае ИИ настоящая революция тоже вполне может произойти вскоре после того, как лопнут те, кто успел накачаться инвестициями на голом хайпе. Или даже одновременно.
Не может а точно наступит. Ии это пузырь который однажды лопнет.
не будет никакой зимы. даже если прямо сейчас полностью остановится прогресс в развитии ИИ, то просто чтобы освоить то, что уже появилось, внедрить везде, где это даёт отдачу, получить эту отдачу, получить новые возможности после освоения новых технологий и дальше их внедрить и освоить - 10 лет легко уйдёт
"Хочется влепить свое объективное мнение на этот счет. На мой взгляд пузырь ИИ непременно лопнет, причем довольно скоро. Почему так? Все просто: фраза данных недостаточно для обучения, это не более чем бред, так как в сети есть все знания человечества, какие еще данные нужны? Другое дело, что эти данные не подходят для совренного ИИ, то есть современные алгоритмы слабые и не могут обучатся на данных напрямую. Это связано с тем, что ии модели линейны, то есть работают не так как мозг человека, где есть тормозящие нейроны, которые не выпустят мысль из головы, пока она не сформируется, плюс в мозгу все нейроны работают паралельно создавая нейронные паттерны (сигналы, пучки импульсов растянутые во времени), которые могут вихрится от конца нейронной цепочки в начало. Так работает процесс мышления и рассуждения человека. Современные же ии модеди линейны, то есть из выхода одного слоя патерн передается к входу следующего. Тем самым мы получаем не умную ии модель, а скорее умный архив, который главное не переобучить, иначе он реально превратится в архив)). Никакой интелектуальности в этом нет. Все попытки сделать ии интелектуальным, это на данный момент попытки в рассуждение, где мы проганяем через одну и ту же модель кучу "мыслей" который сам же ии и сгенерировал. Но все это происходит на естественном языке, а не при помощи нейронных паттернов. То есть рассуждающий блок должен быть такой же ии моделью общающейся со своим архивом через нейронные паттерны (нейронные сигналы) также он должен быть способен дообучатся в процесе мышления, то есть посредством рассуждений обучать сам себя. Простыми словами сходно с человеком знать помнить думать и рассуждать, это разные вещи, а еще не забываем про обучатся в реальном времени. Всего этого пока нет, и врядли предвидится. Так что ДА пузырь ИИ скоро лопнет.
Вы вопиюще некомпетентны в двух областях, устройство человеческого мозга (простительно) и устройство LLM (менее простительно), и выдаёте объективное мнение. Это вот в ровень с проблемами LLM.
Не компетентен в чем? Я занимался изучением работы мозга и очень хорошо разбираюсь в архитектуре LLM. И очень хорошо понимаю чем они отличаются и в чем ограничения современных алгоритмов нейросетей. Мозг человека давно изучен и процесс мышления уже давно понятен, как говорится знать и понимать это разные вещи, во всех смыслах данного контекста. То что вы не можете понять вышесказанное и называете меня некомпетентным говорит лишь о том, что вам лишь бы ляпнуть чтото. Интересно что вы вообще знаете о работе мозга или о архитектурах нейросетей? Мне почемуто кажется, что вы из тех людей, которые даже не понимают как работает метод обратного распространения ошибки. Но зато с умным видом немногословно называете когото некомпетентным. Так дерзайте, распишите в чем я не прав?
Не правы в попытке сравнивать несравнимое без формализации контекста. А вот про рекуррентные слои, механизмы внимания и прочие нелинейные механзимы ИИ сознательно умолчали, чтобы какое-то сравнение да получилось, мол там линейно, а там не линейно, профит. Ну я бы на этом и закончил, но:
где есть тормозящие нейроны, которые не выпустят мысль из головы, пока она не сформируется
Каким образом сигнал с легкого взмаха руки стал мыслью?
Тем самым мы получаем не умную ии модель, а скорее умный архив, который главное не переобучить, иначе он реально превратится в архив)).
У человека прям принципиально иным образом память работает?
То есть рассуждающий блок должен быть такой же ии моделью общающейся со своим архивом через нейронные паттерны (нейронные сигналы) также он должен быть способен дообучатся в процесе мышления, то есть посредством рассуждений обучать сам себя.
Может, но никому не должен. В рамках контекста прикладного ИИ от этого потенциальных проблем на порядки больше, чем пользы.
Простыми словами сходно с человеком знать помнить думать и рассуждать, это разные вещи, а еще не забываем про обучатся в реальном времени.
Что бы понять, что цель ИИ вовсе не стать "подобным человеку", достаточно посмотреть на людей - абсолютное большинство при своих на порядки превосходящих ИИ мозгах не способны придумать вообще ничего. А многие из оставшихся - ничего полезного.
Нехочу раздувать эту темму, вижу что вы про нейросети знаете из видосов на ютубчике. Так вот лутше посмотрите часовой видос от немецкого профессора который объясняет работу нейронов мозга. А по теме, да сигнал действительно стал мыслью, так как нейроны связаны между собой не линейно а каждый нейрон имеет 10 и более тысяч выходных связей, и они идут не только к "следующему слою" но и к предидущим в цепочке, тем самым образуя вихри сигналов, какбы прогоняя нейронные патерны (мысли) по кругу, пока они не сформируются. Чтоб мозг не закипел когда вы видите кота, у нас есть тормозящие нейроны которые помогают в формировании мысли, гася лишние разветвления паттернов и лишние вихри, тем самым формируя мысль, когда она готова тормозящие нейроны выпускают ее к выходу, выходом могут быть другие отделы мозга, например речевой центр. Именно поэтому когда ребенок видит кота, он кричит: мама смотри котик. То есть он чтото увидел, опознал, сформировал мысль и выдал ее. Так работает мозг на базовом уровне. Все, подчеркну Все искуственные нейросети линейны, то есть идут слоями от входного слоя к выходному, никакие нейронные паттерны там не вихрятся, они идут линейно. Именно поэтому мыслить они априори не могут, а выдают ту инфу которой обучены напрямую. По сути нейросеть это умный архив, не более. Этот архив можно представить как лист бумаги: в нашем мозгу нейроны это как свернутый лист бумаги, то есть архив в которм записана инфа, и в котором за счет свернутой структуры и механизмов возбуждения паттерны гоняются по кругу, их регулируют и направляют тормозящие нейроны, тем самым собирая мысль из нашего архива и выдавая ее когда она готова. В искуственной неросети этот лист развернут, и что нейронные паттерны по дороге к выходу успели насобирать то и высрали. Сейчас как я уже сказал идут попытки сделать кольцевой ии с механизмом рассуждения, который гоняет сгенерированные самим собой задачи по этому листу много раз. Но это не одно и тоже что и работа нашего мозга, реального процесса мышления там нет. Именно поэтому даже самые крутые ИИ модели не могут решить детскую задачку с которой ранее не сталкивались. Рекурентные слои, механизмы внимания и тп. Вы смеетесь? Если я буду объяснять вам хотябы азы того как работают нейроны мозга на микро уровне, про кальцеевые каналы, про мембраны, про задержки сигналов во времени, про импульсное перевозбуждение. И сравнивать это с "нелинейностями" нейросетей, то можно будет из такого диалога написать книгу, с названием почему ИИ будет тупее человека еще 100 лет.
И да, еще добавлю, что память в человеческом мозгу работает совершенно по другому принципу нежили в искуственной нейросети. Наш мозг старается наоборот максимально точно запомнить все что он когда либо слышал, но в виду физических ограничений, это физически невозможно, и мы почти сразу забываем не важные моменты, и запоминаем только яркие моменты. Это не потому что мозг не хочет засиратся, а потому что у нас есть физические ограничения в виде самой длины нейронов и их аксонов. Плюс сам мозг так устроен чтоб запоминать только то что нужно. Но не суть, суть в том что тормозящие нейроны также способны к обучению, более того сами тормозящие нейроны, также связаны с обычными нейронами и могут ими управлятся. Таким образом мы запоминаем не только саму информацию, но и то как мы мыслили когда ее получали, это может прозвучать непонятно для вас, но как я уже сказал, знать и понимать это разные вещи. Грубо говоря мы храним как обычные знания, так и мысли которые у нас были в момент их получения, если еще грубее мы запоминаем, то как и куда шли нейронные паттерны при получении знаний. Таким образом мы обучаем не только сами нейроны, но и их направляющие (тормозящие нейроны). Это как если бы LLM с рассуждением, запоминала бы то как она рассуждала когда давала подобный ответ ранее. В сумме благодаря такому устройству памяти мы запоминаем не только саму инфу, но и логические цепочки рассуждений. Причем именно на них идет упор нашего мозга, а не просто на саму информацию. Именно поэтому я могу не помнить как какойто предмет выглядит, но зато точно буду помнить как им пользоватся когда он будет у меня в руках, так как мыслительная память, то есть память действия гораздо силнее просто памяти. То есть мы лутше запоминаем не сами нейронные паттерны, а то как и куда они шли
почему ИИ будет тупее человека еще 100 лет
Какого конкретно человека? Какова методика сравнения?
даже самые крутые ИИ модели не могут решить детскую задачку с которой ранее не сталкивались.
Вроде бы это утверждение можно было бы легко проверить и подтвердить экспериментом. Например можно придумать своим замечательным непревзойдённым человеческим мозгом совершенно новую детскую задачку и непредвзято предложить её каким-нибудь умным детям, и какой-нибудь современной LLM модели вроде O1, или что там сейчас актуально?
А иначе так голословно каждый может с дивана кричать. Вот как я, например.
Claude Sonnet 3.7
o3
Полагаю не каждый человек догадается о чем идёт речь в этой шутке. Иначе это не было бы шуткой. Тут вопрос в другом. Каждый ли обладатель естественного интеллекта может легко и за секунду написать эссе на произвольную тему, перевести текст между несколькими разными языками, нарисовать фотореалистичный портрет произвольного человека в произвольной заданной ситуации.
Вы многого хотите пытаясь судить по этой шутке от чего-то, что появилось буквально год назад и обучилось всем своим навыкам по текстам из интернета. Человек такого возраста ещё разговаривать не умеет.
Не будет зимы. Разработчики ИИ просто перестанут раздувать свои модели, перейдут на разработку разных, намного более мелких, моделей под конкретные задачи. И эти более мелкие отточенные модели как раз будут оправдывать ожидания
Зимы не будет.
Ии сейчас, а уж подавно в перспективе, это не продукт самостоятельного плавания. Это инструмент.
Когда он интегрируеться в большинство продуктов на рынке и будет просто камерой в смартфоне.
Какая здесь зима? Мыльный пузрь который еще можно долго надувать. Это реклама брендов, это в потенциале прибыльный продукт, как только экспонента роста исчезнет, так сразу вложения начнут оптимизироваться, так как станет понятны сроки этапов роста. А вот прибыль падать не будет, только у не конкурентноспосбных.
Плюс ии сейчас все вложившим как в них как МММ дает мегафантики. Купил акцию за 1000, через год имешь фантик за 2500. Неплохо.
А еще это очень модное место где можно обелять бабло, идеальная прачешная. Как и любой быстро растущий пузырь.
Я думаю что после того как он станет камерой в смартфоне, будут новые волны, которые будут развивать ии все большего назначения.
Это вы так говорите, исход из аксиомы, что для развития ИИ нет препятствий. В сфере маркетинга не принято говорить об актуальных проблемах, а их у нейросетей множество. Самая серьезная - нехватка ресурсов. Аппетиты OpenAI тех же растут, они их снижать не собираются, даже с появлением более экономных моделей. Сейчас инфраструктура почти достигла пределов (не могут банально провода гонять столько тока, сколько нужно для работы ИИ). Электростанции не могут так быстро вырабатывать энергию, а питьевая вода, которая в больших количества нужна для охлаждения чипов, тоже не бесконечна... 8 миллиардов+ голодных ртов не проживут без воды. И тут уж придется выбирать: или нейросети, или жизнь людей
Обязательно бахнет, весь рынок в труху! Но, потом.
"Что происходило раньше?
Первая зима ИИ — 1970-е
После волны интереса к экспертным системам в 60-х оказалось, что они слишком хрупки, дорогие в поддержке и неспособны адаптироваться к меняющимся условиям. Финансирование быстро схлопнулось, интерес ослаб.
Вторая зима ИИ — конец 80-х – начало 90-х
Японская программа "Пятое поколение компьютеров" и множество амбиций в области символического ИИ не дали ожидаемых результатов. Индустрия вновь остыла"
Я ничего не понял. Нельзя ли нормально раскрывать события?
Инфраструктурные и энергетические издержки зашкаливают.
Обучение GPT-4 стоило сотни миллионов долларов и потребовало колоссальных мощностей.
По прогнозам, к 2027 году ИИ может потреблять до 3% мирового электричества. Масштабируемость — под вопросом, ведь поддерживать её вечно не возможно.
Пф! Сотни миллионов долларов?! Это мелочи! Это сопоставимо с бюджетом одного фильма, какого-нибудь очередного кринжовидения или очередной олимпиады. Но эти мероприятия отгремели и были забыты, а тут мы получаем реально работающие и полезные долгосрочно инструменты, которые после обучения уже не требуют таких ресурсов на эксплуатацию.
3% электричества? А крипта, которая тратила ещё больше на простую реализацию стабильного консенсуса? Там просто хеши молотили. Тоже полезная работа - стабильность и безопасность блокчейна - понятный результат. Но тут на выходе модель, которая уже в своём зачаточном состоянии помогает людям делать их интеллектуальную рутину.
Возможна ли третья зима ИИ?