Comments 38
Телефоны тоже сначала были проводные, потом они разошлись по карманам хомо, то же самое будет и с ИИ, только интеграция будет с мозгом уже, так для хомо комфортнее:-)
Телефоны тоже сначала были проводные
Почему вы уверены, что ИИ 2025 года на уровне проводных телефонов?) А что если наоборот, он уже продвинутый современный смартфон, которому развиваться особо некуда и каждый год одно и тоже)
как это некуда, а интеграция с хомо, обмен данными с биологической нейросетью, хранение данных в формате нейросети хомо, переход в механистическую цивилизацию, планета же перенаселена.
Тоже звучит сомнительно. У всего есть цель и точка приложения. С мобильным телефоном очевидно - пользователь стал мобильным. Но интеграция с человеком наверно пока нужна только людям с инвалидностью.
Генерить текст или саммаризировать статьи прямо в мозгу человека? Чтоб пользователь мог не задумываясь выдавать текст из википедии, а другой не выслушиваясь обобщать его?
"LLM — это производные от продуктов человеческого мышления; они не могут превзойти эту основу, как бы ни старались специалисты в OpenAI, Google или Anthropic, помешивая свои цифровые зелья в котлах." Звучит безапелляционно, однако, все же, вызывает сомнения. Было бы неплохо привести хоть какую-то аргументацию в пользу этого сильного утверждения.
Здесь не будет, да и не может быть каких-то формальных доказательств. Любая метрика или тест, если она не известна широко, будет объявлена "необъективной". А все эти известные и разрекламированные тесты для сравнения ИИ уже давно используются для подгонки под результат. Т.е. новые ИИ лучше проходят известные тесты (потому что это было целью разработчиков), но практически не добавляют ценности для реального конечного пользователя.
Те, кто ворвались в чудный новый мир ИИ еще во времена выхода ChatGPT 3.5, те, кто всё это время использует технологию в повседневной жизни, уже легко распознают сгенерированные AI арт по первому взгляду (цветовая палитра, типовые шаблоны). Равно как способны в ответе LLM видеть эти самые шаблонные структуры. ИИ в современной реализации не способны производить "новизну", т.к. это противоречит их базовым принципам (вероятность следующего токена). Если задирать "теплоту", то "новизна" может случиться, только в 99%+ случаях эта новизна = галюцинации.
В чем LLM хороши - выявление скрытых зависимостей и категоризация. Это традиционная сильная сторона нейросетей. Т.е. в таких областях как медицина могут быть неожиданные прорывы - чисто по причине огромного количества объективных данных. Искусство - нет. Искусство глубоко вторично. Все эти промпты "возьми Гомера и нарсуй в стиле Таноса" убоги. Программирование - до сих пор не могу определиться. Однозначно алгоритмическое программирование останется за ИИ (из-за малого контекста). Архитектура - максимум что жду это тупое и бессмысленное воспроизведение восхваленных бест-практис. По идее этого достаточно для закрытия значимого куска рынка, но в текущей реализации все это выглядит "обнять и плакать".
Мое личное отношение к LLM - это человекоориентированный API к публичным знаниям. Это не гарантирует того что "знания" корректны, только то что они являются социально одобряемыми в моменте. Любое углубление в профессиональные темы, любое обсуждение новаторских вещей - и вы оказываетесь в Echo Chamber.
А все эти известные и разрекламированные тесты для сравнения ИИ уже давно используются для подгонки под результат.
Давайте посадим вас, как яркого и несомненно одного из умнейших представителей современности, против ллм и проведём тесты, кто лучше ответит. Ллм или вы, по математике, медицине, переводам, распознавание и описанию изображений, рисованию и т.п.
Тесты вы можете попросить своих не менее выдающиеся друзей сделать.
А потом проверим результат - что то мне говорит, что вы будете сильно ниже в 80% категорий. И вряд ли победите хоть в одной. Если будет достаточно много вопросов в этих категориях.
А сейчас начнётся представление, я не я - головка не моя. Я не то имел ввиду и вообще, болею, не в лучшей форме.
Если у человека будет доступ к интернету или хотя бы к библиотеке - он будет круче чем LLM практически во всех тестах.
С рисованием кстати тоже, если взять художника, то он хотя бы будет следовать промпту.
Недавно была новость, как про тест докторов у которых был доступ в интернет и доступ к тойже самой ллм, проиграли чисто ллм с небольшим отрывом.
Как тебе интернет поможет понять какая болезнь? На webmd зайдёшь? Или математическую задачу решишь в вольфрам? Или потратишь пару недель на погружение в тему одного вопроса из теста? А перевести текст на японский - словарик откроешь?
Если мы предполагаем что тебе важно понять "ИИ уже давно используются для подгонки под результат", или что реально несуществующие до этого тесты проходят, ну тогда сравнивай с собой, а так то можешь ту же самую ллм спросить, вставить ответы и гордиться, что ещё ого-го. Гигант. Отец русской демократии.
Вот он пишет в комменте
ИИ в современной реализации не способны производить "новизну"
Ну давайте, сделаем тест, зададим несколько заданий придумать что то новое ллм и terrav. Потом сравним результат, что то подсказывает мне что у terrav с новизной будет очень не очень. Убогие гомеры в стиле танос полезут.
Эх, если бы. Если дать человеку час там, где LLM справляется за минуту, он не вытянет и половины. А существенной доле людей ничего не даст даже день.
Но, конечно, речь именно о тестах, где LLM успешны. Пока это малая доля работы, но скорость роста поражает.
Тесты "доктор против ллм" это сравнение скорости вычислений квадратного корня человека с калькулятором. Но при всей способности калькулятора вычислять, калькулятор в отличие от человека, не может что-то придумать. Так и ЛЛМ. Обобщать - да, придумать - нет.
Можно даже никого никуда не садить, а спросить у любой ЛЛМ, когда же будет у них достигнута способность, называемая как Искусственное Творческое Мышление, которую больше 10 лет назад подробно описал Дэвид Дойч.
Но при всей способности калькулятора вычислять, калькулятор в отличие от человека, не может что-то придумать. Так и ЛЛМ. Обобщать - да, придумать - нет.
Это принципиально невозможно для ИИ (не ллм), потому что в человеке есть "божья искра"?
Никто не говорит что это уже сейчас возможно и уже существует.
Если же потенциально возможно, то вопрос только во времени - прлйдёт пять, десять, сто лет. Всё ещё не возможно?
Последняя надежда человечества - мы можем что-то придумать, а они нет.
Интересно, работа какого количества людей зависит от способности что-то придумать? Видимо только у них шанс? Но боюсь, что придумать нужно не что-то, а что-то ценное, на регулярной основе. Скоро мы узнаем, многие ли могут что-то придумывать.
Давай я сяду с калькулятором, а ты без. Что-то мне подсказывает, что калькулятор тебя сделает на первом же вычислении. Просто задачи должны быть сопоставимы. По факту идёт сравнение в скорости обработки информации и человек должен себя проявить на поле ИИ. Но ведь и ИИ быстро стухнет на поле человека. Почему-то последнее время идёт подмена понятий.
сравнение в скорости обработки информации и человек должен себя проявить на поле ИИ
Небыло разговора про скорость, был разговор про сравнение качества результата, был разговор про тест на новизну.
Но ведь и ИИ быстро стухнет на поле человека.
Какой тест предлагаете? Почесать левое яйцо? Ну соглашусь - тут вне конкуренции.
Есть вполне устоявшиеся форматы тестирования. Я предложил, давайте в рамках этого формата придумают тесты, которые точно до этого не существовали и проведём тестирование. В качестве соперника выступит пассажир который утверждает что всё подстроено.
Если на них не происходила тренировка модели, он же по идее должен легко выиграть.
Ну и заодно что-то новое придумает. Качеством лучше чем ллм.
Заголовок "Пик ИИ близок", а говорит про ллм.
На самом деле ответ очень прост.
Если мы не допускаем что интелект/сознание и т.п. это продукт ТНБ, то очевидно что ИИ покроет человеческое мышление как бык овцу (не ллм, а ИИ. Годы, десятилетия, столетия - хотя судя по динампике и прогрессу скорее всего годы).
Если же (как подобные персонажи любят) примешивать ТНБ/квантовые процессы в мозге/коллективное сознание и т.п. бред, то им пора пройти на приём к доктору-мозгоправу.
Чтобы сеть генерила сверхчеловеческие тексты, ее надо обучать на сверхчеловеческих текстах. А где их взять?
Почему AlphaGo которая играла сама из собой лучше научилась играть чем так которая училась на партиях людей? Тут объяснение что это перебор комбинаций уже не катат как из шахматами. И таких примеров немало.
Потому что она предобучалась на примерно миллионе партий про до того, как играла сама с собой.
Наверное это позволяет найти новые продолжения/варианты/идеи/реакции. Шахмат это в принципе тоже касается.
Перебор вариантов в движках очень важен. Если ограничить перебор вариантов или их скорость - магия рассыпется :).
Если же затронуть немного тему из комментариев выше, то гроссмейстер с достаточным временем, базой партий и листком бумаги - вполне сравнится с многими движками.
Нет, если сравнить рейтинги Ai игроков и реальных. Там без шансов. Ни в Го ни в шахматы.
Всплыл такой философский вопрос, для человека шахматы или Го это игры, где будущее партии заранее нельзя полностью и со 100% вероятностью предсказать человеческим разумом, но по своей сущности движки просчитывают всевозможные исходы партии до самого конца (где то такое слышал, что именно так они работают) и всегда выбирают заведомо 100% лучший ход. Т.е. в отличии от человека движкам как будто бы известно будущее. Все таки рост и смысл для человека происходит там, где исход ситуации никто не в силе предугадать, а к сожаление те же шахматы уже не дают этого.
К счастью ИИ оставляет за собой решение рутинных задач (да и в целом этим занимается вся автоматизация), а человеку остаётся самое интересное и неизвестное 😀
Очень важна метрика, на которой обучается сетка. Победа/Поражение в партии - идеальная метрика. По ней в теории нейросеть может обучиться совсем без обучающих материалов.
Метрика же основанная на предсказании следующего символа максимально зависит от обучающих данных.
(Не МЛ-щик, могу ошибаться, но вроде логично)
Когда закончится обучение вширь, начнётся обучение вглубь.
Будет обучение всё более сложным рассуждениям и выводам из всего что известно.
При этом будет получаться новая информация, возможно даже непонятная человеку,
но пригодная для дальнейшего анализа и обучения.
И этот процесс бесконечен и он уже пошёл.
Благодаря агентам феномен «контент-ферм» в стиле Матрицы уже существует.
ИИ получает мегабайты рабочих проектов из всяческих Copilotов от самих разработчиков да еще и за их деньги.
Это гораздо круче чем высасывать из Stack Overflow.
Качество генерируемых сорсов на высшем уровне.
Оно такое что боязно уже руками писать, чтоб не наделать ошибок.
Близко время когда людям запретят кодировать руками , по типу того как в машинах уберут руль. Наверно это случится одновременно и не позже 30 года.
Сейчас не хватает именно мощности и энергии.
Пик ИИ близок, луддиты сообщают, что за написанными вручную исходниками видели белых ходорков.
То, что есть такое ограничение еще не говорит, что оно фундаментально. Параллельно технологиям обучения и сбора развиваются и технологии подготовки этих текстов, проверки их целостности и корректности, генерации и т.д.
Может быть прогресс замедлится в этом направлении, но станет копать вглубь и вширь - как сделать, чтобы модели выдавали более логичные суждения, как сделать искуственные тексты подобного качества и т.д
Артур Кларк однажды сказал: «Любая достаточно развитая технология неотличима от магии»
Очень часто встречающаяся цитата, и насколько мне помнится, неполная. Полной она станет, если добавить "для неискушённых в ней людей".
Итак, правильный полный вариант (переводной, конечно, английского варианта у меня под рукой нет) таков: «Любая достаточно развитая технология для неискушённых в ней людей неотличима от магии». Ну и конечно же, надо иметь ввиду, что мы все относимся к неискушённым - знать всё невозможно, и любой корифей в чём-то одном не искушён во всём остальном.
Вот и я всем говорю "Если так дальше и пойдет, стоимость оригинальных решений вырастет в разы!"
ИИ это прогресс (и от него не уйти), который легко может превратиться в регресс.
Пик численных методов и математики тоже близок? В ИИ важнее не фреймворки и архитектура, а как просто матрицы множить численно устойчиво и быстро. Не надо называть численную оптимизацию сознанием просто. Её пика не предвидится, а пик хайпа на нейронках случится, как придёт новое, как нейро- заменило нано-.
Даже самый крутой ии сейчас не понимает смысл, а просто пишет то, что наиболее вероятно будет содержать ответ. Какой пик? Вы о чем?
В секторе разработки ИИ ещё сколько горизонтов что мне трудно будет перечислить, аналитика всей информации производств ( на каждом заводе даже очень старом постепенно вводят тысячи датчиков которые генерируют различиные измерения, и эти данные не лежат в интернете, мне кажется их количество является значительным куском всей добытой информации человечества. В будущем у каждого более мение крупного производства будет плотное сотрудничество с сервисами ИИ. Мы не проанализировали всё видео(фильмы, влоги, записи с камер, и тд) всю звуковую информацию, сколько данных собирает Тесла со своих машин? А если в каждого робота запихнуть датчики чтобы и он собирал и анализировал информацию. Точно ещё же и вкус есть, можно и его анализировать, да вообще всё чувства человеческого тела тоже можно собирать и анализировать. В общем до полной пеработки информации человечества ещё далеко. И когда ИИ подойдёт и к этим границам, он сам уже будет и следовать окружающий мир посредством роботов а там и к полезным делам его пристроить можно будет (строить заводы в пустынях, под землёй, в океане, а космосе, на астероидах и тд.)
Описанное вами круто, фантастично, так все и должно быть и вурен что будет! Но в статье, на сколько я понял, про попытку заменить мыслительный процесс роботом (ИИ), а это сбор информации от человека, а не от датчиков. И все идет к тому, что информации (мыслей) от человека в ИИ поступать (такими темапми) скоро не будет.
*сбор информации с камер, это не мысли человека. Среди фильмов много шлака (есть и хорошие, но их данные перебьют плохие, т.к. их больше) на которых не стоит обучаться. А потом фильмы будут генериться самим ИИ и никаких новых данных не будет (как и книги будет генерить ИИ). Думаю в данной статье про это.
Не стал бы я столько категорично говорить о пике. Во-1 человеческий нено качественной. У меня столькое впечатление, что процентов 80 человек с игнорируемого контента в интернете это контент далеко не экспертный. Вот хочу я новый телефон. Забиваю на youtube. И смотрю то, что нашёл. Есть контент-авто, сгенерированный со сравнением. По формальным признакам. Есть контент человека, созданный, когда типа обзорщик, - прочитал анонс и даёт свои комментарии характеристикам. При этом мне хотелось, например, качество съёмки в формате рав узнать. Чтобы понимать, каковы качества связки, матрицы, камеры и объектива. Какой там реальный шум? В условиях съёмки сложных. И на сколько дорисовывает алгоритм картинку? А вот таких обзоров, 1, 2 и общался.Но. Нейросетям ищу и расти, расти. Во 1 модели сейчас языковые. А есть ещё интересный подход сологическими. Когда искусственный интеллект может вместить с понятиями и категориями. А не словами.
Ещё у нас есть резерв по обучению в диалоге модели с пользователями. И с самим собой, и другими моделями. Перва зарезали. Исходя из того, что пользователь может научить иишку плохогому.2 технически, возможно, оно довольно-таки дорого. Но вспомните, что так обучалось. Например, гугловская альфа-го. Тут правду задать посложней искусственный интеллект должен отличать хорошую аргументацию от плохой и. Иметь возможность находить противоречие и. Слабое софистические аргументы и выделять сильные и менять свою картину мира под их Воздействием. Так что думаю, всё только начинается.
Пик ИИ близок