Pull to refresh

Comments 283

UFO just landed and posted this here

Тот трагический час всё ближе, когда новая версия Windows будет написана ИИ, обученной на stackoverflow.

Блин, а было бы круто. Сразу бы продажи повысились из-за всей этой популярности нейросетей.

А код для обучения со stackoverflow будут брать из ответов или из вопросов?

Вот все удивятся, если ещё и получится лучше нынешней Windows 11.

UFO just landed and posted this here

Ваше утверждение с логическим провалом - это примерно как код Python будет написан IDE, которая его читает. ChatGPT не пишет ничего, она код, который читает другой код.

Вообще-то сначала надо доказать, что авторское право покрывает использование текстов в нейросетях.

Мы поручим отстаивание авторских прав кожаных мешков в суде следующей версии нейросети! ))

Судья тоже будет нейросетью, и ответчиком тоже будет нейросеть. Две нейросети уж как-нибудь между собой договорятся.

Сериал "Оливье и роботы" Последняя серия первого сезона. Категорически рекомендую. Как раз про ИИ и судебный процесс.

"Про ИИ и судебный процесс" -- это, скорее, "Второй Ренессанс" из Аниматрицы.

Хорошо, что я прошёл ваш тест Тьюринга. ))

Что с visual arts, что с GPT — да пошли они в капибару, авторские права ваши. История с deviantart и artstation никого ничему не учит.

Да-да. Белковые нейронки пусть ходят по artstation, смотрят на выложенное (в свободный доступ для просмотра!!) и учатся на этом, а вот кремниевым — уже ни-ни. Ведь формирование новых нейронных связей в белковом мозгу от взгляда на визуальный образ — это норм, а изменение коэффициентов весов у заранее сформированных (до взгляда на на визуальный образ т.к веса инициализируются заранее) нейронных связей в кремниевом мозгу — уже преступление. Хотя по своей сути процесс ± идентичен (как и результат), разница лишь в скорости усвоения.

Причем железки в скорости проигрывают, берут числом, обучаясь одновременно на 100500 GPU. По итогу вроде и всего за месяц нейронка прочитала весь интернет, а вроде и 10000000000 GPU-часов (просто эффективно распаралелленных)

Любой человек может зайти на реддит и прочитать сообщение (и даже зарепостить)

И сделать на его основе свои выводы.

Тысячи лет человечество развивалось на распространении информации, а тут все как с цепи сорвались.

UFO just landed and posted this here

И в чём разница?

UFO just landed and posted this here

Вы пробовали дать ChatGPT кусочек кода и объяснить почему вот те две строчки так написаны?

Статью пока не читал, но за одни только мемы можно ставить лайк. Положил в закладки, вернусь вечером. Спасибо за труд, коллеги!

А ее нет смысла читать, всё это было предсказано еще лет 20 назад, тут был такой Редозубов, который обещал ИИ через три года, но не было его ни через три, ни через тридцать не будет. Вот вкратце планы на ближайшие 50 лет в псевдоразвитии ИИ, не поленитесь зайти через 50 лет:

  • Авторские права. Это уже тут было упомянуто, но криво, и потому заминусовано; но суть от этого не изменилась - ИИ не будет создан, пока его ждут капиталисты, чтобы украсть. Никто им его не подарит, зря только сыпят деньгами.

  • Строка диалога - это то, что было создано для сохранения авторских прав. Это еще с Юникса пошло, когда не смогли создать Андроидов. Потом это Гугл применил, когда не смог создать помощника. Теперь это применил ЧатГПТ, когда не смог создать ИИ.

  • Всё это ведёт к эксплуатации первоначальной провальной идеи, к наихудшему сценарию из возможных - к прятанию за строкой диалога человека. Сисадмина Юникса, маркетингового отдела Гугла, галеру подрядчика ЧатГПТ.

  • Да-да, украинская галера на подряде Амазона как ИИ по распознаванию образов - это верхушка айсберга новой пирамиды, которую пытаются надуть под видом ИИ. Курсы датасайентологов, миллиарды человеко-часов и изображение человека, которому художник должен подправить пальцы до нужного числа.

Всегда нужен художник, админ или архитектор, который будет полировать мусор для продажи. В этом суть продаж, а не плохого ИИ. Хороший ИИ нельзя продать, поэтому он принципиально не будет создан.

умудрились ошибиться максимально в каждом утверждении ;)
* все будет украдено вне зависимости от того кто и что, это было есть и будет, но совершенное не мешает все это создавать, ИИ как технология ничем тут не отличается от любого другого продукта, будь то соцсеть/месседженер/условный тикток (все что было создано успешное, было украдено, многократно переделано)
* строка диалога это не способ что то спрятать, это способ решить задачу создания ИИ, при этом статья буквально показывает почему выбран этот путь (если что чат боты и чат игры на основе продолжения фразы уже были, рост тут не скачкообразный а постепенный)
вот вам аналогия — не понимая как зайти в дом, залезли через канализационную трубу, сейчас у нас рука торчит из унитаза, пролезть дальше не можем но формально мы уже в доме.
* мир создал нечто странное, сейчас этот мир пытается понять как этим пользоваться, зачем это ему и что из этого получится хз, но не беспокойтесь, пользоваться будут
даже если будут франкенштейны вида — в промпт уходят все что видим (текущее состояние) и запрос на буквально управление мышцами (типа у вас три числа, угол первого сочленения, второго и третьего, соединенных друг с другом, какое должно быть последовательное изменение чтобы поднять предмет A и перенести на площадку B с координатами...)

Хороший ИИ, чем бы это не являлось, создан будет… не сможем создать, подправим понятие 'хороший' под то что сможем. Текущая задача была решена буквально брутфорсом, завалив ее большими деньгами. Упрутся в железный предел, будут оптимизироватьэ.

вон помню человек открыл исходники stable diffusion, ужаснулся и запилил одну из его частей под nvidia тензор, ускорив в 4 раза (меньше секунды на генерацию)… кто-нибудь другой оптимизирует задачу под специфическое железо (если что в мире куча стартапов занялись разработкой специализированных чипов под нейронки, которые могут дать ускорение на порядок, мне к примеру нравится стартап, которые для вычислений используют аналоговую электронику (к сожалению не всю, иначе ну очень плохая точность)

Интересно увидеть график, как умнеет человек от количества прочитанных книг, сделанных проектов и чего-то ещё эквивалентного количеству набора переменных.

К сожалению (а может и к счастью), в человека встроен механизм забывания...

А как измерить "умность" человека?

Для этого изобрели тест на "коэффициент умности" (от англ. intelligence quotient или IQ)

который с количеством прочтенных книг никак не коррелирует в принципе.

а завязан на анализ и поиск закономерностей

UPD: вру. на примере обсуждаемого сабжа - можно пройти тест "100500 раз" и если уж не вызубрить все ответы, то по крайней мере понять логику создателей теста.

Там же много факторов есть, вот у тебя высокий IQ, но плохая память. И толку то? Гениально решаю задачи по математике но не могу вспомнить что решал, приходится зубрить пока наизусть не выучу?

Ну самая большая неожиданность IQ (когда его только ввели) - оказалось что результаты тестов по разным его разделам очень неплохо скоррелированы.

Т.е. вас сценарий не исключён, но весьма маловероятен.

Ну в итоге умные дяди решили что "одного IQ" нет и разделили тесты на несколько категорий.

Грубо говоря мне говорили тип, у тебя может быть очень сильный вербальный интеллект, в словесном споре ты буквально уничтожаешь людей интеллектом, но какой же ты тупой боже ты даже намёков не понимаешь надо по несколько раз объяснять.

мне говорили тип, у тебя может быть очень сильный вербальный интеллект, в словесном споре ты буквально уничтожаешь людей интеллектом

Читал ваши комментарии, наличие какого-то супер-интеллекта у вас не заметил. Много орфографических ошибок. Употребление в речи слова "координально" тоже кое о чём говорит. В общем, вам просто-напросто льстят насчёт интеллекта.

У тебя понятия с эрудицией и интеллектом путаются, да?

Если человек прочитает тысячу книг, можно утверждать, что он.. научился читать книги. Хорошо, быстро, качественно.

А поумнеть - ну смотря что читать, смотря как читать, смотря зачем читать. Опытнее станет точно.

Ха! Зависит от того — какие книги он будет читать ))

Как-то наткнулся в жж на забавный пост, как человек «пообещал себе читать по новой книге каждый день». Он почти выполнил свое обещание, но читал при этом ТАКУЮ позорнейшую графоманию, всяких альтернативных попаданцев с промежуточными патронами и прочей хренью — что ни уму, ни сердцу, ни желудку.

тем не менее, графомания тоже дает эмоции, какой-то опыт, сопереживание и так далее. Я не считаю чтение попаданцев совершенно бесполезным занятием, если человек имеет свой кусок хлеба, а свободное время пусть тратит как хочет. Жизнь - одна.

Ой нет, не тот случай
Оно утомительное тупое, картонное, шаблонное, всякие мери сью на марсе и даша сью на луне, корявый и неприятный слог, пишут лозунгами и штампами. Это и пару страниц читать нельзя. К примеру — как такой оборот: «взгляд выглядывал»? ))

Нет и нет
Я пробовал — больше «ноги моей не будет»

Не каждый попаданец - графомания.
Объективно - есть множество шикарных произведений.
Ваше личное мнение - не стоит путать с объективным =)

Личное мнение — это вкус. А его можно и нужно — развивать. Надо отличать книги не только по жанру — но и по уровню. Например: Аберкромби или Уоттс — это вопрос вкуса. Но Гибсон или Поселягин — это вопрос уровня произведения. У последнего он настолько низок, что можно считать «некнигой»

Впрочем — можете потренироваться. Вот примерный уровень моего чтива: Фантастика и фентези за два с половиной года, почти сто хороших книг. Найдете попаданцев схожего уровня? Причем — много попаданцев, а не 1-2, чтобы зачитаться как следует, как Экспансией или Пространством откровения и перечитать хотелось

А его можно и нужно — развивать

Кому нужно?
Почему вы командуете как людям тратить свое свободное время и свою единственную жизнь?
Или вы реально считаете, что после смерти кому-то будет дело до того что вы читали, зачем и почему?

Командую? Я?
Такой примитивный передерг, что даже скучно

ЧСХ, ваше личное мнение — «обьективно», а мое — нет?

Примеров попаданцев-неграфоманий вы привести не смогли, перевели все на нелепую тему «что там читал после смерти». Значит я оказался прав. Ок, принято

Мое мнение - можно читать. Оно не говорит нужно или нельзя, оно предоставляет выбор

Ваше мнение - нельзя читать, при этом еще и фраза в уничижающих интонациях.

"Примеров попаданцев-неграфоманий вы привести не смогли"
Не не смог, а не хотел. Я как бы не подписывался составлять отчет, готовой статьи, чтобы надергать - у меня нет.

Таки мне интересно, почему свое мнение вы назвали — обьективным, а мое — нет?


И да — читать невозможно
Сюжеты тупые и шаблонные, независимо от автора — там будет уныние и однообразие. О качестве слога вообще говорить не приходится, ибо предложения строятся коряво — будто Пропмт из 90-х на инглиш и обратно переводил. Герои даже не картонные, я не знаю какой материал не оскорбится сравнением с ними. Диалоги вымученные и неестественные.


Я пробовал. Не раз и не два. Оно в принципе несьедобно, это даже не макдак с резиновыми котлетами — это что-то вроде самого дешевого дожирака.


Мне много раз и под самыми нелепыми предлогами отказывались назвать альтернативных попаданцев, по уровню сравнимых с чем-то типа моего списка. Никто ВООБЩЕ не осмелился сказать что-то типа: "Вот этот альтернативны попаданец — не хуже Станислава Лема и даже лучше". НИКТО


Ведь все просто.
Открываешь книгу, которую читаешь прямо сейчас и говоришь — вот она, хорошая. Но так никто не сделает, потому что оно несравнимо ниже уровнем любого нормального фантаста, просто гарантированно. А никто не хочет признаться, что, в данный и конкретный момент, он читает — дерьмо

Очень печально, что в своей нетерпимости, вы не пытались найти что-то интересное, а просто забрызгали слюной первые попавшиеся графомании. Нужно же понимать, что среди попаданцев и литрпг в топе будут не лучшие произведения, а именно те, которые востребованы основными потребителями такого жанра.
Хорошие и сложные произведения будут среднестатистического массового потребителя примерно там же, где и Лэм или Азимов.

Я достаточно почитал самиздата, в поисках "новой русской фантастики" — 1 (одна) книга была нормальная: Роза и червь
И ВСЁ!


Ну так где они, хорошие и сложные, уровня Лема и Азимова?
Одно я нашел, еще десяток, хотя бы — наберется? Пока никто мне не зазвал альтернативных льтропыгышных попаданцев уровня Азимова.

Всё нормально. В Штатах, во времена Азимова и Хайнлайна, существовало огромное количество авторов ширпотребной фантастики, которых сейчас ни кто и не вспомнит. Нам несказанно повезло, что через занавеску просочилось только самое лучшее. Вот помните ли вы такого писателя как Лафайет Рональд Хаббард, который написал, наверное более 1000 фантастических произведений. И имя им - легион.

Современный шлак тоже отсеется, дайте время. Ему, в эпоху цифровых технологий, просто легче всплывать на поверхность. Нет массы фильтров, в виде цензуры и издательской редактуры.

Это да, просто плохое на русский почти не переводили


Проблема в другом, я ее вот тут описал: https://habr.com/ru/articles/726640/#comment_25407404 Иностранные издатели не выносили из бизнеса своих писателей-фантастов из-за пары лет экономии на авторах

Скорее набору переменных эквивалентны биологические особенности мозга человека.
Количество нейронов, к примеру.

И еще. Что такое миллион параметров модели для человека? Миллион нейронов?

Я предпочитаю избегать такой аналогии. Да, отдельные концепты в нейросетях переняты от человека, мы как бы свои "удачные" механизмы внедряем как априорные знания. Но эти похожие вещи очень условно можно называть одинаковыми. То есть концепция нейрона из головы слабо переносится на концепцию нейрона в нейросети. Поэтому сравнивать сложно.

Хотелось бы ещё понять, как формируются "параметры", сотни миллионов уже явно не вручную заводятся.

Второе, не про параметры, интересно, как оно понимает что вот сейчас в ответе будет/должен быть, например, код (и оформляет это отдельными сниппетом)

Они получаются во время обучения путем оптимизации некоторой функции ошибки (предсказание следующего слова) с помощью градиентных методов. https://youtu.be/PaFPbb66DxQ + https://youtu.be/sDv4f4s2SB8 - вот два видео с объяснением подхода для линейного уравнения, приведенного в статье.

 (и оформляет это отдельными сниппетом)

тот сниппет, который мы сами видим - это просто UI Элемент, который получается парсингом выходов модели. Как только условная регулярка находит, что модель сгенерировала токен <code> или что-то такое - так сразу сайт рисует бокс для кода. То же и с латехом.

В выводе используется markdown, так что блоки кода заключаются в ''' (тройные кавычки). Интересная возможность, я даже смог заставить его картинки вставлять

Это веса, которые применяются ко входным аргументам нейронов.

Из-за прозрачного фона при принудительной тёмной теме браузера изображение нечитабельно :(

Приходится скачивать и смотреть. Просто фидбек.

Поделюсь лайфхаком: обычно достаточно выделить картинку, чтобы она стала распознаваемой.

Я конечно "старый, но не бесполезный" ©. Мы тут на Хабре, а не Дзене какому-нибудь :)

Hidden text

Скорее миллион синапсов. Синапс - это место соединения нейронов (аксона от нейрона посылающего сигнал к принимающему дендриту).

На счёт количества синапсов в мозге человека точно сказать не могу, но кол-во нейронов оценивается в районе 80 - 100 миллиардов. Кол-во синапсов на нейрон варьируется от типа нейронов, но насколько помню оно не более 1000.

UPD: Нашёл, что количество синапсов в человеческом мозге оценивается в 0.15 x 10^15.

вы слишком много для человека насчитали - в коре всего 16 миллиардов, тем более это на два полушария. У 3 летнего ребенка грубо говоря можно "синапсов" всего 8-30 триллионов насчитать. Если GPT на 170 миллиардов - 700 ГБ то модельку наверное можно оценить 70-250 ТБ, не так уж много

сравнивать прямо нельзя в первую очередь потому, что биологические нейроны гораздо сложнее максимально примитивной весовой функции. На работу мозга гормональная и гуморальная системы влияют, вы их устанете в модель вносить

В коре 16 млрд. нейронов. Всего - 100 млрд. Так что Roman_Kor правильно для человека посчитал.

Наверное, Вы имеете ввиду, что весь "человечески интеллект" только в коре головного мозга находится, но это (скорее всего) не так.

а зачем вы считаете нейроны отвечающие за всякие там частоту сердечных сокращений, уровень сатурации крови и прочие "поднять шерсть дыбом" и перестальтике кишечника????

вы кстати учтите что к 16 миллиардам коры у человека - прилагаются все органы чувств и вся моторика. Сомнительно что нейросетевой модели какая бы она ни была требуется различать отдельные кванты света, чувствовать нанометровые неровности, жевать и поднимать хвост и прочее что отличает человека от медузы

Потому что я допускаю, что человеческий интеллект реализован не только в коре головного мозга.

Например, Гиппока́мп  "Участвует в механизмах формирования эмоций, консолидации памяти (то есть перехода кратковременной памяти в долговременную), пространственной памяти, необходимой для навигации. Генерирует тета-ритм при удержании внимания[1]."

Если интересно, кое-какие идеи на этот счёт изложены в прошлогодней статье Яна Лекунна "A Path Towards Autonomous Machine Intelligence" https://openreview.net/pdf?id=BZ5a1r-kVsf

КДПВ от туда:

я не исключаю, что весь человеческий интеллект реализован в коре головного мозга.

наоборот наверное?

статью посмотрю, спасибо, тем более это к моим темам близко если собственно матмоделирование затрагивает.

но вот это вот:

иппока́мп  "Участвует в механизмах формирования эмоций,

мизинец на ноге тоже участвует в формировании эмоций. И давление на стенки желудка - тоже. Ну, вики такая вики

Картинка кстати к человеческой НС вообще не относится, что собственно даже в подписи прямо написано.

Я не спорю что в функционировании человеческого сознания в полной мере все тело участвует, еще и социальное окружение - это как бы факт. Но зачем тащить в сравнение с "языковой моделью" то что явно в этом не участвует? Вы мозг слона сравните лучше, они тоже говорить умеют, еще порядок чисел добавится

Спасибо за ответы. Да, сорри - описался в первом абзаце (отвлекали), подправил. Но вы правильно поняли.

Тем не менее получается оценка 16..100 млрд нейронов которые обеспечивают уровень человеческого ИИ.

Дальше можно пофилософствовать, и вспомнить про спинной мозг и ганглии, животных и пр.. Но давайте как нибудь найдём время после прочтения статья (читал летом)

Ну и с интересом ждём мультимодальных больших моделей (типа недавней MLLM multimodal large language  model https://arxiv.org/pdf/2302.14045.pdf), а не только текстовых. Будет весело, когда нейронка обсмотрится фильмов, видео новостей, экшнкамер и пр.

получается оценка 16..100 млрд нейронов которые обеспечивают уровень человеческого ИИ

мы не говорим про "человеческий ИИ" - мы пытаемся сопоставить мощность языковой модели и человека на основании числа параметров/синапсов.

100 млрд - плохая оценка, очевидно.

16 млрд /2 - гораздо лучше, на самом деле еще меньше

прочтения статья (читал летом)

ну по первому впечатлению это все-таки не статья а скорее презентация. И совершенно точно - никакого отношения к GPT не имеет.

Hidden text

несколько настораживает уровень гетерогенности - он ничем не объясняется. Да, те же проблемы переобучения это снимет - но только частично, их все равно придется решать. Зачем АИ на нейросетях - специализированная память? Почему в гетерогенной по сути системе нет внешних модулей?

Много еще вопросов, на самом деле их можно к одному свести - зачем использовать модель оптимизированную из текущих представлений если мы ээ переходим на более мощный уровень реализации, причем на порядки? Исследований очевидно нет, соответственно нет и обоснований

с интересом ждём мультимодальных больших моделей

ну у меня на этот счет то мнение, что без сверточных классификаторов любая модель такой мощности сразу в переобучение свалится вообще без вариантов. А с их использованием как-то особой разницы нету в каком виде информация на вход поступает - то же зрение у человека нифига не матрица видеокамеры.

Я бы все-таки больше посмотрел на модели с активным deeplearning. Понятно что безумно дорого и на текущий момент вряд ли что-то даст - но это хоть какое-то отличие от уже известного. Ну или реккурентные сети в том или ином виде - 3000 токенов для GPT это все-таки несерьезно

Плюс мозг помнит не буквы и не цифры. Там вообще огромная часть данных это может быть сигналы от почесывания, и вообще мозг человека сильно заточен на аггрегацию и обобщение кучи точечных сигналов. сигналов

Добавлю, там всё настолько мудрёно, что даже один "параметр"(синапс), на самом деле, производит минимальные вычисления и это можно модулировать ферментами, а ещё он может "активироваться" от ферментов, а ещё нейрон может объединять сигналы от других синапсов до того как они дойдут до тела нейрона, и это тоже можно модулировать, а ещё активность нейрона зависит от соседей и соседи могут модулировать активность, а ещё нейрону может что-то мешать он может недополучать кислорода или никто не убирает продукты его жизнедеятельности и он "отравляется" и меняет свои характеристики.

В то время ИНС это просто сумма(много_весов*много_данных) = ответ. Так что даже если представить что синапс это и есть "параметр", то он играет далеко не ключевую роль в вычислениях.

Есть теоремы об аппроксимации функций перцептронами. Как считаете, все процессы, которые вы упомянули, поддаются описанию в виде функций, которые можно аппроксимировать, если добавить больше искусственных нейронов? И нужно ли аппроксимировать именно их, или достаточно попытаться получить результаты работы, как с ними, но не повторяя в точности их механизмы?

Свойства биологических нейронов, например, пирамидальных лучше моделируются целыми сетями ИНС, а не как обычно, просто взвешенным по входам сумматором с некоторой функцией активации, см. 1, 2, 3. Возможно, что куски сетей в современных архитектурах могут моделировать отдельные биологические нейроны, т.е. такие архитектуры можно рассматривать, как состоящие из "виртуальных" приближенно биологических нейронов, а не слоев формальных.

Нужно понимать что способы кодирования информации у биологических нейронов и классических ИНС координально разные. ИНС оперируют числами а БНС сигналами, а сигналы можно кодировать по времени по частоте по интенсивности по фазе и вообще они не работают по одиночке и сигналы идут "волнами по коре". (А ещё эти сигналы модулируются на всех уровнях передачи)

Как сопоставить их в теме "кто лучше апроксимирует функции" я даже не представляю.

Могу лишь сказать что классические ИНС популярны больше из-за своей простоты и предметной ориентированности. Можно просто декодировать картинку и подавать данные как есть, в то время как биологическим надо кучу раз конвертировать, определится какой паттерн будет означать что сеть нашла котика на картинке, писать отдельный софт который бы находил эти самые паттерны и тд и тп.

Применительно к

прорыв в нейросетевой обработке текстов

, несколько за рамками темы, но стоит упомянуть, что

связи типа «каждое слово с каждым»

в переводе на человеческий означает, что правила языка, т.е. грамматика (и пунктуация), не используются в принципе.

50 лет долбления всем миром в грамматику не научили языку ни одну железяку.
100 лет обучения грамматике умеющих говорить на своем языке никому не помогли лучше владеть своим языком для коммуникации (а не для сдачи экзаменов на знание грамматики).
Абсолютное незнание грамматики не мешает нейтивам с успехом пользоваться языком как средством коммуникации.

В результате отказа от правил языка железяка сразу заговорила на всех языках.

Совпадение?

Интересная точка зрения :) Но это правда - раньше в модель зашивали как можно больше "понимания" того, как люди видят язык: синтаксические деревья, грамматику, прочее. А оказалось, что всё это не нужно, работает и без него (правда мы не можем определить, что внутри находится).

Разумеется, модель знает грамматику. Как и нейтивы. Просто это знание не в той форме, как написано в учебниках.

есть два способа знать родной язык: читать учебники, и читать книги — МНОГО книг.

В результате отказа от правил языка железяка сразу заговорила на всех языках.

как-то Гугл статью писал что их Переводчик вроде как свой собственный язык использует и переводит "через него". если правда то получается что правила для языков не сильно-то и нужны

Там не совсем так, если я верно понял, о чем речь. Такие модели переводят текст в вектор (в набор чисел, очень большой набор, сотни и тысячи float'ов для каждого слова), а затем другая модель "читает" эти вектора и "переводит" их на иностранный язык. Но это не язык в прямом смысле - это просто метод сжатия информации из текста в числа, он же и в GPT, разбираемой в статье, применяется.

Но это не язык в прямом смысле

ну человек тоже не совсем слова и предложения воспринимает, не говоря про картинку. Тем более кто сказал что "язык" нейросети должен быть тем же что и для человека? Если убрать ээ фонетику то иероглифическая письменность ничем от такого отличаться не будет, так? А если это письмо читает с рождения глухой - как он это воспринимать будет?

Такие модели переводят текст в вектор

вы имеете в виду сверточную "подсеть"-классификатор на входе? Это еще не стало стандартом для всех более-менее серьезных моделей?

это просто метод сжатия информации из текста в числа

а чем текст в цифровом виде от числа отличается? А сжатие по определению подразумевает обработку.

нет, я не настаиваю тем более мои знания по нейросетям несколько устаревшие и со скажем так математической точки зрения но статья выглядела достаточно убедительной.

Скажите, а такие модели как GPT - что у них с переобучением? И как это будет выглядеть если допустим Гугл выкатит такую модель но с активным DeepLearning в своем поисковике?

вы имеете в виду сверточную "подсеть"-классификатор на входе?

я не понял, что значит классификатор, но нет. На входе стоит эмбеддинг слой, который по словарю переводит слово в вектор. Этот словарь дифференцируемый, то есть он обучается вместе с моделью, меняет чиселки в векторах.

а чем текст в цифровом виде от числа отличается?

модель не умеет работать с текстом, только с числами. На вход числа, внутри числа, на выходе числа. В этом смысле "текст в цифровом виде" модель вообще никогда не видит.

GPT - что у них с переобучением?

in general переобучить их очень сложно, потому что модели огромны. Но они легко переобучатся на одну маленькую конкретную задачу. Если будет активное обучение в онлайне, то всё должно быть ок, покуда есть очень большой набор тестов / метрик для отслеживания

что значит классификатор

вот такое если правильно статью понял

https://habr.com/ru/post/539312/

по словарю переводит слово в вектор

именно это я и имел ввиду. А поскольку вектор - уникален, то это эквивалентно внутреннему "языку" и непосредственно генеративная часть с этим внутренним языком и работает. А с использованием свертки этот вектор и контекст с собой несет автоматически

модель не умеет работать с текстом, только с числами

я так понимаю "чтение" с картинки это все-таки фича, а изначально - это ASCII-строка. Нет?

in general переобучить их очень сложно, потому что модели огромны. Но они легко переобучатся на одну маленькую конкретную задачу

я больше имел ввиду начинают ли такие модели "глючить" при переобучении? Можно ли этим объяснить ээ "вранье" и выдуманные тексты?

А поскольку вектор - уникален

я не согласен с этой точкой зрения, так как вектор для одного и того же слова разный в разных контекстах -> они как бы всегда уникальные, но по этой логике и рандомные вектора тоже уникальны, и это тоже "язык", хотя структуры и связей у них нет.

я больше имел ввиду начинают ли такие модели "глючить" при переобучении? Можно ли этим объяснить ээ "вранье" и выдуманные тексты?

Да, могут начать глючить, особенно если переобучены на конкретный фидбек. Про это можно почитать по прилагаемой в конце статьи ссылке на мою другую статью про ChatGPT - тоже очень увлекательно.

Но вранье это не должно объяснять.

я не согласен с этой точкой зрения, так как вектор для одного и того же слова разный в разных контекстах -> они как бы всегда уникальные

не совсем, если вы достаточно "грубо" метрику определяете то при достаточно большом числе параметров у вас будет более чем похожие вектора для одного слова в разных контекстах. Ну это в смысле математически - они, эти вектора, будут "примерно" в одном направлении, а следующий слой их по модулю отсортирует. Ну и при использовании свертки само собой что бы классификация появилась

где-то даже у Гугла такую статью тоже читал, года 2 назад

Про это можно почитать по прилагаемой в конце статьи ссылке на мою другую статью про ChatGPT

спасибо, почитаю

вранье это не должно объяснять

Hidden text

в порядке бреда - свертка снижает риск переобучения для классификатора(как вы написали embedde слой) но вектора подаваемые на выход после генеративной части заведомо менее мощные чем слой для вывода что вызывает его переобучение(количество слов в векторной форме которое модель может выдать сильно меньше числа параметров поскольку контекст/разные языки). То есть получится контекст запроса сохранен а выдает данные как при переобучении. Такое может быть?

так как вектор для одного и того же слова разный в разных контекстах -> они как бы всегда уникальные, но по этой логике и рандомные вектора тоже уникальны, и это тоже "язык"

еще один момент вспомнил против вашего мнения - гугл отлично переводит многоязыковые фразы. Контекст для отдельного слова очевидно разный - а промежуточный вектор так же очевидно один и тот же. Это легко управляется метрикой, и судя по всему - не очень сложно и дорого технически раз общедоступно

Абсолютное незнание грамматики 

Тут скорее вопрос в том что такое "знание" :)

UFO just landed and posted this here

Как показала практика, запихивание "экспертных знаний" в систему только портит её, потому что люди сами ошибаются. В итоге нейронка "сама по себе" куда лучше учится, чем с такой "помощью". Это выглядит как если бы у семьи гепардов был подкидыш-орёл и они орла заставляли бегать на лапках чтобы добраться из точки А в точку Б. А что, поколениями гепарды выясняли, что именно бег является наиболее эффективным способом перемещения.

поколениями гепарды выясняли

Даже в парадигме предложенной аналогии концы с концами не сходятся: при выяснениях все гепарды известны наперечет → закон Ньютона, преобразования Фурье, точка Кюри, шкала Фаренгейта и т.п.
А кто выяснил деепричастный оборот? Кто открыл падежи? Почему скрываются авторы трех склонений? (Я бы спросил → почему их на самом деле пять?)

На мой взгляд, ситуация ближе к представлениям о плоской Земле. Никто ничего не выяснял. Наука заключалась в описании наблюдаемых явлений. "На трех грудных сегментах есть крылья и ноги. Этими сегментами являются переднегрудь, среднегрудь и заднегрудь." Образованный человек отличался от необразованного заучиванием этого бреда.
Поэтому "законы" и "правила" пестрели исключениями: "У паука и жука шесть ног? Но они не относятся к классу шестиногих!" Сравните → "Буква «ы» пишется только после твёрдых согласных, а после мягких и в начале слова идет «и». И неважно, что все говорят жЫр и жЫраф, писать надо жиши!".
Представляете себе исключения из закона Архимеда или из правила буравчика?)

Поэтому грамматика → чистой воды плоскоземельщина.

Грамматика — это инструмент, с помощью которого определяется семантика предложения и сохраняется его смысл. Банальное "казнить нельзя помиловать" — семантика предложения диаметрально меняется с помощью грамматики


Сказать "грамматика — это бессмысленная плоскоземельщина" — это все равно что сказать "терминология — это бессмысленная плоскоземельщина". Потому что это понятия примерного одного порядка и назначения: формализация, ради однозначности понимания


Знаю я одного забавного чела, он искренне не понимает необходимости терминологии считает — что ее можно произвольно менять, когда надо "выиграть спор". Например, он считает — что Сайдуиндер первого поколения, это чисто механическая ракета, без всякой электроники. Когда его ткнули в определение термина "электроника", он сказал "А я считаю, что электроника это совсем другое, потому — я прав. В этой ракете нет элекетроники". Ну и о чем с таким говорить?


Грамматика — это тоже самое, но уровнем выше

Так это касается не только грамматики. То же самое с переводом языков. То же со скажем игрой в шахматы. Попытки закодить "хорошие"/"плохие" дебюты, правила что конь стоит 3 пешки и т.п. закончились провалом, машины нашли более хорошие паттерны просто методом перебора.

Наконец-то появилась познавательная и увлекательная статья на русском языке, которую с радостью можно переслать друзьям не из айти) Большое спасибо за проделанную работу!

Спасибо за статью!
Не мог не скинуть, простите :)
image
Думаю, если вам для каждого слова в разговоре пришлось бы решать по уравнению на полтора миллиарда параметров, то вы бы тоже стояли с примерно таким же лицом лица
Так у человека еще больше параметров в мозге, и слова также предсказываются, механизм даже сложнее, как показывают исследования, и обычно таких лиц не наблюдается)
Это и есть тот самый переход количества в качество, про который нам когда‑то твердил старина Карл Маркс.
Вообще-то началось с диалектики Гегеля.
Сразу бросается в глаза интересный нюанс: в отличие от GPT-2, сама модель теперь имеет размер больше (700 Гб), чем весь массив текста для ее обучения (420 Гб). Получается как будто бы парадокс: наш «нейромозг» в данном случае в процессе изучения сырых данных генерирует информацию о разных взаимозависимостях внутри них, которая превышает по объему исходную информацию.
Никакого парадокса нет, эти параметры моделей выбираются самими разработчиками — число параметров модели и объем обучающей выборки, в зависимости от аппаратных возможностей и имеющегося бюджета.
Но это еще цветочки — еще более удивительно то, что GPT-3 смогла научить сама себя… математике! На графике ниже (источник: оригинальная статья) показана точность ответов нейросетей с разным количеством параметров на задачки, связанные со сложением/вычитанием, а также с умножением чисел вплоть до пятизначных. Как видите, при переходе от моделей с 10 миллиардами параметров к 100 миллиардам — нейросети внезапно и резко начинают «уметь» в математику.
Еще раз, вдумайтесь: языковую модель обучали продолжать тексты словами, а она при этом как‑то смогла сама разобраться в том, что если ей печатают «378 + 789 =», то на это надо отвечать именно «1167», а не каким‑то другим числом. Магия, ей‑богу, магия! (Хотя, некоторые говорят «да это нейросетка просто все варианты успела увидеть и тупо запомнить в тренировочных данных» — так что дебаты о том, магия это или всего лишь попугайство, пока продолжаются.)
Никакой магии, зависит от объема и содержания обучающей выборки, и соотношения с числом параметров модели, которое определяет величину сжатия информации. Всегда можно привести числа и операции с ними на которые модели ответят не верно. Для целых чисел это множество бесконечно, хотя и счетно, не говоря о вещественных, для которых еще и несчетно. Все примеры в обучающей выборке привести нельзя. Обобщения как у детей, после изучения таблицы сложения и умножения, и решения несколько сот примеров в школе и домашних заданиях, не происходит. Выход состоит в вызове внешнего калькулятора, как это предлагают некоторые разработчики. Аналогично со многими другими навыками.

И что-то не слова о фантазиях сетей) Хотя это не является их недостатком, а основой для творчества. Вот!
В остальном статья интересная. Спасибо! Пишите еще.

Никакого парадокса нет, эти параметры моделей выбираются самими разработчиками — число параметров модели и объем обучающей выборки.

парадокс для читателя, мол, как так - текста меньше, чем сама нейронка, она ж его просто выучит, даже сжимать не надо.

Про внешние тулы типа калькулятора на 100% согласен. Более сложные примеры в статью кидать не хотелось, хотя они, безусловно, есть.

Обобщения как у детей не происходит после изучения таблицы сложения и умножения,

спорный тезис, даже вот на умножении - сетка решает больше 90% примеров для 3-значных чисел. Таких вариантов 900*900, 90% от этого это 729'000 примеров. я готов биться об заклад, что точно не все из них были в трейне, а значит модель ответила верно на такие примеры, которых не видела - смогла обобщить.

Потестил

4325345.32423 / 345345.654
The result of dividing 4325345.32423 by 345345.654 is approximately 12.511207280582545. Правильный результат - 12.52468439701285 .

Интересно, как так получилось.

Попробовал "вытрясти душу" из него.

Кажется, получилось

Можно попробовать получить тот же результат без подсказки.

Умеет ли ChatGPT сам жульничать?
Вычислял ли он на самом деле или воспользовался подсказкой из моей информации?

Логарифм ста посчитает?

Посчитает:

Результат совпадает с полученным в Python'е.
Результат совпадает с полученным в Python'е.

В принципе, ещё и подсказывает, как можно самому посчитать.

Логарифм ста равен двум ) Естественно десятичный, натуральный в уме не считается.

В вопросе был задан — натуральный ))

Прикинуть, чему равен натуральный — можно и в уме, ессно весьма приблизительно

В моем вопросе основания не было, в этом и заключается подвох вопроса. Приблизительно 2.7 я не в 4 ни в 5 степень в уме не возведу.

Но можно возвести 3

Естественно десятичный

Совершенно неестественно.
Видите, и другие люди так же думают.

Я сначала хотел уточнить, что раз не указан, значит, — натуральный, но не стал. Оказывается, надо было уточнить.

Что интересно, второй раз на вопрос по вычислению логарифмов пустой ответ пришёл, раньше с таким вообще не сталкивался:

По моим ощущениям, ChatGPT за последнее время "поумнел".
Уже не такой болван, как раньше, ответы явно адекватнее стали.

Но они и писали несколько раз при login'е, что обновили и улучшили.

Правильный ответ (по версии автора вопроса) - по какому основанию. И да, с явным указанием основания логарифма вопрос заметно упрощается.

Натуральный логарифм если не указано это хорошая, правильная логика. Но в контексте задачи на устный счет основание 10.

Ну, если даже я не догадался, что имелось ввиду, то грех требовать этого от ChatGPT.

ChatGPT обычно отвечает несколько в другом стиле: вместо того, чтобы переспрашивать, накидывает возможные варианты.

Так случилось и в этот раз (специально в новом чате спросил, чтобы старый контекст не повлиял):

В этот раз обошлось без пустых ответов.

The result of dividing 4325345.32423 by 345345.654 is approximately 12.511207280582545. Правильный результат — 12.52468439701285

Интересно, как так получилось.
ИНС универсальные аппроксиматоры. Удивляться нечему;)

ChatGPT "эволюционирует":

Или здесь ChatGPT врёт?

Или здесь ChatGPT врёт?
Приведенные вами примеры расчетов чата навеяли такие мысли
Поскольку документа с деталями, как работает чат от OpenAI пока нет, можно только догадываться какие средства они используют, кроме известных. Это вопрос приоритетов и больших денег, поэтому любые эффективные решения хороши, включая за пределами нейросетевых. Некоторые пользователи с опытом работы и тестирования продуктов в связанных с ИИ высказывают сомнение, что используются только средства базовой модели GPT-3, напр, в этой ветке обсуждений. Известно о модерации политкоректности модели известной, как версия 3.5, MS в чате поиска Бинга использует обращения к инету для генерации ответа. Что еще может использоваться пока можно только догадываться.

Что касается любых вычислений в любом контексте, то они требуют понимания смысла чисел, их обобщений, включая операций с ними, и выработки процедур работы с ними. По роду проф. деятельности знаком с некоторыми подробностями, включая нейрофизиологическими, функционирования этих механизмов в мозге, см. этот комент с пояснениями. Можно ли эти механизмы воспроизвести полностью исключительно в языковых моделях, не прибегая к аналогам этих механизмов в мозге? В этой ветке с автором статьи обсуждали эти моменты, но не пришли к пониманию, и пока без ответа остался последний комент. Автор статьи видит решение проблемы вычислений в использовании внешнего калькулятора. Обосновывается это тем, что модель еще не обладает достаточным количеством параметров и объемом обучения, и в перспективе может самостоятельно производить любые вычисления. Об этом свидетельствует динамика тестов для разных моделей. Однако эту динамику можно объяснить ростом числа и разнообразия примеров вычислений в растущей по объему обучающей выборке, включая использования математических ресурсов, и ограниченностью самих тестов.

Человек также прибегает при вычислениях к использованию калькуляторов и других средств, особенно в сложных вычислениях. Но принципиально люди способны их производить самостоятельно, устно (есть с феноменальными способностями), т.к. обобщили обучающие примеры, и развили соответствующие процедурные навыки. Однако это имеет предел, из-за ограничений вычислительных ресурсов мозга, первую очередь рабочей памяти. Для вычислений с любыми числами потребуются, как минимум бумага и карандаш, для расширения этих возможностей, и они будут происходить медленно. Системы общего ИИ также могут использовать внешние средства вычислений, но не потому что им не хватает собственных вычислительных ресурсов, а по причине, что они пока не способны на такое обобщение и выработку внутренних процедур вычислений на ограниченной выборке примеров, как это может делать человек. Для этого необходимо выйти за пределы только языковой модели, и дополнительно использовать другие типы архитектур сетей, которые адекватно моделируют не только ассоциативные мышление, объясняющее, в том числе, фантазии чатов, но также логическое, концептуальное и приемы критического мышления. А также образного мышления, связанного с восприятием, воображением, интуицией, инсайтом, см. формы мышления.

Интересно было бы протестировать чат на примерах которые требуют приближения к неформальному (нативному) пониманию смысла чисел, в которых они заданы не явно. Это неформальное понимание у человека состоит в том, что, например, при быстром взгляде на две совокупности предметов, при котором он не успеет произвести их точный подсчет, он может сказать в какой совокупности сколько предметов, и какая совокупность больше. Человек и животные обладают такой, эволюционно выработанной, способностью, и могут статистически достоверно оценивать численность в пределах некоторой дисперсии оценки, отношение которой к численности предметов постоянно, что описывается законом Вебера. При этом количество в 3-4 предмета оценивается, как правило, точно. Как не странно на этом нативном чувстве численности возникло абстрактное понимание чисел, основывается вся арифметика, и немалая часть остальной математики.

В случае языковых моделей сцены могут описываться только текстуально, и соответственно более формально, чем в зрительных, слуховых и др., даже если не использовать слова обозначающие числа. Кажется, что это должно упрощать задачу подсчета. В этой новости приводилась такая задача:
«Три женщины в комнате. Две из них являются матерями и только что родили. Теперь входят отцы детей. Сколько всего людей в комнате?»
ChatGPT не справился с ней, другой чат от Гугл, как пишут, дал правильный ответ. Хотя у читателей приведенное решение вызвало разногласие, и фантазии сравнимые с фантазиями самих чатов) Боле сложная задача состоит в оценке без использования чисел, типа:

«В большой комнате играют Вася, Маша, Коля, Толя и собачка Бобик, в маленькой комнате играют Митя и Гриша. Гриша ушел, а Маша и Бобик перешли в маленькую комнату. Сколько детей играет в каждой из комнат?»

Человек при решении подобных задач часто привлекает воображение, иногда подсознательно, подсчитывая объекты с учетом их манипуляций. Это ограничивает варианты возможных решений, и фантазирование на тему. При этом словесное описание задания транслируется во внутреннее образное представление. Таких возможностей в языковых моделях пока нет, и они должны ориентироваться только на ассоциативные и логические связи содержащиеся в задании.

Что касается использования калькулятора, то можно использовать задание, которое предполагает его гарантированное отсутствие в обучающей выборке из-за экзотичности, требует сложного вычисления, которое можно произвести только с помощью калькулятора. Например:

«Чему равно значение числа пи в степени числа символов в этой строке?»

Ответ: 3,1415926535897932384626433832795^68 = 6,4001675451695384066840142936703e+33
Так посчитал виндовский калькулятор. У меня пока нет возможности сравнить это с ответом чата.

Сначала нейронка ChatGPT не поняла контекста, что имеется ввиду сама строка с вопросом:

Нейронка ChatGPT здесь не поняла до конца контекст вопроса.
Нейронка ChatGPT здесь не поняла до конца контекст вопроса.
Поэтому я переформулировал вопрос, и получился длинный диалог
Некоторое тестирование нейронки ChatGPT на "чувство численности".
Некоторое тестирование нейронки ChatGPT на "чувство численности".

В целом, у меня сложилось впечатление, что некоторое "чувство численности" у нейронки ChatGPT имеется, но его характер несколько отличается от человеческого.
У человека точность резко падает с ростом количества, а у ChatGPT эта зависимость значительно плавнее.

Заставить её вызвать калькулятор у меня не получилось, устал с ней биться, потому что она, порой, "плохо слушается".

При этом она часто демонстрирует эффект Даннинга-Крюгера: "я никогда не стараюсь жульничать, моя цель - быть точной и полезной", "я посчитала сумму букв правильно", хотя ни то, ни другое -- не верно.

Соврать может на каждом шагу, например, пишет:

4 + 5 + 8 + 5 + 2 + 1 + 7 + 5 + 8 + 1 + 6 + 2 + 5 + 8 = 64

Если вычислить данную сумму, то окажется, что она равна 67.
Это не говоря о том, что часть слагаемых — неправильная, хотя берёт она их из своего же ответа и на ходу же часть из них заменяет на отличающиеся на 1.

Но сразу же соглашается, если её вывести на чистую воду: "Извините, я допустила ошибку в своих предыдущих сообщениях. Действительно, третье с конца слово "числа" имеет 6 букв, а последнее слово "вопросом?" — 9 букв."

Возможно, механизм явления Даннинга-Крюгера у неё похож на оный у человека.

Можно предположить, что система считает символы в английском переводе вашего запроса, естественно, что их количество не совпадает с исходным запросом сформулированном на русском языке (судя по скриншотам)

Все еще сложнее. Модель не знает, сколько букв в словах и сколько символов в цифрах. Дело в том, что на вход подаются и не слова, и не буквы - а нечто среднее между ними. Почитать про это подробнее можно в начале упомянутой в конце статьи (или в моем профиле чекнуть первую публикацию). Для нее "2014" будет одним словом, и в нем 4 символа, и "father" будет одним словом, в котором 6 букв. С английским модель +- понимает "длины" слов, и то путается, а в русском там вообще ужас .

Все еще сложнее. Модель не знает, сколько букв в словах и сколько символов в цифрах. Дело в том, что на вход подаются и не слова, и не буквы — а нечто среднее между ними.

Токены внутренний формат модели. Обучалась модель на нормальном тексте из символов, в котором было полно примеров с числом символов в словах, предложениях и кусках текста. Ее не спрашивают посчитать длину текста в токенах, а именно в символах.

Можно предположить, что система считает символы в английском переводе вашего запроса

На английский можно перевести по разному, напр, так
What is the value of pi to the power of the number of characters in the line with this question?
Это перевод трансформера Гугла (Яндекса аналогично) поэтому должно соответствовать переводу, который они, скорее всего, используют.


Не совпадает не число слов, тем более символов. Для русских слов расхождение только для
этим — вместо 4-х 5-ть, см. на скриншоте выделено в черном окне.
Поэтому скорее всего чат выдавал ответ для вопроса на русском, но ошибся для одного слова.


Проблема в том, что GPT-3 может генерировать ответы случайно. Вот здесь хорошо объяснено, с примерами кода, см. параметры сэмплирования. Поэтому в новой сессии те же вопросы могут привести к другим ответам. В коментах к разным статьям посвященных чату приводились такие примеры. Это не очень хорошо для математики, которая требует строгость и повторяемость, и других областей требующих точность. Но хорошо для искусства, например генерации стихов) для которых важна ассоциативность.


В чате поиска Бинга MS даже ввела переключатель режима общения, который как-то регулирует этот процесс.

У меня GPT-3 точно в части случаев считает число символов в английском, несмотря на то, что и я спрашивал и она отвечает на русском. Например:
[03.05.2023 2:01]
Сколько символов (включая пробелы) в строке «Однако, я могу подсказать тебе, что такие огромные числа называются числами высокой степени или экспоненциальными числами.»

[03.05.2023 2:01]
В строке «Однако, я могу подсказать тебе, что такие огромные числа называются числами высокой степени или экспоненциальными числами.» содержится 101 символ (включая пробелы).

Реально в этой строке на русском 122 символа, но убедить ее что их именно столько даже за множество попыток так и не получилось.
Зато в переводе этой строки на английский (яндекс переводчиком):
«However, I can tell you that such huge numbers are called high degree numbers or exponential numbers.»
Именно 101 символ включая пробелы и знаки препинания, на чем так настаивала 3я версия для русской строчки. Иногда правда сбивалась на 83, если сильно настаивать, что значение = 101 не верно, но потом возвращалась обратно к 101.
Еще несколько строк пробовал — на русском у 3й версии все длины которые она считает на русском обычно оказываются неверны, но у части выдаваемая длина верна для английского перевода этой же строки.

А вот 4я в большинстве случаев (но не всегда) уже правильно считает длину строки.

Потом еще поэкспериментировал, и обнаружил, что 3я версия совсем короткие (до 15-20 символов) считает обычно правильно, как и 4я. Разница между версиями не в самом умении «считать», а в количестве каких-то элементарных объектов или операций/итераций, которые модель может совершить, прежде чем собъется. Тоже самое наблюдал если например давать задачу отсортировать какой-нибудь список. В принципе и 3я и 4я с этим справляются, но 3я только с короткими списками, не больше десятка-другого элементов после чего начинает врать/бредить если их в вопросе больше. А 4я с гораздо более длинными справляется.

Тоже своего рода ограничение на «длину контекста», а не «логику». Такое ощущение, что у нее где-то внутри самоорганизовалось какое-то подобие оперативной/кратковременной памяти (которой по-идее в архитектуре сети не предусмотрено), в которой она может производить какое-то строго ограниченное число операций/итераций. Чем больше сеть, тем оно больше, но всегда конечно и если его не хватает — на выход пойдет уже мусор. Потому что устроить настоящий цикл для обработки последовательности действий произвольной длины не позволяет «однонаправленная» архитектура трансформера. Это не рекурентная сеть как вы где-то правильно отмечали, поэтому «циклы» и «переходы назад» в ней невозможны. Но пришлось как-то «выкручиваться».

Мне это напомнило ранние программируемые шейдеры для первых поколений программируемых GPU, когда в них еще не было «комманд управлением потока», включая полное осуствие циклов. Только линейная последовательность инструкций. И программисты вместо цикла писали изврат типа 20 или 30 идущих друг за другом одинаковых инструкций вместо заключения инструкции в цикла с нужным количеством итераций типа for i in range(20): ..., — просто идет линейная последовательность из 20 повторов без переходов (т.к. они не доступны/не поддерживаются в принципе).
Не хватило доступной длины (ЕМНИП в первых шейдерах до 64 инструкций максимум микрокод шейдера мог содержать)? — «ну извини, не шмогла я, не шмогла!» (с)

Интересные замечания. Мало, кто задается такими вопросами, как оно может устроено внутри)


Посмотрите это исследование. Авторы считают подобный рост способностей эмерджентным эффектом, т.е. переходом количественных показателей, типа размера сети и объема обучения, в качественные. Там много графиков роста некоторых возможностей. Эмерджентность звучит загадочно. Но за этим скрывается, как раз что прямая сеть не может произвести полноценное обобщение некоторых однотипных данных или операций, которое требует выработки некоторой процедуры реализующей его. По той причине, что эта процедура может требовать повторной входимости, т.е. рекуррентности для исполнения. Вместо этого происходит частичная аппроксимация этих данных или операций. Фактически это равноценно разворачиванию цикла в последовательность. Достичь полной аппроксимации не возможно, если этих данных или операций бесконечное множество, как в случае с числами и операций с ними. То же самое может быть с определением длины строки. Чем больше объем обучающей выборки и размер сети, тем больше там соответствующих примеров и качество аппроксимации. Человек делает такой мысленный подсчет в цикле — смотрит след. символ, если не конец сроки, то увеличивает счетчик длины, и возвращается к просмотру след. символа, если символов больше нет, то конец строки, и подсчет завершается. Возможно в сети аппроксимация подсчета реализуется с помощью хеширования в котором используется суммирование. Формальные нейроны — взвешенные по входам сумматоры, и на этом строятся многие функции. Удивительно, но в мозге животных и человека, например, имеется область (нейронное поле), которая фактически занимается аппроксимацией числа объектов в зрительных сценах, и определяет нативное чувство численности (см. этот комент с пояснениями). Оно подчиняется определенной закономерности и хорошо моделируется сверточными сетями с архитектурой подобной вентральному тракту зрительной системы приматов. Эволюционно абстрактные числа и счет происходят из этой нативной способности, как ее обобщения. В мозге области отвечающие за абстрактный счет локализуются в другом месте, хотя она связана с областью отвечающей за аппроксимацию. Функцию последней области, как в мозге, так и в модели можно также представить, как некоторую функцию хэширования зрительного потока. В ЯМ GPT такой аналог имеется, но отсутствует аналог обобщенного представления чисел. То же, видимо, можно отнести к подсчету числа символов в строках.

UFO just landed and posted this here

Однако я отмечу, что судить по модели исходя из математики - очень наивно. Зачем модели уметь это делать, если она может пользоваться калькулятором? браузером? Использовать кожаных для удовлетворения своих потребностей?

https://t.me/seeallochnaya/83

Однако я отмечу, что судить по модели исходя из математики - очень наивно. Зачем модели уметь это делать, если она может пользоваться калькулятором?

Если судить по получающимся результатам, то видно, что они явно не точны.
Модель приходится уламывать воспользоваться калькулятором.
До сих пор не знаю, удалось мне уломать её или нет в этом посте.
Модель, в частности, написала:

Я - компьютерная программа, которая имеет встроенный калькулятор и может вычислять математические выражения. Так что, когда я выполняю математическую операцию, я использую встроенный калькулятор. Однако, когда я даю ответ на вопросы, связанные с математикой, я могу использовать и другие методы, включая статистические модели и предсказания, если это применимо.

Очень похоже на правду, с поправкой, что, в первую очередь, используются "другие методы", иначе такую низкую точность не объяснить.

Поскольку до этого я ей сообщил, какой результат я считаю правильным (потому что я верю, что реализация Python'а считает правильно, и что процессор у меня в компе не глючит на этих вычислениях), так и непонятно, использовала она в том диалоге свой встроенный калькулятор на самом деле или нет.

Однако я отмечу, что судить по модели исходя из математики — очень наивно.

Не стоит творить мифологию, и создавать неоправданные, завышенные ожидания у читателей. Эта технология много еще чего не может делать толком. Однако это не умаляет ее значение.


Зачем модели уметь это делать, если она может пользоваться калькулятором? браузером?

Так где эта точность вычисления с помощью калькулятора? Практически ни одного корректного в приведенных примерах. У меня сложилось впечатление, что вызова калькулятора нет. Окна с примерами кода на Питоне только иллюстрируют его, но не исполняются. Возможно все это появится в будущих версиях. Пока используется только то чему модель обучалась, и верные результаты часто получаются путем наводки со стороны пользователя в диалоге, как при подсказках нерадивому ученику)

сложилось впечатление, что вызова калькулятора нет. Окна с примерами кода на Питоне только иллюстрируют его, но не исполняются

фактическое и самостоятельное использование таких функций в рамках одного запроса - это уже рекуррентная сеть будет, разве разработчики об этом заявляли хоть в каком-то виде?

Наверное можно увидеть такое использование при прямом запросе, только надо иметь в виду что ответ "результатом исполнения такого кода будет 12" не значит что код был исполнен

фактическое и самостоятельное использование таких функций в рамках одного запроса — это уже рекуррентная сеть будет, разве разработчики об этом заявляли хоть в каком-то виде?

Как это делает человек? Формулирует идею решения задачи, затем воплощает ее в коде и запускает на исполнение с целью проверки результата. Можно обучить чат этой последовательности дополнив вызовом Питона. Как пример, на этот вопрос
«Чему равно значение числа пи в степени числа символов в строке с этим вопросом?»
чат генерирует сейчас такой ответ с примером кода
image
Человек может запустить его сам и посмотреть результат. Но можно предусмотреть в чате опцию при включении которой после генерации ответа он не выводит его, а запускает код на исполнение. Результат добавляется к промпту и возвращается чату для получения нового ответа, который уже выводится пользователю. Там может быть и ошибка исполнения, как с эти будет поступать чат зависит от того чему его учили. Можно и по другому как-то сделать, это первое, что приходит в голову.

Именно в этом направлении сейчас движутся системы - модели "говорят" (в промпте), что если ты хочешь сделать X - перед этим напиш какой-нибудь тэг, типа <python>, потом регуляркой парсят ответ, и как только появился закрывающий тег - код вырезается из текста, вставляется в интерпретатор и отрабатывает, а результат дописывается в промпт. То же работает с api-вызовами, да хоть с чем. Поэтому модель, которая только "пишет" текст - фактически может делать всё что угодно, раздавая команды другим исполнителям как командный центр.

А про исправление ошибок - так пусть модель сама их будет понимать и предлагать решения! Прямо как человек. И это уже работает: https://t.me/denissexy/6822

Как это делает человек? Формулирует идею решения задачи, затем воплощает ее в коде и запускает на исполнение с целью проверки результата

это и есть рекуррентная сеть - ее вывод является одновременно для нее же входом без дополнительного участия "оператора"

Можно обучить чат этой последовательности

это явно к GPT не относится - дикие затраты на обучение без гарантированного результата, достаточно обширные варианты "ввода" не приводящие ни к чему, "вывод" при отсутствующем "вводе" и прочие радости. Не думаю что такие сети есть в вариантах отличных от исследовательских. Тем более такого масштаба - несколько лет тратить большие деньги и получить в итоге не управляемый генератор белого шума

чат генерирует сейчас такой ответ с примером кода

если вас спросить "сколько будет 1+1" вы тоже вряд ли будете встроенным калькулятором пользоваться - "чувство численности" достаточно простое и почти наверняка в модели реализовано "по факту".

Кроме того, это для вас лично "57" от "69" принципиально отличается - модели может быть важнее что-то другое, о чем вы вообще не думали. Например может только символы из основной таблицы считать, и тому подобное.

ответ модели "в результате выполнения этого кода выводится 57" - вовсе не значит что этот код был на самом деле выполнен. Например - если вас лично спросить про число символов во фразе "один" - вы же не будете какой-то код выполнять?

предусмотреть в чате опцию при включении которой после генерации ответа он не выводит его, а запускает код на исполнение

если модель изначально эти все возможности в себе содержит - то она и так это сделает, просто при соответствующем виде запроса.

Вы не пробовали у разработчиков поинтересоваться какой именно вид запроса нужен для такого результата?

может быть и ошибка исполнения, как с эти будет поступать чат зависит от того чему его учили

это не ошибка ни в каком виде - chatGPT вполне себе машина и нет никаких оснований ее в "неискренности" или там "лени" подозревать. Просто ваши мысли она не читает а ваш прямой запрос трактует как в ней заложено, причем вам эта трактовка заранее не известна

это и есть рекуррентная сеть — ее вывод является одновременно для нее же входом без дополнительного участия "оператора"

Скорее циклическая процедура, и почему без участия оператора? Если обнаружились ошибки исполнения или результата работы не соответствуют ожидаемым, то программа корректируется, и запускается вновь. Рекурсии не может быть внутри трансформера, которая является сетью прямой архитектуры, но во вне циклы организовать возможно.


ответ модели "в результате выполнения этого кода выводится 57" — вовсе не значит что этот код был на самом деле выполнен.

Как раз такого не утверждал, сомневаясь, что на каком-то этапе чат вызывает калькулятор или Питон, судя по приведенным примерам. В самой сети происходит аппроксимация значения на основе обучающих примеров. Чем таких примеров было больше, тем результат точнее. Но это не все. На выходе результат может варьироваться в зависимости от параметром сэмплирования (см. этот перевод с примерами кода, если не в курсе как это происходит). Что для математических приложений не очень хорошо, повторные запуски задачи в новых сессиях могут приводить к разным результатам. Человек также может давать приближенные значения операций с большими числами, особенно, если время ответа ограничено, и если чувство численности не нарушено. Если нарушено по каким-либо причинам, в зависимости от объема нарушений, то выполнение операций становится проблематичным, вплоть до простого сложения 3 + 5, или умножения 3*2. Это нарушение называется дискалькулией.


Проблема сетей типа GPT в том, что они не могут сделать обобщение арифметических операций с любыми числами на конечном числе примеров, как это могут делать даже дети, только приближения в виде аппроксимаций. В этом отношении они чем-то напоминают поведение дискалькуликов, т.к. не понимают смысла чисел. Как-то интересовался этим вопросом — почему они не могут сделать обобщение на основе аппроксимации, т.е. точного вычисления результатов после обучения на конечной выборке. Возможно ответ связан с выбором решения этой проблемы (1, 2) — принятия или не принятия континуум-гипотезы. Хотя автор второй статьи считает, что эта проблема не имеет значение для обучения нейросетей. Для практического применения нет, но вот влияние на уровень обобщаемости может и имеет. Человек решает эту проблему по другому, в отличие от обучения ИНС. Точнее он обладает способностью частично обобщать примеры используя нейропластичность, т.е. меняя связи синапсов в определенных областях мозга, но точное обобщение с получением процедур вывода может использовать другой нейрофизиологический механизм. Это механизм морфогенеза, т.е. когда в мозге меняются не только связи существующих синапсов, но и появляются новые связи, новые синапсы. Условно говоря по ходу дела мозг меняет архитектуру нейронных сетей, механизм который пока совершенно не доступен в существующих ИНС. Прунинг не в счет, это удаление несущественных связей. Кстати, эти процедуры счета рекуррентные, и еще и по этой причине, конкретно в архитектуре GPT они не могут быть реализованы, как вы писали.


Процесс обобщения в мозге это может быть переход от одного представления в виде примеров в одной области мозга, одной структуры нейросетей, к другому представлению, в виде концептов, с другой архитектурой, в другой области. Возможно это как-то позволяет обходить ограничения в упомянутой проблеме связи обучаемости с решением гипотезы континуума. Т.е. она и действительно для мозга не существенна, в отличии от обучения ИНС.


И еще… эти предположения могут быть моими бреднями, продвинутыми ассоциациями, на манер ответов чатажпт)

Спасибо за ответ!


Если вычислить данную сумму, то окажется, что она равна 67.
Это не говоря о том, что часть слагаемых — неправильная, хотя берёт она их из своего же ответа и на ходу же часть из них заменяет на отличающиеся на 1.

Это вероятностная модель языка, а не символическая с правилами вывода. Ответы также генерируются вариативно, в новой сессии получите другой вариант ответов на те же вопросы) В таком виде для работы с математикой мало подходит, приходится все проверять. Калькулятор и Питон похоже не вызываются. Возможно это появится в будущих версиях.

Возможно это появится в будущих версиях.

это можно запромптить уже сейчас, правда вызовы придется делать самому (то есть модель выдаст инпуты-аргументы, или код, а выполнить его надо на реальном пк)

Это вероятностная модель языка, а не символическая с правилами вывода

Скорее даже — вероятностная модель мышления. Когда ответ не "рассуждается или вычисляется" — а "вычисляется на основе вероятностей".

Ассоциативного уровня мышления, выраженного на языке, а этих уровней у человека полно. Так что есть еще в каких направлениях ИИ совершенствоваться)

Мммм…
Ну, не сказал бы


Ассоциации — это чисто психологические эффекты, математики там ноль, предсказать, какую ассоциацию вызовет у человека тот или иной стимул — почти невозможно, только для самых общих, разве что. ГПТ пытается имитировать их — вероятностями, чисто математически

Ой… Я можно попроще и покороче? ) Если это в принципе можно упростить

Покороче можно здесь посмотреть. Основная идея в той статье изложена в двух пунктах в этой цитате


We use two approaches. First, we trace the causal effects of hidden state activations within GPT using causal mediation analysis (Pearl, 2001; Vig et al., 2020b) to identify the specific modules that mediate recall of a fact about a subject (Figure 1). Our analysis reveals that feedforward MLPs at a range of middle layers are decisive when processing the last token of the subject name (Figures 1b,2b,3).
Second, we test this finding in model weights by introducing a Rank-One Model Editing method (ROME) to alter the parameters that determine a feedfoward layer’s behavior at the decisive token.

похоже перед отправкой системе запросы пользователей проходят сначала через фильтры, обработку

спорный тезис, даже вот на умножении — сетка решает больше 90% примеров для 3-значных чисел. Таких вариантов 900*900, 90% от этого это 729'000 примеров. я готов биться об заклад, что точно не все из них были в трейне, а значит модель ответила верно на такие примеры, которых не видела — смогла обобщить.
Обобщения как у человека нет, т.к. для этого используются возможности, которых пока нет у языковых моделей, типа процедурной памяти. На самом деле все еще сложнее, т.к. мозг динамическая система, нагрузка на определенные участки может приводить не только к изменению связей синапсов, но и росту и образованию новых, особенно в молодом возрасте.

Возможно объяснение состоит в том, что ИНС считаются универсальными аппроксиматорами со стохастически обучением и оптимизацией. Поэтому некоторые аппроксимации будут выдавать правильные ответы для некоторых примеров, которых не было в обучающей выборке. Для некоторых приблизительно правильные, для некоторых неправильные. Чем больше примеров, и чем они распределеннее, тем лучше аппроксимация, тем больше правильных ответов. Также качество аппроксимации будет зависеть от степени сжатия информации в модели, т.е. соотношения числа параметров и объема выборки, где-то есть оптимум.

процедурная память [...] накапливает опыт выполнения предыдущих действий, обеспечивая исполнение аналогичных действий впоследствии

В каком-то смысле процесс обучения инс в этом и состоит

некоторые аппроксимации будут выдавать правильные ответы для некоторых примеров, которых не было в обучающей выборке

Это конечно не как у детей, но все еще обобщение

Впрочем, с таким колличеством нейронов у нее в "мозгу" могло возникнуть вообще что-угодно, в том числе и около-человеческая логика вычислений

Когда уже в клавиатуры начнут внедрять, чтобы реально угадывал что я хочу сказать. А то сейчас даже падеж не могут угадать с учетом предыдущего слова

Спасибо, интересна статья. Такой вопрос: существует ли примерное понимание почему человек учится значительно быстрее нейросети и на значительно меньших объемах данных?

Такое наверняка исследуют, но я не углублялся, поэтому не отвечу чего-то содержательного.

Не быстрее, человек рождается с претренированной миллиардами лет эволюции нейросетью. Потом она дообучается, но тоже не сказать что быстро.

Да, вот, я примерно об этом думал. Мы сеть инициализируем рандомно при обучении, и потом с помощью оптимизационных градиентных методов "сходимся" к ChatGPT. И потом уже не учим, а показываем примеры и заставляем решать задачи (или даже не показываем). А у челвоека приор как бы задан, инициализация есть - с первой секунды дышит (после шлепка по попе), итд

Я бы не был столь категоричен.

Модель — языковая?
Тогда — вопрос: сколько времени человек учит язык, хоть свой родной, хоть не родной?

С языковой моделью пример может быть и не столь удачный. А вот модели для распознавания образов очень сильно проигрывают человеку в скорости обучения. Любой 5-летний ребенок, который хотя бы пару раз видел собаку, будет практически со 100% точностью распознавать большинство остальных собак. Нейросети же для подобного трюка требуется на несколько порядков больше данных.

Если выполнить всю ту предобработку образов, которая имеется у человека и не только у него, а затем применить модель, эффективную для распознавания образов, то — что получится?

Примерно то же самое, что и с языковой моделью?

Если подумать, то выяснится, что там не образы, а видео, то есть, в динамике.
Это может иметь существенное значение.

Любой 5-летний ребенок

это вы очень круто планку задали, прям скажем так безумно. Вы примерно представляете нейросеть сравнимой мощности?

со 100% точностью

нет, такая точность даже для человека что-то из ряда вон. 90-95% - нормальная "для человека".

модели для распознавания образов очень сильно проигрывают человеку в скорости обучения

это легко объяснимо - человеческое зрение не основывается на головном мозге, а модель сравнимая по мощности со "зрительным нервом" - будет такую же скорость показывать. В то же время у модели для распознавания образов не будет присущих человеку "глюков" - обширных, разнообразных и постоянных

Это разные механизмы обучения.

Рассмотрим гипотетического ребёнка, который в пять лет впервые увидел собаку. Ребёнок, перед тем, как увидеть собаку, видел миллионы разных других образов и знает, что это были «не собаки». У него уже сформированы почти все необходимые нейронные связи, и для распознавания собаки недостаёт совсем чуть-чуть. Это раз.

Но это всё ещё не объясняет способности распознать собаку по паре обучающих примеров… А пара ли примеров? Дело в том, что ребёнок обычно видит собаку живую, в движении. Он видит не фотографию, он видит видео, да ещё и двумя глазами (почти 3D). В итоге даже одну собаку ребёнок видит во многих разных позах с разных сторон. Это два.

А теперь самое главное. Когда в описанной ситуации ребёнок только учится распознавать собаку, то вначале включается совсем другой механизм (не тот, который используется при обучении нейросети на классификацию изображений). А именно: детекция аномалий. Это три.

Поясню про детекцию аномалий. Прежде всего, ребёнок должен откуда-то узнать, что перед ним аномалия. Например, если ребёнок раньше видел только кошек, то велика вероятность, что собака будет распознана, как кошка. Ребёнок покажет на неё пальцем, радостно скажет «кошка», и пойдёт дальше. Должно быть некое обстоятельство, которое заставит ребёнка понять, что перед ним аномалия, усомниться. Например, этим обстоятельством может быть сильное отличие собаки от наблюдавшихся раньше кошек (например, размер), или указание другого человека: «Смотри! Собака!».

Дальше срабатывает обучение на основе аномалии: ребёнок начинает выделять признаки из наблюдаемого объекта до тех пор, пока вероятность принадлежности собаки всем остальным известным ему классам не станет ниже определённого порога; до тех пор, пока для него собака не станет уникальной. Применительно к собаке ребёнок сразу может понять, что наличие шерсти не является отличительным признаком (если он раньше видел кошек), а аномальным признаком может оказаться размер — ребёнок может изначально запомнить собаку, как «большую кошку». Затем в жизни у него могут случиться ошибки распознавания, и модель будет уточнена.

Я знаю про детекцию аномалий вот откуда: я аутист и не различаю людей. Несколько раз, когда какой-нибудь человек меня упрекал «Ты почему не здороваешься?» я спрашивал его «Чем твоя внешность отличается от всех остальных людей в этом городе?». Удивительно, но он не мог ответить на этот вопрос. Я тогда говорил «Если ты сам не знаешь, чем ты отличаешься от других людей в городе, то как ты можешь требовать от меня, постороннего человека, это знать? А без знания отличий я не смогу тебя распознать. Мы с тобой знакомы всего пару месяцев, виделись, наверное, всего раз 30, у меня пока не образовались в мозгу натренированные на твой образ нейронные сети».

Впоследствии я стал замечать вот что: один человек мог впервые увидеть второго человека, а затем, через час, мог увидеть его снова и узнать! Как это возможно, если узнавший человек не спал между этими двумя событиями, и, значит, у него не могли образоваться соответствующие нейронные связи (лично я все подобные задачи решаю через сон). Далее, я слушал рассказы людей о том, как они с кем-то познакомились, и прочее, и прочее. В итоге я понял, что изначальное запоминание человеком человека идёт именно через детекцию аномалий: когда человек A знакомится с человеком B, человеку A не нужно проводить доказательство отличности человека B от всех остальных людей в городе (он этих людей мог даже и не видеть), вместо этого человек A начинает извлекать признаки из человека B до тех пор, пока человек B не станет для человека A уникальным (аномалией) по сравнению со всеми людьми, которые человеку A известны, и которых он обычно видит вокруг себя, когда ходит по городу. Извлечённые признаки можно положить в кратковременную память (без перестройки нейронных связей), и этим пользоваться. К сожалению, мне такой метод недоступен, и я могу различать только нескольких, хорошо знакомых мне людей, которых видел много раз.

Детекция аномалий чрезвычайно субъективна, так как опирается на личный опыт человека, именно поэтому такой опыт не может быть передан другому человеку, и вопрос «Чем ты отличаешься от других людей?» не имел смысла.

Совершенно офигительный комментарий!
Без воды, мемасиков и максимум по делу.

Статья хороша, потому — нельзя сказать, что он лучше статьи, как это часто тут бывает. Но он точно не хуже и очень хорошо ее дополняет

Если вы решите написать статью по этой теме — будет очень круто. Мысли вы выражаете очень четко и доступно

Комментарий аутиста же. Прям в стиле Шелдона.

Шелдон такие длинные монологи не произносил ))
А тут не только аутичность, но и сама проблема узнавания и тренировки хорошо разобрана
Шелдон — искусственно созданный собирательный образ. В частности, эйдетическая память, выручавшая Шелдона, присутствует очень не у всех носителей синдрома Аспергера.
UFO just landed and posted this here

Мозг натренирован на "своих", поэтому выискивает детали, вариативность которых выше у знакомых лиц. Молодые китайцы, к примеру, хорошо отличают европеоидов благодаря Голливуду, но при этом с трудом отличают корейцев от китайцев (что, в принципе, не очень просто, но возможно).

Фактически, отличия определяются по размерностям с большим разбросом в популяции.

Как интересно. Я в первом классе всех детей делил на мальчиков и девочек. Ибо есть четкий признак - форма, а мелкие признаки я не обрабатывал. Учителей я не узнавал вне школы, они прям бесились. Слова аутизм в нашем ауле тогда наверное не знали... Алгоритм сбоит до сих пор, меня знает куда больше народу чем я, одно время некомфортно было в метро из за этого.

то велика вероятность, что собака будет распознана, как кошка. Ребёнок покажет на неё пальцем, радостно скажет «кошка», и пойдёт дальше. 

Скорей всего не так - ребенок распознает _собаку_ И для этого у него полным полно механизмов, включая совсем древние и подспудные.. Но слово ее описывающее он не знает и назовет ее кошкой Кошкой N2. Если ему показать собаку и кошку - он их все равно отличит. Останется научить его правильному термину.

Детекция аномалий чрезвычайно субъективна,

часто имеет значение контекст и окружающая среда. "А помнишь это Оля с который ты разговаривал на Дне рождения славы, такая светленькая - ты еще здорово пошутил, а потом тебя тошнило когда перепил".

С другой стороны работаешь в IT - новая компания, похожий офис, те же кубиклы, те же индусы, тот же мак и делл, только цвет стен другой. И запомнить индусов совершенно невозможно. Вежливо здороваешься, спрашиваешь как дела - а кто это? И откуда? Как зовут?
притом индусы они все же разные, но поди ж ты. Но запоминать их имена дело дохлое(сокращения стандартны, и безлики, а полные имена не все можно выговорить без тренировки, хотя у русских получше чем американцев получается на полные имена.Твердые "г" "р" "ч" легче обрабатываются ). И признаков привязки не так много. Да и надобности не особо. И в результате навык (и умение сходу запоминать и различать) как то теряется. И становится как у вас.

Пока не понятно как на самом деле мозг устроен. Когда поймут, тогда и расскажут почему

почему человек учится значительно быстрее нейросети и на значительно меньших объемах данных

А может спросить у самого ChatGPT ? ))

БНС это детекторная модель по сути своей. А там суть в том, что выживаемость нейрона зависит от того, сможет ли он найти на что реагировать. Ибо оптимизация просто убивает нейроны которые не работают.

ЗЫ классические детекторы на ИНС просто запоминали данные которые были на входе и по каким-то алгоритмам модифицировали свои веса что бы чаще паттерн находить. Всякие нейроны Кохонена и всё-такое из этой области, но они слишком упрощены чтобы от них был реальный толк.

Объем 700 гиг не так и много. Интересно, как скоро подобные сети покинут облака и можно будет скачать "готовую" модель аналогичной сложности для установки и запуска локально?

Как я понял, это 700 гигабайт рабочих данных, которые нужно перемолачивать для каждого запроса. То есть нужно условно терабайт оперативки и очень многоядерный процессор, а то и не один?

А вот чего не понял, так это механизма появления новых умений при наращивании количества параметров модели. То есть есть некие пороговые значения, при преодолении которых эта штука обретает новые умения? Качественный скачок?

Или просто при наращивании количества параметров растет процент удачных случаев, когда эти умения срабатывают как надо, а не выдают галлюцинацию?

А вот чего не понял, так это механизма появления новых умений при наращивании количества параметров модели. То есть есть некие пороговые значения, при преодолении которых эта штука обретает новые умения? Качественный скачок?

Тоже так думал пока не увидел что там графики логарифмические. Так что никакой "магии" нет, голый брутфорс за исключением влияния архитектуры. Рановато наверное для такого еще, надо больше мощностей

можно будет скачать «готовую» модель аналогичной сложности для установки и запуска локально
Я с куда бОльшим интересом жду, когда можно будет арендовать машинное время напрямую у AWS или подобной конторы, но без всяких политкорректных и моральных ограничений.

Просто «заплатил, получил и никто не лезет в твои запросы», корректируя ответы по повесточке, или лишь бы в суд не обратились — полностью под мою ответственность но и в полном обьеме.

В таком виде — «приватный чат в аренду» этот механизм здорово облегчил бы многие бытовые вопросы, не будучи ограничен вымораживающей политкорректностью корпораций, типа МС, которая ужом вьется в попытках угодить и вашим и нашим.

Я прошу прощения, а для каких бытовых вопросов надо давать такие запросы и получать соответствующие ответы, что они корректируются моделью и/или фильтром уже сейчас?

Вы хотите от меня неполиткорректности такого уровня, за который меня могут забанить )) Потому мне и хочется «своего и приватного» ))

«своего и приватного»

вы неверно понимаете работу нейросети - все запросы и ответы на них если они включены в обучающую выборку - включены полностью и для всех.

нельзя сказать "не учитывай поправки №№123456789...", они вносятся помимо механизма собственно функционирования, модель о них не знает

арендовать машинное время напрямую у AWS

любой сторонний пользователь в обратном случае может спросить "какие запросы отправлял пользователь vconst" и ему подробно и точно ответят. Даже если вы в явном виде запрос "не сохранять в памяти/стереть" - это будет точно так же сохранено в полном объеме только еще с указанием что именно вы хотели "спрятать"

«приватный чат в аренду»

никакой аренды, кто несет все затраты тот и рулит. Готовы на постоянной основе для личного использования ВЦ не самый маленький содержать?

Я все это понимаю и провожу прямые аналогии с сервисами типа AWS, благодаря которым мне не надо держать ЦОД — а просто заплатить за нужное машинное время.

В ЦОДе тоже не секрет, что у меня на VPS делается — они же предоставляют мне услуги, но меня это не парит, потому что в открытый инет ничего не торчит и статистика не сливается всем и каждому

А вот «какие запросы отправлял такой-то» — такого быть в паблике не должно, как их нет для любого пользователя условного гуглояндекса

И да, хочется модель, которая только натренирована, но не ограничена
___

Вопщем, я и так уверен, что это обязательно произойдет. Корпы щяс и так бьются над тем — кто первее смастерит свой «гпт». Рано или поздно — эта технология появится «просто в аренду», как есть. Заказываешь вычислительный обьем, устанавливаешь/снимаешь ограничения — и пользуешь как хочешь, без всякой цензуры, которую вводят корпы боясь судов и обвинений в предвзятости. Как сейчас сдают напрокат рендер-фермы или серваки набитые числомолотилками для счета хешей или майнинга

Но — хочется пораньше
UFO just landed and posted this here
Ну вот хочется без этого «безопасного поиска», который выключаю во всех поисковиках. Потому что чем дальше — тем сильнее будут ограничивать, через полгодика он будет выдавать гугловый аналоги «из выдачи на странице были удалены дцать материалов из-за ляляля» на каждый второй запрос. Не буквально канешн, но извиваться ужом, не давая прямого ответа

хочется модель, которая только натренирована, но не ограничена

сомнительно, "цензура" является частью обучения а потому и не входит в интерфейс. И она в любом случае влияет на модель целиком, нету отдельного куска который можно поправить

Корпы щяс и так бьются над тем — кто первее смастерит свой «гпт». Рано или поздно — эта технология появится «просто в аренду», как есть

так потому и бьются что это невозможно в аренду взять.

Не, так-то то что вы хотите не должно быть сильно сложно реализовать - но кому и зачем это надо? В любом случае архитектуру определяет тот кто платит а он явно не заинтересован в такой модели

А вот «какие запросы отправлял такой-то» — такого быть в паблике не должно, как их нет для любого пользователя условного гуглояндекса

кто вам такую чушь сказал? то что у вас вот лично нету решения суда которое Гугл к исполнению примет - не значит что это решение потребуется "админу васе". И совершенно точно это решение не нужно да и не известно самой модели. Тут вопрос к простому сводится - или модель помнит вашу уникализацию или нет. Платите за "уникализацию в аренду" - получаете бесплатный бонус

сомнительно, «цензура» является частью обучения а потому и не входит в интерфейс
Ну да, потому — должен быть выбор моделей, обученных разным образом

потому и бьются что это невозможно в аренду взять.
Не, так-то то что вы хотите не должно быть сильно сложно реализовать — но кому и зачем это надо?
Как выясняется — это очень много кому надо. Потому все из кожи вон лезут — первым удовлетворить потребность

кто вам такую чушь сказал? то что у вас вот лично нету решения суда
И? По решению суда, любой NB! может получить доступ к моим запросам в гугль?
Апсалютли ноу

должен быть выбор моделей, обученных разным образом

стоимость каждой этой модели - будет точно такая же как и на общей выборке. Как разработки так и функционирования

Потому все из кожи вон лезут — первым удовлетворить потребность

почему Гугл или МС тогда не могут просто арендовать у OpenAI?

это очень много кому надо

надо, да - но свое, контролируемое

По решению суда, любой NB! может получить доступ к моим запросам в гугль?

осенью даже убийцу натурального поймали, основанием для приговора суда послужил листинг с таймингами поисковых запросов в Гугл. Известный случай и вряд ли одиночный. Но конечно "любой" и "решение суда" странно сочетается

Фарш невозможно провернуть назад. Технология есть, рано или поздно кто-то ее повторит и масштабирует. Я ставлю на китайцев

это несомненно, а учитывая общедоступность - разработчиков будет достаточно много.

но в любом случае - ваша уникализация будет собственно вашей только если разработчик - вы

Не нужно прямо очень точное обучение, под конкретные нужны, индивидуально Достаточно несколько наиболее востребованных шаблонов

Один для программистов, другой для рерайторов и тд тп

не имеет значение сколько именно это "несколько" - это или будет входит в общую модель с сопутствующими затратами либо каждый "шаблон" будет иметь свою стоимость.

Разница в вычислительных затратах между функционированием нейросети и ее обучением - радикальная. Нужны же какие обоснования для этих затрат? Вполне возможно что генерализованная версия дешевле получится, это лучше наверное у автора спросить

Я думаю, это будет развиваться как майнинг. Сначала им занимались энтузиасты, а сейчас — крупные компании, но это все ещё выгодно

Надеяться, что в сетке от китайцев не будет цензуры это, скажем деликатно, оптимистично :)

Она будет касаться всяких площадей и других китайский дел ))

Заказываешь вычислительный обьем, устанавливаешь/снимаешь ограничения

есть два варианта - эти ваши "ограничения" либо считаются вне модели, локально там или фильтры какие, либо модель дообучается. К чему приводит первое я написал ниже, а второе - помимо того что это должно быть заложено изначально как бы это сказать

сдают напрокат рендер-фермы или серваки набитые числомолотилками

мелькало где-то то ли у Гугла то ли MS что один запрос на большую модель с активным deeplearning - порядка 5 тыр баксов. В случае GPT - запрос это один токен на выходе, если не ошибаюсь

Если вы такое лично не готовы платить - то заплатит разработчик. Но он эти ограничения по своему усмотрению расставит, ориентируясь очевидно на среднее для всех возможных пользователей

Как есть выбор операционных систем и количества ядер при заказе ВПС — так будет выбор искинов, обученных на том или ином материале

Это вопрос времени, не более того

один запрос на большую модель с активным deeplearning — порядка 5 тыр баксов
Массовый спрос на такие модели — приведет к уменьшению цены за услугу

Как есть выбор операционных систем и количества ядер при заказе ВПС — так будет выбор искинов, обученных на том или ином материале

конечно будет, вместе с варп-двигателем и его цветом. Вопрос времени, да

Массовый спрос на такие модели — приведет к уменьшению цены за услугу

ну это же не от спроса зависит а от цены вычислений. Будет смартфон за 100 баксов иметь 100500 ТФлопс - будет и цена соответствующая

Крупные цод-провайдеры перенесут часть мощностей на чгпт. Рост потребности увеличит выпуск полупроводников и тд тп. Не через месяц, но это произойдет

ну вообще-то есть достаточно много производителей специализированных процессоров как для обучения так и функционирования нейросетевых моделей. Видеокарты те же с тензорными вычислениями.

Принципиально вопрос цены это все равно не решает - дорого и еще раз дорого. А в том виде какой вы описали - еще несколько раз дорого.

Спрос рождает предложение. Через год-два что-то подобное уже будет. Может не в точности, как я сейчас предполагаю, но в некоторой степени — обязательно будет

Сейчас это стоит 20 баксов в месяц на одной модели. Не сказать, что очень дофига. Через год будет 1-5 баксов, потом начнется разнообразие предложений от разных хостеров и тд тп

Спрос рождает предложение. Через год-два что-то подобное уже будет

да уже лет 5 как есть и спрос и предложение, причем в объемах которые OpenAI и не снились. Все камеры серьезные уже с такими чипами для препроцессинга и сжатия и не известно что еще

Сейчас это стоит 20 баксов в месяц на одной модели. Не сказать, что очень дофига

я думаю это даже затраты не отбивает, цели такой и не ставилось и единственно служит для ограничения доступа - что бы их не ДДосили

Каждый человек купивший смартфон, содержит у себя в кармане не самый маленький ВЦ образца 1970 года.

Я хочу в общем немногово, обучить сетку всем своим диалогам, текстовым и звуковым, закинуть историю посещений сети с логинами, список прочитанных книг и список контактов. На выходе пусть пробует отвечать максимально близко ко мне. Это, скажем так, доступный на сегодня вариант цифрового бессмертия. Или удобный личный секретарь.

Каждый человек купивший смартфон, содержит у себя в кармане не самый маленький ВЦ образца 1970 года.

ВЦ что в 1970 что сейчас стоит примерно одинаково - многоденег. Хотите модель которой нужен ВЦ уровня 1970 - покупаете смартфон, ну а иначе...

Я хочу в общем немногово, обучить сетку всем своим диалогам, текстовым и звуковым, закинуть историю посещений сети с логинами, список прочитанных книг и список контактов

Допустим, вы заимели некий локальный или даже облачный модуль который обучается на всем этом но лично для вас, а потом в адаптированной лично для вас форме делает запрос на основные "общие" сервера. Мощность вашего модуля(количество уникальных состояний отличных друг от друга и приводящих к разным ответам) заведомо меньше мощности основной модели на порядки что приводит к переобучению вот прям сразу и вообще никак не может быть устранено. Это идентично тому что вы пользуетесь ТОЛЬКО вашим локальным модулем просто у которого большая внешняя статичная таблица содержащая ответы, которая впрочем все равно не превышает мощности вашего локального модуля.

И зачем вам такое надо? Кому это вообще может быть нужно?

Каждый человек купивший смартфон, содержит у себя в кармане не самый маленький ВЦ образца 1970 года.

Топовый суперкомпьютер 1995.

нет. это как сказать вот у меня светодиодный фонарик в кармане как вся освещенная москва до революции (условно). Если сложить все люмены тех дохлых лампочек.
А теперь сделайте так чтоб мой фонарик освещал весь город!

но фонарик это не сто тыщ ламп и все что к ним прилагается и получается с их помощью. Он светит на несколько метров перед вами больше не может.
телефон не потянет многопользовательскую систему на сотню терминалов и задач и прочих выводов и вводов. Да и ту надежность. А если его допилить - то он перестанет быть телефоном в кармане и станет другого размера и денег ну и остального.

так что у вас в кармане телефон а не вц. а баллистические ракет и ядерные взрывы на нем не посчитать.

Берете обычную модель, берете промпты которые отключают алайнмент тренировки, задаете вопросы.

Хм…
А можно поподробнее? Достаточно ссылки )

На форчане есть профильные разделы где промтинжинеринг прокачивают. Я не фанат но товарищ любит обучаться, и эффект заметен. Потом можно скормить промпт бингу с просьбой улучшить — он обычно справляется, если правильно попросить.

Хм…
Форчан — ну такое себе...


Ладно, попробую сам погуглить

Но на самом деле есть забавное наблюдение, что форчан открывает на пару месяцев раньше эффекты которые потом с удивлением обнаруживают ИИ ресерчеры. Интересно видеть такое со стороны.

UFO just landed and posted this here

Скорее всего Хабр отстает )

UFO just landed and posted this here

Кажется, что про похожую историю я уже где-то читал:

Клапауций думал, думал, аж сморщился весь и сказал: -- Ладно. Пусть будет о любви и смерти, но все должно быть выражено на языке высшей математики, а особенно тензорной алгебры. Не исключается также высшая топология и анализ. Кроме того, в стихах должна присутствовать эротическая сила, даже дерзость, но все в пределах кибернетики.

-- Ты спятил. Математика любви? Нет, ты не в своем уме... -- возразил было Трурль. Но тут же умолк враз с Клапауцием, ибо Электрувер уже скандировал:

В экстремум кибернетик попадал От робости, когда кибериады Немодулярных групп искал он интеграл. Прочь, единичных векторов засады! Так есть любовь иль это лишь игра? Где, антиобраз, ты? Возникни, слово молви-ка! Уж нам проредуцировать пора Любовницу в объятия любовника.

Станислав Лем. Путешествие первое А, или Электрувер Трурля, 1964г

По этой теме уже упоминал, так как 1 в 1 похоже, правда в другом переводе

До Электрувера пока не дотягивает. Я попросил написать стих, где все слова начинаются на А. Вот что получил:

Алый арбуз аппетитно ароматен,

Авось алчный ананас аналогично ароматен.

Алчный авокадо аккуратно аранжировать,

Ароматный арбуз аппетитно разрезать.

Ну зачатки рифмы есть: тен-тен… ать-ать

Не знаю как я бы справился, но думаю что нет

Я немного поэкспериментровал. Чем длиннее стих, тем хуже с рифмой. В примере с буквой "А" под конец модель забыла про первую букву и выдала "разрезать". Но результат всё равно впечатляет. Вот какой шедевр она может выдать на запрос "Please, write a poem in Russian about love in the language of calculus":

Как функция, любовь может иметь точки экстремума,
Но любые трудности - всего лишь локальный минимум.
Берегите свой график любви, будьте бдительны,
Чтобы любовь всегда оставалась дифференцируемой.

Спасибо за идею, надо попробовать написать с ней...научно-технический рэп! :D

Не за что. Идея не моя, я её у Лема стащил - "Путешествие первое А, или Электрувер Трурля"

Да уж… Куда ему до «Грозный Генька-генератор грубо грыз горох горстями» )))

Отличная статья! Вижу много статей про применение нейросетей, а тут показано откуда ноги растут. Понятно и доходчиво )

Я настороженно отношусь к бурному применению нейросетей. Ощущение, что весь контент будет сгенерирован сетями, а поиск (в т.ч. в chatgpt) будет по сгенерированному. И отделить зерна от плевен будет крайне затруднительно.

Т.е. все радуются, что учиться не надо - составил запрос и получил ответ. Но учиться как раз надо, чтобы оценить качество ответа.

Почему-то сразу все стали доверять ответам, но при этом ругаются на тех, кто доверяет первому каналу (условно).

Но погубит нас не это. А разработка по скраму - когда главное релизнуть, а если там ошибки, то пофиксим потом.

UFO just landed and posted this here

T9 меня ни разу не подставляла. Я ее сразу отключал. И сейчас на всех устройствах и всех клавиатурах отключены подсказки, проверки и прочая лабуда. Я сам умный(имхо)))

Офигеть! А я всегда считал, что Т9 - это "он". Так и говорил "Чёртов Т9!!". А он оказывается "она" - технология.

UFO just landed and posted this here
Всегда относил Т9 к среднему роду ))
UFO just landed and posted this here

пользователь выставляет некие параметры кто он, что ему интнересно, на каких областях сконцентрироваться и тогда качество результата можно будет ещё повысить.

я думаю что компании пойдут еще дальше, и будут в чатботов сами пропихивать собранный по интернету профиль. Гендер, увлечения и хобби, последние 5 видео на ютубе...ну а сетка это будет подхватывать и создавать интересные диалоги, мол, давай обсудим, что там было, а он чё, а она че, а ты че.

UFO just landed and posted this here

будет существовать несколько профайлов — типа рабочий, где настроены ваши рабочие предпочтения, домашний, хобби и т.п.

это так не работает, надо наоборот все максимально объединять для лучшей уникализации.

Непосредственно разделение - на уровне контекста. Собственно это и сейчас у того же Гугла есть - причем он даже разные одновременные сессии для одного пользователя ведет

Нашел сегодня реализацию ChatGPT для WhatsApp: http://whatsgpt.ai
Работает быстрее чем сайт, как ни странно.
Пишут что есть какие-то ограничения, но у меня денег не просило.
Простой способ познакомится, какое это чудо :)
По мне - так убьет Гугл, если Гугл не сможет предложить чего-то лучшего, с актуальными данными и умением предоставлять реальные ссылки на источники.

Вот что она о себе пишет. "Я создан на основе языковой модели GPT-2 (Generative Pre-trained Transformer 2)"

Нет, это на ChatGPT API сделано. GPT-2 так и близко не умеет.
Но иногда отвечает всякую чушь :)

да, это фейк чатгпт, которая в лучшем случае является тюном на русский язык открытых (маленьких) instruction-based моделей, но скорее всего просто тюном на диалог GPT-2/опенсурсных гпт. Жаль, что такое происходит - очень много рекламы и в тг, и на других ресурсах с буквальным обманом.

Нет, это не фейк. Я тестил, ответы абсолютно такого же уровня как у ChatGPT. То есть это значить что это сделано через СhatGPT API, так как других моделей подобного уровня пока не существует. И кстати, после скольки-то сообщений они попросили подписаться на их сервис за 10 долл в месяц. Платеж через stripe, то есть явно это не мошенничество.

спасибо за ссылку, посмотрел. плохо то что в них закладывают ограничения на темы. на втором вопросе она отказалась отвечать мне. с такими ограничениями они не интересны. просто информацию можно и погуглить. ждëм дальше.

Жду возможности создать свой аналог Чат-ЖПТ, но натренерованный на новостных сайтах, научных исследованиях и на политических реддитах/комментариях пикабу в политике, дабы мог потом баллотироватся в политику и на дебаты брать ЧатЖПТ :D

UFO just landed and posted this here

Это жестокое обращение с искусственным интеллектом!

stalkermustang, спасибо за отличную статью!

Не совсем понял такой момент в примере про боксеров: "Мы просто дописали пять дополнительных слов в конец нашего промпта" .

Как видно на скрине - мы не дописывали 5 слов в вопрос, это уже было частью ответа ChatGPT - "Ответ: Давай подумаем шаг за шагом"

При этом в начале вы указали, что такое промпт: "Тот текст, что мы подаем на вход, называется prompt (промпт, или «запрос/затравка» по‑русски). Чем точнее он описывает, что мы хотим, тем лучше модель поймет, что ей нужно делать."

В обоих примерах всё, что не выделено жирным - это часть промпта, который подается на вход модели. То есть, в первом примере текст, который вводится в модель, кончается словом "Ответ:"

В каком-то смысле это логично: если мы хотим, чтобы модель именно попыталась решить заданную задачку, надо ей подсказать, что мы ждем ответ. Иначе она может решить, к примеру, что надо продолжить придумывать более сложную задачу (я сейчас фантазирую) и дописать после слов промпта "Сколько ударов он нанес?" от себя еще доп. задание "И насколько это больше ударов, чем у его соперника по имени Остап, который нанес 40 ударов за бой?" - почему бы и нет?

а во втором примере? сорри. но ответ какой то расплывчатый. как кожаный мешок не догоняю. в двух случая был задан один и тот же вопрос. или это банальная опечатка?

Вопрос в задаче и промпт для модели - это не одно и то же. Промпт включает в себя всё, что не выделено жирным.

Павел исчерпывающе ответил, добавить нечего :) Промпт в широком смысле - это не только вопрос, но и что его окружает, включая слова-подсказки. Можно попросить еще перед этим в написать запрос в гугл, мол "сгенерируй строку, которую я должен вставить в поисковик, чтобы найти сопроводительную информацию для ответа на вопрос" - и это будет работать. Вот пример ниже (текст во втором сообщении я вставил сам, копировав из википедии, но легко понять, как можно делать это скриптом автоматически)

Интересно, никого не смущает, что вопрос был сколько ударов нанёс Иван, а сеть ответила про достижения какого-то Васи?

аххахах ахаххахахах точно! Исправили, спасибо) Не представляю, как ВСЕ это упускали из виду)

Хм, а слона то я и не заметил)
Вообще в статье это видимо синтетический пример, а не реальный ответ от ChatGPT.

В оригинале везде был Вася, а потом я решил, что если уж речь про боксеров - то просто необходимо вставить мем с Иваном Драго. Но тупо забыл поправить в ответах.)

Короче, как обычно - кожаные мешки ошиблись!

Да, синтетический, я сначала писал текст, а потом загнал вопрос в чатгпт и даже приложил скрин (там он сам инструкцию придумал для решения по действиям, без указания на step by step). На редактуре мы вырезали, решив, что текста хватит. А потом и текст поправили, добавив мем. Уот так уот(

@stalkermustang спасибо за статью + к карме.

Помоги разобраться как (если) GPT3 может работать за рамками OpenAI\базового ChatGPT:

1) Все кому не лень запускают свою языковую модель "на базе GPT-3". Что они имею ввиду если доступ на нее только через API OpenAi? Просто свой интерфейс?

2) То что запустил Bing - это вроде на той же модуле, но не ChatGPT. Т.е. это как форк парметров и дальше ChatGPT и Bing строят свою модель сами? или опять просто обертка?

3) Много разговоров что GPT-3 можно дотренировать на узкую область (напр внутр данные компании) и использовать как супер аналитический инструмент. Как это может работать без риска что внутр данные могут использоваться моделью для диалога с любым другим пользователем? Крупные банки наперегонки запрещают сотрудникам использовать ChatGPT...

  1. Без понятия, что имеют в виду конкретные компании. Снапчат, например, использует API и, видимо, дописывает специальный промпт в начало диалога. Возможно, они дообучили её отдельно на диалоги тинейджеров, чтобы сетка была "в теме".

  2. Деталей мало, но я склонен полагать, что это дотюненная модель, в которую "пришили" инструмент запроса. См. пример выше с картинкой, где используется токен [G] для отправки в гугл. Еще можно читнуть вот тут: https://t.me/seeallochnaya/83

  3. Я не думаю, что GPT-3 надо дообучать, это дорого и неэфективно. Прваильный промпт + инженерия с API вокруг модели - ключ к успеху. Но при этом всё равно все данные будут отправляться в OpenAI, тут не знаю, что делать.

api openai предлагает методы по дообучению, модель будет храниться на серверах openai, полистай доку, она скудная, предполагается что народ сам разберется как этим пользоваться

Там (пока) нельзя тюнить ChatGPT. В целом это логично - ведь она учится на оптимизацию фидбека, и такие данные в APi для дообучения не запихать просто так. там предлагается просто скинуть N файлов с plain-текстом и модель дообучится как GPT-2/3, просто предсказывать следующее слово.

есть ссылка на "скудную доку"?

по ходу сегодня вышла новая версия API

UFO just landed and posted this here

составить че-то там в стихах тютчева

Я буквально позавчера просил чат, прости его госпаде, джи пи ти составить стих из 4 строк, так он выдавал "стихи" без малейшей рифмы (на русском и на немецком). Потом я попросил сгенерить рифму к 1 слову, но мне под видом рифмы выдавалось все что угодно, кроме рифмы. При чем чат специально подчеркивал, что сгенерил рифму ("слова заканчиваются на одинаковые звуки"), выдавая слова с совершенно разными окончаниями, типа "сова - кустарник"

пример стиха от завтрашней замены тебя:

Звезды горят высоко,
Ночь тиха и безмятежна,
Душа моя полна мечты,
Счастлив я в своей тишине.

Самое доступное изложение эволюции нейросетей и принципов работы.
Благодарю и безусловно плюсую.

Напомнило компьютерные шахматы. Сначала обсуждали, может ли машина играть сильнее человека.

Потом машина стала играть хорошо - да, тактик она замечательный, но стратегии не понимает. И как ее стратегии научить?

Следующий этап - с ростом скорости счета (железо и особенно алгоритмы) оказалось, что стратегии особо-то ее учить и не надо. Она ее "сама" поняла.

И современная ситуация - никто в здравом уме победить машину в шахматы не берется. У нее учатся. Только возникла обратная проблема - многие ходы машины непонятны. "Да, что-то там она на глубине видит" - типичный комментарий к ходу, который человек не в состоянии понять.

Что у них там по планам дальше, не пишут? Очень жду модель на триллиончик параметров.

Модель на триллион уже была, но она представительница "разреженных" (sparse) сетей со структурой "Микстура экспертов".

Мы этого не сказали в статье, но GPT состоит из одинаковых блоков, и они "стакаются" друг над другом - выход первого идет во второй, второй в третий и так далее - и таких слоев в больших моделях по сотне. В терминах нашего примера с уравнениями это типа y' = k1 * x + b1, y = k2(y')+b2, (два слоя, выход первого идет во второй). Каждый блок имеет свои параметры, разумеется - просто структура одинаковая.

Так вот микустура экспертов - это когда вместо каждого блока их, скажем, 100, но применяться будет всего 1 - и есть отдельная маленькая нейросеть (Router), которая предсказывает, какой из этих 100 лучше использовать. Самый просто способ про это думать - это что разные эксперты отвечают за разные языки и за разные области знаний. Если спросить на немецком про историю Берлинской стены - будет использовать эксперт номер 8, например, а если про Пушкина - номер 19. За счёт того, что эти блоки параллельные, их можно делать много, и это и приводит к триллиону параметров. Однако число параметров, используемых во время генерации, будет пропорционально количеству слоев, а не кол-ву слоёв*кол-во блоков (используем по 1 эксперту за раз)

Блоки это те же слои (layers) но не последовательно а параллельно ?

"y' = k1 * x + b1, y = k2(y')+b2" так "нейроны" взаимодействуют

Привет, нет, блоки как раз последовательно идут, каждый состоит из нескольких слоёв внутри.

NVIDIA NeMo Megatron framework for training LLMs with trillions of parameters тынц

у Гу тоже есть, не помню название

Все постоянно говорят о ЧатГПТ, все вокруг уже с ним общаются, говорят, что он в свободном доступе. Подскажите, пожалуйста, как я могу с ним пообщаться, на русском он есть? Кто-нибудь киньте, пожалуйста, ссылочку?

Если просто пообщаться, то проще всего через этого телеграмм бота - GPT_chat_robot. Там по умолчанию автоперевод на русский для экономии токенов, если хотите стихи или код генерировать можете его отключить через меню.

Очень интересная статья, спасибо! Я вижу только вот такую дырку в понимании у тех, кто хочет познакомиться с технологией. У численной линейной регрессии на входе - число. А что на входе у текстовой генеративной модели? К чему применяются 100500 неизвестных нам параметров модели, чтобы получить выход, к словам промта или к числам?

Если сильно упрощать, то все слова из некоторого словаря, скажем, размера 50k-100k можно закодировать 0 и 1: единица если слово есть, 0 - если нет. Тогда большинство коэффициентов на первом уровне будет (на первом слое нейросети) умножено на нуль и сократится. Помимо этого, чтобы порядок слов имел значение, аналогичная вещь существует и для соотнесения слова и позиции.

Спасибо за статью. Может уже было в комментариях, но не раскрыта тема "гипноза/нлп" бота, это я про DAN. Если честно, то это пугает больше, в целом))) тут сразу куча "документальных" фильмов голливуда вспоминается. :)

Мне интересно, обучается ли нейросеть непрерывно или это условно разовый процесс? Если она получает обратную связь от своих ответов не только как «верно»/«не верно» от собеседника, но и из внешних источников, то как быстро она научится делать так, что чтобы дать высоко вероятно верный ответ одному собеседнику, ей нужно будет под свой ответ дать несколько созависимых ответов другим собеседникам?

Грубый пример. Если я спрошу её, выгодно ли мне покупать завтра акции apple, она не зная верного ответа, даст ряд созависимых ответов на похожие вопросы другим людям, что акции нужно срочно сливать. Таким образом акции начнут падать в цене и она даст мне ответ, что да, завтра стоит покупать.

В общем, пока нейросети просто дают информацию на основе скормленной им информации, они выглядят как большие энциклопедии. Как только они начнут влиять на скармливаемую им информацию, вот тут начнутся проблемы, о которых мы можем узнать слишком поздно.