Куча учебников написано с достаточно внятным изложением.

Вот кстати по поводу обычных школьных учебников я бы сказал что они постоены совершенно на неправильной идеологии - они основаны на простой зубрёжки сложившихся базисов. Абсолютно всё там дано в виде конечных формул. Описания в современных учебника (в советских получше) такие что ничего не объясняют а часто просто вообще с ошибками. Могу судить - дочка в школе в старших классах.

В принципе понятно почему так - каждый отдельный раздел, параграф - учёные которые выводили формулы выводили их годами, всю жизнь. Тут же просто поток окончательных выводов. Правда толку с этого никакого - дети в школе забывают всё это сразу после окончания предмета. И забывать нечего - изначально информация почти бессмысленная магия.

Как быть? Увеличить число часов, объяснять все на старте без формул а чисто логически - какие эксперименты, какие проблемы, какие обычные вопросы задаваемые к устройству мироздания. На этом базисе постепенно оборачивать в формулы.

Но это длинный путь не школьный наверное. Но даже в институтах полностью такая практика.

Но мы живём в уникальное время. Современные LLM это мега статистические машины. Они объяснят всё, на любом уровне. Кто собрался кидаться тухлыми яблоками скажу - я плотно работаю со всеми современными LLM для программирования. Opus, gemeni, chutgpt, даже туповатый deepssek - когда долго с ними работаешь очень чётко можешь определить когда они галлюцинируют (очень редко) а когда нет. Современный LLM объяснят любой учебник физики в 100 раз лучше чем кто либо. Для современных детей - это просто сказка. У нас такого не было.

Если начать анализировать историю до базиса - и попытаться получить базис, во первых сразу понятно почему такой базис. Во вторых можно обдумать почему базис выбрали именно такой, но идя от начала можно увидеть и другие базисы. Можно будет увидеть что большая часть базиса может оказаться виртуальной - просто следствие формул. Ничего не удлиняется, масса никакая не растёт, да и пространство не искривляется. Вот тут мне уже рьяные сторонники просто с красными глазами бегут минусить. Но! Это просто фразы! Есть такое например в математике - доказательство от противного. Вот это оно.

P.S. Попробуйте понять и объяснить базис. Это гораздо интереснее и продуктивнее. Вот и весь мой посыл. Что мы имеем сейчас ? А сейчас - теорию ОТО и СТО могут понят всего пару человек на земле - становится чуть ли новым евангелие базисом. От этого и тошнит. Все кто пытается понять - им нужно исходить от противного. Всё опровергнуть, а потом последовательно придти к моменту что те эксперименты по другому не объяснить. Вот только те кто хоть как то пытается это сделать - те становятся изгоями.

Повторяю в 25 раз - я призываю только ОДНО. Пройти путь сначала. Изучить какие были эксперименты и потом как их пытались объяснить. ВСЁ!

Какие вопросы ставили себе в те времена учёные пытаясь объяснить получившиеся парадоксы в экспериментах.

А что мы имеем сейчас ? На полном серьёзе поясняют что Ньютон придумал свой знаменитый закон тяготения когда ему яблоко на голову упало! Да он пол жизни свою формулу выводил - и она не сразу такая была в конечном виде.

Сейчас все пытаются строит теории опираясь на ОТО. Но никто никогда не пытается понять откуда эта теория вообще взялась.

Ладно. Умолкаю. Всё одно и тоже....

Не хочу в очередной раз получат тонну минусов просто дам совет.

Попробуйте начать объяснения с чуть ранних позиций. Даю подсказку.

Вначале учёные сделали эксперимент - и выяснили странное. Скорость света во все стороны вдруг оказалась одинаковая. Даю гарантию - объяснения станут намного интереснее, а может и вообще другими.

Сразу поднимутся интересные темы - что скорость света никто никогда не смог измерит в одну сторону. И ещё многие парадоксы которые в современном виде просто откинуты.

Со временем тоже интересные выводы можно сделать. Например можно обсудить что для объяснения работы пространства не нужна концепция времени.

Просто опуститесь до того времени когда физика была живая а не покрытая догмами со всех сторон. Пройдя цепочку от начала до современных понятий - можно по новому взяглянуть на вещи.

Короче где выстрелиь себе в ногу там прсто вагон мест.

Ещё такая из серии была

Проблема что на каждый чих просто приходится тратить кучу времени на болтовню с LLM. Но я про это уже писал.

Более того - я очень плотно общаюсь с разными LLM - они очень ведомы. Их легко переспорить. И это бесит. Потому что ты начинаешь чувствовать что ты не добъёшся правды.

Почему так? А их специально затачивали под такое поведение. А скорее всего т.к. они используют чат в качестве своей памяти а в чате будет в основном ваши доказательства (пусть специально ошибочны) то проходя каждый раз этот текст внутри миксера LLM будет внутри выстраивать цепочку в векторном пространстве что вы правы. У LLM нету своего мнения в помине. Как цепочка в векторном пространстве пойдёт - такое и мнение и будет.

Но я тут не рассматриваю костыли в виде спец разметки и жёстких ограничений. Которые включают в LLM для толерантности и прочего.

После этой маги отдельные эмбединги числа которых немного пмоменялись пускаем на 2-х слойный перцептрон. Особенность он раздувает маленькие эмбединги до 100500 байтных - у каждого по разному. Во втором слое опять сдувает до маленького эмбединга.

И далее в получившимся числе берём последний токен - это наш следующий токен.

Далее берём все токены вместе и прокручиваем карусель сново. И сново. На 100500 токене смыслы так размываются то на выходе уже получается бред.

Поэтому LLM обвешивают костылями со всех сторон. Обрезают цепочку в карусели что бы смысл не сильно терялся - результат потеря контекста. И прочее.

Зачем я описал это и так всем известный алгоритм? Что бы показать проблему которая зашита в архитектуру. Проблема контекста. Проблема быстрой памяти у человека.

Вы утверждаете что чем больше денег тем лучше. Давно опровергнуто - наращивание мощностей - даёт обратный результат. LLM тупеют.

Что бы построить алгоритм по коду надо смотреть на код кусками. Увидел кусок пометил в голове у себя как квадратик. Прыгнул в другое место. Потом в другое. Потом в третье. Увидел кольцо - разорвал его. Так прыгая туда сюда - в голове, в человеческой быстрой памяти делаешь виртуальную схему. Потом над этой схемой ещё более высокую абстракцию

В LLM этого в помине нет. Там используют мега костыль - чат это память. Но чат это портянки кода и портянки текста. Отсюда и память такая кривая.

Вы спросите а как же тогда LLM вообще в логику - если там и в помине логики нет.

Используют 2 костыля. Обучающие корпуса с разметкой - но это помогает что бы LLM хотя бы в диалог могла.

Ну и главное надстройки в виде отдельных модулей. Символьные AI, калькулятор, компиляторы и прочее.

Т.к. это не единая система а костыль на костыле - получаем то что имеем.

Ведь проблему не я придумал. Просто из всех мест читаешь как вайбкодеры на жирном проекте попадают в петлю бесконечных багов. Исправление в одном месте ломает в другом. Исправление в другом ломает в третьем. И получается вечный цикл исправлений.

Вообще LLM использует чат в качестве своей памяти. Она пишет целые портянки рассуждений по пунктам. Типо 1. Если A->B 2.B->C перемежая эти рассуждения фразами ой-ой-ой - тут не будет работать и половина предшествующих пунктов рассуждения можно выкинуть в мусорку. Дойдя до конца списка - она уже вообще не помнит что там вначале писала. Скажу честно - я мясная LLM тоже с трудом каждый раз выстраиваю логику алгоритма что там нагалюцинировала LLM. И решая проблему последних пунктов - она ломает начальные. В следующей итерации всё тоже самое но сначала.

Человек же попросту видит начло и конец - и ломает и переделывает и конец и начло одновременно. Короче такие у меня проблемы общения с LLM.

Моё исследование показало следующее - я пишу просто сложный код. Сложный код - это просто самый обычный код который везде. В драйверах. В игровых движках. В архитектуре СУБД. В архитектуре много поточных web-серверов. Короче абсолютно все программы которые нас окружают.

Простой код - это наверное всякие лендинги. Где 99% кода просто copy-past.

Скажите мне как раз полезна будет информация что бы понять что происходит. Что вы программируете? Какой стек? И какой вотерфлов общения с LLM используете? Расскажите как вам удаётся получить от LLM что бы они просто без ошибок могли искать баги? Я тоже так хочу.

Вы признали факт что LLM с абстракциями и алгоритмами туго. Но это же просто основное что от них нужно! Мне нужно что бы они искали алгоритмические баги. Это самое сложное. Собственно всё. Я не использую LLM что бы она мне писала код с 0. С моими потребностями это просто невозможно. Потому что что бы создать сложную архитектуру - ты в ней должен варится с самого начала. Потеря контекста для мясной LLM - это всё. Будешь смотреть в экран на код - а там просто мыло.

Но я на полную использую LLМ для написания коротких распространённых алгоритмов которые лень писать самому. И для поиска багов. Вот каждый свой кусок написанного кода кидаю на проверку.

Знаете какая проблема. Из 9 ошибок она находит 1 реальную. Находит реальную после 10 раз кидания ей одного и того же кода чуть подправленного. И получается постоянно приходится разгребать 90% говна что бы отрыть алмаз. Да LLM помогают - она находит алмаз который ты пропустил. Но всегда приходится платить высокую цену. Ты тратишь очень много времени и сил на разгребания того что LLM нагаллюцинировала. И могу сказать - это реально очень сложно. Потому что она бывает такую пургу несёт заумную - мозги кипят. И самое забавное в конце когда ты всё же смог это в глове понять. Ты понимаешь - это итерация грёбанная галюцинация. И ты потратил пол часа времени в мусорку. Но ты всё равно с упорством дурака погружаешся в это говно анализ, потому что где то там есть реальный баг.

Но честно сказать. Лёгкий путь - наговнокодил и кинул LLM на проверку получается вообще не лёгкий. Лёгкий путь - тратишь свои силы на архитектуру и анализ кода. В конце кидаешь на проверку LLM. Короче ничего не поменялось. Работа программиста как была так и осталась.

Собственно как внутри устроенна LLM - трансформер, двухслойный перцептрон. Я прекрасно знаю. И неоднократно тут описывал тупиковость этой архитектуры. Более того я знаю как пытаются сделать надстройки к этой архитектуре что бы решить главную проблему. LLM - совершенно не способны в логику.

Если вам кажется что LLM капец как логично рассказали вам про ваш промт - это просто они в своей статистической машине нашли правильный кусок из обучающей выборки.

Проблема - небольшие алгоритмы находит. Чуть больше - не находит.

Так вот все эти LLM отлично видели баги в конкретных этих местах. Но очень простой общий алгоритм они не могли вообще осознать.

Если представить код то он как бы имел голову и хвост. Изменения головы влияло на хвост и наоборот.

Все эти LLM просто попадали в бесконечный цикл. Они исправляли баги в голове - но эти исправления производили баги в хвосте. Баги по типу гонок, не volatile доступов, проблемы мультипоточного доступа, проблема очереди просыпания Task и прочая aсинхронщина.

Потом они исправляли новые баги в хвосте. И это получался просто бесконечный цикл очень трудноанализируемого булшита. Каждый раз LLM говрила что код идеален. Но если просишь найти баги - всё повторялось опять.

А как делает человек. Он вообще не смотрит на эти все мелочи - он строи высокоуровневую абстракцию алгоритма. Решает проблемы этого алгоритма. Смотрит на голову и хвост одновременно. А потом получившийся безбаговый алгоритм проецирует на код.

Я даже пытался обучить gemini такому подходу - специально состовлял карту по которой она должна оценивать код. Построение алгоритма. Проецирование алгоритма на код - соответствие. Доскональный анализ кода без алгоритма - это что они делают по умолчанию и всегда спотыкаются на логике. В этом режиме они всегда находят тучу багов 90% из которых галлюцинации. Вывод этого потока сравнить с алгоритмом.

Короче LLM потом признались - что построение правильного алгоритма это сверх-высокоуровневая затратная операция. И они не особо в это могут.

К чему это я? А к тому что написать протокол который бы не имел этих недостатков - 10 минут. int количестиво переменных. 1 байт тип переменной. По типу определяешь длину переменной. Для массивов и стрингов добаляешь int длины. Всё! Хотите вложенные объекты - ну чуть усложнить. Ах да забыл. На имена переменных тоже по ushort добавить - длина имени. Ну и имя переменной в голых байтах. Это работает максимально быстро без какого либо оверхеда. WEB спокойно перекидывает данные в бинаром виде - нет никаких ограничений на только ASCII символы.

Я хз кому надо смотреть протоколы в сыром виде. Тем более JSON в сыром виде тоже шляпа та ещё - всё в одну строку. В любом случае парсить надо для наглядности. Так вот парсер для протокола который я описал выше - пишется не за 10 минут а за 5.

Хотя как закрыл коммент понял почему у LLM крышо сорвало а у вас норм ответило. У меня окно было открыто давно. Я там вёл работу по вопроса проекта. Потом ещё какиe то тупые вопросы задавал. Короче как я писал выше - чат это локальная память LLM по другому она не работает. Она подмешивает весь чат каждый раз к новому промту - сами понимаете какая каша у неё в результате получается. Вот она и нагенерировала мне бреда.

Дабы проверить свою догадку я задал в чистом окне тот же вопрос. И разумеется с чистым незасранным эмбедингом она сразу же нашла у себя правильный ответ. Видите насколько ущербный алгоритм сохранения контекста используют современные LLM?

А то что разные LLM ведут диалог в разных стилях - это всё влияние дообучения спец промтами которые содержат разметку. Вот по этой разметке как по карте и выстраивается путь эмбединга.

И вставля спец ключи в свой промт уже можно влиять на выход.

Например если взять нейрон в нейронной сети. В цифровом мире работа нейрона это просто какое то число(float например). И вот как считать при каком числе нейрон должен срабатывать ? Просто наугад перебирали куча вариантов.

Остановились на самом простом (другие не давали никаких преимуществ) ReLU (Rectified Linear Unit) - но как же это расписывается в научпопе... как будто бином Нютона не меньше. А алгоритм тупой - всё что ниже 0 делаем 0. А дальше хвалебные отзывы - мол мы достигли гениальной нелинейности в нашем LLM. Да что вы! ТЕПЕРЬ это не меньше чем мыслящая машина! Да там уже вон душа виднеется!

P.S. Я тут уже много раз писал чем мясная нейросеть отличается от текущих LLM. Полная конкретика. Максимально кратко - мясная нейросеть имеет быструю память где строит модель мира.