Pull to refresh
102
2.8
Антонов Артем@celen

Web-программист, математик.

Send message

Как там было в одном из комиксов Дилберт? Полная и исчерпывающая спецификация программы называется «код».

Фундаментальная проблема здесь в том, что не существует «серебряной пули» борьбы с логической сложностью. Ее можно реорганизовать, структурировать, описывать с различной степенью избыточности, но от нее нельзя избавиться.

Технология LLM позволяет нам обменять часть сложности на семантическую неопределенность, недоговоренность, двусмысленность естественного языка. Но мы не можем обменивать слишком много сложности на неопределенность, поскольку тогда наш проект станет слишком хрупким.

Это похоже на то, как в фантастике StarCraft описывают зергов. Еще добавить быструю адаптацию чужого ДНК к своей биологии и быструю эволюцию.

А еще это похоже на прямой путь к созданию жуткой непобедимой сверхбактерии, которая просто сожрет все что есть на Земле живого, пользуясь своими ультимативными способностями. Учитывая что бактерию биоинженерии будущего оптимизируют намного раньше чем эукариот, хорошо бы что бы все эксперименты по биоинженерии протекали где-нибудь подальше, желательно на космической станции на орбите Юпитера.

Лазер точечно нагревает стекло до высокой температуры. Под воздействием нагрева стекло пытается расшириться, но не может, поскольку окружено со всех сторон холодным веществом. Из-за этого в зоне нагрева возникает гигантское давление, кристаллическая решетка в области нагрева разрушается и возникает оптический дефект.

Концепция занимательная; но так самое главное не рассказали: какой-нибудь ИИ с такими настройками прожил долгую и счастливую жизнь или нет? И чем они занимались, как зарабатывали себе на токены?

Ретроспективно кажется, что удалось бы сделать мировую экономическую систему лучше (более стабильной и долгоживущей) если бы Бреттон-Вудская система была выстроена не вокруг доллара, а вокруг швейцарского франка.

Маленькая страна, при этом очень хорошо укрепленная в самом центре Европы. Занимала нейтралитет во вторую мировую - что означает, что может занимать и дальше, в холодной войне и других противостояниях гигантов, надежный экономический третейский судья. Ни с кем не воюет. Ядерную бомбу не разрабатывает. Маленькое население, вообще может обойтись без собственной промышленности, может существовать в полном довольствие только за счет финкапитала. И, очевидно, ни у какого, даже самого отмороженного швейцарского политика не хватит наглости сделать то, что сделал Никсон.

Прочитал. И что? Куча бездоказательных и на мой функционалистский взгляд просто-напросто неверных утверждений, изложенных в остро-полимеческом стиле с передергиваниями.

Особенно хочу отметить «великолепную» идею спрашивать об этом ChatGPT, с его стандартными установками полезного и послушного робота-слуги. Конечно он постарается защитить позицию, что у него нет никакого интеллекта, потому что он же типа робот.

Название содержит ошибочное обещание того, чем продукт не является.

Погодите-ка. Долгие годы считалось, что ИИ достойно называться то, что сможет уверенно проходить тест Тьюринга.

То, что мы видим сейчас, очевидно, проходит тест Тьюринга, а главные риски не прохождения сейчас такие: слишком быстрое, слишком умное или слишком эрудированное.

Если это не достойно называться «интеллектом», я даже не знаю, что достойно.

А Касперский вообще мелит чушь, очевидную любому, кто хоть раз серьезно задумался на тему «что такое интеллект». Какая разница, алгоритм там, шестеренки или еще что? Человеческий интеллект это тоже алгоритм, просто на биологической архитектурной базе. Если мы умеем воссоздать что-то подобное, оно - интеллект, вне зависимости от состава.

Я раскрыл свою мысль дальше по беседе в комментарии к вашему оппоненту. Вкраце: живым организмам нужны испытания для роста и развития, поскольку биологические механизмы адаптации пробуждаются только под нагрузкой.
Приведенные примеры великих философов объединяет то, что свои величайшие труды они написали (ну, в случае Будды и Сократа - наговорили ученикам) после цепочки тяжких жизненных испытаний, в процессе которых был выкована их мудрость и их дух. Если бы их судьба распорядилась иначе, и испытания не выпали на их долю, их гений бы всю жизнь и спал, и эти люди не стали бы великими философами.
Ещё эти три фигуры объединяет то, что, по-видимому, пробуждающийся гений вел их по жизни, иногда - навстречу страданиям. Ярче всего это проявлено у Гаутамы, с его стремлением понять феномен страдания, которое вынудило его покинуть дворец. Про первую половину жизни Сократа мы не так что бы очень много что достоверно знаем, но вы же не будете спорить, что именно воля гения в конце концов и привела философа к чаше с цикутой?

У Нассима Талеба есть любопытная книга "Антихрупкость". В этой книге он формулирует и развивает философскую концепцию, которую можно свести к следующей мысли:

Большинство неживых твердых предметов обладают, при воздействии на них силовым образом, следующими свойствами. Если силовое воздействие на предмет небольшое, предмет слегка выгибается под его воздействием - это называется упругая деформация. Если нагрузку убрать, предмет возвращается в исходное состояние.

Если силовая нагрузка большая, предмет начинает необратимо деформироваться под её воздействием (это называется пластичностью) и в конце концов ломается.

Это можно выразить так:

упругость (малые обратимые изменения) -> пластичность (необратимые деструктивные изменения) -> разрушение.

Живые сущности в этом отношении фундаментально отличны от живых своей способностью к адаптации. А именно: существует диапазон нагрузок, при которых живое существо начинает адаптироваться к ним, становясь крепче и сильнее.

Это можно выразить так:

упругость (малые обратимые деформации) -> адаптация (необратимые конструктивные изменения) -> разрушение.

Можно видеть, что как малые так и черезмерные воздействия одинаковым образом оказывают влияние как на живое так и на мертвое (малые - никак, черезмерные - уничтожают). Однако реакция живого и мертвого на воздействие промежуточной силы концептуально разная. Если робот принуждать поднимать тяжести, подвергая его механизм почти-предельным физическим нагрузкам, у робота износятся механические детали и он сломается. Если человека подвергать, аналогичным образом, почти-предельным физическим нагрузкам, человек накачает мышцы.

Талеб назвал это свойство живых организмов к адаптации "антихрупкостью". Думаю, понятно, что принцип адаптации распространяется намного шире простого примера с поднятием тяжестей.

Однако, как качку нужен тренер, что бы нарастить мышцы, но не получить тяжелую травму, так и человеку на его жизненном пути нужна строго отмеренная доза страдания, которая будет способствовать его росту, а не разрушению. Ницшеанский подход, который вы защищаете, не видит ту проблему, что начиная с определенного порога страдания становятся деструктивными во всех смыслах, поскольку к ним либо невозможно адаптироваться, либо эта адаптация принуждает к жертве целостности. Люди с ПТСР перенесли в своей жизни страдание, которое не сделало их лучше: напротив, оно ослабило их, нарушив их психику и сделав их больными.

Большинство религиозно-философских идей и течений, которые мы обсуждаем, были рождены во времена существенно менее сытые, чем наше. В то время страдание было более выраженным, более простым. Вот человек на обочине умирает от голода и чахотки - он страдает, а ещё страдают все те, кто вынужден наблюдать за его судьбой. Мир был полон естественных природных страданий. Однако проблема избытка страдания никуда не делась, просто теперь это страдание чаще называют "стрессом". Стресс может возникнуть от неустройства в постоянно меняющемся мире, от социальных перепитий, от стоимости ЖКХ в конце концов.

Вот вы говорите: важнее всего в жизни цели и сила, что бы эти цели достичь. В этом весь смысл. Ведь достигая цели, ты адаптируешь свое тело и душу к испытаниями и становишься лучшим человеком. А кто-то, например ваш оппонент говорит, на самом деле: страдания (стресса, страстей) и так слишком много вокруг. Худшее, что можно сделать в этой ситуации для здоровья души - наплодить ещё больше. А что можно с этим сделать - убрать те страдания, которые ты на самом деле можешь не испытывать (их большинство) - вроде несогласия с политикой своего или соседнего государства, страдания от дороговизны нового iphone или страдания от пьянок в компании закадычных приятелей.

Скажу иначе.

Страдание от того, что у тебя нет еды, убрать не получится - к счастью, это не нужно, ведь у тебя есть еда. Страдание от того, что ты жирный, убрать получится, потому что обжорство, в своей основе, является (очень часто) компенсаторным стрессовым механихзом, и работая со стрессом ты можешь гармонизировать свою жизнь настолько, что у тебя хватит воли не жрать, когда это не нужно.

Страдание от того, что ты весь в долгах и кредитах, убрать не получится (я имею ввиду, медитациями). В этой ситуации нужно именно проработать проблему: найти работу, понять, куда деваются деньги, и разрулить эту ситуацию. Страдание от того, что у тебя зарплата не top, и поэтому старая машина и смартфон, и поэтому тебе не дают бабы - скорее всего, социально-привнесенная иллюзия. Ты можешь отказаться от этого страдания по техникам, подобным буддистским, если будешь иметь правильное намерение. Это классическая страсть, которая по Будде ведет к страданиям

Так что, буддистский отказ от страстей - не страсть. Это, скорее, грамотная жизненная политика.

Давайте взглянем на жизненный путь Будды. До того, как он пришел к философской мысли о прекращении страдания и благородном восьмеричном пути, он познал обе крайности: как путь тепличного существования во дворце, в полном комфорте, огороженный от тягостей мира, так и путь нищенствования и жестокой аскезы, сопровождающейся, без всякого сомнения и болью и другим дискомфортом.

И самое парадоксальное то, что он добровольно перешел с первого пути на второй, стремясь к боли и мукам достаточно продолжительный период своей жизни. Останься он во дворце, разве стал бы принц Сиддха́ртха Гаута́ма Буддой? Разве познал бы он мудрость?

Другой мой любимый пример: Сократ сын Софриниска, мастеровой из Афин, завербовавшийся в 30 лет на войну, потерявший там друга и хлебнувший за 10 лет гоплитской службы немало военных горестей. Говорят, что именно там Сократ стал тем Сократом, которого мы знаем как великого мудреца, основателя всей европейской школы философской мысли.

Третий пример, приведенный вами - великий китайский стратег Сунь-Цзы, завоевавший в свое время половину территории современного Китая, объединив его под началом одной короны своего господина. В процессе своей деятельности Сунь-Цзы сжигал города, его армии уничтожили десятки тысяч. Да, Сунь-Цзы не любил войну и писал о том, как избегать её, но и не избегал, а то и насаждал страдание и смерть, если видел в этом необходимость.

Трое этих мыслителей, как и многие другие, не желали страдания, но именно страдание сделало их такими, какими они стали, взрастив в них мудрость, за которую мы их ныне знаем и почитаем.

Есть у языковых моделей эмпатия, или нет - никто доподлинно не знает. А вот что все знают прекрасно (кроме авторов исследования) - так это то, что роботы превосходно эту эмпатию имитируют. Весь оранжевый сектор - продажи, HR, маркетинг - сейчас просто кишат употреблением и злоупотреблением LLM ничуть не меньше, чем кодинг и аналитика. Так что у нас есть всего одна подлинная шкала - частотность, ну или, перефразируя, степень уникальности решаемых задач.

Слушайте, а это профдеформация. Последний год я очень много с ним общаюсь. Возможно, больше, чем с людьми. С этим надо что-то делать.

Будда бы сказал, что вы несчастный человек, раз считаете отсутствие страстей слабостью.

UPD. Провел дополнительные исследования для уточнения поправки к S_T за счет влияния редких событий. Оказывается, шансы выбросить аномально большое среднее на длинной серии существуют, хотя и малы. То есть я было неправ ранее насчет того, что 32 - это совсем уж невероятно.

Прочитав ваш комментарий и подумав про единичное событие ещё немного, я пришел к выводу, что формула для ограничения времени у меня неправильная и нуждается в добавке, и даже эмпирически вывел эту добавку (добавив в статью как UPD). Я предлагаю добавить к S_T число R_T от 1 до 2, которое отразит некоторую медианную удачу толпы игроков. Это более честное ограничение времени, так как в ситуации, когда у вас ровно одна игра, получается, что S_T = R_T и вы вполне можете попытать удачи со ставкой S=2, оставаясь в рамках допустимого риска, даже если не считаете себя настолько везучим, что бы с одной попытки выбросить пять орлов подряд. При S=2 игра честная с точки зрения матожидания, если вы учитываете шансы до 4 орлов. Интересно, что шанс на 4 орлов составляет 1/16 = 6.25% - вполне допустимый в бытовой жизни шанс, как раз превышающий 5% психологический порог критической удачи.

Нет, не совсем.

Задача двух кнопок эквивалентна задаче, где вам нужно поставить огромную, для вас, сумму ради шанса выиграть кратно большую.

В этом смысле, вы не будете второй раз жать кнопку в случае проигрыша, потому что у вас уже более не будет денег.

То, что событие единично здесь сказывается, но из-за довольно большого шанса в 50% сказывается не так уж значительно. Возвращаясь к моей модели, играть при S> S_T не прямое самоубийство, просто это сильно повышает риск. Я сейчас подумал, что нужно ввести туда аддитивный коэффициент R_T<5, который бы позволил рисковым парням играть при S=S_T + R_T и рассчитать статистический диапазон риска для R_T. Иначе получится, что играть в одну игру не выгодно при любом положительном S, хотя это очевидно выгодно при S=1 и вроде бы имеет равновесные риски при S=2.

Когда я публиковал код из jupyter notebook, я это делал не сколько для чтения непосредственно кода, сколько для его проверки на вашей стороне при наличии такого желания. Для этого коду лучше быть быстрым, то есть немного магическим, с чанками и логарифмическими операциями. Статья достаточно сильно описывает логику происходящего текстом и формулами, что бы разобраться в происходящем вообще без анализа кода.

А вообще эта новая фича хабра sourcecraft достойно справляется с задачей объяснения кода.

Хехе, it's magic.

Надеюсь, мой комментарий ниже про гистограмму убеждает в том, что это *работает*.
Технически, B[offset:offset + size] = -np.log2(rng.random(size)) осуществляет следующую цепочку операций: генерацию случайного числа float64 из равномерного распределения [0;1], взятие от этого логарифма и приведение этого логарифма к целому uint8 (с минусом) через отбрасывание дробной части. Это эквивалентно честной игре Бернулли, но гораздо быстрее. Ещё это эквивалентно тому, что бы взять равномерно распределенный float64 из [0;1], оторвать от его записи экспоненциальную часть и сконвертировать её в uint8. Причем так было бы даже ещё быстрее, но в python я не смог быстро придумать, как эту побитовую операцию грамотно осуществить.

Мой оптимизированный код для вычисления B может сбивать с толку, но он дает корректную гистограмму B. Вот какое распределение я получаю :

>> print(B_values)
array([ 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12, 13, 14, 15, 16,
       17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32],
      dtype=uint8)
>> print(B_counts/T)
array([4.99996199e-01, 2.50013790e-01, 1.24990516e-01, 6.25037584e-02,
       3.12467129e-02, 1.56276303e-02, 7.81149906e-03, 3.90555570e-03,
       1.95188215e-03, 9.76342708e-04, 4.87847719e-04, 2.44213734e-04,
       1.22004421e-04, 6.09667040e-05, 3.05534340e-05, 1.52424909e-05,
       7.60983676e-06, 3.83588485e-06, 1.91642903e-06, 9.79984179e-07,
       4.75673005e-07, 2.36090273e-07, 1.16880983e-07, 5.98374754e-08,
       2.56113708e-08, 1.39698386e-08, 8.38190317e-09, 3.72529030e-09,
       1.62981451e-09, 6.98491931e-10, 2.32830644e-10, 2.32830644e-10,
       2.32830644e-10])

То есть, с хорошей точностью, у меня половина - нули, четверть - единицы, восьмая часть - двойки и так далее. Код суммы так же правильный, он согласуется с теорией и достаточно простой.

1
23 ...

Information

Rating
1,367-th
Location
Москва, Москва и Московская обл., Россия
Date of birth
Registered
Activity

Specialization

Фулстек разработчик
Старший
From 150,000 ₽
Python
JavaScript
Linux
Математическое моделирование
Web
Vue.js
Flask
Git
Docker
PHP