Комментарии 6
Но стоит только наладить нормальную коммуникацию, ввести прозрачные протоколы, верифицируемый код и строгую теорию механизмов, как весь этот глиняный колосс рассыпается в пыль
А как это можно применить на практике вот прямо сейчас? Допустим, на примере "гонки вооружений в ИИ". Вроде бы все всё понимают, в том числе эти мудрёные формулы, нт еикто ничего не делает и не собирается.
Гонка всё ещё длится потому что тень будущего кажется всем игрокам слишком короткой. Американские AI-гиганты боятся конкурентов из Китая, Китай боится американских санкций, стартапы боятся, что через полгода у них кончатся деньги фондов и никто не даст ещё. В таких условиях каждый старается максимизировать сиюминутный выигрыш.
Изменится всё только тогда, когда издержки от нескоординированности будут превышать выгоду от победы в гонке. Как было, например, с ядерным оружием: договоры о нераспространении начали подписывать только после Карибского кризиса, когда ясно стало понятно, что равновесие Нэша в тех условиях — это всеобщее уничтожение.
Я правильно понимаю, что статья формализует основное заблуждение апологетов рыночной экономики и капиталистического общества: Если все члены общества будут стремиться к своему благосостоянию, то и благосостояние общества будет повышаться (то есть, для обеспечения благосостояния общества необходимо и достаточно, чтобы каждый преследовал только повышение собственного благосостояния)?
А с чего вы взяли, что это заблуждение? Есть теоремы, в которых это доказано, для определенных условий естественно.
Просто экстерналии (экономические, т.е. ограниченные, ресурсы, выглядищие как неисчерпаемые общедоступные) эти условия нарушают. А уж тем более нарушает эти условия “дилемма заключенного”, где выигрыш и проигрыш оределляет неэкономическая внешняя мусорская сила.
Есть, правда, один неудобный момент в теории - предположение, что все агенты в системе действуют рационально в своих интересах. На практике оно нарушается (иначе бы реклама не работала), но отбор в такой системе ведет к тому, что агенты начинают действовать всё более рационально - потому что нерациональные агенты проигрыва.т конкуренцию. То есть, в перспективе всё замечательно. Но вот в моменте может быть по-всякому: например можно убедить участников системы, что они должны отдать свое право решать чиновникам государства, в результате чего все эти автоматические механизмы действовать перстают. Это обычно и называется (особенно - у марксистов: то, что называлось социализмом у нимецких национал социалистов в Германии 90 лет назад, устроено было по-другому) социализм. Для того, чтобы такой социализм работал, требуется уметь в рациональное управление экономикой, что для современного уровня развития экономики и средств управления в общем случае невозможно. Но в конкретных случаях, наоборот, получается, и очень неплохо - жаль только, что эти конкретные случаи обычно связаны с мобилизацией ресурсов на одну задачу в условиях крайней нехватки на всё остальное.
Формула перекрёстных корней оценивает не толщину кошелька, а степень общественной координации. Проект со ста независимыми донорами претендует на субсидию почти в миллион долларов, а проект олигарха‑одиночки не получает из фонда ничего.
Дык и надо организовывать этих независимых. Делать их зависимыми. В нашей реальности для этого достаточно просто потратиться на рекламу (реклама в реальности, напоминаю, работает( желательного исхода. А желательный исход там, если следовать тексту, очень неплохой, с большим мультипликатором (за чужой счет, как понимаю), так что на рекламу потратиться можно много, и это будет иметь смысл. И такие умные (реально умные) наверняка найдутся.
Короче, спасибо авторам за ещё одну демонстрацию того, что правило Гудхарта таки работает.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Математическая теория того, почему мы обречены на самоуничтожение и можем ли мы этого избежать?