All streams
Search
Write a publication
Pull to refresh
111
0
Роман Левентов @leventov

Исследователь этики и безопасности ИИ

Send message

Нет, не будет. Я бывал на таких мероприятиях, и там собираются точно так же, как и в тиндрах, в лучшем случае одна к пятерым.

Как такое может быть, если 1) ивент не бесплатен, 2) количество мест жестко фиксировано и поделено поровну между М и Ж, и 3) когда ивент заполняется для М, то М больше не могут на него записаться, но ивент проводится только тогда, когда он заполняется и для Ж, скажем, хотя бы на 80%? Что именно и в каком месте происходит, что на ивенте в итоге оказывается соотношение 1 к 5?

Сидящие в тиндрах в 28+ тоже больше ориентированы на карьеру и семью. Это специфика возрастной группы, а не платформы.

И да, и нет. Я думаю, что такие оффлайн ивенты больше будут привлекать тех, кто не слишком привлекателен "по фоточкам", но раскрывается в живом общении. И справедливо полагает, что если он пойдет "на пролом" в Тиндер, то продешевит, и сам будет потом фрустрирован от того, что не может найти там адекватную пару. Такие люди есть во всех возрастах, как и люди с обратной ситуацией -- удачными фотками (и внешкой), но не сильно впечатляющие в жизни (из-за ума-ли или общей состоятельности или еще чего-то, не важно).

От выводов предпосылки строить тяжеловато, поэтому на самом деле выбирается какой-то набор базовых утверждений, из которых проистекают желательные вами выводы.

Главное — чтобы, опять же, набор базовых утверждений был непротиворечив (иначе из него вытекает что угодно), и чтобы вы также были согласны с какими-то третьими выводами, которые из него проистекают, но которые вам уже, возможно, нравятся не так сильно.

Утверждение от балды, и, что забавно, использующее формальную аргументацию для рассуждений о психологии, в чем вы меня сами попрекнули ниже. Реальные утверждения (гипотезы) в этой области должны делаться наукой нейропсихологией, а не на диване. Нейропсихологи пока вроде не разработали достаточно мощные теории, чтобы делать гипотезы на этом уровне, поэтому пока довольствуемся обычными психологами -- они говорят, что человек таки выбирает выводы, а не "базовые" утверждения (см. Хайдт).

Логический факт, что из противоречивой теории следует что угодно, это конечно последнее, что реально волнует мозг.

Во-первых, у Геделя есть строго ограниченная область применения, применимость которой ко мне ещё нужно доказать.
Во-вторых, мне не нужно постигать самого себя и свои оценки. Аксиоматизация вещественных чисел очевидно позволяет выразить арифметику Пеано, но это не мешает формулировать в вещественных числах полезные на практике задачи оптимизации и успешно их решать.

На практике, понятно, наша сознательная часть мышления и (тем более) наши попытки объяснить, почему мы выбрали то или иное решение с этической точки зрения -- это лишь малюсенькое, крайне мыльное окно в реальный процесс мышления, а не 99.999% процентный его слепок (дойти до 100% запрещает как раз Гедель). Это понятно.

Тем не менее, утверждение о непознаваемости/непредсказуемости своих выборов до конца все еще релевантно для мета-этики и мета-эпистемологии, то есть определения того, какие теории в этих областях вообще жильцы, даже если мы уйдем от биологического субстрата.

Нету фундаментальной, физической ответственности. Поэтому любое утверждение внутри [...], приводящее к выводу о наличии фундаментальной ответственности, неконсистентно с наблюдаемым миром (а подобная консистентность мне представляется желательным требованием к любой картине мира).

> Но все-таки никак нельзя отрицать, что каждый человек — это часть цивилизации

Только ответственность из него не следует.

Так а я и не собирался доказывать "следствие ответсвенности" из принадлежности. Их жесткая привязка, как и необходимое утверждение, что этика -- это про выживание систем (с сознанием) -- это, безусловно, посылки, элементы картины мира, которые "я решил, что будут". Вы, конечно, можете сконструировать картину, где "этики" и "ответственности" вообще нет как фич/объектов/понятий. Но это и не аксиомы тоже. Это именно элементы картины, которые потом взаимодействуют с другими элементами на равных.

Вопрос в том, консистентна ли та или иная картина с реальной жизнью, или она "фейлит на своих же условиях". То есть, "надо" показать, что следование моей картине действительно приводит к тому, что в мире становится больше того, что я "хочу" (по своей же этике), чтобы становилось больше, а именно, осознанной жизни.

Нигилизм в этом смысле -- неабмициозная теория, потому что она добровольно отказывается от накладывания таких дополнительных ограничений на себя.

Но еще один спин тут -- теории, которые мы здесь обсуждаем, они в нашем сознании, и поэтому их консистетность с реальной жизнью также зависит от того, насколько "амбициозен или нет" реальный мозг.

Поэтому человек может быть "уверен", что полностью убил в себе абмиции, или этику (и постулирует нигилизм), или заботу о других/ответственность, или что-то еще подобное, но если по факту его хардвар все еще действует не так, то он не придерживается самой консистентной теории. В том числе поэтому, лучшая теория - это не "пустая теория", потому что когда вы попадаете в пожар или экстремальную ситуацию, или эмоциональную ситуацию, "пустота" куда-то улетучивается.

Формулировка вашей фразы. «Картины мира, в которых есть место смыслу» подразумевает объективность этого смысла — потому что место смысла есть в картине мира, а не у самих этих людей.

"Картина" не существует ни на бумаге, ни в "объективном мире", она существует исключительно в субъективных мозгах. All external reference frames have corresponding internal reference frames. Вы забыли сделать "meta-theoretical move".

> Просто я предлагаю следовать картине (точнее, семейству картин), в которых смысл как объект присутствует

Зачем?

Попытался объяснить выше -- затем, чтобы лучше заалайниться самому с собой. Но "доказать" это я естественно не смогу -- все мои построения выше имеют смысл для меня и не имеют для вас, и вы можете точно также отбросить посылку, что вам "нужен" этот алайн. Философия разума это не математика, как ни крути.

> и его можно искать и находить.

Забавно, что вы ровно в этом комментарии писали про Геделя, но теперь, оказывается, этот объект у вас заведомо находим.

Опять передергивание. Я не писал ничего про "заведомо". Можно и не найти. Я вот пока не сильно нахожу. Но можно и найти. И я ищу.

Прикольно, я думал что что в онлифанс зарабатывают в основном девушки из Восточной Европы, латинки, и ЮВА, а на западе это зашквар, примерно такой же, как порно. Или порноактерство -- это уже тоже не зашквар на западе? гордо ставят себе это в анкету на фейсбуке, не скрывают при шапочном знакомстве, и т. д.?

Собственно, и в более "традиционных" обществах (возможно, кроме Таиланда, но там отдельная история) -- порно это зашквар, но там типа девушек туда заставляет идти "трудная жизнь". На западе в целом, мне кажется, большинство устраивается на непыльную работу, или сидит на шее у состоятельных родителей, то есть экономического пресса (для выбора зашкварной профессии) меньше.

Ну почему "мероприятие для знакомств". Это можно подать даже под соусом diversity -- мы хотим встречи по какой-то теме, но не хотим, чтобы они были доминированы какими-то фанатами, которые ходят на каждую, и которые все стремные мужики-нерды. Если это приложение умеет в cross-event FIFO ordering (скажем, в какой-то серии ивентов есть сквозная очередь, и если в целом желающих подкатегории больше, они эффективно троттлятся), то оно даже этой цели эффективно достигнет.

Bumble не тормошит женскую пассивность (90% женщин пишут там ровно "Hi" и ни словом больше, и с этого момента вся "активность" обратно на мужчине), оно лишь ограничивает один из векторов мужского спама. Но не ограничивает другие -- мужчина все еще может там налайкать бесконечно много, да и за доплату мужчина все-таки может написать первый девушке, прямо как в Badoo.

В общем, с мужской точки зрения, я бы сказал что Bumble отличается не сколько благодаря другой механике (мне кажется, она не особо меняет ситуацию), сколько аудиторией -- почему-то там несколько другой женский контингент с которым у меня (ну и, скорее всего, у среднего айтишника) коннект обычно лучше.

Не совсем так.

Во-первых, все-таки скорее всего на таком приложении соотношение полов будет равнее -- там будет меньше совсем опустившихся мужчин (им будет лень идти на мероприятие, проще обратно спамить в Тиндере) и больше женщин, которые по разным причинам не любят классический дейтинг (слишком устают от "листания", считают это зашкваром, боятся за безопасность чтобы идти на встречу с незнакомцем и т.д.).

Скорее всего, такое приложение привлекает более зрелую аудиторию (28+), больше ориентированные на карьеру и семью, имеющие интересы, и думающие что их основные преимущества в этом, а не в шести кубиках/круглой жопе из зала и секси-фоточках. Естественным образом, это будет более равная аудитория.

Во-вторых, в обычном дейтинге есть проблема "спама" - мужчин которые пишут всем, лайкают всех, и т.д. Это создает дополнительное психологическое давление на женщин. В случае с оффлайн-мероприятием, такого нет -- особо не "поспамишь" ни в разные мероприятия (каждый день на них не находишься), ни внутри мероприятия (человека который подкатывает яйца ко всем подряд без разбору сразу заметят). Поэтому у каждого человека, скорее всего, будет возможность в 15-20 минутный разговор с кем-то противоположного пола перед или после основного мероприятия, с разговором по теме общего интереса (то есть, по мероприятию).

Интересно, есть статистика--процентовка онлифанщиц по странам?

Вариантов пост-свайп дейтинга на западе уже в последние пару лет придумали достаточно, некоторые из них описаны в этой статье: https://www.theguardian.com/lifeandstyle/2022/nov/20/the-rise-and-fall-of-dating-apps. Вариант, который возможно вам бы зашёл больше всего: ивент-приложение которое организует какие-то квизы, лекции, и прочие активности, и энфорсит три простых вещи: 1) количество участников ограничено. 2) соотношение полов среди участников - 50/50. 3) все участники - вне пар/романтических отношений.

Но с точки зрения популяции и рождаемости в обществе, проблема в том, что все эти варианты пока обречены остаться в жёсткой тени простых свайп-платформ, потому что те -- источник дешёвого дофамина и коммодитизированного секса. Если у вас в обществе проблема с ожирением, недостаточно открыть один ресторан со здоровой едой, надо что-то делать с Макдональдсами.

> На Западе вообще-то тихая сексуальная революция — Tinder, Bumble, Feeld и прочие онлайн-дейтинги на любой сексуальный вкус.

…которые работают, если у вас три шестёрки — six pack, six feet, six figures. Иначе эта революция проходит мимо вас.

Конечно комментарий товарища выше был потоком созания, а ваш - просто ответом ради спора, но замечу что никакого противоречия тут нет.

Я уверен что онлайн-дейтинг это огромный фактор в снижении рождаемости, многими до сих пор не осознаваемый.

Расписывать все психологические факторы и динамику как-то лень, их много. Тут и illusion of choice, и chads-takes-all, и коммодитизация секса, и аддикция к самому дофаминовому эффекту от "матча", и самообъективизация (привязывание своей самооценки к "успеху" на дейтинге, измеряемого в лайках/свиданиях/сексах), и психологическое выгорание от общения со слишком большим количеством случайных людей, где надо имитировать эксклюзивный интерес, и много чего еще.

Если все это суммировать, то серьезное намерение по созданию семьи (не говоря о детях) как таковое в существенной степени вытесняется из "коммодитизированного сексуального рынка", основанного на платформах онлайн дейтинга, несмотря на то, что большинство людей обоих полов продолжает это декларировать в своих профилях.

Впрочем, все что я описал выше, относится в первую очередь к густонаселенным районам и мегаполисам, хотя бы от миллиона человек. В менее заселенной местности динамика наверняка существенно другая, и там онлайн-дейтинг может стать часто позитивной вещью -- найти совпадение по интересам в одном маленьком городке без онлайн-дейтинга может быть трудно.

Да, и это называется аксиоматизацией. И именно поэтому нет единственно объективно верных выводов, потому что они зависят от, собственно, ваших аксиом.

От аксиоматизации очень существенное отличие. Выводы не берутся как аксиомы, но и аксиоматика не подстраивается под выводы (я не меняю свои актиомы логики, чтобы подстроить ее под свою картину мира). Выбирается некоторая внутренне-минимально-противоречивая картина (топология, онтология) выводов. Но между этими картинами может быть переключение, как на уровне человека, так и на уровне организации или сообщества -- называется paradigm shift.

Нет. Методологическая ошибка — считать, что для работающего описания мира есть что-то, кроме науки, математики и логики.

Этика это не про описание мира, а про оценку некоторых траекторий (даже не отдельных состояний, да и про "состояния мира" строго говоря нельзя говорить ни в general relativity ни в quantum information theory). Is-ought problem вы не преодолеете. А в собственной оценке разных траекторий вы не должны забывать про то, что не сможете до конца постичь сами себя и свои же оценки (Гедель запрещает).

Какая разница? Это просто веса в функции принятия решений. Та же аксиоматизация.

Ну да, это какие-то веса и какие-то репрезентации. Мое замечание про "множественную подотчетность" которая следует из теории Ванчурина -- это указание на то, что популярные здесь в комментариях позиции "я никому ничего не должен" -- это таки неправильно с фундаментальной, физической точки зрения. У человека есть некоторая ответственность перед всеми агентами, частью которых он является. Дальше интересный и нетривиальный разговор (который тоже часть этики), какие агенты имеют смысл для отслеживания. Можно спорить о том, являются ли семья, род, нация, страна, культурное подпространство, и даже биосфера такими агентами. Но все-таки никак нельзя отрицать, что каждый человек -- это часть цивилизации, в самом широком смысле, который даже не привязан к биологии. Поэтому даже трансгуманизм в стиле "слава роботам, убить всех человеков" это хотя бы осмысленная позиция, хотя с ней можно быть несогласным.

Если они находят какой-то объективный смысл, то это просто повод выписать их из рационалистов (или, точнее, записать это в их религиозную картину). Не ведитесь на halo effect и смежные когнитивные искажения плз.

Кто сказал, что их смысл "объективен"? На некотором уровне любое их построение насчет окружающего мира будет incomplete, поэтому они никак не исключат субъективизм их картины мира в целом, а значит и "смысла" внутри нее.

Просто я предлагаю следовать картине (точнее, семейству картин), в которых смысл как объект присутствует, и его можно искать и находить. Некоторые картины в этом семействе не более внутренне противоречивы, чем ваша. Я бы даже сказал что ваша картина, в которой вы категорично выписываете этих людей из рационалистов, претендует на бОльшую "объективность" и поэтому к ней у меня есть вопросы по поводу степени ее когерентности.

Любой вменяемый свободный мессенджер должен сейчас использовать децентрализованную identity как фактор авторизации, а не все эти телефоны и емейлы, которые тотально под колпаком

Которые работают из рук вон плохо, а в скорой перспективе перестанут работать вообще, из-за использования GPT

Вы обладаете обширными знаниями, я уверен, что вы в курсе феномена, что чем умнее человек, тем лучше он умеет создавать рациональные аргументы для своих выводов и находить неочевидный evidence или "противоречия" в других картинах мира.

Но парадокс в том, что очень умные люди, оказывается, умеют таким образом рационализировать практически противоположные выводы. А уже "выбор" этих выводов основан частично на персональной истории жизни, частично на характере и предрасположенностях, частично даже на физиологическом и психоэмоциональном состоянии мозга, да и тела. И только в малой части на рациональности.

Мне кажется, что вы думаете, что вы "решили" метаэтику у себя в голове, и ваши рассуждения неуязвимы. Скорее всего, это либо "реальный" нигилизм, либо радикальный субъективизм/конструктивизм (из которого вы все равно выбираете нигилизм, либо гедонизм).

Но эта "решенность" метаэтики является такой же иллюзией (которую вы построили сами для себя), как и решенность этики. Сведение метаэтики к науке, математике/логике, и рациональности это методологическая ошибка. Также, любые рассуждения о метаэтике без учета open-endedness и "theory of evolution as multilevel learning" (Vanchurin) или похожих теорий, которые указывают на "множественную подотчетность" любых локусов принятия решений (таких как человек) а не на радикальный индивидуализм, а также теорий красоты (эстетики), новизны, и любопытства, это тоже методологическая ошибка.

Я вас понимаю возможно лучше чем вам кажется. Я, внезапно, тоже бездетен, тоже ультра-рационалист, тоже "безработный", тоже в депрессии и тоже регулярно остро ощущаю бессмысленность того, что я делаю, или, если угодно, того, что текущие общество и экономика "хотят" чтобы я делал (и страдаю от этого, а вы, похоже, решили подстроить свою мета-этическую картину так, чтобы не страдать от этого). Найти осмысленное занятие очень сложно (и заниматься им сложно -- кажется, что ученые делают что-то осмысленное, но заниматься наукой сложно и неприятно, куда сложнее, чем лениво общаться на Хабре).

Но я, по крайней мере, не считаю, что мое состояние и поведение -- это что-то красивое, и, на каком-то мета-мета-этическом уровне, "правильное".

Вернитесь к тому, что ваши выводы обусловлены во многом вашим психоэмоциональным состоянием. Вряд ли вы можете заподозрить Скотта Ааронсона или какого-нибудь Эдварда Френкеля в меньшей рациональности, чем есть у вас. Тем не менее они находят картины мира в которых есть место смыслу. Значит нам тоже можно (и нужно) пытаться это сделать.

Во-первых, родить умного (а от нас родятся умные) -- это не так уж плохо само по себе. Дело не в конкретных генах, конечно. Если бы была возможность взять из детдома умного, я бы серьезно это рассмотрел.

Во-вторых, своему ребенку вы таки с гарантией передадите очень много мемов, которые считаете хорошими. С гораздо большей гарантией, чем даже ученикам в школе.

В-третьих, я вполне уважаю стратегии, которые пытаются делать что-то с мем-пространством не через размножение и воспитание, а другими способами: технологии, наука, медиа.

Если еще пару лет назад вы вроде собирались развивать теорию типов и языков программирования, то по комментариям в этом посте создается ощущение, что вы уже решили просто медленно ползти на кладбище.

Много хороших мемов вы передали, кроме угрюмого депрессивного ворчания в комментах на Хабре? Работаете учителем программирования в школе?

100%. Тем более, что большинство этих вложений идут из scarcity mentality, чтобы обеспечить детям безбедное будущее, надо чтобы они пошли в лучший вуз, а так как конкурс большой, им нужны лучшие репетиторы, и т. д. Это все самоподдерживающаяся система которая полностью распадется, когда большинство умственной работы будет делать все равно ИИ, а scarcity пропадет.

Я даю 90% что через два года будет продукт, который дает on-the-fly speech recognition (которая уже superhuman as of OpenAI's Whisper) через телефон и выдает superhuman перевод (в беспроводные наушники) с лагом в одну секунду, в большинстве областей, нормально переваривая почти любые жаргонизмы и сокращения (а если что-то останется непонятным - человек всегда сможет переспросить, благо рот у него все еще есть и оригинальную речь он тоже слышит).

Ну посмотрим, изменятся ли требования в немецких вакансиях. Что-то мне подсказывает, что нет.

GPT-4 уже хорошо распознает вкрапления в текст на другом языке (например программистские тексты, изобилующие словами на английском и названиями технологий) и правильно их переводит.

Вопрос в цене, но если речь идет о общении специалистов со ставкой 50 евро в час, то 3 цента за 1000 токенов перевода наверное как-то можно выкроить.

А вы собираетесь на пальцах объясняться?

При текущем развитии speech-to-text и автоматических переводчиков вообще говоря это практически не проблема, даже если по работе требуется риалтайм общение с клиентами или коллегами. Более того, качество понимания наверняка через такую систему будет не хуже (а то и лучше), чем когда два не-нейтива с разными акцентами пытаются общаться на языке приютившей их страны.

Достаточно помойные и канализационные отходы не сливать в океан, а доставать из них фосфор. Химпроцесс уже есть или придумают, нужна только энергия. Потом этот же фосфор сыпать в чаны с бактериями, которые будут делать нам белки в порошковую еду. Все, замкнутый цикл.

Information

Rating
Does not participate
Date of birth
Registered
Activity