Комментарии 66
А есть проекты по созданию сети, аналогичной web 1.0, куда гарантировано будут допущены только люди?
А боты пусть доедают эту сеть
куда гарантировано будут допущены только люди?
а как это гарантировать?
В принципе просто: надо просто уйти от централизованного интернета назад к распределенному.
Когда вы общаетесь со знакомым на своём сервере, а ваши знакомые с другими на другом. Т.е. смоделировать общество как оно есть а не гнать всех в одну большую кучу. В приципе mastodont нечто такое предполагает, когда каждый может поднять свой сервер.
Далее поскольку вы не хотите общаться с ботами и ваши знакомые скорее всего тоже не желают, то в вашей группе их не будет.
Будут отдельные сервера забитые ботами.
Единственный вопрос как как искать контент и не замкнуться только в своём круге. Хотя с другой стороны может это и не так плохо.
Сейчас соцсети примерно так и работают. У каждого свой круг общения, эти круги частично пересекаются...
Black wall и настоящий киберпанк
Причем тут боты?
Я использую LLM для написания сложных сообщений. Для редактирования сценариев и т.п.
В итоге часть моих сообщений - результат работы нейросети.
И я такой не один.
В любом месте куда вы допускаете людей рано или поздно часть контента окажется сгенерированной.
Я использую LLM для написания сложных сообщений
Полагаю, вы их вычитываете перед отправкой?
Это важный момент, поскольку есть разница между тем, чем вы желаете поделиться между своими знакомыми и тем, что просто представляет из себя маркетинговый шум
Серьёзно? Люди гуглопереводы на Хабре постят без вычитки :)
Но дело даже в другом. Выдача нейросети может быть вполне нормальной сама по себе, но если нейросеть предпочитает использовать какие-либо слова, фразы или шаблоны, вы не сможете их обнаружить без систематического анализа выдач этой нейросети. Вот как в пример было приведено слово «вникать». Если вы не знаете, что нейросеть злоупотребляет именно этим словом, вы не сможете его заменить. Да и рядовому человеку переизложить весь текст своими словами нереально хотя бы потому, что он будет повторять отдельные слова и фразы из исходного текста.
Более того, если все начнут редактировать выдачу нейросети, чтобы избавиться от «плохих» слов, то среди подобных текстов частота употребления этих слов снизится по сравнению с текстами живых людей. Это тоже исказит общую статистику.
Я вычитываю перед отправкой. Еще и редактор потом проверяет.
Но вопрос времени, когда люди начнут постить выхлоп от LLM напрямую.
Не знаю как можно с этим бороться...
Сделать отдельный интернет и запретить законодательно постить туда буковки сгенерированные LLM?
Даже если это сработает, то на время. Скоро у нас LLM будет встроена в голову как дополнительный мозг, и там уже будет не отличить - человек сам идиот, или это у него LLM глючит.
Даже если вычитывать. Иногда генерируются такие выражения, которые обычный человек не будет использовать в реальности. Ну в духе вместо "пойдем вечером в кино" может сгенерироваться "не соблаговолит ли прекрасная леди посетить сеанс кинопоказа сегодня пополудни". Пример утрирован, но мысль, я думаю ясна. Удачные выражения, передающие исходный смысл, никто не будет править. И вот сообщение наполовину наше, а наполовину Гоголя или Толстого. Кажется, что для всяких статистических инструментов это и правда может быть проблемой
Дак а самому учиться мысли излагать, не? Если сложно - то всё сложно с непривычки, и стометровку не каждый пробежит, о марафонах вообще молчу.
Давайте вместо компилятора будем сами исходники переводить в машинные коды. Не? А чё так?
Жизнь ограничена. невозможно всему научиться. Не могу придумать зачем мне учиться тому, что можно легко автоматизировать.
...мм на вскидку, представим сингулярность..., когда автоматизация "зашла" на экспоненту - сможет ли ребёнок адаптироваться и научиться чему-либо полезному вообще, что позволило бы ему жить?
Ребенок учится много чему, в том числе тому, что ему на практике не понадобится. Общее развитие называется.
Я то не ребенок, для меня общее развитие вторично, я выбираю для развития те направления, которые имеют какой-то смысл.
По видимому в этом и есть ключевое отличие человека от ЭйАй на этой стадии... - человек ещё способен к любопытству (как бы не пыталась "современная школа"...), по крайней мере в раннем возрасте, "для общего развития", а ЭйАй пока что отрабатывает "смыслы" в утилитарной области, которые может "отобрать" у человека, пытающегося принести "плоды" своей деятельности... .
А давайте и музыку нейронка писать будет, и стихи, ну а что, уже же и код пишет, только чем тогда заниматься в освободившееся время, да и на что, кем работать если все за нас уже может делать ИИ, ну то есть типа переложить все на ИИ чтобы что? Мне в детстве лежания на пляжах на курортах с родителями хватило на всю жизнь.
"А давайте и музыку нейронка писать будет, и стихи"
Уже пишут, рисуют, поют и все такое... не уверен, что получают что-то выдающееся и без глюков... но учитывая общий тренд на деградацию... как дешёвый ширпотреб - сойдет..., стараются )
Это не вопрос "давайте или не давайте". Это вопрос "когда".
И да, я не знаю каким будет это общество. Возможно это будет общество пенсионеров, которые сажают помидоры не потому что это выгодно или потому что не могут купить, а потому что "а что еще делать?". Есть вероятность что скоро вокруг нас будет общество, в котором мы что-то будем делать просто чтобы что-то делать.
То что это будущее надвигается - не повод заниматься луддизмом и отказываться от инструментов. Если я могу сэкономить своё время с помощью нейросетки - я буду это делать.
Дак на что его пускаете я могу узнать? Ну кроме как ничего не делать, мне просто не понятно такое стремление, поэтому до сих пор спрашиваю.
Делать больше за тоже время.
Например, я активно использую Magic Mask в давинчи. Это позволяет мне больше времени потратить на другие задачи и не обрисовывать тысячу кадров руками.
По вашему я должен отказаться от нейронки в пользу обводки руками? Просто зачем?
Опять же, даже если убрать из моей жизни вообще всю работу за деньги - останется огромное количество дел. С детьми время провести, с женой, освоить новые навыки, починить всё что сломано в доме и переделать всё что не сломано.
Время самый ценный ресурс в нашей жизни. Рассуждать о том, что "его не надо экономить" - это самое стремное что можно услышать. Ценней жизни только время.
Fediverse?
Проблема в том что информацию, которую размещают люди, сгенерирована не людьми.. в лучшем случае ее вычитывают, слегка правят (или скорее генерируют повторно до желаемого результата).
Какая разница, что аккаунт зарегистрирован человеком, если он следующим действием запостит миллион сообщений, созданных машиной.
Проблема в определении, какой контент кем сгенерирован, и эта проблема не имеет красивого решения. Формально, создатели ИИ могли бы создать такой инструмент, но его использование позволило бы создателям генеративного контента научиться его обходить.
Анальный зонд чип verified Human ID какой то
Надо проводить встречи живых участников сети, где обсуждать софт и хард, и предлагать употребление слабоалкогольных напитков - роботы, за исключением Бендера Родригеса, их не употребляют. Я бы назвал эти встречи "сисопками".
По закону семи рукопожатий, для проверки всех участников сети на принадлежность к людям, каждому достаточно будет поучаствовать максимум в 8 "сисопках" ;)
При поступлении новых участников в сеть они будут приглашаться на "сисопку", где все будут убеждаться в их белковом происхождении.
PS: ЭТО ТЕСТ, МЕЯ ВИДО? ;)
ет.
Получается, что все кто отказывается от алкоголя, сразу считаются ботами? Зачем собираться вживую, если интернет позволяет общаться на огромных расстояниях? Возможно, я не уловил посыл. Отличить бота от человека в конкретном случае при необходимости несложно, но заниматься этим на постоянной основе уже похоже на полноценную работу, в результате которой выиграют только боты, так как станут умнее.
Можно и без алкоголя ;) (1962 год)
Охранники и санитары работали не покладая рук, когда внезапно раздались возгласы, что в зале находятся переодетые юристами электрические мозги, которых следует немедленно удалить, поскольку их пристрастность не вызывает сомнения, не говоря уже о том, что они не имеют права участвовать в обсуждении. Профессор Хартлдропс, как председатель, принялся обходить зал с маленьким компасом в руке, и всякий раз, когда стрелка начинала дрожать и поворачиваться к кому-либо из сидящих, притянутая скрытым под одеждой металлом, шпиона тут же разоблачали и вышвыривали за дверь. Таким путем зал был очищен наполовину под аккомпанемент речей доцентов Фиттса, Питтса и Клабенте, причем последнего прервали на полуслове, ибо компас выдал его электрическое происхождение.
После короткого перерыва, во время которого мы подкреплялись в буфете, оглашаемом шумом ни на секунду не умолкавшей дискуссии, я вернулся в зал, поддерживая части своей одежды (разгоряченные правоведы, хватая меня то и дело за пуговицы, оторвали все до единой), и увидел возле эстрады большой рентгеновский аппарат. Выступал юрист Плюссекс, доказывавший, что Маттрасс является случайным космическим феноменом, и в этот момент ко мне с грозным выражением лица и тревожно прыгающей на ладони компасной стрелкой подошел председатель. Охрана уже схватила меня за шиворот, но я, выбросив из карманов перочинный нож, ключ для консервов и металлическое ситечко для заваривания чая, а также оторвав от резинок никелированные пряжки, поддерживавшие носки, перестал воздействовать на магнитную стрелку и был допущен к дальнейшему участию в обсуждении. Разоблачили еще сорок три робота, пока профессор Баттенхэм разъяснял нам, что Маттрасса можно рассматривать как образчик космического конгломерата; тут я вспомнил, что об этом уже шла речь: как видно, юристам не хватало доводов, но внезапно вновь началась проверка. Теперь без стеснения просвечивали всех подряд и обнаруживали, что собравшиеся скрывают под безупречно сидящими костюмами части из пластмассы, нейлона, стекла и даже соломы. Кажется, в одном из последних рядов нашли кого-то, начиненного паклей. Когда очередной оратор сошел с возвышения, я оказался один как перст посреди огромного пустого зала. Оратор был просвечен и вышвырнут за дверь. Тогда председательствующий, единственный человек, оставшийся, кроме меня, в зале, подошел к моему креслу. Сам не знаю почему, я взял у него из рук компас, и вдруг стрелка дрогнула и неумолимо повернулась к нему. Я постучал пальцем по его животу и, услышав дребезжание, машинально взял председателя за шиворот, вытолкал за дверь и остался, таким образом, в одиночестве. Я стоял перед несколькими сотнями брошенных портфелей, пухлых досье с протоколами, шляп, тростей, книг, переплетенных в кожу, и галош. Побродив бесцельно по залу и убедившись, что мне здесь нечего делать, я повернулся и пошел домой.
Посыл в том, что отсеять ботов на 100% можно только при личной встрече оффлайн, заодно можно обменяться ключами шифрования и электронной подписи.
PS: Да, бот может нанять человека и прислать его на встречу, но это уже следующая проблема.
Из воспоминаний Ийона Тихого. V (Стиральная трагедия)
Нельзя, ИРЛ человек может активно использовать ботов. В комментах отметились кто использует чатгпт для своих постов
Вот именно поэтому я и вспомнил про фидо - федеративная система из сравнительно небольших групп лично знакомых пользователей.
Если один из членов группы активно использует ИИ для написания сообщений и остальным это не нравится - его просто исключат из микрогруппы в неформальном порядке. Учитывая отсутствие анонимности в такой сети - подключение к другой микрогруппе будет затруднено.
Если сумеют это определить, никаких точных детекторов так и не создали
А если никто не сумеет определить, и всех этот собеседник устраивает - то есть ли разница, живой он или мертвый? :)
У меня вот есть мысль на пенсию, если доживу - написать мемуары, собрать в кучку все свои посты на всех форумах, соцсетях и каналах, обучить на них модельку и выставить ее периодически постить что-то на форумы/чатики... ;) Оплатить хостинг лет на побольше, и чтобы она оттуда работала - вводя в непонятки знакомых и друзей. Еще и личные письма с поздравлениями чтобы отправляла ;))))
Компания нанимает пару сотен условных 'студентов', в задачи которых будет кататься на эти 'сисопки' и подтверждать легитимность аккаунтов их нанимателей... а уже с этих аккаунтов в сеть польется тонны мусора и говна.
"Студенты" через пару дней вылетают с черной меткой, затраты будут слишком велики по сравнению с эффектом. Это не симку новую завести, и не почту создать для регистрации..
Уже проходили как раз в фидошке - неадекватов отключали быстро, а подключение было внутри города/региона, где все всех знали. И принимать их к себе на ноду никто уже особо не хотел.
Оп, а какой критерий вылета? Я серьёзно.
Принципы, работающие в маленьких сообществах не будут работать на больших.
а уже с этих аккаунтов в сеть польется тонны мусора и говна.
Вот и критерий, собственно. Это для гипотетической human-only сети будущего.
А в Fido отключали за общую неадекватность, хамство в эхах, как сейчас модно говорить - токсичность.
Насчет больших и маленьких сообществ - поэтому и предлагаю сообщество с древовидной или фрактальной структурой. Где на нижнем уровне будут сообщества людей, непосредственно знакомых друг с другом.
мы приходим опять к формальному определению - что такое мусор
То, что сообщество считает мусором. Это же human-only, формальным методам тут не место.
И как общество донесет до сервиса свое понимание?
Статистическими методами? это все решается регистрацией пары ботов на каждого реального человека. И вот уже владельцы ботофермы фильтруют неугодный им контент и блокируют фильтрацию того, что не нужно людям.
Один живой человек - один аккаунт, причём подтвержденный через сеть личных знакомств. Купленные или украденные аккаунты выявляются сообществом и изгоняются.
Откуда возьмутся боты и тем более фермы?
Ну елки палки, вот у вас есть некий член в сети, он постит веселые картинки и интересные статьи... он ходит на сисопки, разгадывает капчи и выполняет кучу других телодвижений, подтверждающих что он член вашего сообщества, вылизанного и отфильтрованного и очень круто самоорганизванного... ни у кого нет ни единого желания его изгонять... и вот тут он постит откровенную х-ню, ваши действия? в какой момент его нужно изгнать из сообщества? после первой коллективно (статистически) забаненой статьи? после десятой? после половины за все время?
Скрытый текст
p.s. пример не очень удачной самоорганизации - децентрализованный проект idena, каждый член физически может иметь один (если напрячься два) аккаунта, так как для подтверждения периодически (еженедельно-месячно) нужно разгадывать сложную капчу (пока ии ее не победил или победил но сложно и не надежно) за очень короткое время (награждают крошечную плюшку деньгами), за ошибки идентити отбирают... весь процесс держится на самоорганизации, все участники создают капчи, проверяют чужие капчи и проходят проверку на этих же капчах....
Так вот в сети явно есть 'ботнеты', вместо того чтобы удерживать идентити в одиночку, нанимают людей, которые в нужный момент выполняют нужные действия по поддержанию идентификации, а создание и проверка капч отдана на откуп автоматизации, она видна сразу и ее можно и нужно банить сообществам... нужно ли говорить, что самоорганизация не очень эффективно защищает сообщество от таких 'ботнетов'? всем это не выгодно (заметный процент наград), создает значительные неудобства при прохождении идентификации (отвратительные и не понятные капчи, не имеющие смысла) и случайные несправедливые наказания (жалобы на неправильные капчи)...
Отключали по очень простому критерию:
Не понравился админу.
Все эти рассказы про общество, которое само себя модерирует разбиваются о простую реальности: общество не способно к объективному контролю. В итоге в таких обществах развивается кумовство и аналоги коррупции.
Нет, вполне общество способно к самоконтролю и фильтрации, но к сожалению оно не способно бороться с координированными усилиями по борьбе против этого контроля, когда за это берутся люди с деньгами.
Найди способ очистить сообщество за чьи то деньги, тогда может что то и получится.
p.s. собственно одно из неплохих направлений - тегирование контента, благо у нас теперь есть ии, это даже можно автоматизировать. Условная помойка пикабу становится не совсем помойкой, если ее контент фильтровать по темам (другой вопрос что этот функционал может быть недоступен или ограничен).
Деньги вообще не при чем. Вы вообще пробовали людей организовывать? Каждый отдельный - разумная личность. Все вместе - стадо. И в итоге сообществом рулит стадо, со всеми вытекающими.
Опять же, это же не голословные утверждения. Примеров "самоорганизации" в интернете достаточно. Были даже попытки сделать действительно народные ресурсы, где изначальные создатели добровольно лишали себя инструментов контроля. И всё в итоге сваливалось в д****мо. Или по вашему в каждый домовой чат приходят лоббисты с деньгами, поэтому никто ни о чем договориться не может?
s Ну так капчей же! /s
ковчег на марс?
Но самое смешное, что интернет, в частности Веб 2.0 был вроде бы создан для объединения людей. В финансах есть термин ДОПЭМИССИЯ и сейчас провели такую вот операцию: настоящих человеков размыли, наплодив сущности, идентичные натуральным. А обычный человек стал, общаясь в интернете, более одиноким, чем спиральная галактика в войде Волопаса.
Интернет разъединяет.
Начинающаяся стадия инфо-хаоса. Чем дальше, тем сложнее будет воспринимать достоверность любой информации и это ещё без технологий прямого воздействия на визуальные под-сети в мозгах.
Уже сейчас любую информацию в интернете без глубокой перепроверки сложно отличить от намеренной дезинформации, от политической до коммерческой.
Скрытый текст
Будто всё должно замереть, быть таким каким было раньше, но с небольшими изменениями? А нет, такой скачок можно отнести к революции из-за слишком резких изменений. Просто сфера теперь язык и коммуникация. Ну а революция всегда не нравится одной части, но нравится другой части населения.
Надо подстраиваться под новые условия, а не пытаться вернуть старое и понятное.
А есть уверенность, что это можно назвать революцией, а не чем-то совсем другим?
@Будто всё должно замереть, быть таким каким было раньше, но с небольшими изменениями?
Не всякое изменение обязательно в лучшую сторону, тем более, что Человечество и раньше развивалось не всегда строго вверх, но и переживало длительные периоды деградации. После Темных Веков, сменивших развитую греко-римскую цивилизацию наступила, разумеется, Эпоха Возрождения, а потом и все наши нынешние компьютеры, но дожили до этого не только лишь все. Нынешний ИИ способен загадить мусором все до чего дотянется, но не способен родить ничего нового (например, обучив ИИ на классической физике, ничего вразумительного о квантовой физике или СТО вы от него не добьетесь). При этом ИИ способен убить необходимость думать у большинства людей, так как действительно способен быстро решать многие шаблоные задачи. Значит Человечество в массе своей будет тупеть.
С одной стороны да, с другой - человечество уже разучилось считать на абаке, на счетах, в столбик... чтобы умножить трехзначное на трехзначное - мы берем калькулятор. :)
И поток информации, обрушивающийся на наши бедные белковые мозги - вырос за 40 лет на несколько порядков. Если вначале он измерялся килобайтами в день (мы читали книги, газеты, слушали радио), потом стал десятки килобайт (телевизор, непрерывно бубнящий вечерами), потом сотни килобайт - добавились эхи, форумы и чатики... Сейчас поток еще вырос - непрерывные ленты телеграм каналов и соцсетей, ролики на ютубчике, сериалы....
И помощь в разгребании инфомусора не будет лишней. С удовольствием бы напряг бота, чтобы он в десятке-двух строк изложил, что обсуждали в канале Монопитер за прошедший день, больше 1000 сообщений читать неохота, нет смысла, но вдруг что было интересное...
Это хорошо ещё, если только "тупеть"... кто собственно дает гарантии, что человек обязательно не может придумать что-то на свою голову..., отчего уже и жалеть будет некому...
Кстати, не помню точно кто из известных математиков или физиков (возможно Макс Борн или Герман Вейль, ...возможно у Петра Леонидовича Капицы)..., в своих воспоминаниях писал, что в начале 20-го века при защите диссертации на доктора философии в Германии было обязательное выступление с докладом по философии, собственная работа и после её успешной защиты будущий ученый давал клятву, в которой говорилось, что ничего из его работ не будет использоваться против человека...
Проект по анализу использования языка людьми в интернете закрылся, потому что нейросети слишком загрязнили данные