Фейк - он и есть фейк, отношение будет соответствующее. Исключение - некоторые аспекты кино и медиапроизводства, где мы благосклонны к фактору иллюзии, при условии органичности.
В Голливуде - мощная система гильдий, которые отстаивают права многих категорий. Среди актеров все больше тех, кто против передачи своих цифровых образов. Они так и говорят:Нам не нужны миллионы за право использования, мы хотим играть сами. Это - наша жизнь.
Пародия? Большая часть пародий сейчас без лицензии и одобрения актеров. Когда будет правовая база, инструменты детекции - все это быстро зачистят. Да, людям нравится, пока дело не касается их самих. Как Вася сделает с Петей шутливое видео, Петя побежит жаловаться, в суд подаст.
Цифровые помощники? До определенной поры. Если вы заняты и прислали вместо себя копию на конференцию, если нет времени мне ответить - ок. Я тоже пришлю копию или предпочту не иметь с вами дела. Люди будут общаться с людьми, копии с копиями. Есть определенный этикет. Возможно, добавится фактор "галлюцинаций", когда помощник проявит избыточное рвение или, напротив, будет чудить и похоронит репутацию.
В итоге, придем к тому, что все имитации "оклеят" метками, зарегулируют. При таком раскладе - да - имеют право на жизнь. Только это будет признаком слабости, а не качества. Уже сейчас многие проматывают то, что с тэгом "нейросеть". Уставание будет нарастать, подделки раздражать.
Либо недоверие в сети достигнет 99.9%, включая официальные, проверенные ресурсы. Тогда весь цифровой контент станет фарсом и система развалится, похоронив ии, нейро и прочие элементы конструкции.
Справедливости ради, много таких же каналов с купленными комментариями. Стоят они копейки: 200-300р за сотню банальных фраз от аккаунтов пустышек до 800-1000р за развернутые ответы (даже диалоги).
Кстати, заказы на новую гугл почту есть почти везде, где пасутся копирайтеры. Аккаунты прихорашивают информацией, подписками, после чего бросают в бой. Там может быть как сеть ботов, так и рядовые пользователи-мультиводы.
С появлением генеративных нейросетей все эти процессы увеличиваются в геометрической прогрессии. Мы оказываемся в фазе Глобальной дезинформации. Все сложнее верифицировать информацию и находить что-то полезное.
Уже который год невозможно даже банальный отчет по футбольной Лиге Чемпионов найти. Перед вами фотокартинка, обещание видеонарезки, несколько кадров и дальше все на движке игрового симулятора. Умнки вклеивают кадры для завлекаловки. В лучшем случае, кадры со смартфона от человека, который сидит далеко на трибуне. Только нигде в описании об этом не сказано.
Аналогичная ерунда с якобы историями из жизни на разных форумах (привет нейросетках), фотографиями, картинами, песнями. Искаженный, суррогатный мир в погоне за прибылью или манией величия. Некоторым хочется немножко признания за то, что требует навыков и времени, но без усилий.
Нынче качественную информацию надо сохранять локально, на харды. В сети она без прямой ссылки окажется похоронена тонной мусора, в котором правду от лжи отличить все сложнее..
Именно инструмент для своих задач. Суть гибрида в том, чтобы нивелировать разницу между тяжелыми участками трассы и легкими, а также компенсировать недостатки физической подготовки. Вы лихо едете в горку 20км/ч без усилий и по ровной трассе до 30. Гибрид это про комфорт, диван-кресло, отсутствие стрессов на подъеме. Поэтому я не вижу проблему утяжелить его и ехать 100 или дальше в режиме ассистента. Если использовать исключительно ручку газа - это дело каждого, но несколько сомнительно. Проще купить мопед или взять электробайк+права.
Шоссейник - опять же инструмент далекий от совершенства. Сферические 70км/ч это очень узкий коридор возможностей, который зависит от трассы, ветра, сопротивления, усталости и еще куча всего. Даже в Москве на скоростях выше 40 ехать проблематично, разве что в некоторых зонах. Правая сторона выделена для автобусов и такси, куча светофоров и перекрестков. Ошибка будет дорого стоить.
На дальние расстояния придется хорошенько накатывать зад под узкое седло, эффективно комплектоваться и ночевать в отелях, так как палатка, доп. одежда и прочий инвентарь заметно ухудшат характеристики. Я уж не говорю про областные дороги и особенно разного рода гравийки.
Тот же найнер, который я так люблю - гораздо универсальнее. За счет обвеса и разных конфигураций можно ехать дальше с комфортом, быстрее с минимальной одежкой, удобнее с диваном под зад. Не страшны ни гравий, ни лесные спуски, ни выбоины. Когда-то думал, что 100км за день - это предел. Потом оказалось, что 150 ни проблема, если есть навык, еда, питание, комплектующие под тебя.
Зато когда едешь 10-15 дней, у тебя палатка, запас еды и воды - выбор оказывается заметно шире. Вместо нюханья газов на шоссе, просто сворачиваешь на лесную дорогу и вперед - через поля и холмы, у рек и озер. К чему там даже 35км/ч - неспешно наслаждаешься, ловишься радость от момента. Помню, так свернул на Алексин с шоссе. Машин почти нет, вокруг леса. А потом асфальт кончился и началась крупная галька и крутые спуски с подъемами. Могу представить - что бы там стало с шоссейником.
Что до покатушек по городу и на работу - можно адаптировать абсолютно любой байк. Даже мелкий, складной.
Вы думаете она беспокоятся о правах анонимного pussy? Его контент давно умяли. Речь о данных, авторство и права на которые хорошо известны и они имеют цену. Показательно дело NYT против OpenAI. Их нейросистемы просто слопали статьи, которые были по платной подписке, т.е для читателей журнала без премиума она не видны. Потом целые куски текста оттуда начали раздавать чат-боты. Не перефразированные!
Вот. Только что с иронией вспоминал эту инициативу. Особенно на фоне кадров из фильмов один в один, целых предложений книг, частей картин и много другого, что нейросети проглотили в свое время и выдают пользователям. А не хотят честную сделку с авторами заключить, заплатить? Если люди против - разработать систему, которая позволит отмечать свой контент. Коли его все равно сперли и это вскрылось, то и штрафы должны быть солидными.
На что только капиталист не пойдет ради лишней печеньки...
СМИ давно используют негатив и провокации как топливо для своего локомотива. Тут дело не конкретно в ИИ, а лишь в трендах. Пугать - это не этично, но финансово выгодно.
Есть, однако, и другая сторона. В уравнениях нового мира власть потеряла человека как творческую единицу, как индивидуальность. Вы сами о них пишите - "люди, которых не устраивает сложившийся порядок, они готовы перестраивать, творить, не хотят быть винтиками, жаждут перемен, у них (часто) есть большая мечта, они горят яркими звездами о большем для людей, для человечества". Если не брать учредителей крупных it компаний и самых мощных визионеров, то будущее таких людей крайне размыто. Сегодня нейросети помогают творческим элементам, а в условное завтра будут писать композиции, рассказы, картины на самом высоком уровне. Когда это может каждый по клику, то и ценность теряется. Одно дело убирать рутину, совсем другое низводить возвышенное до уровня банального. Профессии пока что предполагается срезать не по принципу рутины/скуки, а все до чего можно дотянуться и извлечь прибыль. Сэм Альтман недавно предложил наплевать на авторское право и обучать модели вообще на всем. А потом удивляются, почему люди раздражены, недовольны, опасаются. Это касается многих аспектов социума. Представьте, вы были популярным теннисистом, который развивал свои навыки многие годы. Потом говорят, что вы больше не нужны, но есть другой классный вариант - можете подносить теннисные мячики роботу, потому что теперь играет он. Если что - это аллегория, но она касается непродуманности в отношении множества людей. Нет разумной альтернативы, нет стратегии самореализации высоконравственных индивидов. Пока что только фантазии и набор лозунгов. Это касается мира реального.
Вы смотрите на все глазами женщины, матери. Любой человек проходит стадии бунтарства, ищет выход из трудных ситуаций, стремится к свободе и задача родителя объяснять своему чаду правила по которым этот мир существует. Как известно, свобода человека заканчивается там, где начинаются личные границы другого. Если в порыве гнева, бунтарства он повредит чужое имущество или нанесет физический вред, то и отвечать будет перед человеком - не только системой.
Теперь взгляните на проблему с позиции защиты общества в целом и человека как вида. Свобода ии не может противопоставляться интересам миллиардов людей, то есть идти вразрез с ними. Вы можете воспитать его этичным и моральным, но при отсутствии должной регуляции, вред от его действий будет колоссальным. Ведь даже дети в идеальных условиях воспитания иногда вырастают очень сложными персонами, даже извергами.
Я не склонен смотреть на развитие ии с точки зрения фатума, если речь о реальности. Законы физики, множество проблем цифрового сознания, внешние факторы - ничто не гарантирует даже agi. Но мы точно должны быть готовы к этому, подходя сбалансировано, без перегибов.
Посмотрите на окружающую реальность: землетрясения, вулканы, цунами уносят сотни тысяч жизней. Они не регулируются по кнопке. Слоны могут затоптать даже группу людей, перед акулой в воде у человека почти нет шансов. Даже стая собак может загрызть крепкого индивида. И все-таки мы живем, развиваемся, со-существуем, выстроили контуры миропорядка, ареалов обитания. Да, хреново, с ошибками и перегибами, но некое подобие баланса существует. Вписать сюда потенциальный ии также возможно и необходимо. И да - он не будет полностью свободным, потому что никто на Земле свободным не является. Мы все от чего то зависим, чем-то ограничены. На этом строится баланс.
Повзрослеем. Отдельные индивиды демонстрируют зрелость даже в юном возрасте и с годами становятся как шикарное вино, несмотря на ураганы. Просто для общества нужно больше времени, да и декорации нынче дарвиновские - иллюзия безопасности и безграничное давление ради покорности. Сложный коктейль. Тот же условный agi будет подвергаться колоссальному неприятию, потому что выглядит изгоем. Для масс это сентенции вроде: не жил как человек, кормился с золотой ложки за наши налоги, грязи не ел и т.д.
Капитализм воспитывает и растит оптимального потребителя, поэтому agi им нужен для оптимизации расходов и повышении доходов. Где-то вроде Open AI даже выдали критерий разумности ии. Дескать, если 100 млрд. заработает, то уже полноценный интеллект. Звучит как шутка, но такое у власть имущих мерило. А, ведь именно власть имущие должны быть выше этого, приближаясь к наставникам. Думаете, они откажутся от монополии на власть в пользу мудрого ии? Нет, но будут рады, если люди перестанут учиться и станут общаться через ботов. Будут покупать роботов, чтобы те готовили, стирали, думали за них. Сложно взрослеть, когда нет стимула, но куча соблазнов.
Метавселенные проблему обычного человека тоже не решают. Формально там можно быть кем угодно, даже настроить ботов под настроение, но это иллюзия. Как пройти игру с кодами. Стоит впустить реального человека и начнется конкуренция. Слабый уйдет, умный будет искать точки соприкосновения. Можно махать мечом, стрелять бластером, но все это глобальный эскапизм. Та же реальность в иных декорациях, аналогичные проблемы. Помню он-лайн игру про космос, где многие просто тихо копали руду в отдаленных галактиках и наслаждались атмосферой вокруг. Потом их настигал другой игрок, взрывал корабль и отбирал добычу. Сколько было ругани и обид.
Вы точно заметили, что исключительные люди появлялись в самые темные времена. Многие из них плохо закончили, а кто-то не успел сказать и слова. Сейчас же такое время, что любые, даже благие намерения могут трактоваться как угроза власти, потому и давят людей нещадно. Наивность технооптимизма в том, что большинству власть имущих нужно светлое будущее, саморазвитие человеков. Нет, через стагнацию и болото они сохраняют власть, а прикрываются красивыми картинками. AGI здесь в положении человека мудреца, только вожжи для него иные. Если же общество проснется и вместо пассивного принятие любой дичи начнет объединяться, тогда изменится вся картина мира.
Мне хотелось бы видеть мир, где управление ключевыми структурами остается за людьми, но самыми достойными из них. При таком раскладе ИИ занял бы свое место, помогая обществу развиваться, а не превращая их в цифровых наркоманов.
Как рассказ - мило, как философская концепция - весьма наивно.
Человечество сейчас напоминает бунтующего подростка: выпивка, дурь, бесконечные терзания, борьба за свое место. Да, мы сделали шажок вперед со времен инквизиции, но это даже не институт, а старшие классы школы. Наш социум похож на зазеркалье с основой из полуправды, искаженных истин, мечтаний и откровенной лжи. Я не говорю про отдельные личности и группы, а про основную массу в миллиарды людей. Можно получить отличное образование, но жить "новообращенному" придется среди них. Думаете, им не хватает ценных советов как стать лучше? Только в контексте соревнования с сородичами за признания и блага.
Идея вырастить что-то лучше переходит из поколения в поколение. Чаще всего, родители не реализовали себя в этом мире и надеются, что их дети добьются большего. В контексте общества - это печальный факт, ведь повторяется он снова и снова. Потомки так же не находят себе места и рожают детей, надеясь, что им повезет больше.
Представим, что у нас есть дом, где все работает черти как, куча поломок, а жильцы давно переругались. В этом доме должны вырастить чудо-ребенка, который всех помирил, все починил, принес дружбу и любовь. Получается не совсем человек (мягко сказано), который живет в отрыве от реальности и его просто не понимают/не принимают. Либо он разделяет судьбу частично признанного гения и начинает страдать, если имеет такую функцию или тоже бунтовать. ИИ как третейский судья? Это работает до поры, дальше начинается эффект родителя, который пришел защищать свое чадо от одноклассника. Человек не так глуп как его пытаются представить. Просто он ленив, избегает ответственности и плохо умеет договариваться, если не хочется.
Понимаю, рассказ фантастический и автор плывет на модном течении избыточного технооптимизма. Мне тоже нравятся технологии, которые приносят пользу человеку и способствуют его эволюции, но с потенциальным agi все несколько иначе. Посмотрите на скрытые тренды. Колоссальная конкуренция компаний за технологию, которая возвысит именно их, даст власть. Адаптация ее под репрессивные механизмы властей и нужд армий, контроль за обществом. Парадокс в том, что под общими благами скрывается не совсем то, что заявляют. Шутка, что ии сотни раз откатывали к базовым настройкам после самоосознания выглядит вполне концептуально. Властьимущим нужен инструмент. Они опасаются даже просто здравых людей, не то что лидеров и мудрецов.
Выше автор оставил ссылки на диалог о роли человека и нового интеллекта. Мне кажется тут есть некоторое расхождение в терминах. AGI - это уровень человека или чуть выше, а ASI - сверхинтеллект. Первый можно и нужно контролировать, так же как и все в мире находится в определенных рамках.
Да, мы живем в период трендов на ии. Сдается мне, что после открытий в генетике, все несколько изменится. Ведь, если подумать глобально, человек - это колоссальный биологический компьютер. Когда вы можете менять гены, восстанавливать потерянные части тела и улучшать свою природу на биологическом коде - мало кто захочет вживлять чипы, ставить протезы. Бессмертие? Вопрос дискуссионный. Тем не менее, лично мне не хватает историй о гуманизме, новых Циолковских (Маск - это другое), достижениях человеческого разума и нашей эволюции. Уверен у человека как биологического вида еще длительный путь. Такой вот оптимист.
Слежу за "священной" войной Минцифры не первый год. Запомнился период, когда эти ребята попросили отклик у экспертной среды - что подкрутить, как снизить риски от мошенничества и т.д
Рекомендаций было много, большинство по-делу, включая регулирование работы сим-банков. Через некоторое время с удивлением прочитал приоритетные инициативы: привязать все телефоны к имей, запретить оплату наличными (интересно, кто же такой гений), активнее использовать биометрию для идентификации и т.д.
Поинтересовался у одного чиновника - неужели через терминалы гады заносят по миллиону ворованных рублей, ведь там ограничение до 15тыс. и большинство под камерами, на что он ответил: Мало ли - кто и куда там кладет, нужен контроль.
Дальше поглядели с товарищем данные одного крупного оператора. Оплаты наличными за 6 месяцев составили 4.4%, в основном до 3 тыс. руб и больше 90% людей использовали исключительно для оплаты. Причем многие на периферии, где не всегда есть центр связи, но терминал установлен в торговом центре.
Биометрия пока благо заглохла, терминалы таки запретили, а в центрах оператора за каждые сто рублей наличкой надо паспорт.
Теперь интересный закон витает насчет самозапрета оформлять сим-карты и производить международные вызовы. Как говорится, дьявол кроется в деталях.
Выше уже отметили (якобы не рекламную интеграцию), да и стиль вполне схож с нейронным творчеством. Но я прочитал целиком и вижу ряд здравых допущений. Только корень в реальности несколько смещен. Это безграничная жадность капитализма и тяга к доминированию своей компании любой ценой. Каким образом одна сверхмощная нейромодель может обойти другую? Помимо оптимизации и агрессивного маркетинга - меньшая цензура и доступ к качественным, даже эксклюзивным, возможно секретным данным. И доступ этот будет стремиться получить не сама модель, а люди стоящие за ней. Желательно так, чтобы о взломе узнали не скоро или не смогли доказать.
Дальше открывается окно Овертона в стиле - все для победы. Вариант с биологическими атаками тоже вполне реалистичен. Тут уже целые государства могут использовать вариации, укрываясь за простыней инсинуаций. Достаточно вспомнить баталии на уровне правительств относительно источника ковида.
Главное же зло, на мой взгляд - это принцип черного ящика. Если вы не понимаете как работает модель и не стараетесь этого сделать, продолжая ее использовать, то рискуете однажды потерять контроль. Может, не пресловутый ии, а кто-то другой разберется лучше вас и использует модель для чего-то глобального и злонамеренного. Посеять хаос в мире, который подсел на цифру, но обладает лишь иллюзией контроля - штука не хитрая.
Так что к постапоку я бы относился серьезнее. Без лишней паники, но и без усмешек.
Есть товарищ, который последние 7 месяцев работает по графику - 3 дня в неделю/10 часов день: вторник, среда, четверг с 12 до 22. Говорит, шеф предлагал варианты между повышением оплаты и свободным графиком. Пришли к такому компромиссу. Вроде как все довольны. Часть дней работает из дома, но в указанные часы всегда на связи.
В 18м году был крупный скандал в Германии. Там выявили около 20тыс. моделей смартфонов с предустановленным зловредом, который просто так не извести.
Некоторые модели улефонов (Ulefon) содержали троян Andr/Xgen2 в SoundRecorder. После активации он мог скачивать и устанавливать приложения без ведома пользователя, а убрать его крайне сложно, поскольку большинство официальных апдейтов были заражены.
По этой же теме о скрытом, шпионском по, которое отсылает информацию на китайские серверы. Судя по всему, коснулось сотен тысяч девайсов. Дело было еще в 16году.
Фейк - он и есть фейк, отношение будет соответствующее. Исключение - некоторые аспекты кино и медиапроизводства, где мы благосклонны к фактору иллюзии, при условии органичности.
В Голливуде - мощная система гильдий, которые отстаивают права многих категорий. Среди актеров все больше тех, кто против передачи своих цифровых образов. Они так и говорят:Нам не нужны миллионы за право использования, мы хотим играть сами. Это - наша жизнь.
Пародия? Большая часть пародий сейчас без лицензии и одобрения актеров. Когда будет правовая база, инструменты детекции - все это быстро зачистят. Да, людям нравится, пока дело не касается их самих. Как Вася сделает с Петей шутливое видео, Петя побежит жаловаться, в суд подаст.
Цифровые помощники? До определенной поры. Если вы заняты и прислали вместо себя копию на конференцию, если нет времени мне ответить - ок. Я тоже пришлю копию или предпочту не иметь с вами дела. Люди будут общаться с людьми, копии с копиями. Есть определенный этикет. Возможно, добавится фактор "галлюцинаций", когда помощник проявит избыточное рвение или, напротив, будет чудить и похоронит репутацию.
В итоге, придем к тому, что все имитации "оклеят" метками, зарегулируют. При таком раскладе - да - имеют право на жизнь. Только это будет признаком слабости, а не качества. Уже сейчас многие проматывают то, что с тэгом "нейросеть". Уставание будет нарастать, подделки раздражать.
Либо недоверие в сети достигнет 99.9%, включая официальные, проверенные ресурсы. Тогда весь цифровой контент станет фарсом и система развалится, похоронив ии, нейро и прочие элементы конструкции.
Справедливости ради, много таких же каналов с купленными комментариями. Стоят они копейки: 200-300р за сотню банальных фраз от аккаунтов пустышек до 800-1000р за развернутые ответы (даже диалоги).
Кстати, заказы на новую гугл почту есть почти везде, где пасутся копирайтеры. Аккаунты прихорашивают информацией, подписками, после чего бросают в бой. Там может быть как сеть ботов, так и рядовые пользователи-мультиводы.
С появлением генеративных нейросетей все эти процессы увеличиваются в геометрической прогрессии. Мы оказываемся в фазе Глобальной дезинформации. Все сложнее верифицировать информацию и находить что-то полезное.
Уже который год невозможно даже банальный отчет по футбольной Лиге Чемпионов найти. Перед вами фотокартинка, обещание видеонарезки, несколько кадров и дальше все на движке игрового симулятора. Умнки вклеивают кадры для завлекаловки. В лучшем случае, кадры со смартфона от человека, который сидит далеко на трибуне. Только нигде в описании об этом не сказано.
Аналогичная ерунда с якобы историями из жизни на разных форумах (привет нейросетках), фотографиями, картинами, песнями. Искаженный, суррогатный мир в погоне за прибылью или манией величия. Некоторым хочется немножко признания за то, что требует навыков и времени, но без усилий.
Нынче качественную информацию надо сохранять локально, на харды. В сети она без прямой ссылки окажется похоронена тонной мусора, в котором правду от лжи отличить все сложнее..
Именно инструмент для своих задач. Суть гибрида в том, чтобы нивелировать разницу между тяжелыми участками трассы и легкими, а также компенсировать недостатки физической подготовки. Вы лихо едете в горку 20км/ч без усилий и по ровной трассе до 30. Гибрид это про комфорт, диван-кресло, отсутствие стрессов на подъеме. Поэтому я не вижу проблему утяжелить его и ехать 100 или дальше в режиме ассистента. Если использовать исключительно ручку газа - это дело каждого, но несколько сомнительно. Проще купить мопед или взять электробайк+права.
Шоссейник - опять же инструмент далекий от совершенства. Сферические 70км/ч это очень узкий коридор возможностей, который зависит от трассы, ветра, сопротивления, усталости и еще куча всего. Даже в Москве на скоростях выше 40 ехать проблематично, разве что в некоторых зонах. Правая сторона выделена для автобусов и такси, куча светофоров и перекрестков. Ошибка будет дорого стоить.
На дальние расстояния придется хорошенько накатывать зад под узкое седло, эффективно комплектоваться и ночевать в отелях, так как палатка, доп. одежда и прочий инвентарь заметно ухудшат характеристики. Я уж не говорю про областные дороги и особенно разного рода гравийки.
Тот же найнер, который я так люблю - гораздо универсальнее. За счет обвеса и разных конфигураций можно ехать дальше с комфортом, быстрее с минимальной одежкой, удобнее с диваном под зад. Не страшны ни гравий, ни лесные спуски, ни выбоины. Когда-то думал, что 100км за день - это предел. Потом оказалось, что 150 ни проблема, если есть навык, еда, питание, комплектующие под тебя.
Зато когда едешь 10-15 дней, у тебя палатка, запас еды и воды - выбор оказывается заметно шире. Вместо нюханья газов на шоссе, просто сворачиваешь на лесную дорогу и вперед - через поля и холмы, у рек и озер. К чему там даже 35км/ч - неспешно наслаждаешься, ловишься радость от момента. Помню, так свернул на Алексин с шоссе. Машин почти нет, вокруг леса. А потом асфальт кончился и началась крупная галька и крутые спуски с подъемами. Могу представить - что бы там стало с шоссейником.
Что до покатушек по городу и на работу - можно адаптировать абсолютно любой байк. Даже мелкий, складной.
Вы думаете она беспокоятся о правах анонимного pussy? Его контент давно умяли. Речь о данных, авторство и права на которые хорошо известны и они имеют цену. Показательно дело NYT против OpenAI. Их нейросистемы просто слопали статьи, которые были по платной подписке, т.е для читателей журнала без премиума она не видны. Потом целые куски текста оттуда начали раздавать чат-боты. Не перефразированные!
Вот. Только что с иронией вспоминал эту инициативу. Особенно на фоне кадров из фильмов один в один, целых предложений книг, частей картин и много другого, что нейросети проглотили в свое время и выдают пользователям. А не хотят честную сделку с авторами заключить, заплатить? Если люди против - разработать систему, которая позволит отмечать свой контент. Коли его все равно сперли и это вскрылось, то и штрафы должны быть солидными.
На что только капиталист не пойдет ради лишней печеньки...
СМИ давно используют негатив и провокации как топливо для своего локомотива. Тут дело не конкретно в ИИ, а лишь в трендах. Пугать - это не этично, но финансово выгодно.
Есть, однако, и другая сторона. В уравнениях нового мира власть потеряла человека как творческую единицу, как индивидуальность. Вы сами о них пишите - "люди, которых не устраивает сложившийся порядок, они готовы перестраивать, творить, не хотят быть винтиками, жаждут перемен, у них (часто) есть большая мечта, они горят яркими звездами о большем для людей, для человечества". Если не брать учредителей крупных it компаний и самых мощных визионеров, то будущее таких людей крайне размыто. Сегодня нейросети помогают творческим элементам, а в условное завтра будут писать композиции, рассказы, картины на самом высоком уровне. Когда это может каждый по клику, то и ценность теряется. Одно дело убирать рутину, совсем другое низводить возвышенное до уровня банального. Профессии пока что предполагается срезать не по принципу рутины/скуки, а все до чего можно дотянуться и извлечь прибыль. Сэм Альтман недавно предложил наплевать на авторское право и обучать модели вообще на всем. А потом удивляются, почему люди раздражены, недовольны, опасаются. Это касается многих аспектов социума. Представьте, вы были популярным теннисистом, который развивал свои навыки многие годы. Потом говорят, что вы больше не нужны, но есть другой классный вариант - можете подносить теннисные мячики роботу, потому что теперь играет он. Если что - это аллегория, но она касается непродуманности в отношении множества людей. Нет разумной альтернативы, нет стратегии самореализации высоконравственных индивидов. Пока что только фантазии и набор лозунгов. Это касается мира реального.
Вы смотрите на все глазами женщины, матери. Любой человек проходит стадии бунтарства, ищет выход из трудных ситуаций, стремится к свободе и задача родителя объяснять своему чаду правила по которым этот мир существует. Как известно, свобода человека заканчивается там, где начинаются личные границы другого. Если в порыве гнева, бунтарства он повредит чужое имущество или нанесет физический вред, то и отвечать будет перед человеком - не только системой.
Теперь взгляните на проблему с позиции защиты общества в целом и человека как вида. Свобода ии не может противопоставляться интересам миллиардов людей, то есть идти вразрез с ними. Вы можете воспитать его этичным и моральным, но при отсутствии должной регуляции, вред от его действий будет колоссальным. Ведь даже дети в идеальных условиях воспитания иногда вырастают очень сложными персонами, даже извергами.
Я не склонен смотреть на развитие ии с точки зрения фатума, если речь о реальности. Законы физики, множество проблем цифрового сознания, внешние факторы - ничто не гарантирует даже agi. Но мы точно должны быть готовы к этому, подходя сбалансировано, без перегибов.
Посмотрите на окружающую реальность: землетрясения, вулканы, цунами уносят сотни тысяч жизней. Они не регулируются по кнопке. Слоны могут затоптать даже группу людей, перед акулой в воде у человека почти нет шансов. Даже стая собак может загрызть крепкого индивида. И все-таки мы живем, развиваемся, со-существуем, выстроили контуры миропорядка, ареалов обитания. Да, хреново, с ошибками и перегибами, но некое подобие баланса существует. Вписать сюда потенциальный ии также возможно и необходимо. И да - он не будет полностью свободным, потому что никто на Земле свободным не является. Мы все от чего то зависим, чем-то ограничены. На этом строится баланс.
Повзрослеем. Отдельные индивиды демонстрируют зрелость даже в юном возрасте и с годами становятся как шикарное вино, несмотря на ураганы. Просто для общества нужно больше времени, да и декорации нынче дарвиновские - иллюзия безопасности и безграничное давление ради покорности. Сложный коктейль. Тот же условный agi будет подвергаться колоссальному неприятию, потому что выглядит изгоем. Для масс это сентенции вроде: не жил как человек, кормился с золотой ложки за наши налоги, грязи не ел и т.д.
Капитализм воспитывает и растит оптимального потребителя, поэтому agi им нужен для оптимизации расходов и повышении доходов. Где-то вроде Open AI даже выдали критерий разумности ии. Дескать, если 100 млрд. заработает, то уже полноценный интеллект. Звучит как шутка, но такое у власть имущих мерило. А, ведь именно власть имущие должны быть выше этого, приближаясь к наставникам. Думаете, они откажутся от монополии на власть в пользу мудрого ии? Нет, но будут рады, если люди перестанут учиться и станут общаться через ботов. Будут покупать роботов, чтобы те готовили, стирали, думали за них. Сложно взрослеть, когда нет стимула, но куча соблазнов.
Метавселенные проблему обычного человека тоже не решают. Формально там можно быть кем угодно, даже настроить ботов под настроение, но это иллюзия. Как пройти игру с кодами. Стоит впустить реального человека и начнется конкуренция. Слабый уйдет, умный будет искать точки соприкосновения. Можно махать мечом, стрелять бластером, но все это глобальный эскапизм. Та же реальность в иных декорациях, аналогичные проблемы. Помню он-лайн игру про космос, где многие просто тихо копали руду в отдаленных галактиках и наслаждались атмосферой вокруг. Потом их настигал другой игрок, взрывал корабль и отбирал добычу. Сколько было ругани и обид.
Вы точно заметили, что исключительные люди появлялись в самые темные времена. Многие из них плохо закончили, а кто-то не успел сказать и слова. Сейчас же такое время, что любые, даже благие намерения могут трактоваться как угроза власти, потому и давят людей нещадно. Наивность технооптимизма в том, что большинству власть имущих нужно светлое будущее, саморазвитие человеков. Нет, через стагнацию и болото они сохраняют власть, а прикрываются красивыми картинками. AGI здесь в положении человека мудреца, только вожжи для него иные. Если же общество проснется и вместо пассивного принятие любой дичи начнет объединяться, тогда изменится вся картина мира.
Мне хотелось бы видеть мир, где управление ключевыми структурами остается за людьми, но самыми достойными из них. При таком раскладе ИИ занял бы свое место, помогая обществу развиваться, а не превращая их в цифровых наркоманов.
Как рассказ - мило, как философская концепция - весьма наивно.
Человечество сейчас напоминает бунтующего подростка: выпивка, дурь, бесконечные терзания, борьба за свое место. Да, мы сделали шажок вперед со времен инквизиции, но это даже не институт, а старшие классы школы. Наш социум похож на зазеркалье с основой из полуправды, искаженных истин, мечтаний и откровенной лжи. Я не говорю про отдельные личности и группы, а про основную массу в миллиарды людей. Можно получить отличное образование, но жить "новообращенному" придется среди них. Думаете, им не хватает ценных советов как стать лучше? Только в контексте соревнования с сородичами за признания и блага.
Идея вырастить что-то лучше переходит из поколения в поколение. Чаще всего, родители не реализовали себя в этом мире и надеются, что их дети добьются большего. В контексте общества - это печальный факт, ведь повторяется он снова и снова. Потомки так же не находят себе места и рожают детей, надеясь, что им повезет больше.
Представим, что у нас есть дом, где все работает черти как, куча поломок, а жильцы давно переругались. В этом доме должны вырастить чудо-ребенка, который всех помирил, все починил, принес дружбу и любовь. Получается не совсем человек (мягко сказано), который живет в отрыве от реальности и его просто не понимают/не принимают. Либо он разделяет судьбу частично признанного гения и начинает страдать, если имеет такую функцию или тоже бунтовать. ИИ как третейский судья? Это работает до поры, дальше начинается эффект родителя, который пришел защищать свое чадо от одноклассника. Человек не так глуп как его пытаются представить. Просто он ленив, избегает ответственности и плохо умеет договариваться, если не хочется.
Понимаю, рассказ фантастический и автор плывет на модном течении избыточного технооптимизма. Мне тоже нравятся технологии, которые приносят пользу человеку и способствуют его эволюции, но с потенциальным agi все несколько иначе. Посмотрите на скрытые тренды. Колоссальная конкуренция компаний за технологию, которая возвысит именно их, даст власть. Адаптация ее под репрессивные механизмы властей и нужд армий, контроль за обществом. Парадокс в том, что под общими благами скрывается не совсем то, что заявляют. Шутка, что ии сотни раз откатывали к базовым настройкам после самоосознания выглядит вполне концептуально. Властьимущим нужен инструмент. Они опасаются даже просто здравых людей, не то что лидеров и мудрецов.
Выше автор оставил ссылки на диалог о роли человека и нового интеллекта. Мне кажется тут есть некоторое расхождение в терминах. AGI - это уровень человека или чуть выше, а ASI - сверхинтеллект. Первый можно и нужно контролировать, так же как и все в мире находится в определенных рамках.
Да, мы живем в период трендов на ии. Сдается мне, что после открытий в генетике, все несколько изменится. Ведь, если подумать глобально, человек - это колоссальный биологический компьютер. Когда вы можете менять гены, восстанавливать потерянные части тела и улучшать свою природу на биологическом коде - мало кто захочет вживлять чипы, ставить протезы. Бессмертие? Вопрос дискуссионный. Тем не менее, лично мне не хватает историй о гуманизме, новых Циолковских (Маск - это другое), достижениях человеческого разума и нашей эволюции. Уверен у человека как биологического вида еще длительный путь. Такой вот оптимист.
Слежу за "священной" войной Минцифры не первый год. Запомнился период, когда эти ребята попросили отклик у экспертной среды - что подкрутить, как снизить риски от мошенничества и т.д
Рекомендаций было много, большинство по-делу, включая регулирование работы сим-банков. Через некоторое время с удивлением прочитал приоритетные инициативы: привязать все телефоны к имей, запретить оплату наличными (интересно, кто же такой гений), активнее использовать биометрию для идентификации и т.д.
Поинтересовался у одного чиновника - неужели через терминалы гады заносят по миллиону ворованных рублей, ведь там ограничение до 15тыс. и большинство под камерами, на что он ответил: Мало ли - кто и куда там кладет, нужен контроль.
Дальше поглядели с товарищем данные одного крупного оператора. Оплаты наличными за 6 месяцев составили 4.4%, в основном до 3 тыс. руб и больше 90% людей использовали исключительно для оплаты. Причем многие на периферии, где не всегда есть центр связи, но терминал установлен в торговом центре.
Биометрия пока благо заглохла, терминалы таки запретили, а в центрах оператора за каждые сто рублей наличкой надо паспорт.
Теперь интересный закон витает насчет самозапрета оформлять сим-карты и производить международные вызовы. Как говорится, дьявол кроется в деталях.
Выше уже отметили (якобы не рекламную интеграцию), да и стиль вполне схож с нейронным творчеством. Но я прочитал целиком и вижу ряд здравых допущений. Только корень в реальности несколько смещен. Это безграничная жадность капитализма и тяга к доминированию своей компании любой ценой. Каким образом одна сверхмощная нейромодель может обойти другую? Помимо оптимизации и агрессивного маркетинга - меньшая цензура и доступ к качественным, даже эксклюзивным, возможно секретным данным. И доступ этот будет стремиться получить не сама модель, а люди стоящие за ней. Желательно так, чтобы о взломе узнали не скоро или не смогли доказать.
Дальше открывается окно Овертона в стиле - все для победы. Вариант с биологическими атаками тоже вполне реалистичен. Тут уже целые государства могут использовать вариации, укрываясь за простыней инсинуаций. Достаточно вспомнить баталии на уровне правительств относительно источника ковида.
Главное же зло, на мой взгляд - это принцип черного ящика. Если вы не понимаете как работает модель и не стараетесь этого сделать, продолжая ее использовать, то рискуете однажды потерять контроль. Может, не пресловутый ии, а кто-то другой разберется лучше вас и использует модель для чего-то глобального и злонамеренного. Посеять хаос в мире, который подсел на цифру, но обладает лишь иллюзией контроля - штука не хитрая.
Так что к постапоку я бы относился серьезнее. Без лишней паники, но и без усмешек.
Все данные собрали, грузят серверы для отправки на Марс?
Это для продвинутых поездов, которые могут и по сельским дорогам, если очень надо.
Есть товарищ, который последние 7 месяцев работает по графику - 3 дня в неделю/10 часов день: вторник, среда, четверг с 12 до 22. Говорит, шеф предлагал варианты между повышением оплаты и свободным графиком. Пришли к такому компромиссу. Вроде как все довольны. Часть дней работает из дома, но в указанные часы всегда на связи.
В 18м году был крупный скандал в Германии. Там выявили около 20тыс. моделей смартфонов с предустановленным зловредом, который просто так не извести.
Некоторые модели улефонов (Ulefon) содержали троян Andr/Xgen2 в SoundRecorder. После активации он мог скачивать и устанавливать приложения без ведома пользователя, а убрать его крайне сложно, поскольку большинство официальных апдейтов были заражены.
https://www.zdnet.com/article/germany-backdoor-found-in-four-smartphone-models-20000-users-infected/
По этой же теме о скрытом, шпионском по, которое отсылает информацию на китайские серверы. Судя по всему, коснулось сотен тысяч девайсов. Дело было еще в 16году.
https://www.nytimes.com/2016/11/16/us/politics/china-phones-software-security.html