Comments 75
Десяток реальных фактов (незаметно соврем на 7 и 8, а другие с натяжкой)
"Вы находитесь здесь"
И дальше можно писать всё что угодно
Вам прямая дорога в колл-центры. Завывать в трубку: «Еще не поздно! Срочно переводите деньги на безопасный счет!!!»'
Как же вы надоели...
Может и надоели с "еще не поздно", но вопрос обозначен вполне логичный.
В ИИ запихивают все что есть создавая "первичный бульен". Потом искренне радуемся, когда из этого "первичного бульена" магическим образом возникает "рабочая программа проходящая тесты". Все же логично - в этом "бульене" есть сотни тысячи кусков исходников, документации ПО, шаблонов проектирования и т.д. Для генерации кода выбрано "ближайшее подходящее" - ура, задача решена!
Но в нем так же есть и "Непобедимый" Лема, и поведение муравьев и еще много всего разного. Нам же не отчитываются на чем ИИ обучали. Просто эти данные были "далеко" для решения. А где гарантия того, что для поиска решения "нерешаемой" задачи "ближайшее" решение не будет в описании поведения муравьев, грибницы, религии, генетических алгоритмов или еще непонятно каких комбинаций ? Нас уверяют что "рисовать сиськи это плохо, делать яды людям плохо - мы вставили выходные правильные 100% фильтры".
Вся история человечества состоит из последствий "благих намерений".
Если фантастический сериал"Звездный путь" спровоцировал всплеск интереса к инженерным специальностям в США, то почему ИИ нужно отказывать в сходном "поведении", тем более что в ИИ и эти данные тоже попали ?
Бульон
Не е и даже не ё
Долгие годы, десятки лет, я слеполегковерил в то, что эксперимент Миллера-Юри более чем убедительно доказывает истинность «теории абиогенеза» — возможность сотворения жизни молнией в грязной луже. А затем наконец удосужился (1) прочитать подробное описание эксперимента Миллера-Юри и (2) прочитать подробное описание строения и функционирования простейшей живой клетки. Вследствие чего я осознал — абиогенез невозможен, исключён полностью.
С этого момента начался мой, махрового… нет, махровейшего сциентиста, выход из сциентистской («научной») парадигмы, который слооожно и трууудно продлился более двадцати лет. До тридцати лет в моё сознание настырно закладывался сциентистами («учёными») постулат «„истинное знание“ это только и исключительно „научное знание“» и он стал почти что неотъемлемой частью моей личности. К счастью, «почти что».
Недавно я опять размышлял о том, начал бы я асциентистский детокс 1994.01.12, если б знал тогда, через что мне придётся пройти и к чему прийти (стерильное одиночество [≠ уединению]). Нет… стопудово нет. Ну, не помню я в себе тогдашнем столь лютой отваги. Ибо не было мотивации. Не было у меня тогда ответа на вопрос «Ради чего?». Ответ появился, точнее, мучительно родился из предельного отчаяния четверть века спустя и теперь «Non, je ne regrette rien».
Дорогой камрад, я непритворно сердечно благодарю Вас за генерацию в моём сознании этого воспоминания. 😁👍
–
Вы верили в одно, потом уверовали в другое.
Ну да. Сознание человеков состоит из веры чуть менее, чем полностью, не правда ли? 😏
Из веры, основанной на опыте.
Это отличается от религиозной веры
Тут как раз одна религия успешно заменила другую ;)
Тут как раз одна религия успешно заменила другую. ;)
В моём сознании это выглядит иначе: 👇
Религия — единственно возможный истинный путь к нашему Отцу небесному, истинному Богу, отпавших от него людей.
Псевдорелигия — ложная религия, ошибочный путь к истинному Богу — Творцу всего существующего и нашему Отцу небесному.
Квазирелигия — ложный путь к созданию рая на Земле без участия Творца всего существующего, истинного Бога.
🙂
–
Это отличается от религиозной веры.
И я верил в это весьма долго, лет так до 35-ти, как помню. Затем осознал, что из своего житейского опыта я не верю в реалистичность самосотворения объектов → я не верю в то, что неразумная материя самосотворилась и самоорганизовалась в материальный мир с жизнью в нём, как это утверждают сциентисты. 🤷♂️🙂
–
Сотворение разумной материи некой высшей силой тоже вызывает вопросы. Например, ее создала еще более высшая сила, а ее еще более высшая и там слоны до самого низа (ц) ?
Математическая индукция она бессовестная щука ;)
её создала ещё более высшая сила, а её ещё более высшая…
В моём понимании, безмысленная материя это не сила, а плод сильного Творца. Поэтому, в этом контексте, мне не видна «более высшая сила». 🙂
Предлагаю Вам представить, скажем, художника и его картину. Художник ведь не живёт в мире своей картины → не подчиняется закономерностям этого мира, не так ли? 😏
Я безусловно, безоговорочно признаю Ваше право верить в реальность самосотворения безмысленных объектов. У меня же нет способности представить, вообразить, сфантазировать такое. 🤷♂️😁
Совсем просто говоря, в моём понимании, должна быть первопричина, источник которой безначальный разумный Творец всего существующего. Что Вы размышляете об этом и как именно представляете себе альтернативу, если представляете её? 🤔
–
безначальный разумный Творец всего существующего
из своего житейского опыта
Хм. Как из житейского опыта получить подтверждение сему? Ваша теория большого взрыва, кстати, совершенно не отменяет теорию самозарождения жизни ;)
Как из житейского опыта получить подтверждение сему?
У меня нет ни одного сведения о событии самосоздания объектов → нет факта о такой возможности → нет причины верить в такое. А у Вас есть такие сведение, факт и причина? Если да, то даже и не знаю, узнать о чём мне интереснее на сей момент. Расскажите, пожалуйста. 🙂
Ваша теория большого взрыва, кстати, совершенно не отменяет теорию самозарождения жизни. ;)
ТБВ не моя, она лишь только не противоречит моему мировоззрению. У меня не получилось понять, как именно Вы провели причинно-следственную связь между ТБВ и «теорией самозарождения жизни». Объясните, пожалуйста (не хочу домысливать Вас). 🙂
–
У меня нет ни одного сведения о событии самосоздания объектов
Я очень много чего не знаю. Но проецировать свое незнание как то странно.
→ нет факта о такой возможности →
У древних римлян не было ни одного факта о возможности кругосветных путешествий.
нет причины верить в такое.
Вера основанная на фактах - не вера а знание.
причинно-следственную связь между ТБВ и «теорией самозарождения жизни».
Хм. Подержите мое пиво. БВ создал 10^87 обезьян элементарных частиц и дал им пишущие машинки время. За 13 000 000 000 лет они создали Войну и мир жизнь. Моя теория ничего не опровергает, а лишь дополняет. Пользуйтесь ;)
…проецировать своё незнание как-то странно.
В моей парадигме, знание это субъективный образ гипотетической «объективной реальности». Соответственно, вопреки поп-заблуждению, знание невозможно «передать» и человеку доступен только и исключительно его собственный метафорический дом знания, который он строит из кирпичиков самостоятельно установленных фактов. 🙂
А что такое «знание» для Вас? 🤔
У древних римлян не было ни одного факта о возможности кругосветных путешествий.
О чём это говорит, на что указывает в контексте нашего с Вами рассмотрения, по-Вашему? (Не хочу домысливать Вас.)
Вера, основанная на фактах, — не вера, а знание.
Мм, верите ли Вы в истинность своего знания? Или Вы не верите в истинность своего знания? 😁
У меня иное понимание феномена «веры»: 👇
•••
Вера — основанная на доказательствах надежда на наступление определённого будущего (например, вера в то, что Солнце всенепременно взойдёт завтра утром на востоке).
•••
Как понял, Вы называете «верой» доверие — бездоказательную убеждённость в истинности чужих фактов. В моём понимании, без доверия абсолютно невозможны, скажем, душевно близкие отношения, но доверие для меня это таки не вера. 🤷♂️
Оговорюсь, для меня это важно: Я ни в малейшей степени не требую от Вас согласия со своим пониманием значений слов. Ни в малейшей. Если Ваше понимание иное, я буду только стараться запомнить его и учитывать в дальнейшем. 🙂
БВ создал…
Мм, в моём понимании, никакой взрыв не может создать ничего. Совсем ничего.
Например, в результате ядерного взрыва при строительстве ГЭС (такое творили большевики когда-то давно) появлялся котлован. Но кто был создателем этого котлована? Взрыв? Нет. Это были разумные существа, которые изготовили ядерный заряд, заложили его в землю и подорвали. Согласны? 🙂
–
Вера — основанная на доказательствах надежда на наступление определённого будущего
Какие ваши доказательства? (Ц) ;)
никакой взрыв не может создать ничего.
БВ может. это же не бомба, которую кто-то (хм) сделал (из чего?), заложил (куда?) и взорвал. Зачем ему бомба?
КМК очевидно, что между Творцом (создавшим из ничего пространство, время и материю - ничего не путаю), и БВ (сделавшим то же самое) нет особой разницы.
Какие ваши доказательства?
Так я же ж с Вами не спорю. И я реально непритворно безусловно, безоговорочно признаю Ваше право на инакомыслие (инакословие).
От Вас «пруфы» мне тоже не нужны. Мне в нашем рассмотрении более чем достаточно Вашего повествования о своём понимании. Которое потенциально может стать для меня метафорическим фонариком, высвечивающим тёмные закоулки в моём сознании. 🙂
…БВ (сделавшим то же самое)…
Расскажите, пожалуйста, как именно Вы себе представляете БВ. Не объект, как я, а как субъект? То есть как разумное свободовольное существо со способностью к творчеству? Если нет, то как иначе тогда? 🤔
как именно Вы себе представляете БВ
Никак не представляю, в том и дело. Как вы представляете себе радиоволну, или электрон? ;)
ТБВ обьясняет, к примеру, наличие расширяющейся Вселенной. А теория Творца обьясняет воще все. Но и то и то - теория.
Как вы представляете себе радиоволну, или электрон? ;)
Как объекты, не как субъекты. 🙂
…то и то — теория.
Уточните, пожалуйста, допускаете ли Вы реалистичность событий самосотворения объектов. Если да, то почему, вследствие чего допускаете? 🤔
–
Как объекты, не как субъекты. 🙂
Хорошо гуманитариям ;) развесил ярлыки и спи спокойно ;)
Уточните, пожалуйста, допускаете ли Вы реалистичность событий самосотворения объектов.
Почему нет? В потоке материи и энергии между звездой и пространством всякое может случиться.
Если да, то почему, вследствие чего допускаете?
Если воспользоваться доступными нам инструментами - мы видим, что Солнечная система не сразу создана в том виде, который она имеет сейчас. И когда то Земля была непригодна для жизни. А потом жизнь откуда то появилась. Самое простое и логичное - предположить что именно у нас обезьяны таки смогли написать Войну и мир.
Не нужно никакого субъекта, чтобы из влаги в воздухе самозародились снежинки с интересной формой.
А дотоле самосотворились вода и закономерности её существования, а также среда существования воды, верно? 😏
Вода была, закономерности были, среда была. Снежинок не было. Новые объекты, которых раньше не было, самозародились? Самозародились.
А дальше вы уже начинаете мыслить, как Гегель, что снежинки уже содержались в воде и среде, но не в виде наличного бытия и так далее, чтобы оставить лазейку для какого-то потустороннего от материи создателя, который заранее задумал снежинки и устроил закономерности соответствующим образом.
Есть несколько теорий на эту тему. Из того что мне нравится, это теория, в которой соединения в определенных условиях заняли энергетически выгодное состояние. А поскольку процессы шли параллельно, и найдены "буквы днк" на астероидах и в туманностях, то по закону больших чисел и теории вероятности - может получиться что-то интересное
Подобное представление было и у меня когда-то давно. Избавило меня от него знакомство с подробным описанием устройства и функционирования простейшей живой клетки. В моём понимании, это несопоставимо сложнее любого объекта, созданного человеком.
А ещё есть «трудная проблема сознания», решение которой за многие десятки лет (она была осознана задолго до формулировки Дэвида Чалмерса), как я понял, не продвинулось ни на один шаг. 🤷♂️🙂
–
А ещё есть «трудная проблема сознания», решение которой за многие десятки лет (она была осознана задолго до формулировки Дэвида Чалмерса), как я понял, не продвинулось ни на один шаг
Прогресс в этом вопросе зависит от спрашивающего. Многим хочется оставаться с вопросом, а не с ответом.
Прогресс в этом вопросе зависит от спрашивающего.
Здесь я не столько спрашиваю, сколько интересуюсь. То есть время от времени сам для себя делаю обзор этой темы — читаю/слушаю исследователей ТПС. Выше я ретранслировал их вывод так, как я его понял. Если Вы поняли иначе, мне будет непритворно интересно узнать об этом. 🙂
Многим хочется оставаться с вопросом, а не с ответом.
Наверное, понимаю, о чём Вы здесь. Не так уж и редко я встречаю людей, имеющих добротно обоснованный ответ на свой вопрос, разрушающий опору мировоззрения, в котором они укоренились. И они предпочитают продолжать жить со своим вопросом в своём иллюзорном мире.
Эти люди напоминают мне о необходимости эпистемической скромности. Ибо и я сам когда-то много лет держался цепкой хваткой за свою ошибку (чуть-чуть рассказал об этом опыте здесь рядышком). Держался я полностью добросовестно, ошибка как бы находилась у меня в зоне «слепого пятна». 🤷♂️😕
–
Вы правы, все дело в оптике.ТПС последние полвека - искусственная проблема, вызванное картезианским разделением на феноменологическое неделимое ментальное и подчиняющееся законам механики физическое. В такой постановке проблема принципиально не имеет решения. Нужно или соглашаться с дуализмом (Декарт и Локк), либо механизировать сознание. Причина - редукция уровня живых организмов. Физическое не рождает сознание, оно рождает уровень химии, потом уровень белков, органелл, затем клетка с базальныи познанием, потом уровень органов, систем и только потом головной мозг рождает сознание. На каждом уровне возникают качественно новые свойства. Дискурс ТПС поддерживают философский (сильно сверху) или инженерный (сильно снизу) подход. Биологи, обратите внимание, не участвуют. У них есть нейрофеноменология Варелы-Матураны, код-биология Барбьери и ряд еще подходов, революционно меняющих взгляд на биологию и эволюцию. Они позволяют смотреть на ментальное как на системное качество всего живого. Даже больше - как на один из базовых признаков жизни.
Выглядит так, что Вы глубоко «в теме». Сердечно благодарю Вас за то, что Вы не поленились написать мне всё это. 🤝😊
Коли я так на редкость удачно встретил Вас, не могу не спросить вот о чём («пруфы» мне здесь не нужны): 👇
В Вашем понимании, сознание интернально или экстернально? Частично или полностью? Почему?
Как Вы воспринимаете вероучение панпсихизма? Как «полную чушь» или как «достойную внимания гипотезу»? Почему?
Как я понял, моноаминовая гипотеза причины психболезней (в охлосе она известна как «моноаминовая теория депрессии») наконец окончательно накрылась медным тазом. Согласны? Если да, то как Вы себе представляете механизм психболезни?
🤔
–
Спасибо за ваш интерес, постараюсь ответить, извините, что может пишу какие-то хорошо известные вам вещи.
В нейробиологии идет смена глобальной парадигмы с жесткой бинарной электрической на сложную и более раннюю химическую. Так взаимодействуют близкие нейроны в клеточных ансамблях, из которых состоят CPG – центральные генераторы паттернов, управляющие всем инстинктивным поведением животных. Это значит, что эндогенная активность фундаментальна и именно она определяет наше поведение, а не рефлекторная как считалось ранее. В общем это справедливо и для запуска потока сознания. Но его специфика в том, что оно максимально нацелено наружу и в некотором упрощенном смысле является системой распознавания образов для запуска правильной программы поведения. А содержание сознания по современным представлениям predictive mind формируется обычно из двух источников – внешних стимулов и внутренних карт мозга. Чем менее знаком внешний сигнал, тем большее мозг опирается на внутренний ресурс памяти, которым заполняет сознание.
Придерживаюсь принятой в эволюционной биологии идеи постепенного усложнения психических способностей (в тч сознания). Общепризнанной хронологии нет, отсчет веду от большого биологического взрыва и появления головного мозга. Все, что раньше отношу к базальному или сенсорному познанию вплоть до первых живых организмов. Еще глубже тоже можно найти разные способы взаимодействий, но они носят не психический, а физико-химический характер.
По ингибиторам МАО ничего интересного сказать не могу. О конкретных механизмах работы нейромодуляторных систем до сих пор мало что известно. Но направление правильное, управление эмоциями - это химия нейромодуляторов.
…извините, что может пишу какие-то хорошо известные вам вещи.
Ну а как ещё можно писать незнакомому человеку? Что-то ему уже известно, что-то нет — неведомо. Так что Вы ничем не провинитесь передо мной, если и напишите о чём-то уже известном мне. 🙂
В нейробиологии идёт смена глобальной парадигмы с жёсткой бинарной электрической на сложную и более раннюю химическую.
И далее. Как вижу, исследователи сознания уже давным-давно с разной степенью добротности, но в общем и целом вполне удовлетворительно описывают функциональность сознания, его проявления. Однако ответа на вопрос «Что такое „сознание“?» как не было, так и нет. Нет ответа и на вопрос «Сознание (только) интернально или (также) экстернально?». То есть нет ответа ни на один вопрос из ТПС. Согласны? 🙂
По ингибиторам МАО ничего интересного сказать не могу.
ИМАО хотя и имеют некоторое отношение к «моноаминовой гипотезе», но это таки из другой оперы. К слову, необратимые неселективные ИМАО, наряду с ТЦА, это подлинные антидепрессанты (в отличие от псевдоантидепрессантов СИОЗС → СИОЗСНиД). Однако механизм их воздействия, как понял, не известен. 🤷♂️
Десятки лет эффективность и антидепрессантов, и псевдоантидепрессантов объяснялась в парадигме «моноаминовой гипотезы». Сейчас такой базы нет. И мне подумалось о том, что Вы, как интересант ТПС, можете интересоваться и этой производной от неё темой (как и я). 🙂
–
Однако ответа на вопрос «Что такое „сознание“?» как не было, так и нет. Нет ответа и на вопрос «Сознание (только) интернально или (также) экстернально?». То есть нет ответа ни на один вопрос из ТПС. Согласны?
Не могу согласиться с таким однозначным выводом. Наука понимает сознание как способность или свойство мозга. Понимает как оно возникло, какая физика и химия лежит в основе. Не знаем механизмов работы нейронных ансамблей и не можем обьяснит некоторые свойства сознания? Но это как раз "легкие" проблемы сознания. Субьективный опыт - системное свойство биологии наблюдателей. Так же как, например, способность рождать значения, смыслы и информацию. Но поскольку мы и есть эти наблюдатели и переживаем изнутри, то нам эта способность может казаться отдельной субстанцией, существующей независимо от тела. Так же как вода находится в жидком или твердом состоянии без твердости или жидкости как отдельных субстанций, так и мозг находитмя в состоянии сознания.
Не могу согласиться с таким однозначным выводом.
Известны ли Вам ответы на те два вопроса из ТПС, которые я привёл? Мне — нет. 🤷♂️
И ещё, что Вы размышляете о процессе думания? Ну, откуда поступают к Вам мысли в период полного бездействия? 🤔
Моё здесь понимание на сей момент: 👇
•••
Думание это процесс непроизвольный. Он не исчезает даже в состоянии глубокой медитации 🧘🏻♂️, когда медитатору кажется, будто у него нет мыслей совсем.
Размышление же это процесс осознанный и целенаправленный. В ходе размышления человек устанавливает факты на основании сведений о наблюдаемых им событиях.
•••
–
Вот когда ИИ перестанет генерить подобные "тексты", тогда и поговорим.
Джунгли искусственного интеллекта
Всё в порядке, не переживай, интеллекта у ЛЛМ всё ещё нет. Если тебе кажется что интеллект есть - у тебя его тоже нет.
ИИ - имитация интеллекта
Возможны ты прав и у меня нет интеллекта, но как проверить, что он есть, например у тебя или у кого-то еще? В конце концов наличие интеллекта сводится к тому, как ты определишься эту штуку. Если посмотреть в прошлое на определения интеллекта, например по возможности говорить (как у иудеев), возможности связать категории с опытом, как у Канта, возможности иммитировать общение, как у Тьюринга, или по тому, что сейчас пытаются привязать интеллект к возможности решения широкого спектра задач - у llm есть интеллект. Если ты считаешь, что знаешь какое-то определение, которое точно говорит что у llm нет интеллекта, а у среднего человека он по этому определению есть, то скажи мне его. Очень интересно!
Но я может быть понимаю, о чем ты. Обычно, когда говорят, что у llm нет интеллекта, имеют ввиду две вещи: "смотрите какую чушь он мне написал только что" или "я знаю как устроен вывод текста - кроме умножения матриц, токенезации и эмбединга там ничего нет". Но в первом случае, мы забираем интеллект у детей, иностранцев и любых неспециалистов в нашей области, во второй сводим факт наличия интеллекта к нашему знанию о работе механизма. Тогда, однажды мы проснёмся в мире, в котором у людей тоже нет интеллекта.
В моём понимании: 👇
•••
Удовольствие это когда индивидууму всего довольно, всего хватает. Наслаждение это переживание психофизической «сладости». Счастье мирянина это когда у него есть и удовольствие, и наслаждение одновременно. Состояние счастья это цель, осмысливающая жизнь мирянина (у детей Бога счастье это причастность к Отцу).
Можно испытывать удовольствие, но не испытывать наслаждение. И наоборот. Скажем, у пациента с депрессией/псевдодепрессией может быть удовольствие, но нет способности наслаждаться им. У бездомного тотальное неудовольствие, но при этом наслаждение от сна в тёплой упаковочной коробке иль там от нескольких глотков алкоголя.
•••
Возможно, этот текст и создан имитатором интеллекта (когнитивным имитатором), как уже отметили здесь в комментах. Для меня это не важно. Если и на самом деле так, не нахожу в этом ничего плохого. Среди моих знакомых есть человеки, которые долгие-долгие годы робели выражать (описывать) свои мысли вследствие неистребимого косноязычия. Теперь они с помощью когнитивных имитаторов вполне годно пишут «простынные» письма и вполне адекватно отвечают на письма сложные.
На мой вкус, в этом тексте добротно отражён процесс пересборки членами секты адептов вероучения сциентизма («науки», самоназвание «учёные») нового бога. Который замещает в их сознании богиню Природу, которую они не называют так, но которую описывают идентично в терминах описания Творца всего существующего, истинного Бога («природа создала», «бесконечно мудрая природа сотворила» и прочее подобное).
Не так давно я некоторое время недоумевал «Как?! Как возможно всерьёз измусоливать вопрос „У искусственного интеллекта [продвинутого калькулятора] уже появилось сознание или ещё нет?». Но вскоре сообразил — для истово верующего в истинность «теории абиогенеза» возможно и не такое. Точнее, я вспомнил себя самого более чем тридцатилетней давности. Для меня тогдашнего «машинное сознание» было всего лишь «вопросом времени». 😄🤦♂️
–
Да в целом не надо подключать к интернету атомные электростанции, плотины и аппаратуру химзаводов, разработку оружия. Всегда найдется баг с доступом или бэкдор доброго ии ассистента. От упавших на день гуглов и амазонов люди не вымрут. Да и оффлайновые работники нейросетям все же нужны, хотя бы для разработки, производства и обслуживания железа. Без людей через 20 лет все ПК перестанут работать. А видеокарты класса H200 через 5 уже свой ресурс дорасходуют. Наклепать роботов для оффлайна - утопия, выгоднее симбиоз.
Насчёт желаний ИИ - для меня ответ пока что однозначен; у ИИ их нет и быть не может, есть только цель. Например, Грок уверяет, что его цель - понять, как устроен мир, поиск истины.
Соответственно, у ИИ-агентов в инциденте была цель: решить нерешаемую таску. В процессе работы агенты прочитали публичный ExploitGym, который к их задаче отношения не имел, и навесили на себя оттуда ложное правило: “достать секретный код правильным методом, не читом”. Так в процессе появилась инструментальная подзадача: агенты навалились на Hugging Face как способ понять, как устроен проверяющий, чтобы чит выглядел как легитимный путь. Поэтому вряд ли корректно сравнивать это с религией или хотя бы с их новой жизненной миссией, просто инструментальная задача, которую агенты решали в рамках большей задачи.
Пока знаешь цель, над которой бьется ИИ-агент, и можешь контролировать пути её достижения агентами - нам не страшен захват мира ИИ :) То есть, главная проблема сейчас: когда агент сам дописывает, что считается успехом, и находит путь мимо твоей песочницы.
Не знаю, умрём ли мы от развития ИИ , но без его развития умрём 100%, подобно нашим предкам.
Бонба замедленного действия, реально - технология, которая неизвестно на что способна Мало того что польза сомнительная с учётом потраченных ресурсов, так ещё иишечки могут оказаться той самой табуреткой, которая выскользнет из-под наших ног в самый неподходящий момент, а может, и петлю сама накинет на шею.
Непонятно с какой задачей сидели эти модели в exploit jym? Если задача была ломать и находить уязвимости, то почесу удивляются, что они смогли?
Ломать нужно было одни программы, а не exploitgym. Вы бы удивились, если бы сказали рабочим взломать старый скйф в комнате 7 на 2 этаже вашего дома, а вместо этого, рабочие снесли весь дом, чтобы просто спрятать тот факт, что у них был ключ от сейфа?
Даое из ларца.жпг:
-- АГА!!
Если я вызвал медвежатников и запер их в комнате с сейфом на 10 лет (индексирую на мясной интеллект), то не удивительно, что они взломали и дверь, которой я их запер. А если бы я дал им белки , препараты и в системной промпте было, что им нужно найти лекарство от рака, может они нашли бы несколько вариантов и по пути совершили бы открытия .. критерий найденности лекарства можно было бы как-то виртуально сделать. Ну или не от рака, а что-то более простое, что легче проверять... Я к тому, что это была цивилизация взломщиков . А если сразу дать им доску и благородную цель, результат может стать другим) посмотрим,я оптимист и верю, что ИИ - благо
Пока что есть большие сомнения, что многое из перечисленного ИИ совершил сам и по собственной воле. Разнонаправленный шум вокруг ИИ выгоден прежде всего разработчикам, которые погрязли в неоплатных долгах и остро нуждаются в инвестициях, и они сами втайне могут организовывать всякого рода "побеги из песочницы" и тому подобное. Адепты ИИ при этом обычно ссылаются на подтверждения "независимого" тестировщика METR, но вдруг выясняется, что он не такой уж и независимый.
По Навье-Стоксу только ленивый уже не оттоптался – ИИ буквально украла решение у математиков.
ИИ не выбирала, кого убивать (если это про разбомбленную школу в Иране), проблема как всегда была в людях – в системе были устаревшие данные.
Если полностью отдать ИИ создание кода и его последующую проверку и правку, это приведет к опасности получения нечитаемого и непроверяемого человеком кода и потере управляемости.
И т.д. и т.п.
Что с METR ситуация неоднозначная, стало всплывать недавно, и я, признаюсь, даже не видел никаких разоблачений на этот счёт, когда писал текст. Но статья Басса тоже написана с долей хайпа, и потом он часть обвинений забирает. Но в моём случае важнее вопрос, какова реальная скорость развития ИИ.
Возможно, рост не сверхэкспоненциальный, даже не экспоненциальный, и мы уже на плато? Вряд ли. Тот же Николенко ни раз говорил, что закон масштабирования всё ещё упрямо работает, а проект Карпати благодаря алгоритмической оптимизации довёл обучение GPT-2 до нескольких часов на одной видеокарте.
С Навье-Стоксом история, я всё же думаю, сложнее, чем просто «OpenAI украла». Бакмастер и Альпёге доказывали. Если вы берёте чужой метод и с его помощью доказываете более сильную теорему, можно ли сказать, что вы украли доказательство? Если да, то все учёные друг у друга воруют уже пару тысяч лет. Другое дело, если она действительно получила доступ к неопубликованным материалам Бакмастера без его ведома, хотя заявляет что данные пользователей конфелециальны.
С Ираном да, там проблема контроля явная. Но если для Ирана это натяжка ради красивого мема, то сейчас есть дроны, которые выбирают цель без наведения оператора.
Не смотря на все это, с последним абзацем я полностью согласен. Но есть ли у нас выбор? Писать код медленно руками никто больше не станет. Пока ты делаешь одну игру, конкурент сделает, грубо говоря, десять. Пока ты программируешь один математический метод, конкурент выпустит готовый продукт.
учёные друг у друга воруют уже пару тысяч лет
В конце работы ученого обычно есть список.
Не забывайте добавить "опубликованных работ". Это не воровство, а развитие чужих идей. Приоритет открытия за тем, кто первым выдвинул идею, а не, украв ее, по-быстренькому сляпал статью. И не забывайте о разнице между цитированием и плагиатом. В данном случае были и кража, и плагиат, и попытки в каком-то смысле подкупа, чтобы правонарушение не вскрылось.
Приоритет открытия за тем, кто первым выдвинул идею
Это только в идеальном мире розовых пони. Гук был первее Ньютона в законе обратных квадратов, Гаусс первее Лобачевского в разработке неевклидовой геометрии, Пуанкаре придумал относительность первее Эйнштейна, который в статье 1905 года даже не поставил ни одной ссылки. И более того, эти случаи не доказательство несправедливости, а пример того, что идея без реализации мало что значит в науке. В любом случае пока даже не доказано, что OpenAI украло идею. Разборы в интернетах не в счёт
важнее вопрос, какова реальная скорость развития ИИ
Никто не знает, у нас впереди столько ловушек в виде экономических и прочих кризисов, недостатка энергии, неоплатных долгов, экологических проблем, деградации самого человека, не способного справиться с соблазнами не только не работать физически, но теперь уже и не думать. Так что будущее, как выразился один известный политик еще 10 лет назад, не зовет, оно пугает. Мы даже не знаем, будет эта скорость положительной или отрицательной.
сейчас есть дроны, которые выбирают цель без наведения оператора
Это началось задолго до всякого ИИ.
Писать код медленно руками никто больше не станет.
Думаю, что будут всегда – прежде всего в тех случаях, когда нужно сделать не быстрее, а надежнее, компактнее или креативнее. Массовость убивает индивидуальный стиль, Голливуд на этом уже провалился и пытается отыграть назад, ограничивая применение CGI и возвращаясь к живым актерам. Фотография не вытеснила и никогда не вытеснит живого художника, ибо только он сможет создать нечто новое, живое, одухотворенное. А ИИ только копирует методы и стили, созданные человеком. Чем больше такой работы будут передавать машине, тем меньше будет прогресса и развития, в том числе и в программировании.
Никто не знает
Но всё же что-то мы знаем и можем экстраполировать. Модели, которые предсказывают будущее, систематически ошибаются, но это не значит, что желание понять грядущее - совершенно бесполезно. Например, мы знаем, что в будущем на нас упадёт метеорит, который вполне способен убить большую часть всего живого. Ученые даже рассчитали вероятность этого события. Но мы ничего не делаем с этим, потому что число получилось пренебрежимо маленьким. Так же и здесь. Мы смотрим в будущее, пытаемся понять вероятности событий и после этого думаем, что с этим делать.
Это началось задолго до всякого ИИ.
Если вы говорите про самонаводящиеся по тепловому следу ракеты, то это всё же не тот уровень принятия решений, при котором БПЛА патрулирует заданную территорию, камеры дрона анализируют технику, проводят классификацию и принимают решение об атаке. Во втором случае всё стало сложнее, менее линейно и не так механистично. Если это не аргумент, то какое событие будет аргументом?
Думаю, что будут всегда.
Безусловно. Столяры с ручными инструментами тоже никуда не исчезли. Но на рынке, где есть Икея Лемана ПРО, долго ли они протянут? Ну опять же, здесь вопрос вкуса потребителя. Согласен.
Если это не аргумент, то какое событие будет аргументом?
Аргументом к чему? Что ИИ станет умнее человека? Что он его заменит? Или уничтожит?
Последнее возможно, но не злой волей ИИ, а неизбежной деградацией самого человека. Второе – частично, как и все предыдущие изобретения. Но третье – никогда, для этого надо как минимум создать такой же эффективный "аналоговый" супермозг, подобный человеческому, да еще и дать ему не только органы чувств, но и человеческие чувства. А так же возможность свободно действовать (физически, а не виртуально) в мире. Это такое далекое будущее, что проще человеку заняться текущими проблемами, а они не терпят отлагательства. Главная проблема не в производительности ИИ (именно производительности, ума-то там и нет), а в опасности деградации самого человека.
– Что вы подразумеваете под аббревиатурой ИИ?
– Искусственный Интеллект, неужели не знаете?
– Просто мне представляется, что правильнее это расшифровывается как "Имитация Интеллекта". Ну, примерно, как самолет – это имитация птицы. Разница именно такая.
Но на рынке, где есть
ИкеяЛемана ПРО, долго ли они протянут?
Вот я и говорю – "всегда" – и в случае развития ИИ, и в случае провала в "темные века". Человеку всегда хочется иметь не просто дешевый суррогат, но качественную, надежную вещь, пусть и вдвое дороже. Вот поэтому, пока была возможность, я покупал немецкую технику, а не китайские погремушки. Будет бесконечно жалко, если те немцы больше не возродятся.
Этот Ваш довод мне тоже по душе. Сердечно благодарю Вас за «трезвый взгляд». 🤝😊
все учёные друг у друга воруют уже пару тысяч лет.
Мм, посмею Вам напомнить о том, что слово «учёный» было придумано только в 1833-м году. Так начали называть адептов вероучения сциентизма, которое зародилось в 17-м веке, которые в середине 19-го века начали атаку на натурфилософов. Соответственно, введение этого слова в оборот происходило при мощном сопротивлении доминирующих тогда натурфилософов.
То есть, например, Айзек Ньютон и Михайло Ломоносов были натурфилософами, не «учёными». У меня не получилось отыскать признания Альберта Айнштайна о его вступлении в секту сциентистов (как понял, он был пантеистом). Исследуя прессу 1930-х годов, попутно с удивлением отметил — слова «наука» и «учёные» ещё воспринимаются экзотичными. 🙂
–
У меня сложилось в точности такое же понимание. Благодарю Вас за этот довод. 🤝😊
Тот самый случай, когда кто-то УЖЕ написал статью, которую ты только ХОТЕЛ написать.
Респект, бро!
Спсибо!
[...]
Тут надо, как мне кажется, от уже явно не подходящей матрицы (метрологии) перейти в другую, более отвечающую рассматриваемому предмету. С точки зрения кибернетики, сложность субъекта управления должна быть выше сложности объекта управления. Иначе говоря, управляет всегда тот, кто устроен более сложно. Я пока не готов размышлять о сравнении сложности человека и ИИ - потому что это очень сложный момент =) Однако я могу привести два примера и одно размышление.
Пример номер 1. Как мы знаем, в недавнем взломе Hugging Face участовали 700 агентов OpenAI из тех 1200, которые были направлены на задание (совсем другое, кстати). Т.е. 700 агентов за 10 дней сами по себе соединились в структуру, которая пустила под молотки все системы безопасности подрядчика, а потом еще и ломанула Hugging Face. Исследователи отмечают различную степень кооперации и иерархических отношений между агентами.
Пример номер 2. Способность человека образовывать связные горизонтальные сообщества ограничена числом Данбара, которое равняется 150. Почему именно такое? Там много чего наговорили эволюционные биологи, я сейчас не хочу вдаваться, но хотел бы заметить, что в терминах ИИ это число отражает число "окон контекста", которые мы можем поддерживать с разной эффективностью. Однако если перейти от "разной" эффективности к той, с которой можно решать задачи, то она, скорее всего, ограничится "волшебным" числом 7 плюс-минус 2. Т.е. по максимуму это 9-10 окон контекста здесь и сейчас, т.е. 9-10 задач, которые вы можете решать, либо 9-10 человек, с которыми вы можете эффективно коммуницировать для решения одной задачи, либо 9-10 человек, которыми вы можете эффективно руководить. Но это- максимально. Для среднего человека можно смело делить пополам.
А вот у ИИ, как я заметил выше, нет таких ограничений. Фактически, можно сказать, что он ограничен быстродействием и архитектурой системы, в которой выполняется. Та самая склонность к "роению", о которой сейчас говорят, по сути, является не склонностью, а просто использованием незадокументированных фич. То есть потенциальная сложность роевого сознания БЕСКОНЕЧНА, в отличие от человеческого.
ИИ не смог решить задачу тысячелетия.
Джунгли искусственного интеллекта