Pull to refresh
14
0
Николай @DoNotPanic

Специалист по рассуждениям

Send message
И вот мы подходим к самому интересному. Хорошо, внутри у нас есть набор понятий. За каждым понятием стоит некое содержание. Но как мозг это содержание описывает? Что это за содержание? Каков его механизм? Собственно, это и есть те самые главные вопросы, от ответа на которые все зависит. Ведь, по сути, мы говорим о том, что за каждым понятием стоит некий смысл. И этот смысл и определяет содержание понятия. То есть, когда мы говорим, что мозг умеет, наблюдая за миром, формировать понятия, мы говорим о том, что мозг умеет формировать описания смыслов.

Теперь возвращаемся к смыслу. Смысл понятия — это и есть описывающий его контекст, состоящий из правил трактовки и памяти. Смысл информации — это тот контекст, в котором трактовка выглядит достоверно, и сама полученная трактовка. И, заметьте, что смысл не сводится к определению. Он имеет совсем другую природу, в которой нет привычного прототипа и границ вокруг него.

Не нужен смысл общему ИИ.
Вы вроде вполне знакомы с кантовскими феноменами и ноуменами и пишите о подобном, и про теорему Гёделя вроде бы знаете. Но так ведь очевидно в таком случае, что смысл ноумена, в значении полного его описания и контекста, сложнее самого ноумена. В нашей голове нет ни ноумена (то есть вещи самой по себе), ни, тем более смысла.
И признаков никаких нет. Признаки — это чёткие категории, это философы могут на разумном уже уровне разбить всё на признаки. А на бессознательном уровне имеется просто множество плотно связанной между собой информации. Которую можно трактовать, как признаки, но в действительности она в общем случае менее системна.
Например, у младенца есть игрушка, плюшевый медвежонок. Его можно осмотреть с разных сторон, пощупать, пожевать немного беззубым ртом — в голове сформируются определённые ассоциации, в том числе визуальные, тактильные и вкусовые образы, которые будут связаны между собой, с упомянутым сто раз контекстом (медвежонка дал папа поиграть) и, кроме того, ещё с кучей вещей, которые вы даже не осознаете, равно как не осознает и ребёнок, потому что это всё слишком низкоуровневое.
Наличие явления синестезии показывает, что мозг обращается с информацией, которую неправильно представлять именно в виде признаков. Просто потому что эти признаки запросто могут между собой смешаться, и проблем с разумной деятельностью от этого не возникнет, скорее даже наоборот. А ещё бывает чувство дежа вю. Когда у вас совершенно внезапно и необъяснимо возникает ассоциация на то, на что по идее она возникать не должна.
В общем, мозг — это система, запомнившая кучу информации и как-то неочевидно, но весьма плотно, связавшая эту информацию между собой. Как выше правильно сказали, при наличии ресурсов ИИ вполне можно обучить похожим образом, чтобы он также связал кучу информации. Я сторонник того, что если итоговый результат будет неотличим от сознания, то вероятно, сознанием он и будет. Другой вопрос, что ресурсов надо вроде как много (тоже отмечали), но не проще ли будет, если дать носителю ИИ органы чувств? В конце концов, именно свободная возможность исследования является одним из важнейших факторов обучения человека. Очевидно, что ИИ, запертый в маленькой коробке, обычно без камеры и микрофона, и обучающийся строго по выбранному алгоритму, не покажет чудес изобретательности. Наличие нескольких каналов информации и возможности мгновенно связывать информацию от них я полагаю важной и сильно всё упрощающей, в конце концов и человеки не все поголовно суперкомпьютеры.
А ещё неплохо бы иметь рандомизатор целей и задач, а не только рандомизатор алгоритмов (и даже не алгоритмов, а весов в алгоритмах) решения задач.
Ещё одна важная вещь, которая отличает чат-ботов от людей — процесс сознания у людей не прекращается с потерей собеседника. Внутренний диалог, прокрутка в голове образов (воспоминаний) — это важные высокоуровневые процессы, сопровождающие сознание, которые в том числе нужны для рефлексии (самоосознания). То есть в итоге цель не только и не столько в том, чтобы ИИ прошёл тест Тьюринга у людей — он сам себя должен проверить на тест Тьюринга и пройти его.
Хотя это, наверное, наименьшая проблема при создании нейросеток, всё же самообучение для них норма. Вопрос в том, как сделать это правильно, чтобы была «гибкость» мышления.
По тексту выше также видно, что я не сторонник ограничивать тренирующиеся нейросетки. Вещи в стиле законов робототехники Азимова (даже будь они технически реализуемыми), конечно, обезопасили бы человеков, но и общий ИИ так не создать (или задача невероятно усложнится). Зато, если общий ИИ, методом масштабной тренировки и дачи максимальной свободы воли, всё же создать, то нет никаких оснований полагать, что он будет отличаться от людей своим способом мышления, а не только лишь уровнем интеллекта. Илон Маск и многие другие, рассматривая этот гипотетический сценарий, сильно, конечно, паранойят, но причины не ясны. Человек разумный отлично уживается с теми, кто глупее его (причём именно человек разумный, и чем разумнее, тем лучше уживается), а общий ИИ, как ни крути, но именно люди могут тренировать. И дело тут не в жёстких свичах и ограничениях, систему ценностей можно вложить какую угодно — и вряд ли она сама собой деградирует в худшую сторону, ведь сильный ИИ на то и сильный, что подразумевается не глупее человеков.
Правда, есть риски, связанные со злонамеренными людьми. Так, создавать военный сильный ИИ очевидно критически опасно, так как такой ИИ просто в силу своей архитектуры не сможет быть к людям не агрессивным (а распределение на группы свои-чужие и военные-гражданские для высокоинтеллектуальной системы вряд ли будут работать хорошо, как ура-патриотические лозунги плохо работают на людей с образованием, потому как при полном знании эмпатия она либо отсутствует, либо распространяется максимально широко, выборочной она быть не может). Ну и можно представить себе какие-нибудь специально спроектированные вирусы, меняющие веса у коэффициентов. Но тут и в реальной жизни, подобные как бы «вирусы» в рамках социумов, кажется, бывали (речь о фашистских идеологиях, активно играющих на эмоциях для продавливания деструктивных идей), вопрос в том, не станет ли их проектирование и использование проще и опаснее, если предположить, что это можно будет делать софтварно.
И выяснилось, что действительно, ничто не ново под луной.

Извините, но вот эта параноидальная часть в конце, она вообще всё портит. Давайте откровенно, иногда (то есть в 99,999% случаев) то, что написано — это именно то, что написано, не нужно приплетать тут рассуждения о занавесках. И ладно бы, ваши рассуждения о занавесках действительно были бы глубже того, что прямым текстом написано у авторов, но ведь это, мягко говоря, не так…
Вы похожи на советских учителей философии, которые в античном мире нашли себе кучу единомышленников (о, а вот этот материалист, о, а Демокрит ещё и атомы придумал), забывая о том, что если древний грек и мыслил сколь-нибудь схожим с советскими материалистами образом, то лишь по случайному совпадению. Ну а скорее всего, вы просто неправильно поняли контекст, вот и лезете со своим современным пониманием в античную философию, которая вообще не о том.

P.S. Вечерние разговоры за философию, эх…
P.P.S. Ничего себе я написал текста! Беда со мной.
Я так понял, за «любую вину» ничем нельзя бить, а вот за «большую вину и огорчение, за серьезное и страшное ослушание» можно плетью, но бережно…
Удивительно, конечно, сейчас звучит.
Ну и да, косвенно мои выводы подтверждает плохая проникающая способность того, что получил автор. 100 кэВ пробьёт куриное яйцо вполне, у него длина поглощения 5 см в поликарбонате (думаю, яйцо от поликарбоната недалеко ушло).
А вот какие-нибудь 20 кэВ (не предполагаемый максимум спектра, но такой энергии должно быть достаточно много по расчётам) даёт 1.6 см в том же поликарбонате.
Значения смотрю в специальной утилите.
(В любом случае автору за интересную статью спасибо, а это всё так, тонкости)
Не, вопрос правильный, очень неожиданный спектр. 40 кВ поле даст энергию электрона в 40 кэВ. Но тормозится электрон не мгновенно, так что спектр размазывается, и реальный максимум интенсивности оказывается в области меньших энергий (хотя максимальная энергия кванта возможна вплоть до этих самых 40 кэВ).
Вот, нашёл в Интернете, рисунок 19. Разумно выглядящий спектр. Единицы по оси X, как я понял, в нанометрах. Максимум интенсивности от 40 кэВ электрона приходится примерно на 4 кэВ рентген.
Ну а 100 получить вообще не получится, так как один электрон даст максимум один фотон. Разве что какое-то хитрое переизлучение с нелинейной оптикой )
Участвовали ли вы в проектах гражданской науки?

Нет. Не считаю это пустой тратой времени, напротив, выглядит здорово. Не знаю, буду ли пробовать, постараюсь, если найду силы и не забуду.
Мой честный ответ на вопрос, которого так не хватает в вариантах… Не то чтобы мне не нравился оптимистичный настрой статьи, что давайте-давайте, вперёд )
О. Не знал, что ещё и книга есть, но тепло вспоминаю соответствующий цикл передач на Discovery от профессора.
Вроде бы вот это оно. Если кому интересно.
Пожалуй, ваш пример лучше, согласен.
Но, как я уже сказал, если вы покупаете машину с заранее известным ограничением в прошивке, то вроде как согласны терпеть неудобство (в том плане, что тяжёлые грузы возить не сможете или в том плане, что прошивку взламывать придётся). Хотя если пострадают попутно водители с лишним весом, то это уже будет печально, да.
Я не архитектор, но с моей колокольни — решили, что лучше иметь заведомо избыточный запас прочности, чем, грубо говоря, «тютелька в тютельку». Меньше рисков и головной боли, наверное. Не настолько оно важно, статусно и красиво сейчас — чтобы прямо совсем без колонн.
Были когда-нибудь в трапезном храме в Троице-Сергиевой лавре? Он представляет из себя вытянутую и довольно широкую арочную конструкцию, тоже без каких-либо колонн и поддерживающих элементов, для своего времени, наверное, серьёзное сооружение. Однако, сейчас можно видеть, что свод в одном месте пошёл сильной трещиной, и в настоящий момент вся конструкция укреплена горизонтальными стальными балками. Сколько-то сотен лет простоял храм — но что ещё делать, когда внутренняя сторона сводов таки начала разрушаться? Ведь она на себе всё держит в арке.
Лучше сразу делать такой запас прочности, чтобы ни-ни, и потом подобных хотфиксов вносить не пришлось.
Скорее не так.
Вот есть автомобиль Smart, есть люди, которые на нём ездят. А нашлись хитрые лисы, которые смекнули, что если разобрать Smart на куски и сдать в металлолом, то можно неплохо на этом навариться, так как в металлоприёмке за железки от Smart'а дадут больше, чем стоит покупка Smart'а.
Тогда производитель автомобиля решил, что можно добавлять в сталь для корпуса Смарта химические добавки, которые не должны повлиять на качество автомобиля, но в металлоприёмке такую сталь с непонятным химическим составом не возьмут, и хитрецы останутся в пролёте. Точнее, есть вероятность, что он научатся эти химические добавки из стали отфильтровывать, но это может оказаться не всем под силу, и уменьшит масштаб проблемы.

Ну то есть тут как — вы можете покупать видеокарту (Smart) и после покупки делаете всё, что захотите с вашим продуктом. А производитель может установить на видеокарту хитрые драйвера (подмешать что-то в металл Смарта) или не делать этого — тоже его выбор. Никто же вам уголовным кодексом не грозит, значит, вы оба просто принимаете свободные и осознанные решения в рамках отношений покупатель-продавец.
Хотя со стороны nvidia может быть лишение гарантии, конечно… Но, если и так, то это не очевидно, что плохо, с учётом того, что гарантия рассчитывается на стандартный кейс использования продукта.
Такой немного отвлечённый вопрос — а знаете ли вы такие научно-фантастические книги, которые действительно хорошо озвучены в виде аудиокниги? Может, из этого списка, а, может, что иное… Пробовал слушать «Я робот» Азимова, голосом Вадима Максимова. Ну, вроде бы автор и старается, но всё равно ощущения не те (а, может, с самой книгой не угадал, кто знает).
До этого выдалось послушать «Продавец дождя» Нэша в виде аудиоспектакля, и вот это прямо на ура прошло. Тот случай, когда читать данную пьесу в текстовом виде я бы лично не стал, не настолько интересующая меня тема, но сама постановка была на отлично.
Вот, может, и среди НФ подобное кто находил…
Может, тогда и сам цикл «Основания» добавить? Удивился, что его нет в списке, а фанфик другого автора — есть (надо бы почитать, конечно, за наводку предыдущему автору спасибо).
Весьма интересно. Однако…
Затмения доказывали, что Солнце находится дальше от Земли, чем Луна, а их угловые размеры примерно равные (по расчетам Аристарха). На основании этого астроном сделал вывод, что солнечные лучи, падающие на Луну, сходятся за ней в точку на поверхности Земли.

Вот прошу извинить, я долго перечитывал этот отрывок, но так и не понял, о чём тут говорится. Вряд ли Аристарх знал про пятно Пуассона )))
(И вряд ли пятно Пуассона в этом случае действительно наблюдается, если говорить серьёзно)
Был ещё один интересный примат, орангутан Чантек.
Из вики
Chantek had a vocabulary of around 150 modified ASL signs, and he also understood spoken English.[7] Chantek made and used tools and even understood the concepts of money and work-exchange. He possessed the spatial comprehension to direct a driving-route from the University of Tennessee at Chattanooga (UTC) to the closest Dairy Queen, and the mental comprehension to refer to events that happened years ago. He was a huge fan of the country basket at Dairy Queen and enjoyed many Dilly bars.[8] He enjoyed creative projects and made paintings, necklaces, and music.[6]

Like children, Chantek preferred to use names rather than pronouns – as the reference is fixed – even when talking to a person. He even invented signs of his own (e.g. 'eye-drink' for contact lens solution, and 'Dave missing finger' for a special friend).[7] He developed referential ability as early as most human children, and pointed to objects just like humans do. Chantek used adjectives to specify attributes, such as «orange dogs» when he referred to orangutans unfamiliar to him.[7]

Chantek also demonstrated self-awareness, by grooming himself in a mirror and by using signs in mental planning and deception. Rather than simply exhibiting conditioned responses, as critics of primate intellect contend, Chantek learned roles – and role reversals – in games like 'Simon Says'. Like many other orangutans who have demonstrated problem solving skills, Chantek exhibited certain intuitive and thinking character traits comparable to the rationality used in human engineering. His intellectual and linguistic abilities made some scientists, including Miles and Dawn Prince-Hughes, regard him as possessing personhood.
Лучше сразу запретить Apple производить телефоны. А то мало ли, какой экстремист позвонит и будет голосом ненависть разжигать, или SMS пришлёт…
Общаться с другими людьми надо только с глазу на глаз и в присутствии сотрудника ФБР.
У коров обычно не поддерживается перманентно чистое вымя, как выше сказали, они всё же в стойле подолгу стоят и там же нужду справляют, оперативно за каждой подтирать невозможно. Иногда вымя, правда, упаковывается в автоматические доилки, видел такое на одной ферме в Финляндии — тогда оно чистенькое, конечно, по механическим причинам.
В подавляющем большинстве случаев вымя очищают непосредственно перед дойкой.
Аналогия с мельницей? Возможно. Правда, тогда всё равно нельзя было бы нанять двух героев на второй неделе. Только вместо счётчиков числа дней нужен был бы флаг, что на этой неделе найм уже был/не был, сбрасывающийся в начале каждого понедельника. Но это был бы совсем другой код.
Ух, тут ещё и на две ветки обсуждение разделилось, оказывается, страшное дело…
Мой пойнт был в том, что никакого физического (а не технологического) ограничения, в том, чтобы идеально сымитировать монитором фиолетовый цвет нет. Эта картинка — это вероятно про инженерное (технологическое) ограничение.
Очевидно, что монитор может отображать только три цвета — это условно #ff0000, #00ff00 и #0000ff. Среди этих цветов нет не только фиолетового, здесь вообще только три цвета, воспринимающихся как красный, зелёный и синий соответственно, без всяких жёлтых и оранжевых, и без любых оттенков. Палитра получается за счёт имитации нужного восприятия в глазу — в соответствии с графиком из этого поста. Ну а сходство «синего с небольшим количеством красного» с «фиолетовым» возникает потому, что красные колбочки всё же немного реагируют на фиолетовый цвет, это видно.
Строго говоря, любые реагируют на любой оптический цвет, но там есть локальный рост чувствительности.
То, что вы отличаете фиолетовый в радуге от «фиолетового» на мониторе (например, саму радугу и её фотографию на дисплее) говорит лишь о том, что у последнего просто нарушена цветопередача, по той или иной причине, но принципиально нет проблем, чтобы сделать цвет и его имитацию выглядящими одинаково.
Лёгкие бои пропускаются, чтобы не тратить время, но без большой финалки против дум-стака оппонента-человека, или нескольких боёв с компами посильнее (в кампании) всё остальное не имеет смысла (в 90% случаев).
Хотя есть ещё эстетическое удовольствие от сбора большой армии и сильных артефактов, пожалуй. Это не стратегический выбор (армия — как в замке, плюс иногда, что дипломатией присоединил; арты — что насобирал в прилегающих зонах и что в утопиях раздало), но некое стратегическое развитие, да. Просто довольно линейное.
Имел в виду скорее такие комбинации, которые автоматом гарантируют победу, и все остальные факторы в игре становятся несущественными. Условно, комбинация воскрешающего юнита с непробиваемым танком, которая за n времени медленно но верно побеждает любого противника.
А так да, желательно иметь в игре эффективные комбинации различных юнитов, чтобы не были просто безликие шашки, где все плюс-минус равны. Однако, их должно быть много разных, и хорошо бы, чтобы любая из них по отдельности не гарантировала победу во всех случаях, а работала бы лишь часть геймплейного времени. Чтобы был стимул пробовать разное.
Вспоминается в этом плане Divinity: Original Sin, где очень хорошо видно взаимодействие и взаимодополнение персонажей: сделать ядовитую лужу под врагом и огнём пыхнуть, разлить воду и электричеством добить, при этом враги с иммунитетами не дают расслабляться, да и сами в подобные комбинации умеют.

Information

Rating
Does not participate
Location
Москва, Москва и Московская обл., Россия
Registered
Activity