Comments 44
Генерирует программу, которая находит решение.
Интересно получается, прямо диалог Архитектора с матрицы вспомнился.
Hidden text
Архитектор: Первая Матрица, которую я создал, была произведением искусства, совершенством. Её триумф сравним лишь с её монументальным крахом. Теперь мне очевидно, что неизбежность этого краха является следствием несовершенства человеческого индивидуума. Я изучил вашу историю и внёс изменения, точнее отразив постоянную изменчивость человеческих пороков. И тем не менее, последовала неудача. Я пришел к выводу, что виной всему мой интеллект, а возможно, моё чрезмерное стремление ко всему гармоничному. Найти решение мне помогла программа интуитивного типа, специально созданная для изучения определенных сторон человеческой души. Меня можно назвать отцом Матрицы, а её, без преувеличения, матерью.
Кстати тоже очень серьёзный вопрос. Нейросеть, если предельно грубо и упрощенно, это интерполятор обучающих данных. Если обучить её на фактах из математики, разумеется она сможет высказать кучу весьма правдоподобных утверждений, большинство из которых наверняка будут истинны. Отношение к математике это разумеется имеет весьма слабое.
Если она формальное доказательство приведет, то очень даже имеет отношение
Ага... Ничего собой не представляющее уравнение x^n + y^n = z^n. А доказательство отсутствия решений в натуральных числах при n>2, заняло 350 лет труда лучших математиков мира. Я на такие штуки разделяю точку зрения Пенроуза. И события последних лет меня пока не переубедили.
разделяю точку зрения Пенроуза
Можно цитату? Он там много чего на эту тему писал))
Погуглите "Новый ум короля" и "Тени разума". Есть ещё третья "Большое, малое и человеческий разум", но она уже не столь фундаментальна как первые две. Все три есть на рутрекере. Если совсем кратко, на примере математического творчества Пенроуз показывает, что Сознание(в своих высших формах !) действует в некоторм смысле лучше, чем любой, сколь угодно сложный(но конечный !) алгоритм. И следовательно к алгоритмам не сводится. А поскольку вся известная на сегодняшний момент физика тоже сводится к алгоритмам (дифференциальные уравнения это те же алгоритмы, по ним можно считать !), то не сводится оно и к известной физике. Сам Пенроуз правда уповает на будущую квантовую теорию гравитации, но мне это кажется неубедительным. Мне кажется вопрос куда глубже. Так или иначе, в создание сильного ИИ, тем более сверхчеловеческого (!!!) я не верю. Что конечно же не делает менее интересными и полезными нынешние исследования. Может продвигаясь такими шажками и поймём в конце концов, что такое Сознание, и кто такие мы сами...
Так или иначе, в создание сильного ИИ, тем более сверхчеловеческого (!!!) я не верю
Но ведь мы пример того самого робота и интеллекта работающего на "микросервисах". Внутри нас есть куча программ (генетических, химических, электрических), есть куча систем управления всем этим, это тоже всё программы со своими сенсорами, триггерами, сигналами - реакциями.
Можно повторить эти "программы".
Да, мы ещё многого не понимаем в этом устройстве, всё слишком сложно.
Природа пришла к этому простым перебором и мутациями. И ей понадобилось миллионы лет.
Пример совершенно тупого программного робота внутри нашего организма:
И много таких вот разных тупеньких программ как раз и позволяют нам появляться, расти, существовать, мыслить.
Теоретически, мы можем это проделать тоже, но без химии, просто симуляцией. Да, мы ещё маленькие и глупые, у нас недостаточно вычислительных мощностей для этого. Но ведь НЕ невозможно.
Можно не верить, что сильный ИИ появится в ближайшие 10 лет, но он обязательно появится - это просто вопрос времени и вычислительных ресурсов.
Всё о чём Вы говорите, сводится к машинам Тьюринга. Сознание к машине Тьюринга по-видимому не сводится, работая в некотором смысле лучше неё. А про вычислительные мощности это Вы зря. В этом году суперкопьютеры превзошли экзабайтный предел - 10^18 операций в секунду. В мозгу 10 миллиардов нейронов - 10^10. У нейрона 10 тысяч аксонов - 10^4. Частота работы нейрона 1 килогерц - 10^3. Перемножая это получаем 10^17 операций в секунду. Итого, суперкомпьютеры превзошли по производительности мозг в 10 раз. И никакого чуда не случилось (несмотря на некоторые действительно впечатляющие достижения). Вангую что и НЕ СЛУЧИТСЯ. Гениального (и даже просто хорошего) математика создать не удастся. Это я ещё не касался разного рода паранормальщины ! Взять хотя бы простейшее - предсказания, пророчества, вещие сны и т.п. Каждый человек старше 40 наверняка припомнит один-два таких случая из своей жизни. Т.е, они не только несомненно существуют, но даже не слишком редки ! Это-то как реализовать через сигналы, триггеры и микросервисы !
Сознание к машине Тьюринга по-видимому не сводится, работая в некотором смысле лучше неё.
По-моему это всё попытки выделить сознание в некую эзотерическую сущность, ещё и не создавая никакой научной теории под это, а просто всё спихивая в наименее изученную на текущий момент область - квантовую физику, Очень уж жаль человечеству расставаться со своим надуманным особым положением и в этой области. Можете привести пример каких-либо способностей человека, которые, по-вашему, никогда не будут достигнуты нейросетями? Думаю, в ближайшие 10 лет увидим много интересного.
Каждый человек старше 40 наверняка припомнит один-два таких случая из своей жизни.
Не припоминаю и это объясняется когнитивными искажениями. Как только подключаются научные методы, двойное слепое тестирование, так вся магия и пропадает.
По-моему это всё попытки выделить сознание в некую эзотерическую сущность, ещё и не создавая никакой научной теории под это
Ну попытки создания научных теорий, отбрасывающих эзотерическую сущность не новы. Когда чем занимались, такие теории и строили. Во времена Ньютона и позднее, считали что человек (Сознание !) это механизм. В конце 19 - начале 20-го века - что тепловая и электрическая машина. В конце 20-го века, что компьютер. Теперь вот нейросеть... Как говорил царь Соломон - "И это пройдёт" :)))
Можете привести пример каких-либо способностей человека, которые, по-вашему, никогда не будут достигнуты нейросетями?
Тут ниже в этой же ветке я упоминал Куммера с его теорией круговых целых. Теория была построена Куммером в попытке доказать Великую Теорему Ферма, перейдя в комплексную область. Попытка оказалась в целом неудачной, хотя и позволила очень сильно продвинуться к цели. Тем не менее сама теория исключительно красива и изящна, будучи посторенной фактически на пустом месте http://www.ega-math.narod.ru/Books/Edwards.htm . Я утверждаю, что никакая нейросеть, не сможет сделать ничего подобного НИКОГДА.
Думаю, в ближайшие 10 лет увидим много интересного.
Не сомневаюсь. Причем не только интересного, но и практически полезного. Более того, с интересом за всем этим слежу. Хотя бы как за попытками человечества докопаться до того, что же такое Душа, Сознание, Разум и т.п. Однако как говорится кесарю кесарево, а богу богово...
Не припоминаю и это объясняется когнитивными искажениями. Как только подключаются научные методы, двойное слепое тестирование, так вся магия и пропадает.
Случай из моей жизни. На турбазе играли в слова. Ну знаете, человек загадывает слово, говорит его по секрету арбитру, потом называет первую букву. А потом ему задают вопросы, чтобы это слово разгадать. Вопросы про другие буквы задавать нельзя. Мужик загадал слово на букву К. Меня сразу как по башке доской ударило, говорю мол знаю это слово. И сообщаю - барон Пьер де Кубертен. Один писатель даже использовал этот мой случай в своём сюжете. Ну и как Вы предлагаете к событиям, которые случаются один-два раза за всю жизнь применять двойное слепое тестирование ??? Увы, методы науки тоже не всемогущи. И слепая вера в науку ничем не лучше любой другой религии.
Я утверждаю, что никакая нейросеть, не сможет сделать ничего подобного НИКОГДА.
Хорошо, принято. Будем наблюдать. Хотя непонятно что заставляет утверждать подобное, ведь математика это строгая наука, а доказательство чего-либо это путь из точки А в точку Б с применением аксиоматики и формальных правил.
Хотя бы как за попытками человечества докопаться до того, что же такое Душа, Сознание, Разум и т.п. Однако как говорится кесарю кесарево, а богу богово
Слова такие, концепции, причём крайне размытые, без чётких формулировок, поэтому даже беспристрастный детектор проявления этих понятий создать невозможно, как и подтвердить их наличие у человека. Демонстрируют только непонимание на данном этапе того, как всё устроено.
барон Пьер де Кубертен
Нет достоверного подтверждения - нет факта, нечего и обсуждать. Предлагаете верить вам на слово? Я вчера снимал в банке одну сумму и был уверен, что несколько дней подряд снимал такую же, оказалось ошибся. Вы могли во время когда он "говорит его по секрету арбитру," услышать его, прочитать по губам, могли вместе с автором несколько дней назад услышать это редкое имя в какой-то передаче, которую оба смотрели. Масса рациональных объяснений без привлечения боженьки, инопланетян и квантовой теории сознания.
что же такое Душа, Сознание, Разум и т.п.
Мы сложные химическо-электрические робото-компьютеры. Доказательство простое - если в организме идёт какой-то гормональный сбой, то это сказывается на поведении, мышлении, действиях, поступках. Если бы душа-сознание были где-то отдельно подключены к телу - состояние тела никак бы не сказывалось на мышлении.
Алкоголь-наркотики, ПМС, гормоны... Влияет на мышление? - Ещё как!
Мы просто ещё не можем это воссоздать программно эмуляции разума и мышления без биологической оболочки. Но мы обязательно сможем это делать, а потом ещё и оптимизируем какие-нибудь несуразности, которые наделала природа, так как она слепа, наверняка в мозге тоже есть достаточно несуразностей, которые можно оптимизировать. На примере возвратного гортанного нерва.
Мой призрак шепчет мне...
Совершенно нет желания признавать себя биологической машиной. Последствия подобного легко могут похоронить всю цивилизацию...
Если нет глубинной разницы между человеком, мышью и экскаватором...
Тиресна...
А в чём, собственно глубинная разница, между этими тремя сущностями?
Ну экскаватор я могу представить, как ещё один уровень абстракции над "Григорием Петровичем с лопатой", но сам Григорий Петрович, с моей точки зрения, даже как уровень абстракции над мышом - выглядит слабовато.
Мыша, с помощью ряда введённых в кровь препаратов, можно "мотивировать" как на раздельное исполнение номеров "жрать, ибаста, спать и какать", так и на одновременное исполнение всего спектакля.
Думаете, что у Григория Петровича есть особый навык, дабы при тех же медикаментозных воздействиях он не обнаружил себя - с пиццей в зубах, писькой в руке, на матрасе и в испачканных штанишках? Это что за суперсила?
Hidden text
Неожиданно пулемёт замолчал.
- Василий Иванович, патроны закончились!
- Ну и что, Петька?! Ты же ведь коммунист!
И пулемёт снова застрочил...
В мозгу 10 миллиардов нейронов - 10^10
Ошибка на порядок. Считается, что нейронов у человека ближе к 100 млрд.
В этом году суперкопьютеры превзошли экзабайтный предел - 10^18 операций в секунду. У нейрона 10 тысяч аксонов - 10^4. Частота работы нейрона 1 килогерц - 10^3. Перемножая это получаем 10^17 операций в секунду. Итого, суперкомпьютеры превзошли по производительности мозг в 10 раз. И никакого чуда не случилось
Учитывая вашу ошибку с количеством нейронов, превышения по производительности точно ещё нет.
Иметь вычислительную мощность не равно иметь готовую программу для эмуляции обученного мозга.
Вот уже давно умеем полностью эмулировать мозг червяка.
Для того, чтобы полностью эмулировать мозг человека нам нужно пройти ещё длинный путь.
Да даже просто на примере развития текущих нейросетей: работать какая-нибудь новомодная нейронка для распознавания видео может на дохлом одноплатнике. Но вот обучить эту нейронку - тут нужны серьезные вычислительные мощности.
Соответственно и с мозгом. Может быть у нас уже есть достаточные мощности для работы полностью настроенных весов нейронки аналогичной нашему мозгу. Но у нас такой ещё нет, нет полного понимания как оно там работает, нет технологий для записи настроенных весов мозга. Скорей всего мы будем что-то учить с нуля, а для создания (обучения) - нужно затратить существенно больше вычислительных ресурсов. И у нас пока нет ни таких ресурсов, ни понимания, ЧТО эмулировать и как обучать.
Но с ростом вычислительных возможностей (когда-нибудь в далеком будущем), мы сможем просто повторить путь эволюции от червяка просто просчитав все варианты. Хотя конечно же, проще будет научиться считывать текущее состояние мозга (веса, связи, состояния), чтобы уже конкретно это эмулировать, а не учить с нуля методом градиентного спуска.
Мы сможем понять современную физику, только если поместим пространство и время внутрь сознания
Не исключен и такой вариант, что пространство и время отдельно, сознание отдельно. Как бы бредово это ни звучало...
Это не бредово, это дуализм, довольно давняя концепция, не находящая подтверждений и имеющая внутреннюю противоречивость.. Вот фрагмент из замечательной книги Кукушкина "Хлопок одной ладонью".
"Исторически считалось, что сознание, оно же субъективность, оно же душа, есть особая материя, независимая от материального тела. Такая философская позиция называется «дуализм», то есть двойственность: есть материальное, а есть сознательное...
Типичный аргумент против дуализма довольно простой. Если сознание независимо от материи, то как оно может на эту материю влиять, заставляя нас что-то делать? Если оно все же влияет на материю, то не означает ли это, что на материю при этом должны действовать материальные силы? А если на материю со стороны сознания действует материальная сила, то разве не делает это материальным и само сознание? Если же сознание никак не влияет на тело, то зачем оно вообще нужно? Если нет влияния, то сознание никак не отражается на работе мозга, никак не меняет хода мыслей, не влияет на память, эмоции, мотивации и движения – ведь сегодня мы хорошо понимаем, что все эти вещи имеют материальную природу. Если сознание ни на чем не отражается, говорят дуалистам их оппоненты, то как вообще оно могло возникнуть в процессе эволюции?"
Ноосфера? Ещё не открытый вид некоего информационного поля (фундаментального взаимодействия)? Информатике, как науке и ещё сотни лет нет - здесь, кмк, очень много чего занятного потомки ещё раскопают...))
Ну и, кмк, "размахивать бритвой Оккама направо и налево" - такой себе путь... Так скорее договоримся до "бог так захотел" и "пути господни неисповедимы". Проходили уже))
Проблема доказательства этой неразрешимости являет разительный пример того, какое побуждающее влияние на науку может оказать специальная и на первый взгляд малозначительная проблема. Ибо, побуждённый задачей Ферма, Куммер пришёл к введению идеальных чисел и к открытию теоремы об однозначном разложении чисел в круговых полях на идеальные простые множители — теоремы, которая теперь, благодаря обобщениям на любую алгебраическую числовую область, полученным Дедекиндом и Кронекером, является центральной в современной теории чисел и значение которой выходит далеко за пределы теории чисел в область алгебры и теории функций.
Давид Гильберт. Математические проблемы
Мне кажется, в любом кейсе, в котором замешана нейросетка, можно придерживаться подхода: "Всё есть глюк"
Решение поставленной задачи это лишь нахождение оптимального алгоритма. Не громко ли про открытие?
Это конечно очень круто, но никакого математического открытия сделанного нейросеткой, я тут не увидел.
Ну да, это как нахождение следующего простого числа. Возможно достижение в том, что нашли решение не при помощи детерминированного алгоритма, а с помощью нейросети.
Но нейросеть тоже детерминированный алгоритм...
Почему тогда каждый раз генерирует новую картинку по тем же промтам?
Потому что там есть seed. Если задавать его вместе с промптом - то будете получать идентичные картинки
Не сидом единым)
На civitai - сайте фанатов нейрсоетки stable diffusion - даже принято оставлять рецепт, на какой модели с каким промптом и с какими параметрами CFG scale, steps, Sampler, Seed было собрано конкретное изображение, чтобы умельцы могли воспроизвести то же самое, но со своими правками.
Так что кроме сида там ещё есть несколько параметров, которыми крутят даже в рамках одной модели.
это такое же открытие, как открытие банки с газированной
Любая задача имеет хотя бы одно простое красивое неправильное решение.
Вспомнился EMACS с его LISP где что код что данные - всё одно.
Сказать что найдено новое знание - маркетинг класса лжи и вероятно стоящий за таковым заказчик вызывает ужас, но сам подход очень хорош и результат интересен.
В любой области где в принципе подходит любой результат но хотелось бы получше - модельный ИИ очень к месту.
Но программа, которая находит решение, - это то, что человек может прочитать, интерпретировать и, надеюсь, таким образом генерировать идеи для следующих задач"
Ну ведь известно уже - не всегда может интерпретировать, а то и иметь время прочитать.
И что за открытие то? Надеюсь не из серии "Биологи открыли что отношение длина окружности муравейников к диаметру примерно равно 3. И это универсальное отношение верно для всех муравейников..."? А то очень похоже что просто решили задачи перебором. На куче параллельных ядер такие задачи хорошо решаются ))
Нуу, вторая задача похожа на описание "задачи о рюкзаке", которая является NP-полной, и перебором ее не решишь. Возможно, нейросеть придумала какую-то эвристику для жадного алгоритма удачную, или что-то в этом роде.
Про муравейники — это старый анекдот, или ваша идея? Слямзить можно?
К Гауэрсу народ по-разному относится, равно как и к его "двум культурам" в математике.
См. например https://nikaan.livejournal.com/116904.html?thread=994472#t994472
В интернете много людей высказывает разные идеи и может получаться "мудрость толпы". Учёные не могут видеть все эти идеи. Раз нейросеть не создаёт новой информации, то она могла как поисковик просто показать им чью-то идею.
Автору статьи нужно знать, что ответ задач перебора, а задача может быть даже NP полной, не могут означать искусственный интеллект! И не будоражить молодые умы! Машина просто быстро перебирает и точка. Доказывать теоремы машина никогда не сможет!
"делать нечто большее, чем просто перерабатывать информацию, полученную в процессе обучения, и приходить к новым открытиям (т.е. "может генерировать информацию, выходящую за рамки человеческих знаний")."
А в чём собственно новость? Модель выполняет то, для чего и создавалась. Если кучка "имбецилов" с пилой "дружба" додумалась что с помощью линейки и карандаша можно не сложными манипуляциями произвести отрезок прямой, это тоже будет достойно такой скатерти бессмысленного жонглирования буковами..?
Учёным удалось сделать открытия в математике при помощи DeepMind