Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 57
А если кто-то считает, что и через 50 лет компьютеры сами писать программы не будут, какой пункт ему выбирать?
Вполне возможно что некоторый класс задач будет автоматизирован в ближайшее десятилетие, красивый пример — Wolfram Alpha, решает львиную часть простых задач по математик, правда заданных на языке математики а не естественном.
Вполне возможно, следующими будут красивые решения на базе IBM Watson, сначала как вопрос-ответные системы по доступу к базам данных (этакие системы исполнения запросов поиска к базам данных на естественном языке), и потихоньку в сторону управления.
конечно голосовые ассистенты уже сейчас могут выполнить много, что скажет человек, но это конечно же все еще не программирование.
Вполне возможно, следующими будут красивые решения на базе IBM Watson, сначала как вопрос-ответные системы по доступу к базам данных (этакие системы исполнения запросов поиска к базам данных на естественном языке), и потихоньку в сторону управления.
конечно голосовые ассистенты уже сейчас могут выполнить много, что скажет человек, но это конечно же все еще не программирование.
Теперь я знаю, кто писал китаекод, который мне пришлось полгода доводить до ума на прошлой работе.
Рано или поздно найдётся программист, который автоматизирует и свою работу.
Мое ИМХО, уже сейчас многое автоматизируется: автоматическое тестирование, статический анализ, кодогенерация, но:
1. написание кода это только часть функции программистов, основная это умение решать задачи (не всегда даже используя компьютер). Клиенты всегда ставят задачи под виду нарисовать семь красных линий, никогда компьютеру без реально сильного ИИ, их не понять. А с настолько сильным ИИ все профессии станут бессмысленными,
2. аппетит приходит во время, еды так что даже если программисты будут заниматься переводом задач «семь красных линий» в естественный язык понятный компьютеру «используя алгоритм Пауло-Бройла построить семь красных линий в геометрии Лабочевского», то программистов меньше не станет, всем найдется работа,
1. написание кода это только часть функции программистов, основная это умение решать задачи (не всегда даже используя компьютер). Клиенты всегда ставят задачи под виду нарисовать семь красных линий, никогда компьютеру без реально сильного ИИ, их не понять. А с настолько сильным ИИ все профессии станут бессмысленными,
2. аппетит приходит во время, еды так что даже если программисты будут заниматься переводом задач «семь красных линий» в естественный язык понятный компьютеру «используя алгоритм Пауло-Бройла построить семь красных линий в геометрии Лабочевского», то программистов меньше не станет, всем найдется работа,
Ну вообще-то уже сейчас программист очень далеко от машинных кодов, инструкций, и пр. Опять-же задача сводится от «хочу то не знаю что» заказчика до объяснения компьютеру понятным ему языком, причем с каждым новым яп задача упрощается
Да, а с фреймворками, cms и конструкторами сайтов задача ещё больше упрощается. Но даже если можно будет объяснять задачу компьютеру обычным обычным человеческим языков все равно этим будут заниматься программисты, так как клиенты такого наобъясняют…
Поначалу — да. Нужно будет правильно объяснять. Но конечная цель как раз в том, чтобы любой человек мог объяснить компьютеру, какая программа ему нужна. И, если что-то непонятно или противоречиво, то компьютер должен будет задать наводящие вопросы — стать более активной составляющей.
Это уже надо, чтобы компьютер читал мыслеобразы клиента, видя напрямую его внутреннее представление конечного результата. Иначе, зная, как объясняют свои желания клиенты, и никакие наводящие вопросы не помогут. Не говоря уже о том, что клиент обычно вообще не знает, чего хочет. Он просто хочет.
Для этого есть свои методики (извлечения знаний эксперта и т.п.) Кроме того, для начала вполне можно использовать чек-листы с типичными вопросами-ответами. А, после первой итерации клиент уже сам расскажет, что не так — благо, машину, в отличие от белкового программиста, не будет расстраивать (хотя, как знать) выброшеный код из первой итерации.
Конечно, это уже другой уровень по сравнению с описанным примером. Но лет 5 назад сегодняшний уровень автономного распознавания устной речи тоже казался фантастикой.
Насчет мыслеобразов — этим занимаются многочисленные уровни глубоких нейронных сетей. Их глубина уже сейчас превышает ту, что есть в человеческом мозгу. Это означает, что потенциально они могут достигать более высоких уровней абстракций. Вопрос в правильных примерах, настройках алгоритма обучения, структуре самой сети.
Конечно, это уже другой уровень по сравнению с описанным примером. Но лет 5 назад сегодняшний уровень автономного распознавания устной речи тоже казался фантастикой.
Насчет мыслеобразов — этим занимаются многочисленные уровни глубоких нейронных сетей. Их глубина уже сейчас превышает ту, что есть в человеческом мозгу. Это означает, что потенциально они могут достигать более высоких уровней абстракций. Вопрос в правильных примерах, настройках алгоритма обучения, структуре самой сети.
«Вопрос в правильных примерах...» — ход Ваших мыслей очень правильный, но нужно посмотреть чуть-чуть со стороны: данная ветка ИИ (нейронные сети) может обучаться на УЖЕ имеющихся примерах.
Но как она сможет создавать новое — то, чего еще нет?
Точнее: сможет ли подобная система создавать ПО для которых еще не создано алгоритмов?
ПРИМЕР:
— Создай самую лучшую ОС. (Знаем Линь, Винь, ДОС, ср-м, Юникс, run-time и т.д....)
— Сможет ли абориген из джунглей Амазонки «создать» при помощи вышеописанного устройства, мерседес, боинг, компьютер?
У описанного устройства отсутствует «творческий потенциал» — Разработай компьютер на основе фуллеренов или — разберись за что отвечает каждый нейрон в головном мозге хомо сапиенс («на сегодня» порядка 96 миллиардов нейронов)…
Нейросети хороши для задач типа: улучши работу светофора на перекрестке пр-кта Центральный и ул. Лесная…
Для творческой деятельности нужна другая ветка ИИ (Пролог и т.д.) — подобные системы могут отвечать на вопросы типа: Почему лучше сделать так, а не по другому.
Но как она сможет создавать новое — то, чего еще нет?
Точнее: сможет ли подобная система создавать ПО для которых еще не создано алгоритмов?
ПРИМЕР:
— Создай самую лучшую ОС. (Знаем Линь, Винь, ДОС, ср-м, Юникс, run-time и т.д....)
— Сможет ли абориген из джунглей Амазонки «создать» при помощи вышеописанного устройства, мерседес, боинг, компьютер?
У описанного устройства отсутствует «творческий потенциал» — Разработай компьютер на основе фуллеренов или — разберись за что отвечает каждый нейрон в головном мозге хомо сапиенс («на сегодня» порядка 96 миллиардов нейронов)…
Нейросети хороши для задач типа: улучши работу светофора на перекрестке пр-кта Центральный и ул. Лесная…
Для творческой деятельности нужна другая ветка ИИ (Пролог и т.д.) — подобные системы могут отвечать на вопросы типа: Почему лучше сделать так, а не по другому.
обучаться на УЖЕ имеющихся примерах— даже если использовать только это, то представим себе объем знаний, хранящихся в проектах типа stackoverflow, sourceforge. Только на этом багаже можно двинуться достаточно далеко.
Но как она сможет создавать новое — то, чего еще нет?— в качестве примера таких алгоритмов могу привести различные эволюционные стратегии (GA, GP, tierra). Да, скорость изобретения новых трюков эволюцией не очень велика, но она принципиально возможна.
Система AlphaGo, обыгравшая Ли Седаля тренировалась, играя сама с собой.
Сможет ли абориген из джунглей Амазонки «создать» при помощи вышеописанного устройства, мерседес, боинг, компьютер?— Думаю, что если этого аборигена взять в раннем детстве и воспитывать в обычном для нас окружении, то вероятность того, что он сможет стать продвинутым технарем не очень будет отличаться от обычного выпускника Пекинского ВУЗа. Конечно, нужно проверять — существуют разные точки зрения на то, как гены разных национальностей влияют на способности в разных областях. Моя текущая точка зрения состоит в том, что у человека, как у вида достаточно молодого, внутривидовые отличия индивидуумов существенно превышают отличия между средними значениями внутри определенных популяций (национальности, пол и т.п.) Я высказался сейчас несколько вольно, но точная формулировка будет слишком длинной.
— «Думаю, что если этого аборигена взять в раннем детстве и воспитывать в обычном для нас окружении, то...»
Прошу прощения за мою «косноязычность» — речь идет о том, что если прогресс и дальше будет идти с увеличивающейся скоростью, то мы и есть те «аборигенты» по сравнению с уровнем лет через 50…
Другими словами:
— Кто нас сейчас может «взять в раннем детстве и воспитывать» в окружении, которое будет через 50 лет?
— Речь идет о том, что «тот, кто не ел ничего слаще редьки» — не сможет сообщить системе чего он хочет — а стало быть, система не сможет создать «то, чего не знаю сам» — так понятнее?
— «даже если использовать только это, то представим себе объем знаний, хранящихся в проектах типа stackoverflow, sourceforge. Только на этом багаже можно двинуться достаточно далеко.»
Это как раз «тормоз» для системы:
— каких она должна быть размеров?
— Сколько энергии потреблять?
и т.д.
— «Да, скорость изобретения новых трюков эволюцией не очень велика, но она принципиально возможна.»
Нейросети хороши там, где идет повторение — они само обучаются и «в следующий раз» превосходят человека.
Приведенный пример будет хорош в колл-центрах и support-центрах, но не в девелопе (особенно «на краю познаний» — там лучше работает исчисление предикатов… Опять же, Вы готовы «отдать на лечение» своего ребенка доктору, который не может объяснить «почему так лучше»?
А вот в качестве «мотора» прогресса они «так себе» — если не сказать жестче…
Прошу прощения за мою «косноязычность» — речь идет о том, что если прогресс и дальше будет идти с увеличивающейся скоростью, то мы и есть те «аборигенты» по сравнению с уровнем лет через 50…
Другими словами:
— Кто нас сейчас может «взять в раннем детстве и воспитывать» в окружении, которое будет через 50 лет?
— Речь идет о том, что «тот, кто не ел ничего слаще редьки» — не сможет сообщить системе чего он хочет — а стало быть, система не сможет создать «то, чего не знаю сам» — так понятнее?
— «даже если использовать только это, то представим себе объем знаний, хранящихся в проектах типа stackoverflow, sourceforge. Только на этом багаже можно двинуться достаточно далеко.»
Это как раз «тормоз» для системы:
— каких она должна быть размеров?
— Сколько энергии потреблять?
и т.д.
— «Да, скорость изобретения новых трюков эволюцией не очень велика, но она принципиально возможна.»
Нейросети хороши там, где идет повторение — они само обучаются и «в следующий раз» превосходят человека.
Приведенный пример будет хорош в колл-центрах и support-центрах, но не в девелопе (особенно «на краю познаний» — там лучше работает исчисление предикатов… Опять же, Вы готовы «отдать на лечение» своего ребенка доктору, который не может объяснить «почему так лучше»?
А вот в качестве «мотора» прогресса они «так себе» — если не сказать жестче…
Если будут существовать такой ИИ, то человек не будет нужен ни на какой стадии, один ИИ будет объяснять другому ИИ, какая программа на самом деле людям нужна. Тогда ИИ заменит вообще все профессии. Но сомневаюсь что люди позволят довести разработку ИИ до этой стадии.
Честно говоря, я думаю, что к этому и идет. И вряд ли люди договорятся, что нужно остановиться — ведь элементы ИИ позволяют тем, кто их разработали, получать немалые деньги. Поэтому под любыми предлогами (в том числе, обманывая сами себя относительно его безопасности), разработки будут продолжаться, пока не наступит момент, когда человек станет ненужным. В том числе, этим будут заниматься и военные, у которых будет бронебойный довод — если это не сделаем мы, это сделают наши противники.
Единственный перспективный вариант, который мне кажется реальным — концепция усилителей разума, когда человек включается решающим звеном в интеллектуальную систему, которая передает ему переваренные данные (если сделаем так, то получим 100000 денег прибыли, если эдак — убыток).
Единственный перспективный вариант, который мне кажется реальным — концепция усилителей разума, когда человек включается решающим звеном в интеллектуальную систему, которая передает ему переваренные данные (если сделаем так, то получим 100000 денег прибыли, если эдак — убыток).
1. ИМХО, сомневаюсь, так как пока экономической необходимости в сильном ИИ нет, в большом кол-ве слабых ИИ (водителей, распознавателей видео, текст) — есть и большая, а вот сильное ИИ требует намного больше вычислительных ресурсов, а у сильного ИИ польза под вопросом (если это будет виртуальный человек аналогичный разуму обыкновенного человека, но потребляющий ресурсы суперкомпьютера), а как создать супер ИИ (то есть превосходящий разум человека как мы превосходим животных) пока непонятно, так как пока далеко до создания хотя бы подобия человеческого разума со всеми его недостатками.
2. Не так важно, будет сильный ИИ или нет, работа программиста по работе с клиентами будет автоматизированна одной из последних, потому что решение абсолютно любой задачи нечетко поставленной нетиповой задачи — одна из самых сложных для ИИ,
2. Не так важно, будет сильный ИИ или нет, работа программиста по работе с клиентами будет автоматизированна одной из последних, потому что решение абсолютно любой задачи нечетко поставленной нетиповой задачи — одна из самых сложных для ИИ,
Как минимум сильный ИИ нужен в 'далеком' космосе, там где человека держать ОЧЕНЬ дорого, а удаленное управление слишком медленное.
Возможно, хотя на мой взгляд и там лучше и безопаснее использовать очень хороший специализированный слабый ИИ, на вроде автопилота у гугл кар или альфа го. ИМХО, задачи разведки и добычи ресурсов в космосе попроще c точки зрения ИИ чем, например, управления автомобилем на переполненном шоссе. А отпускать сильный ИИ в дальний космос, несколько страшно.
Единственная проблема — встреча с другой цивилизацией, но и там сильный ИИ скорее дров наломает (кто его знает, может он развяжет межгалактическую войну с вполне мирной цивилизацией?)
Единственная проблема — встреча с другой цивилизацией, но и там сильный ИИ скорее дров наломает (кто его знает, может он развяжет межгалактическую войну с вполне мирной цивилизацией?)
Перебарщиваете, нам бы свои астероидные пояса освоить, для нас сейчас это дальний космос ;)
Ну, свои астероидные пояса сильный ИИ не нужен, даже до Плутона радиоволны идут 5 часов с хвостиком, вполне можно стратегические решения (что строить, какие астероиды лучше разрабатывать) принимать и на Земле.
какая глобальная стратегия, мы топчемся на простейших операциях — болтик закрутить, пакетик развернуть!
Корень зла — нештатки, ехали из точки А в точку Б, по пути колесо сломалось, да так что ни один конструктор не предугадает, манипулятором схватили предмет а он возьми и сомнись (а думали что камень, максимум рассыпется) и т.п.
Каждое такое событие — остановка работы на 10 часов в лучшем (5 часов сигнал в одну сторону) и это в лучшем случае, альтернатива смерть проекту.
Корень зла — нештатки, ехали из точки А в точку Б, по пути колесо сломалось, да так что ни один конструктор не предугадает, манипулятором схватили предмет а он возьми и сомнись (а думали что камень, максимум рассыпется) и т.п.
Каждое такое событие — остановка работы на 10 часов в лучшем (5 часов сигнал в одну сторону) и это в лучшем случае, альтернатива смерть проекту.
Для этого есть слабые ИИ, вспомним сколько сил потрачено чтобы избежать нештаток в автопилотах гугла. Можно виртуально прогнать большинство возможных ситуаций. Нештатка в автоматической машине может привести к человеческим жертвам и огромным искам, а возможных ситуаций на дорогах города на порядки раз больше.
С другой стороны, сильный ИИ так далеко от людей может доэволюционировать до создания собственного флота. И красной кнопкой его на таком расстоянии не остановить.
Соотношение, вышедший из подчинения сильный ИИ с риском гибели Человечества, и потерянная фабрика по глюку слабого ИИ, все-таки неспопоставимы. Не говоря уже о том, что астероидный пояс намного ближе чем Плутон, в моменту разработки Плутона технология будет обкатана на той же Луне, например.
С другой стороны, сильный ИИ так далеко от людей может доэволюционировать до создания собственного флота. И красной кнопкой его на таком расстоянии не остановить.
Соотношение, вышедший из подчинения сильный ИИ с риском гибели Человечества, и потерянная фабрика по глюку слабого ИИ, все-таки неспопоставимы. Не говоря уже о том, что астероидный пояс намного ближе чем Плутон, в моменту разработки Плутона технология будет обкатана на той же Луне, например.
Вас кидает в крайности… надо наверное определиться что есть слабый ИИ и сильный. Я считаю слабый ИИ это проекты уровня wolfram alpha или на основе ibm watson, ставим узкую задачу но решаем ее максимально хорошо. Изображения распознать, манипулятором порулить (на хабре были примеры управления манипулятором с помощью генетического алгоритма, с возможностью выполнения при частичных повреждениях),…
Сильный ИИ способен принимать решения, не заложенные в его программу, т.е. без явных рамок… кроме чисто физических. никакой ИИ никакой флот не построит, если у него не будет для этого инструментов и ресурсов. Саморепликация это больше инженерная задача а не ИИ, а это практически главное (и наверное единственное) требование, которое необходимо интеллекту для самосовершенствования… и конечно ресурсы.
Даже такой ресурс как энергия, при его нехватке, превратит план по захвату управления даже очень смышленым интеллектом, в нечто растянувшееся на годы и столетия. Космос очень пустое место, особенно когда вы далеко от солнца.
Сильный ИИ способен принимать решения, не заложенные в его программу, т.е. без явных рамок… кроме чисто физических. никакой ИИ никакой флот не построит, если у него не будет для этого инструментов и ресурсов. Саморепликация это больше инженерная задача а не ИИ, а это практически главное (и наверное единственное) требование, которое необходимо интеллекту для самосовершенствования… и конечно ресурсы.
Даже такой ресурс как энергия, при его нехватке, превратит план по захвату управления даже очень смышленым интеллектом, в нечто растянувшееся на годы и столетия. Космос очень пустое место, особенно когда вы далеко от солнца.
Я согласен с вами, сильный ИИ это как минимум аналог человека по своему мышлению или даже многих людей. Если отправлять ИИ добывать ресурсы и производить из них оборудование сложно будет проконтролировать, например, то чтобы ИИ не добыл обогащенного урана, сварганил простую бомбу и не отправил её к Земле вместе с партией руды.
Надо понимать что сильный ИИ это по сути те же Люди (интеллектуально), которые предоставлены сами себе. При определенном желании и интеллекте люди даже в концлагерях устраивали диверсии, а тут разум за много миллионов км. от любого человека у которого есть инструменты для добычи полезных ископаемых и её обработке. Не стоит проверять что ему может придти на ум.
Надо понимать что сильный ИИ это по сути те же Люди (интеллектуально), которые предоставлены сами себе. При определенном желании и интеллекте люди даже в концлагерях устраивали диверсии, а тут разум за много миллионов км. от любого человека у которого есть инструменты для добычи полезных ископаемых и её обработке. Не стоит проверять что ему может придти на ум.
И вот тут я понял кого мы примем за инопланетян.
возможно логическим продолжением идеи ИИ, будут «кластера ИИ», где грубо говоря одни сети будут делать учебные выборки для других узкоспециализированных ИИ, чтобы «те не отвлекались на всякие ненужные знания»…
А в чем тут проблему вы видите? Людям нравится работа ради работы? Я бы предпочел иметь некоторую свободу, даже сейчас есть люди, которые сами что-то изготавливают, хотя можно пойти в магазин и купить не хуже. Есть игры, есть походы на эверест и прочие развлечения для любителей пострадать и поиспытывать судьбу, хотя можно жить в тепле и комфорте.
Или сверхразумные роботы всех истребят за ненадобностью? Тут конечно есть вероятность. С другой стороны развитие разума и цивилизации это и рост гуманизма, и к людям и к более низшим животным, по крайней мере в человеческом обществе, с роботами конечно не факт.
Или сверхразумные роботы всех истребят за ненадобностью? Тут конечно есть вероятность. С другой стороны развитие разума и цивилизации это и рост гуманизма, и к людям и к более низшим животным, по крайней мере в человеческом обществе, с роботами конечно не факт.
Проблема в том что люди привыкли что от их существования что-то зависит. Если ИИ полностью заменить Человечество, то есть будет вообще любую работу, есть большой шанс что люди потеряют смысл жизнь. Да, можно играть, ходить на эверест, но это нижние уровни пирамиды Маслоу, а верхние в мире, где роботы все и всегда делают лучше людей, будут недоступны (какой смысл пытаться что-то делать, если у роботов это получится всегда лучше). А нижние уровни пирамиды Маслоу не способны заменить верхние, то есть жизнеспособность такого общества сомнительна.
От сюда сомнительно что Человечество когда-либо полностью заменит свои функции сильным ИИ, это просто против его природы. Какие-то критичные вещи — да, но никогда все. Возможно будет создавать ненужные работы, сознательно тормозить использование ИИ, но не даст ИИ полностью заменить людей.
От сюда сомнительно что Человечество когда-либо полностью заменит свои функции сильным ИИ, это просто против его природы. Какие-то критичные вещи — да, но никогда все. Возможно будет создавать ненужные работы, сознательно тормозить использование ИИ, но не даст ИИ полностью заменить людей.
ИИ очень много поменяет в жизни людей, городов, экономик, стран. Но ВСЕХ проблем он не решит. Множество проблем останутся, но да, первое время пока ИИ будет всюду проникать на эти проблемы можно будет закрыть глаза. Это как с ПК и новой электроникой и Интернетом, но на принципиально другом уровне. Размер финансового пузыря, когда сделают ИИ и начнут его пристраивать к месту и не к месту мне даже представить на самом деле страшно.
Представьте, вы будете 100% уверены, что можно взять (сделать) робота, вместо вас посадить и он лучше вас любую работу сделает. Причем его и учить не надо, сам всё необходимое скачает и загрузит. Это попытка бухгалтера продолжать считать на счетах, когда вокруг все баланс на компьютере сводят. Только в данном случае счеты это мы.
Да и насчет ограничений использования. Почти бесплатные, делающие сами себя «рабы», готовые нам во всем услужить, это прямой путь к «полному соцпакету» из доступных благ для каждого, комфортное жильё, средства передвижения, отдыха, кто от этого добровольно откажется? Мне не нужна работа, мне нужно то, что я могу купить на деньги, заплаченные за мою работу.
Да и насчет ограничений использования. Почти бесплатные, делающие сами себя «рабы», готовые нам во всем услужить, это прямой путь к «полному соцпакету» из доступных благ для каждого, комфортное жильё, средства передвижения, отдыха, кто от этого добровольно откажется? Мне не нужна работа, мне нужно то, что я могу купить на деньги, заплаченные за мою работу.
>> это прямой путь к «полному соцпакету» из доступных благ для каждого, комфортное жильё, средства передвижения, отдыха, кто от этого добровольно откажется? Мне не нужна работа, мне нужно то, что я могу купить на деньги, заплаченные за мою работу
Уверены, что это для всех людей? Я знаю очень многих кто из вариантов всю оставшуюся жизнь ничего не делать и работать на интересной работе выберет второе. В конце концов, многие могли бы продать квартиру в Москве, уехать в тропические страны/Азию и жить ничего не делая на одни проценты. Но ведь не уезжают.
Уверены, что это для всех людей? Я знаю очень многих кто из вариантов всю оставшуюся жизнь ничего не делать и работать на интересной работе выберет второе. В конце концов, многие могли бы продать квартиру в Москве, уехать в тропические страны/Азию и жить ничего не делая на одни проценты. Но ведь не уезжают.
«ничего не делать» и «делать что угодно» это несколько разные вещи. В конце концов, можно объединиться в клуб по интересам, уехать в глушь, организовать там колонию таких же любителей жить по канонам конца 20 века, или даже в виртуальную реальность… oh shi…
Тут не важно, «делать что угодно» == «ничего не делать» если в этом не будет никакой пользы для человечества. Рисовать картины, писать книги, придумывать стихи — роботы сделают быстрее и лучше. То есть любое хобби имеет такой же смысл как собирания гербария из сушенных листьев, вроде вы что-то делаете, но с совершенно нулевой пользой.
Поэтому нет, все доступные блага за то что за всю свою жизнь 100% не сможешь сделать ничего полезного — плохой размен на которые достаточно многие не согласятся.
Поэтому нет, все доступные блага за то что за всю свою жизнь 100% не сможешь сделать ничего полезного — плохой размен на которые достаточно многие не согласятся.
Про картины наверное у человека всё-таки будет шанс, сделать лучше тут невозможно, можно сделать иначе, вариантов бесконечность. Даже прочая работа для человека останется, только платить за неё не будут, т.к. любой электронный болванчик сделает то же самое бесплатно, а так какая разница кто будет асфальт мести, человек или машина. Конечно до вождения транспорта и другой ответственной работы человека никто не допустит, или только в безопасных для других людей местах.
«Китайские ученые опубликовали исследование, которое является небольшим шажком к тому, чтобы ушла в небытие еще одна человеческая специальность — разработчик программного обеспечения.» Маленькие шажки имели бы смысл, если у двигающихся был бы более мение понятный план движения и каждый следующий шажок можно сделать с места, до которого дошли ранее. Нет ни того ни другого. Не известно куда двигаться и полезность шажков сомнительна. Полноценный же программист-компьютер появится никак не ранее, чем появится полноценный машинный интеллект. А полноценный машинный интеллект вытеснит очень много чего и кого, не только программистов. Машинный интеллект изменит мир неузнаваемо. До сих пор фантастика описывающая будущее с массовым распространением машинного интеллекта достаточно слабая и не проработанная.
>Полноценный же программист-компьютер появится никак не ранее, чем появится полноценный машинный интеллект.
Это необязательно скачкообразный процесс: раз — и появился. Постепенно достаточно «глупый» механизм будет развиваться получая опыт (не обязательно свой — например, подключая новые модули разработанные и продуманные человеком)
Человеку-программисту будет отводиться область постановки и алгоритмической формализации задач, впрочем как и сейчас только на более высоком уровне. И с каждым поумнением машины человеку можно будет все меньше конкретизировать задание и человеку же все меньше нужно будет тратить времени на достаточно низкоуровневое копание в коде.
Это необязательно скачкообразный процесс: раз — и появился. Постепенно достаточно «глупый» механизм будет развиваться получая опыт (не обязательно свой — например, подключая новые модули разработанные и продуманные человеком)
Человеку-программисту будет отводиться область постановки и алгоритмической формализации задач, впрочем как и сейчас только на более высоком уровне. И с каждым поумнением машины человеку можно будет все меньше конкретизировать задание и человеку же все меньше нужно будет тратить времени на достаточно низкоуровневое копание в коде.
«И с каждым поумнением машины человеку можно будет все меньше конкретизировать задание...» Не будет и такого. Ведь как минимум надо общаться с рассматриваемым вами недоинтеллектом не неком недоязыке. И с каждым «поумнением» должен умнеть и сам язык. А язык сам устроен как большой взрыв по ряду причин. И еще, для полноценного программирования необходимо иметь в голове множество моделей мира, в том виде, как мы люди его понимаем этот мир. Это понимание и есть основа нашего языка и основа любой коммуникации. Мы впитали часть этих моделей еще в детстве. И модели эти должны иметь правильный доступ к себе.
«Ведь как минимум надо общаться с рассматриваемым вами недоинтеллектом не неком недоязыке. И с каждым «поумнением» должен умнеть и сам язык.»
Полностью согласен, все так и будет. Этот процесс уже начался давно, еще с того момента как программы писались машинными кодами, потом появились ассемблеры, потом языки программирования высокого уровня, потом в них стали появляться различные модели и парадигмы вроде ООП. Всякие фреймворки, UML и ORM-ы, специальные математические пакеты, САПР это тоже один из малых шажков к более высокоуровневому построению программ. Потом появятся формализаторы человеческого языка в более простой понятный пока еще «глупой» машине, которой даже необязательно на этом этапе пользоваться всяческими хитрыми нейросетями и прочей попыткой эмулировать психику человека. Например, это можно сравнить с работой со структурированными данными на SQL и на обычном ЯП: на SQL почти на обычном человеческом языке можно сказать какие данные получить и что нужно с ними сделать. А вот на ЯП придется долго попыхтеть чтобы самому сделать то, что за нас сделает СУБД понимающая SQL и под каждую задачу потом все переделывать(насмотрелся я на старых Clipper-щиков, которые с современными СУБД работают по-старинке затрачивая впустую кучу времени), а если мы захотим сделать сами что-то универсальное, то опять же получится СУБД которая понимает какой-то нами изобретенный язык запросов.
«Модели мира как его понимают люди» в машину загрузят сами люди. Как слепому с рождения не объяснить что такое цвет и свет или глухому что такое музыка, так и машине не объяснить человеческих понятий если у нее нет «мозга» и органов чувств. Поэтому некоторые вещи будут для машин аксиомами и для каждых непонятных новых областей будут жестко задаваться людьми. А на основе аксиом машины будут строить теоремы. Ведь и сейчас компьютеры работают на очень простых основах двоичной логики состоящей всего из нескольких операций, и все что мы сейчас видим на экране это их комбинация.
Предложу такой пример на основе которого должно быть боле наглядно видно, как это будет выглядеть.
Человек (Ч) говорит Машине (М): «Напиши программу типа Арканоид»
М: "???????????", что означает — совсем непонятно.
Голос за кадром(ГЗК) нам комментирует:«Если первые три слова приказа машине после простого логического парсинга терминов понятны, то последнее нет, т.к. машина абсолютно не знает что такое Арканоид. Человеку далекому от компьютеров это слово тоже показалось бы непонятным, т.к. в его памяти нет таких воспоминаний и ассоциаций. Машина ничего делать не будет, пока термин не будет разъяснен на основе имеющихся терминов или на основе подключенного модуля — черного ящика созданного человеком. На начальном этапе развития умных машин — программистов у них не будет никакого интеллекта т.к. недоработанный интеллект, который сейчас представляют нейросети, полностью негоден для такого точного процесса как программирование, так же как и человек-гуманитарий. Нейросети сейчас умеют рисовать, сочинять музыку, распознавать объекты, даже генерировать похожие на человеческие рассказы, но тут нет и грамма логической осмысленности, просто тупые случайные НЕточные комбинации шаблонов с тысячами обучающих примеров.(Замечательная статья по теме — https://habrahabr.ru/post/259191/ Внезапный диван леопардовой расцветки). Т.е. тут будет простой парсер человеческого языка во внутреннее представление, примерно как в SQL и этого достаточно „
Ч уточняет задание: “Арканоид это игра. Правила следующие: Игрок контролирует небольшую платформу-ракетку, которую можно передвигать горизонтально от одной стенки до другой, подставляя её под шарик, предотвращая его падение вниз. Удар шарика по кирпичу приводит к разрушению кирпича. После того как все кирпичи на данном уровне уничтожены, происходит переход на следующий уровень, с новым набором кирпичей. (С) Википедия „
ГЗК: “Забегая вперед могу сказать, что из этого описания Машина следующего поколения уже может самостоятельно сделать то, что есть в описании, замещая некоторые умолчания своим „опытом“, но результат будет соооовсем не тем, который мы ждем. Впрочем и этого описания даже по-человечески недостаточно, только умудренный опытом аксакал может додумать свое видение окунувшись в свой богатый жизненный опыт, фактически написав от себя ТЗ (такое и сейчас бывает, когда заказчик не знает, что хочет и за него надо додумывать самому). Тут не сказано, про то, что шарик может отскакивать под разными углами и вообще не сказано, что он должен отскакивать и откуда появляться. Такое слишком „гуманитарное“ описание пока еще трудно для нашей неинтеллектуальной машины»
А наша Машина первого поколения только и может на это сказать: "??????????"
Ч предпринимает попытку создать формулировку четким простым «детским» языком:«Задача: Пользователь с помощью манипулятора типа Мышь управляет прямоугольным объектом закрашенным зеленым цветом размером в 5 мм в высоту и 30 в ширину под названием Ракетка внизу экрана: при передвижении мыши по горизонтали объект Ракетка передвигается в соответствующую сторону до края экрана. В начале программы объект Шар имеющий форму круга диметром 5 мм закрашенного синим цветом начинает двигаться равномерно под углом 210 градусов из центра экрана со скоростью N мм/сек. Шар отскакивает от боковых, верхних сторон экрана и Ракетки по закону отражения. При пересечении нижней стороны экрана программа завершается с выводом сообщения „Ты проиграл!“. Объект Кирпич имеет форму прямоугольника закрашенного красным цветом размерами 10 мм в высоту и 20 в ширину. Кирпич при пересечении с Шаром исчезает, а Шар дальше движется по закону отражения.
В начале программы объекты Кирпич в количестве 10 штук располагаются в произвольном месте верхней половины экрана не пересекаясь друг с другом. Когда исчезает последний объект кирпич программа завершается с выводом сообщения „Ты выиграл!“.
ГЗК: „Это описание уже под силу реализовать в программу простому парсеру. Математические, физические, графические понятия уже знакомы Машине и являются модулями-аксиомами написанными человеком. А более простые языковые конструкции можно достаточно легко перевести в алгоритм. Непонятностей нет. Возможно мы что-то забыли, чего-то не учли, но сам алгоритм действий стал понятен машине.“
Наконец-то М говорит: „Задание ясно. Компилирую“.
Если бы машина не знала, что такое закон отражения и что вообще такое отражение, то она могла бы начать задавать уточняющие вопросы. И только когда непонятных терминов и языковых оборотов становится слишком много, то тут только и остается выдать »???????".
Повторюсь: на данном этапе развития не нужно применять «человеческо-нейронную» логику, достаточно простых парсеров естественного языка переводящих задание во внутренний алгоритмический язык(современные поисковые системы тому пример), оттранслировать который уже дело техники.
В дальнейшем, когда компьютеры начнут потихоньку «логически мыслить» можно будет скрещивать парсеры предыдущего поколения с новой более мощной нечеткой и в чем-то самостоятельно творческой логикой, тогда язык общения с машинным интеллектом будет более «гуманитарным». Да и вполне возможно, что новая «логическая» машина будет сделана как раз с помощью своего предшественника описанного в примере. И она будет способна творчески по-своему создать программу и даже не один вариант(в школе на олимпиаде по программированию у нас было тоже задание написать Арканоид и каждый написал свой отличный от других вариант) из самого первого ТЗ без подробных расписываний мелочей. Вот тут и произойдет как вы говорите «взрыв», но он не будет казаться таким большим — сейчас уже обычные люди тоже «программируют» голосом свои смартфоны на естественном языке выдавая короткие задания «ОК Г.....».
Полностью согласен, все так и будет. Этот процесс уже начался давно, еще с того момента как программы писались машинными кодами, потом появились ассемблеры, потом языки программирования высокого уровня, потом в них стали появляться различные модели и парадигмы вроде ООП. Всякие фреймворки, UML и ORM-ы, специальные математические пакеты, САПР это тоже один из малых шажков к более высокоуровневому построению программ. Потом появятся формализаторы человеческого языка в более простой понятный пока еще «глупой» машине, которой даже необязательно на этом этапе пользоваться всяческими хитрыми нейросетями и прочей попыткой эмулировать психику человека. Например, это можно сравнить с работой со структурированными данными на SQL и на обычном ЯП: на SQL почти на обычном человеческом языке можно сказать какие данные получить и что нужно с ними сделать. А вот на ЯП придется долго попыхтеть чтобы самому сделать то, что за нас сделает СУБД понимающая SQL и под каждую задачу потом все переделывать(насмотрелся я на старых Clipper-щиков, которые с современными СУБД работают по-старинке затрачивая впустую кучу времени), а если мы захотим сделать сами что-то универсальное, то опять же получится СУБД которая понимает какой-то нами изобретенный язык запросов.
«Модели мира как его понимают люди» в машину загрузят сами люди. Как слепому с рождения не объяснить что такое цвет и свет или глухому что такое музыка, так и машине не объяснить человеческих понятий если у нее нет «мозга» и органов чувств. Поэтому некоторые вещи будут для машин аксиомами и для каждых непонятных новых областей будут жестко задаваться людьми. А на основе аксиом машины будут строить теоремы. Ведь и сейчас компьютеры работают на очень простых основах двоичной логики состоящей всего из нескольких операций, и все что мы сейчас видим на экране это их комбинация.
Предложу такой пример на основе которого должно быть боле наглядно видно, как это будет выглядеть.
Человек (Ч) говорит Машине (М): «Напиши программу типа Арканоид»
М: "???????????", что означает — совсем непонятно.
Голос за кадром(ГЗК) нам комментирует:«Если первые три слова приказа машине после простого логического парсинга терминов понятны, то последнее нет, т.к. машина абсолютно не знает что такое Арканоид. Человеку далекому от компьютеров это слово тоже показалось бы непонятным, т.к. в его памяти нет таких воспоминаний и ассоциаций. Машина ничего делать не будет, пока термин не будет разъяснен на основе имеющихся терминов или на основе подключенного модуля — черного ящика созданного человеком. На начальном этапе развития умных машин — программистов у них не будет никакого интеллекта т.к. недоработанный интеллект, который сейчас представляют нейросети, полностью негоден для такого точного процесса как программирование, так же как и человек-гуманитарий. Нейросети сейчас умеют рисовать, сочинять музыку, распознавать объекты, даже генерировать похожие на человеческие рассказы, но тут нет и грамма логической осмысленности, просто тупые случайные НЕточные комбинации шаблонов с тысячами обучающих примеров.(Замечательная статья по теме — https://habrahabr.ru/post/259191/ Внезапный диван леопардовой расцветки). Т.е. тут будет простой парсер человеческого языка во внутреннее представление, примерно как в SQL и этого достаточно „
Ч уточняет задание: “Арканоид это игра. Правила следующие: Игрок контролирует небольшую платформу-ракетку, которую можно передвигать горизонтально от одной стенки до другой, подставляя её под шарик, предотвращая его падение вниз. Удар шарика по кирпичу приводит к разрушению кирпича. После того как все кирпичи на данном уровне уничтожены, происходит переход на следующий уровень, с новым набором кирпичей. (С) Википедия „
ГЗК: “Забегая вперед могу сказать, что из этого описания Машина следующего поколения уже может самостоятельно сделать то, что есть в описании, замещая некоторые умолчания своим „опытом“, но результат будет соооовсем не тем, который мы ждем. Впрочем и этого описания даже по-человечески недостаточно, только умудренный опытом аксакал может додумать свое видение окунувшись в свой богатый жизненный опыт, фактически написав от себя ТЗ (такое и сейчас бывает, когда заказчик не знает, что хочет и за него надо додумывать самому). Тут не сказано, про то, что шарик может отскакивать под разными углами и вообще не сказано, что он должен отскакивать и откуда появляться. Такое слишком „гуманитарное“ описание пока еще трудно для нашей неинтеллектуальной машины»
А наша Машина первого поколения только и может на это сказать: "??????????"
Ч предпринимает попытку создать формулировку четким простым «детским» языком:«Задача: Пользователь с помощью манипулятора типа Мышь управляет прямоугольным объектом закрашенным зеленым цветом размером в 5 мм в высоту и 30 в ширину под названием Ракетка внизу экрана: при передвижении мыши по горизонтали объект Ракетка передвигается в соответствующую сторону до края экрана. В начале программы объект Шар имеющий форму круга диметром 5 мм закрашенного синим цветом начинает двигаться равномерно под углом 210 градусов из центра экрана со скоростью N мм/сек. Шар отскакивает от боковых, верхних сторон экрана и Ракетки по закону отражения. При пересечении нижней стороны экрана программа завершается с выводом сообщения „Ты проиграл!“. Объект Кирпич имеет форму прямоугольника закрашенного красным цветом размерами 10 мм в высоту и 20 в ширину. Кирпич при пересечении с Шаром исчезает, а Шар дальше движется по закону отражения.
В начале программы объекты Кирпич в количестве 10 штук располагаются в произвольном месте верхней половины экрана не пересекаясь друг с другом. Когда исчезает последний объект кирпич программа завершается с выводом сообщения „Ты выиграл!“.
ГЗК: „Это описание уже под силу реализовать в программу простому парсеру. Математические, физические, графические понятия уже знакомы Машине и являются модулями-аксиомами написанными человеком. А более простые языковые конструкции можно достаточно легко перевести в алгоритм. Непонятностей нет. Возможно мы что-то забыли, чего-то не учли, но сам алгоритм действий стал понятен машине.“
Наконец-то М говорит: „Задание ясно. Компилирую“.
Если бы машина не знала, что такое закон отражения и что вообще такое отражение, то она могла бы начать задавать уточняющие вопросы. И только когда непонятных терминов и языковых оборотов становится слишком много, то тут только и остается выдать »???????".
Повторюсь: на данном этапе развития не нужно применять «человеческо-нейронную» логику, достаточно простых парсеров естественного языка переводящих задание во внутренний алгоритмический язык(современные поисковые системы тому пример), оттранслировать который уже дело техники.
В дальнейшем, когда компьютеры начнут потихоньку «логически мыслить» можно будет скрещивать парсеры предыдущего поколения с новой более мощной нечеткой и в чем-то самостоятельно творческой логикой, тогда язык общения с машинным интеллектом будет более «гуманитарным». Да и вполне возможно, что новая «логическая» машина будет сделана как раз с помощью своего предшественника описанного в примере. И она будет способна творчески по-своему создать программу и даже не один вариант(в школе на олимпиаде по программированию у нас было тоже задание написать Арканоид и каждый написал свой отличный от других вариант) из самого первого ТЗ без подробных расписываний мелочей. Вот тут и произойдет как вы говорите «взрыв», но он не будет казаться таким большим — сейчас уже обычные люди тоже «программируют» голосом свои смартфоны на естественном языке выдавая короткие задания «ОК Г.....».
Вы же понимаете, проблема не в слове «Арканоид», а в слове «типа». Самой лучшей моделью объекта является сам объект, поэтому на запрос «Хочу игру, похожую на Арканоид», компьютер скачает и запустит Арканоид.
Если бы все компьютеры были такими умными, то проблем бы не было. Я описал ситуацию как это будет выглядеть не через сто лет(ну ладно, пусть пятьдесят), а в ближайшем будущем и это будет не мегамозг с эксабайтами памяти без которых никакой сколько-нибудь умной, логичной и самостоятельной машины не сделать, а обычный современный нам домашний компьютер с несложным «глупым» парсером естественного языка…
ИМХО, это в принципе тупиковый путь. Языки программирования создаются не для того, чтобы «распугивать гуманитариев», а потому что именно таким способом легче и короче «объяснить» компьютеру стоящую перед ним задачу. На естественном языке исчерпывающее описание задачи в большинстве случаев займёт гораздо больше места и будет гораздо сложнее читаться, чем решение на специально для этого предназначенном языке.
Ну и никто не отменял, что описание того, что должна делать программа и того, как она будет это делать — зачастую две большие разницы.
Ну и никто не отменял, что описание того, что должна делать программа и того, как она будет это делать — зачастую две большие разницы.
Да, думаю, что машины, если будут писать «для себя» (т.е., без цели интегрировать код с человеческим), будут переводить его не в С, а во что-то другое. Возможно, какое-то графовое представление. А может — сразу в машинный код.
Тот подход, что описан здесь не очень хорошо поддается масштабированию влоб — в более-менее сложной системе (при произвольном языке описания) он приведет к проблемам, связанным с комбинаторной сложностью всех возможных вариантов. Скорее, этот подход может служить аналогом того, что у хорошего программиста получается сделать почти без раздумий — найти максимальный, минимальный элементы, отсортировать пузырьком, найти подстроку в массиве строк, загрузить объект (используя ORM) из DB. Дальнейшую комбинацию этих задач нужно осуществлять уже на другом уровне абстракции, где может стоять своя RNN (или что-то еще).
Но вот обратите внимание, что таким, бессознательным образом генерируется программа, в которой еще и согласованы идентификаторы. Многие ли люди способны это сделать, параллельно разговаривая по телефону (для меня это показатель того, что действие производится автоматично)? Так что как минимум этот уровень, искусственные нейросети способны взять на себя не хуже обычных людей. Я имею в виду в ближайшей перспективе. Своеобразный продвинутый саджест методов и классов. Более высокие уровни композиции — видимо несколько позже.
Тот подход, что описан здесь не очень хорошо поддается масштабированию влоб — в более-менее сложной системе (при произвольном языке описания) он приведет к проблемам, связанным с комбинаторной сложностью всех возможных вариантов. Скорее, этот подход может служить аналогом того, что у хорошего программиста получается сделать почти без раздумий — найти максимальный, минимальный элементы, отсортировать пузырьком, найти подстроку в массиве строк, загрузить объект (используя ORM) из DB. Дальнейшую комбинацию этих задач нужно осуществлять уже на другом уровне абстракции, где может стоять своя RNN (или что-то еще).
Но вот обратите внимание, что таким, бессознательным образом генерируется программа, в которой еще и согласованы идентификаторы. Многие ли люди способны это сделать, параллельно разговаривая по телефону (для меня это показатель того, что действие производится автоматично)? Так что как минимум этот уровень, искусственные нейросети способны взять на себя не хуже обычных людей. Я имею в виду в ближайшей перспективе. Своеобразный продвинутый саджест методов и классов. Более высокие уровни композиции — видимо несколько позже.
Ну почему тупиковая ветвь… лично мне тут видится очень интересным вариант, при котором результатом "обучения" сети на данных будет не набор весов, а некий детерминированный код, который решает задачу. Тогда "доучивание сети" на новых данных может сводиться к "дополнительным if'ам" и не портить ранее достигнутые результаты.
А если поручить ей создать саму себя, справится?
Почему-то сразу вспомнился Шекли, ААА-ПОПС, и Конфигуратор.
Можно конечно подумать о движении в направлении, аналогичном методу раскрутки компилятора. Но пока это будут спекуляции, ни на чем не основанные.
Вполне реально. На аргумент о том, что естественный язык неоднозначен и «гуманитарии такого наговорят» можно вообразить решение: написание программы будет диалогом с компьютером, где на все неоднозначности будут генерироваться уточняющие вопросы от «компилятора».
Не работает это, есть генераторы сайтов, позволяющие создавать сайты клиенту таким способом. Плохо это работает, клиенты сами толком не знают что им нужно, задача программиста/аналитика понять точно им реально нужно и предложить вариант.
> На аргумент о том, что естественный язык неоднозначен
Глядишь, так и выстрелят проекты языков типа ложбана.
Глядишь, так и выстрелят проекты языков типа ложбана.
Есть в искусственных языках и другое направление — максимальное упрощение языка. При этом разрешение неоднозначностей возлагается на интеллект (пока естественный). За счет контекста. Тут нейронные сети как раз в тему. Чтобы понять фразы типа (я немного изменю оригинал): «нафига дофига нафигачили? расфигачивайте».
Пример такого языка — Токипона
Пример такого языка — Токипона
На самом деле, мы давно уже не пишем программы на машинном языке. Все используемые современные языки — это адаптация человеческого языка в понятный машине диалект. Данный пример — попытка перейти на еще один уровень вверх.
Несогласным предлагаю программировать на ассемблере, а еще лучше — в машинных кодах.
Несогласным предлагаю программировать на ассемблере, а еще лучше — в машинных кодах.
Визуальное программирование это как раз таки промежуточный этап. Псевдо код уже генерируется неплохо.
Конечно до создания САП ещё далеко. Но элементарные куски программ так и будут создаваться.
> Он содержит 4 ошибки, после исправления которых программа стала решать поставленную задачу.
Что-то мне подсказывает, что для их поиска и исправления потребуется на порядок больше времени, чем для решения задачи с нуля.
Что-то мне подсказывает, что для их поиска и исправления потребуется на порядок больше времени, чем для решения задачи с нуля.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Генерация программы из описания на естественном языке