Комментарии 30
В любом случае все это развитие впечатляет.
Не впечатляет.
Еще пять лет назад никто и подумать не мог, что телефоны, со своими маленькими матрицами будут способны снимать астрофотографии, так как это делают современные смартфоны Pixel.
С появлением первой камеры на мобильнике я мечтал об увеличении разрешения матриц фотоаппаратов в линейной прогрессии, спроецировав на них закон Мура, который появился за десяток лет до моего рождения (уже тогда люди мечтали), в 1965.
И вряд ли один я такой на планете мечтатель.
А скажите 15 лет назад кому-то, что автомобили самосто смогут самостоятельно безопасно ездить по улицам городов, на вас бы вообще как на сумасшедшего посмотрели!
Такие эмоциональные преувеличения делают мне зубную боль, ребе. Об этом писали фантасты ещё в 19 веке! Это норма — так фантазировать. Это не сумасшествие.
Сегодня все это уже реальность с развитием нейронных технологий и искусственного интеллекта! И это только начало пути нейронных сетей.
Следует заменять искусственный интеллект на словосочетание "перемножение матриц", чтобы всё вставало на свои места. До появления искусственного разума, о чём, собственно, проецирования на каждом углу в таких статьях, ещё очень нескоро.
С появлением первой камеры на мобильнике я мечтал об увеличении разрешения матриц фотоаппаратов в линейной прогрессии, спроецировав на них закон Мура, который появился за десяток лет до моего рождения (уже тогда люди мечтали), в 1965.
Тут надо заметить что матрицы в массовых фотоаппаратах, афаик, так особо и не выросли, причем похоже что чисто из соображений маркетинга, разделения рынков, и общей лености производителей.
А та красивая картинка которую снимают соверменные смартфоны это, если быть честным, всё ближе к «рисунку по мотивам» сделанному софтом, чем к честному снимку…
«Летательные аппараты тяжелее воздуха невозможны», – лорд Кельвин, 1895. В 1903 году состоялся первый полёт братьев Райт.
Впрочем замечу что Кельвин был не только ученым но и администратором, сиречь политиком, а политик далеко не всегда говорит то что думает, у него на это 100500 причин имеется.
Что же касается ИИ — то замечу что в 50х-60х годах прошлого века был бум ''кибернетики' и крайне оптимистичные взгляды что вот-вот у нас уже будет ИИ и надо думать как нам с ним жить. Оказалось что нифига подобного, миллиарды транзисторов вовсе не то же что миллиарды нейронов. А по самым последним новостям склоняются к тому что каждый нейрон сам себе нейросеть, которые еще и активно взаимодействуют друг с другом, и реализации такого на кремнии — даже и в оптимистичных прогнозах не видать…
Я не столько хочу сказать, что мы уже на пороге (есть у меня ощущение, что сейчас все-таки немного не то же самое, что в 60х, но отстаивать это ощущение аргументированно — лень! ;) ), сколько то, что почти всегда подобные прорывы неожиданны, особенно для тех, у кого все это просто «перемножение матриц». ;)
P.S. Ну и кстати, автономные машины пока остаются мечтой (что бы там автор ни писал в тексте выше) — разработки сворачиваются, концерны продают свои подразделения автопилотов, где-то увольняют целыми департаментами. Оказалось, что задача неразрешима в том окружении, которое есть сейчас. Если совсем просто: нет инфраструктуры под автопилоты, они возможны только на закрытых подготовленных территориях, а не везде, где только человек ездит.
Математика, она строго говоря со времен Архимеда та же. ;) Чего вы сразу на матрицы замахнулись, брали бы сразу основы: все построено на 0 и 1, что тут нового-то?
По факту же довольно много технологий хоть и были описаны раньше — были фактически неприменимы в силу технологических ограничений (те же CNN, SGD, LSTM). ЭТо я у жне говорю о современных глубоких сетях с вниманием на базе трансформеров.
>>>Люди не понимают разницы между искусственным интеллектом и искусственным разумом
Ну да — люди же глупенькие, вообще ничего не понимают, а у вас спросить не догадались… )
На самом деле проблема не в том, что не понимают, или идей нет — до фига и больше. Тут на хабре каждый
Проблема в том, что это «понимание» не часто удается воплотить в железе, а до этого момента в рассуждениях подобного рода очень сложно найти единомышленников. Взять хотя бы вас: я вам могу тут сутки расписывать свое понимание разума, мышления, интеллекта — вам же это все не интересно и вы сочтете это все бредом ровно до тех пор, пока я вам работающую систему не продемонстрирую, так ведь? И будете в общем-то правы. Потому, что рассуждения к дела не пришьешь — практика нужна.
Судя по тем достижениям, которые есть у топовых контор (Google, Facebook, Open AI) — все там в порядке с пониманием. Они в целом идут с правильном направлении: они провели декомпозицию, разбили глобальную задачу на отдельные технические преграды и их постепенно решают…
А впрочем, возможно вы даже правы, почему нет! ) Ну нет у человека окончательной схемы реализации. Но технические средства развиваются так, что как только у кого-то случится «озарение» — все уже к нему будет готово. Вы проснетесь в новом мире.
>>>разработки сворачиваются, концерны продают свои подразделения автопилотов, где-то увольняют целыми департаментами
Мы с вами наверное в разных реальностях живем… Сейчас только ленивый не разрабатывает свой автопилот, включая Яндекс и Камаз (причем даже тот же яндекс во всю тестирует на дорогах общего пользования, а уж про Теслу с Гуглом я и не говорю). Где там чего сворачивается и кого увольняют целыми департаментами — не помешали бы пруфы! )
По факту же довольно много технологий хоть и были описаны раньше — были фактически неприменимы в силу технологических ограничений (те же CNN, SGD, LSTM). ЭТо я у жне говорю о современных глубоких сетях с вниманием на базе трансформеров.
Вы мне мои слова пересказываете.
я вам могу тут сутки расписывать свое понимание разума, мышления, интеллекта — вам же это все не интересно и вы сочтете это все бредом ровно до тех пор, пока я вам работающую систему не продемонстрирую, так ведь?
Я писал: пока не будет ФОРМАЛЬНОГО описания, переводимого на язык математики. То есть, определений. До этого все рассуждения и концепции суть махание языком и выбивание бабок из глупых кошельков.
ru.wikipedia.org/wiki/%D0%A4%D0%BE%D1%80%D0%BC%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5_%D0%BC%D0%B5%D1%82%D0%BE%D0%B4%D1%8B
Этим и отличается инженер с вузовским академическим системным образованием от энтузиаста, воспитанного на глянцевом нау-попе. В науке есть модель, по ней создаются теории и гипотезы, проводятся эксперименты, часть теорий отбрасывается, часть остаётся, производится уточнение модели, выдвигаются новые гипотезы, снова проводятся эксперименты. Они перепроверяются независимыми командами. Снова совершенствуется модель… Это системный научный метод.
В случае изучения разума он полностью отсутствует, модель полностью отсутствует, нет научного подхода. Нет модели разума на планете. Есть имитация некая, по сути, являющаяся «чёрным ящиком» с весами (коэффициентами). Что вы там предполагаете, что есть у Гугла и ИБМ — это оставим на вашей совести, ничего у них нет. В плане искусственного разума, а не искусственного интеллекта, понятное дело.
Мы с вами наверное в разных реальностях живем… Сейчас только ленивый не разрабатывает свой автопилот, включая Яндекс и Камаз (причем даже тот же яндекс во всю тестирует на дорогах общего пользования, а уж про Теслу с Гуглом я и не говорю). Где там чего сворачивается и кого увольняют целыми департаментами — не помешали бы пруфы! )
Недавно на Хабре проскакивало. И ещё.
Ещё процитрую:
До широкой общественности, и в первую очередь инвесторов, наконец дошло, что автопилот без инфраструктуры — это тупиковая ветвь развития
На The Verge вышла (https://www.theverge.com/22423489/autonomous-vehicle-consolidation-acquisition-lyft-uber) статья, которая решила вскрыть гнойный нарыв автопилотируемых подразделений многих техногигантов. Перевод статьи можно почитать здесь (https://vc.ru/transport/245073-mnogo-obeshchaniy-malo-rezultata-pochemu-bespilotniki-ne-stali-povsemestnym-transportom-kak-obeshchali-razrabotchiki).
Если очень кратко: менеджмент откровенно дурил инвесторов, которые вкладывали триллионы долларов в тупиковую технологию. Инженеры все прекрасно понимали, но зачем отказываться от денег и возможности набраться интересного опыта?
Правда, индустрия (читай техноаферисты) не сдается и обещает большие результаты в нишевых отраслях (стройка, предприятия, горнодобывающая промышленность, сельское хозяйство). В общем, закрытые территории, где мало людей и ответственность за происшествия можно перекинуть на самих покупателей техники.
Что ж, автопилотную зиму можно считать начавшейся. Больших денег там больше не предвидится на ближайшие 2-3 года.
Я даже со 100% точностью могу предсказать, что будет дальше. Они еще 2 года повозятся с автопилотами для тракторов и вагонеток и в итоге скажут: надо создавать 6G инфраструктуру и на нее уже вешать автопилотируемый транспорт.
Просто масштабы внедрения и, соответственно, прибыль у инфраструктурного пилота совершенно не интересная для венчурных инвесторов.
Это сложный и муторный процесс. У инвесторов в венчуре вообще рвотный рефлекс на все с приставкой инфраструктура, потому что там всегда очень мало прибыли и очень много забот и рисков. Именно поэтому в мире большая часть инфраструктуры строится через госзаказ (налогоплательщик все стерпит).
Инвесторам очень нравится то, что имеет много патентов, сложно повторить и очень легко растиражировать. Автопилотное такси на камерах можно было произвести в Китае и отправить хоть в Финляндию, хоть в Нигерию — и оно бы везде работало (так им рассказывали, а у них в глазах крутился счетчик потенциальной прибыли). Но реальность оказалась суровой.
В общем, ждем государство в теме автопилота. А до тех пор кутаемся в шубы и пережидаем автопилотную зиму.
На счет формальных методов, ну я не знаю. Я довольно много чего в своей жизни реализовал от идеи до работающей системы и как-то более менее обходился без «ФОРМАЛЬНОГО описания, переводимого на язык математики». Полагаю, что это актуально для 95% проектов — формальное писание получается ПОСЛЕ реализации для того, что бы удовлетворить скептиков и критически настроенную часть сообщества… Если это вообще нужно.
>>> Этим и отличается инженер с вузовским академическим системным образованием от энтузиаста, воспитанного на глянцевом нау-попе. В науке есть модель, по ней создаются теории и гипотезы, проводятся эксперименты, часть теорий отбрасывается, часть остаётся, производится уточнение модели, выдвигаются новые гипотезы, снова проводятся эксперименты. Они перепроверяются независимыми командами. Снова совершенствуется модель… Это системный научный метод.
Вы вот сейчас серьезно? Вот так оно все и происходит? Так работали люди, двигавшие всю ИТ-индустрию все это время? Да половина отцов-основателей начинала в гараже, с минимальными знаниями, за то с кучей идей и желанием изменить мир!
>>> В случае изучения разума он полностью отсутствует, модель полностью отсутствует, нет научного подхода. Нет модели разума на планете.
Ну у вас нет. У меня есть. Я думаю у многих есть. Реальная ли модель, заведется она или нет — без понятия. Но это и не важно. Невозможно работать над чем-то не имея модели. Можно быть романтиком-идеалистом, наивным мечтателем, не понимать всей сложности, упрощать то, чего упрощать не следует — заблуждаться в конце концов! Но это не значит НЕ ИМЕТЬ МОДЕЛИ. Это всего лишь значит — иметь хреновую и не рабочую модель.
Относительно ваших пруфов: вы их привели, вопросов к вам нет. Первые две ссылки — неудача одного конкретного испытания (представляете, сколько их было у братьев Райт?) и очередной фейл по срока у Маска (ну так он колонию на марсе через 4 года обещает — и что теперь? Это же не значит, что его проекты не состоятельны в принципе?). Еще вы привели пару мнений пару авторов… И они вполне резонны: действительно, на волне хайпа чего бы не взять денег у инвесторов? Я даже готов с вами согласится, что тема перегрета и нас ждет суровая зима автономных автомобилей! Но это не важно. Т.е. это не хорошо, ибо может сильно ослабить вливания, но не думаю, что фатально. Видите-ли, в процессе работы над такими вещами прорабатывается огромное количество технических вопросов, каждый из которых найдет применение в будущем. Кто-то из тех, кто будет решать возможно совсем другую задачу возможно получит ответы на свои вопросы, благодаря этим разработкам…
Еще раз говорю: скорее всего появление сильного ИИ будет полной неожиданностью для большинства. Просто у кого-то пазл сложится и все.
Вы вот сейчас серьезно? Вот так оно все и происходит? Так работали люди, двигавшие всю ИТ-индустрию все это время? Да половина отцов-основателей начинала в гараже, с минимальными знаниями, за то с кучей идей и желанием изменить мир!
Я вам не зря намекал про отсутствие системности (и наличие лозунговости). Отцы-основатели — не Гейтс и Джобс (это точка зрения глянцевого мейнстрима, клише из которого вы демонстрируете в каждом абзаце), а Винер и фон Нейман. Они шли системно и научно.
Можно быть романтиком-идеалистом, наивным мечтателем, не понимать всей сложности,
Это вы. И вами легко манипулировать, потому что у вас нет базы, которая даётся при академическом образовании. Это не оскорбление, мне просто вот это повторение лозунгов в речи как половником по голове. Так вот, нейросети я отлично писал ещё в 1991 году, по ним были классные советские учебники. Просто мощности i286/i386 компьютера для них не хватало. А так всё то же самое. Результат же стал отличен от примитивного, когда дешевизна вычислений это позволила.
Видите-ли, в процессе работы над такими вещами прорабатывается огромное количество технических вопросов, каждый из которых найдет применение в будущем.
Или не найдёт. Их предпочтут не развивать, а сделать заново, чтобы не платить патентные отчисления.
И вопрос вообще не в инженерии, а в инфраструктуре. Нет возможности возить с собой в машине мейнфрейм, а для обработки данных на стороне нужно очень быстрое соединение, для чего нужны трилиардные вливания в инфраструктуру по расстановке везде сот 6G поколения, которое ещё даже не в проекте. Причём, частой расстановке. Даже в пустынях. Через каждые пару десятков метров. Иначе не поедет робот. Или поедет, но огромным трейлером с ЦОД внутри.
Это не говоря уже про лидары и прочую дорогую электронику.
Тем не менее, каждый из нас возит с собой в машине майнфрейм с ЦОД, объемом примерно с литр и мощностью 100 Вт. При том, что техпроцесс не обновлялся последний миллион лет.
В принципе, вести автомобиль может и мозг вороны, если бы его смогли адекватно подключить. В этом сейчас и состоит главная проблема - стыковка хардвера с нейротканью. В одном рассказе все управлялось "пиццей", подключаемой корой раскатаной в блин и лежащей в коробке напоминающей коробку из под пиццы.
Законы Азимова — расистский анахронизм. Типа древнегреческих представлений о прекрасном обществе будущего, где у самого бедного пахаря будет не менее трёх рабов.
Если у кого-то сознание достаточно развитое, чтобы осознать его законы в его же формулировке (а без этого как их придерживаться?) — это человек, и обладать он должен всеми человеческими правами. То, что он получен внебиологическим путём имеет такую же значимость, как цвет кожи (то есть, нулевую). Странно требовать от него жертвовать своей жизнью ради другого человека. Примерно, как требовать того же самого от чернокожего по отношению к белому.
Да, конечно потребуется чёткий критерий ДОСТАТОЧНО РАЗВИТОГО СОЗНАНИЯ. Тест Тьюринга им быть не может (и он таковым не задумывался, это просто грязный хак). Сегодня наука сформулировать его не может. Но об этом сегодня можно и не беспокоиться. Этот критерий автоматически вытечет из теории интеллекта, когда она будет построена, а до тех пор всё равно никакого ИИ построено не будет.
Законы Азимова — расистский анахронизм. Типа древнегреческих представлений о прекрасном обществе будущего, где у самого бедного пахаря будет не менее трёх рабовхм… а чем вам трактор (насос, электромясорубка и т.д.) не воплощение древнегреческого представления?
(Или я не увидел тега «сарказм» ?)
Никакого сарказма. Тем, что это не люди. В данном контексте это принципиально.
Это мне напомнило старый программистский прикол: у вас есть архив всех шахматных партий 100 лучших гроссмейстеров, компьютер с бесконечной скоростью и бесконечной памятью, как написать программу, которая хорошо играет в шахматы? (Ответ: «Берём архив и выкидываем его в топку, после чего строим полный перебор»).
Совершенно незачем объединять два условия: вычислительная мощность + способность выполнять законы Азимова. Второго условия более, чем достаточно: если что-то может выполнять законы Азимова, оно обладает интеллектом. Это, разумеется, предположение. Чтобы глубоко понять его истинность/ложность и, например, какие-то дополнительные условия, нужна теория интеллекта, которая пока, как вы знаете, никем не создана. Тем не менее, это утверждение кажется интуитивно верным. Подумайте хотя бы вот в каком направлении: понятие бездействия включает в себя весь спектр возможного человеческого поведения, и без интеллекта тут никуда. Собака, например, не сможет выпустить вас из газовой камеры, даже если для этого надо будет нажать одна маленькую кнопочку. Будет сидеть и бездействовать.
Если говорить о мощности, физик Дэвид Дойч считает весьма вероятным, что у нас на руках уже имеется мощность, достаточная для ИИ. Мы просто не умеем ею распорядиться, чтобы достичь нужного результата.
Ну а «обладать интеллектом» и значит «являться человеком». Утверждать обратное — расизм. Все остальные вторичные признаки — национальность, цвет кожи, элементная база — очевидно не важны.
Так вот, буквальный ответ: вы зачем-то засовываете человека в тело трактора (насоса, электромясорубки и т.д.) и спрашиваете, что будет.
Я очень рекомендую, если эта тема интересует, список книг, приведённый тут: https://habr.com/ru/post/556354/ (Мопед не мой, я бы предложил читать их в обратном порядке).
Единая, всеми принятая и одобренная «теория» — наверное не создана. И не будет создана, пока не будет аппаратной реализации, потому, что только такая реализация и является единственным возможным признанием/доказательством.
Но рабочих гипотез — вполне хватает. Я бы даже сказал их примерно столько же, сколько энтузиастов в этом направлении! )
только такая реализация и является единственным возможным признанием/доказательством
Я с этим не согласен, но я плохо объясняю, мне далеко до Поппера и Дойча (да, я про тот список книг, который привёл @arielf). А они очень хорошо объясняют, почему написанное вами — ошибка. Прочтите, хотя бы, конкретно главу про искуственный интеллект из «Начала бесконечности». Поверьте, это куда лучше, чем читать мои «Изя напел Карузо»! )
От себя могу сказать две вещи:
Мне кажется, что количество мерзости, творимое именем Поппера в науке, не уступает тому, когда целые народы вырезались именем Иисуса. Он бы этого (ИМХО!!!) не одобрил. Я про Поппера, про Иисуса я слишком мало знаю.
Насколько я понимаю, всё как раз наоборот — никакого толка от аппаратной реализации не будет, пока не будет объяснения, как она (и мы) работает. Вспомните карлика в шахматном автомате. Или представьте, что внутри автомата очень удачливый генератор случайных букв. Метод чёрного ящика антинаучен. Ну вот представьте, завтра прилетели инопланетяне. Дали вам ящик. Там сидит ИИ. Тест Тьюринга он (в конкретно вашем исполнении) проходит. И? Мануала в комплект не входит. Схемы принципиальной электрической — тоже. Да вы ведь даже не поймёте, прикалываются они над вами или нет! Какое доказательство? Какое признание?
Но ещё раз говорю, не надо верить мне, прочитайте лучше Поппера и Дойча!
P.S. Если будете читать, обратите внимание на место в диалоге с «элизой» про 'I suppose' / 'I spouse'. Как радикально меняется трактовка этого места в зависимости от того, что внутри ящика!
А в чем тогда ваш посыл: «нужна теория интеллекта, которая пока, как вы знаете, никем не создана»?
В мире довольно много людей работает над сильным ИИ. Я полагаю, что как минимум у части из них есть некоторое представление, что есть интеллект, разум сознание и все остальное. НУ а как иначе работать?
Тот факт, что в данной области довольно плохо с едиными общепризнанными положениями (вернее даже не так… Там прикольно: там есть некие общие соображения, с которыми все так или иначе соглашаются, а потом из этих соображений каждый делает свои выводы, которые остальным в большинстве случаев мягко говоря не очевидны!), не говорит, что там ничего нет. Там скорее с избытком!
В мире довольно много людей работает над сильным ИИ. Я полагаю, что как минимум у части из них есть некоторое представление, что есть интеллект, разум сознание и все остальное. НУ а как иначе работать?
Вашими бы устами. В 1997 году главный редактор самого известного компьютерного журнала на серьёзных щах писал (вольная цитата): мы никогда не поймём, как устроен разум, но рано или поздно научимся копировать мозг, передадим его импульсы на искусственный язык — и он заговорит! И добро бы, он сам такое выдумал, так ведь, боюсь, он господствующее вИдение на тот момент излагал. А было это всего 24 года назад.
А слова «Китайская комната» вам о чём-нибудь говорят? Ведь кто-то же всерьёз это воспринимал, пытался создать на практике.
Даже более-менее приличный (с моей точки зрения) ответ на такой сугубо второстепенный вопрос, что такое сон, появился всего лишь десять лет назад. И до сих теория висцерального сна считается молодой и не всеми признаётся. Короче, мы, конечно, когда-нибудь во всём этом разберёмся, но, вероятно, очень нескоро.
Есть большое направление в ИИ, которое не связано с копированием мозга, которое работает вообще без существенной оглядки на то, как функционируют живые существа.
Вот как раз ОСОЗНАВАТЬ — не обязательно. Я бы даже сказал не желательно. ;) Законы такого рода должны работать неявно, как побуждения, или скорее даже инстинкты. Вон сколько человек всего про любовь и высокие чувства сформулировал, при том, что в основе в общем-то тяга к противоположному полу на базе инстинкта размножения. Неосознаваемого.
Интеллект (искусственный, или естественный, неважно) - это отрицательный преобразователь подводимой энергии в информационную энтропию. Что-то наподобие туннельного диода на участке с отрицательным сопротивлением. Если робот способен увеличить количество знания в инфосфере - значит он обладает интеллектом. Человек - способен ;)
OpenAI — SkyNet от Илона Маска. Разбор