Comments 30
Затем она узнала, что на предприятие устанавливают ЭВМ, чтобы её отдел заменить полностью. Женщина вовремя понимает, что если она и её сотрудники не изучат язык программирования, то все останутся без работы.
IBM 7090 operator's console at the NASA Ames Research Center in 1961, with two banks of IBM 729 magnetic tape drives. The card reader is in front of the man and woman at right.
https://en.wikipedia.org/wiki/IBM_7090
Даже статья про это есть, но переводить лень
https://www.zdnet.com/article/hidden-figures-and-the-ibm-7090-computer/
Когда я вижу очередную порцию "нейроистерики", мне всегда хочется выяснить, а правда ли нейронки - это что-то новое?
Когда появились первые RAD вроде FoxPro (или Delphi, как более современный пример) - было модно хоронить энтерпрайзную разработку и убеждать всех, что айтишники скоро пойдут на поля.
Когда появился доступ к дистрибуции софта - стало модно хоронить инхаусную разработку и убеждать всех, что теперь проще будет купить у крупных компаний, чем написать свое.
Когда появился доступный интернет - стало модно хоронить классическую разработку и предлагать опытным разработчикам поумерить амбиции, потому что сейчас дешевые специалисты со всего мира их заменят.
Когда появились более-менее работоспособные JS-сайты (на том, что тогда называли AJAX), стало модно говорить, что вдумчивой разработке конец, формошлепы захватят мир и будут согласны работать за три копейки.
Потом были еще другие разные вехи, в расцвет популярности каждой из которых неизбежно становилось популярно говорить, что разработке и разработчикам конец, потому что теперь каждый страховой агент и банковский служащий сможет написать себе решения для своих собственных задач.
Теперь появились доступные лингвистические модели и надо ли думать, что происходит что-то принципиально новое, чем вписывание новых инструментов в существующие задачи бизнеса, сложность которых все время растет настолько, что этих инструментов едва-едва хватает, чтобы ее покрыть?
Что ООП, что Интернет, что GPT любой версии - не более чем инструменты решения задач, это не магическая волшебная палочка. Никакой "мир" это не перевернет. Точно так же будут нужны художники, которые рисуют конкретные штуки, точно так же востребованность врачей, которые будут лечить пациентов, не ставится под сомнение, и точно так же цех IT-специалистов будет продолжать строить решения для конкретных компаний за большие деньги.
И те и другие и третьи начнут использовать нейронки в качестве инструмента ровно так же, как они начали использовать пергамент, ручку и микроскоп в свое время.
И нет никаких проблем для разработчика, которому сегодня приходится "быстренько осваивать" парочку новых фреймворков на каждом новом проекте в разных предметных областях, о которых он еще вчера вообще не знал, в том, чтобы научиться писать запросы к нейромоделькам. Гугл же мы все как-то освоили.
* Орфография текста отредактирована GPT-3, которую я как разработчик повседневно использую в быту и в работе
В целом согласен, что статья смахивает на нытьё, но всё-таки основная мысль состоит в том, что в целом происходящие события вызывают смешанные чувства, и что вместо паники лучше приспосабливаться.
Не хотелось передавать нейроистерику, но походу так получилось.
Не вижу, что могло бы помешать приспособиться сегодняшним квалифицированным программистам. Если ты можешь спроектировать и реализовать алгоритм и структуры данных, решающий задачу и удовлетворяющий каким-то условиям – то сформулировать задачу и условия для сети, а потом при необходимости разбить задачу на решаемые подзадачи и проверить правильность решения тем более сумеешь.
Впрочем, я ожидаю, что появится "более предсказуемая" вариация ChatGPT, устраняющая неоднозначность и прочие беды естественных языков (кто пробовал писать на AppleScript – поймёт) – специально для программистов и математиков. Ну или логлан вспомнят.
В том-то и дело, что до развития нейросетей были инструменты и были те, кто ими пользуется, принимает решения и формулирует задачи, разбивает их на подзадачи. Не было способа без человека решать произвольные задачи, потому что для этого требуется обладать моделью мира, знаниями и соглашения накопленными человечеством. Если же говорить о роботах, они все тоже не могли выполнять произвольные задачи и обладали алгоритмами, умеющими что-то одно.
С нейросетями всё меняется, языковые модели строят модель мира и становятся всё более универсальными, в состоянии выполнять человеческую работу по принятию решений исходя из здравого смысла, разбивке задач на подзадачи и так далее. Речь не о простом ChatGPT,, а о моделях, симулирующих второй, медленный тип мышления, предполагающий внутренний диалог, рассуждения. В этом направлении сейчас активные разработки ведутся.
Универсальные роботы тоже развиваются, уже обучаются новым действием по видео или под управлением оператора. Наверное, если не очень следить за темой, это потом всё всплывёт и будет неожиданностью.
Не возникло мысли при прочтении о том, что автор ноет или истерит. Но, возможно, писано одним днём. Без вычитывания, без добавления новых мыслей и корректировки уже изложенных.
Мне понравилось. Основную идею понял как необходимость постоянного поиска "что бы такое сделать лучше или быстрее". Но это мнение читателя, а не профессионала.
Такой посыл и планировался. Мне не хотелось писать, что все мы останемся без работы, потому что скорее всего такого не случится. Хотелось о том, что привычный мир меняется очень стремительно и под это нужно подстраиваться.
Да написано одним, но сама аналогия очень долго сидела в голове и искала выход.
Таким образом, приходим к выводу, что основным навыком будет умение работать с "нейросетями" - обучать их, правильно задавать вопросы и давать подсказки, наводящие на результат максимально близкий к требуемому.
Я думаю, ключ к пониманию находится тут :) Смотрите, что такое программирование, если вернуться к основам? Это формализованое описание алгоритмов, сущностей, логики, ... ряд можно продолжать, но ключевым тут является слово "формализированное".
Почему оно важно? Когда люди общаются друг с другом, они используют неформальное общение, которое в себя неявно включает огромный массив "соглашений", которые для двух людей в диалоге настолько очевидны, что они не требуют уточнений.
Допустим вы говорите "вскипяти чайник". Все просто и понятно. Но попытка переложить эту команду на формализованный язык для ситуации произвольно взятой семьи превратится в огромную кучу кода. Просто огромную. Да банально: где-от стоит фильтр под раковиной с краником, где-то кувшин, где-то можно пить воду из под крана, где-то кулер на ручном насосе, где-то кулер с кнопкой, где-то кулер с двумя кнопками, .... выписать все эти варианты в виде детальных инструкций займет кучу времение и места. Но человек, зная где все это сразу конвертирует команду в последовательность простых действий, которые делаются без участия мозга (ну той части, которая осознанно думает).
И так с каждым элементарным шагом, который требуется для получения кипяточка.
Т.е. разница между формальным и неформальным общением очень велика. Просто на порядки.
--------------
Когда мы пишем программу для ее выполнения вычислительной машиной (ну как минимум теми, что есть сейчас), надо все описать формально. Все варианты входных данных, все ветвления логики, что делать, если что-то пошло не так (в кране нет воды). И неформальное общение тут конечно может помочь, но вопрос - а точно ли?
А тут решил помучать ChatGPT. Понятно, он более менее сносно описал алгоритм для отдельного вида чайника, но же при попытке свести два алгоритма для чайника электрического и традиционного, зачем-то предложил поставить чайник на плиту независимо от его типа. Понятно дальше развлекаясь, я получил требуемое. Это не сложно. Но по прежнему этот алгоритм был довольно высокоуровневым и не содержал, к примеру, варианта, если в электрочайнике сломан световой индикатор или он сам не выключается.
Получается, что наверное (мне реально лениво тратить кучу времени на попытку получить алгоритм, который можно назвать таким, что можно отдать вычислительной машине), шары нет - мне надо все равно выписывать возможные входы, выходы, их комбинации, граничные условия и т.д. И все равно потом. чтобы покрыть это тестами, мне надо их еще раз применить для тестирования. И тут, я на месте програмиста получается должен выбрать:
писать самому, но пройдя путь, получить алгоритм в голове вместе с тем, как я к нему пришел
довериться машине, и потом долго думать, а как мне это проверить
Да, для старта может быть неплохо, но вот потом все равно надо тратить время. Плюс эта игра с машиной содержит элемент неопределенности. Когда я вношу изменения, я могу их локализовать. А тут получается алгоритм не мой, и где гарантия, что исправляя в одном месте, не ломается в другом.
Получается, что получить помощь да, но финальный продукт требуемого качества ... ну такое.
Но важно то, что 20 лет назад у меня был обычный редактор и отладочная печать, сейчас ... куча всего. Но за это время вроде бы не произошло революции в том, что потребность в програмистах уменьшилась :)
-------------
Ситуация может поменяться, когда вычислительной машиной станет условный ChatGPT. Тогда теоретически, не будет нужна прослойка в виде формализованного языка инструкций, а можно как-то программировать просто дав некий сет инструкций. Но тут вопрос, а где гарантия, что машина корректно сама учтет кейс, если в электочайнике глючит индикатор. Чайник ладно, ну выкипела вода, сгорел ... копейки. А ведь есть куда более важные программы. Если сейчас ИИ только с кучи итераций понимает, что надо делать под чутким контролем наставника (и то, не факт), то доверить ему просто выполнение задачи явно не приведет ни к чему хорошему
-----------
Итого, проблема остается в формализации. Пока интерпретация основана на улучшенной версии машины Тьюринга - ничего принципиально не измениться. Остануться "кожанные мешки", которую будут писать программы на формализованных языках. Просто потому что суть формализации заключается как раз в алгоритмах, данных и все остальном, что есть в языках программирования
Допустим вы говорите "вскипяти чайник". Все просто и понятно.
Для начала надо формализовать само требование, иначе непонятно, какая часть чайника должна закипеть. Ведь пока металл закипит, пластиковые детали успеют испариться. :)
С художкой та же фигня. Я после пары недель игры со stable diffusion сменил несколько стадий, сначала "эта штука рисует галюцинации", затем "вау я понял промпты, я могу что угодно", затем "это очень ограниченная штука которая умеет рисовать довольно ограниченный набор изображений на которых обучалось". Для хороших генерация надо жонглировать кучей моделей, хитрых промптов, наворачивать сверху LORA/TI под конкретную тематику и всё равно всё что выйдет в итоге будет лишь болванкой под доработку хужодником, а иначе оно выглядит как "дженерик аи арт" который распознается с первого взлягада любым человекм с ai-насмотренностью в пару недель. Одинаковые формы тела людей, похожие лица. ЧТо говорить если большая часть моделей в плане арта переобучена на стиле одного лишь greg rutkowski и еще десятка художников, о каком разнообразии или новизне речь.
Пока что как в фильме "Я робот" - "машина не может написать симфонию". Сложно только при помощи ай сделать хорошие и не вторичные концепт арты как в свое время для half-life 2 или dishonored сделал Виктор Антонов. Сложно будет без ручных доработок в конечных ассетах сохранить уникальный арт стиль. Можно упростить задачу тонкой настройкой под свой уже созданный стиль. Таким образом у художников куча работы в плане управления нейронками как одним из инструментов. Чем это отлчается от эффетивной работе в сожном софте типа фотошопа или профессионального видеоредактора? В умелых руках там тоже куча "магии".
Ситуация может поменяться, когда вычислительной машиной станет условный ChatGPT. Тогда теоретически, не будет нужна прослойка в виде формализованного языка инструкций, а можно как-то программировать просто дав некий сет инструкций. Но тут вопрос, а где гарантия, что машина корректно сама учтет кейс, если в электочайнике глючит индикатор.
Как будто человек не совершает ошибок и не ставит даже электрочайники на огонь, не выпивает по ошибке не то, что надо и так далее. В том-то и дело, что речь о том, что аналог ChatGPT или может быть какая-то новая архитектура сможет создать достаточно точную модель мира и управляемого робота, чтобы выполнять универсальные задачи. И обучая его не нужно ничего строго формализовывать. Имея уже накопленные огромные знания о мире, он понимает свойства объектов и не будет ставить пластиковый чайник на огонь. Это уже сейчас активно происходит. NVidia, например, занимается обобщением навыков роботов, чтобы один агент управлял разными их видами и в разных окружающих условиях.Они же запустили прохождение Minecraft c помощью ChatGPT, который генерировал библиотеку алгоритмов. В итоге прогресс по открываемым навыкам был постоянный и не выходил на плато как в других подобных проектах.
Пока интерпретация основана на улучшенной версии машины Тьюринга - ничего принципиально не измениться.
Утверждение очень спорное. Оно предполагает наличие в человеке какой-то пока непостижимой и неисследованной технологии, но которую точно невозможно передать машиной Тьюринга. Причём это везде даётся как аксиома, не требующая доказательств. А почему так? Возьмём человеческий мозг, перечислим все атомы в него входящие, пропишем их положения и свойства с точностью, которую позволюяет нам квантовая механика, Перенесём в симуляцию и очень медленно будет просчитывать на самой обычной машине Тьюринга. Пример чудовищно избыточный, думаю, для симуляции совершенно не нужна такая точность, но пусть будет. Вы утверждаете, что такое невозможно в принципе. Так какие именно свойства мозга, по-вашему, не дадут нам этого сделать?
Как будто человек не совершает ошибок и не ставит даже электрочайники на огонь, не выпивает по ошибке не то, что надо и так далее. В том-то и дело, что речь о том, что аналог ChatGPT или может быть какая-то новая архитектура сможет создать достаточно точную модель мира и управляемого робота, чтобы выполнять универсальные задачи. И обучая его не нужно ничего строго формализовывать.
Тут как бы все просто. К примеру, когда вы будете готовы сесть в самолет, в котором ПО "выполняет" АИ - тогда это станет реальностью :)
Все, как и всегда, проверяется не на абстрактных "а вот он может", а когда за ошибку надо будет платить кошельком или жизнью
В целом, это общая базовая "проблема", когда путаются "необходимость" и "достаточность" :)
Оно предполагает наличие в человеке какой-то пока непостижимой и неисследованной технологии, но которую точно невозможно передать машиной Тьюринга. Причём это везде даётся как аксиома, не требующая доказательств. А почему так?
Если честно, я о таком не слышал :) Но точно известно, что есть алгоритмически нерешаемые задачи и их огромное количество. Я не готов утверждать, что счетное или несчетное количество, но это и не так важно
Возьмём человеческий мозг, перечислим все атомы в него входящие, пропишем их положения и свойства с точностью, которую позволюяет нам квантовая механика, Перенесём в симуляцию и очень медленно будет просчитывать на самой обычной машине Тьюринга.
Если у вас получится, тогда вы рискуете в ответ на пожелание чего-то сделать - получить в ответ пожелание проследовать куда-нибуть :) Ведь человек, помимо того .что может что-то делать, еще и должен иметь мотивацию это делать
Тут как бы все просто. К примеру, когда вы будете готовы сесть в самолет, в котором ПО "выполняет" АИ - тогда это станет реальностью :)
Да хоть сейчас если будут результаты подтверждения надежности автопилотов. Беспилотные поезда уже, насколько я знаю, существуют. Чем человек со своим пресловутым человеческим фактором может быть лучше - непонятно.
Если честно, я о таком не слышал :) Но точно известно, что есть алгоритмически нерешаемые задачи и их огромное количество. Я не готов утверждать, что счетное или несчетное количество, но это и не так важно
Не думаю, что вопросы вычислимости имеют вообще какое-либо отношение к человеческому мозгу. И опять-таки ряд непонятно откуда берущихся допущений. Алгоритмы это уже не те алгоритмы, что у Вирта в книжке. Понятно, что любая нейросеть выполняет код, но логика работы уже не в коде, а в данных, в весах, смещениях и конфигурации нейросети. Алгоритмы же там достаточно простые и не в них описываются выполняемые нейросетью действия и выдаваемые ответы.
Примерно так же, как в искусственных нейросетях, в человеческом мозге сохраняется описание модели окружающего мира и самого тела. Архитектура связей другая, носитель другой, но самые общие принципы те же - нигде ничего явно не описано, но каждое последующее действие человека определяется всей конфигурацией его мозга и текущими сигналами на сенсоры. По сути, просто очень сложная машина для распространения своих генов, которая для этого попутно обзавелась сознанием и большим самомнением.
Ведь человек, помимо того .что может что-то делать, еще и должен иметь мотивацию это делать .
Что вы имеете в виду? В чём видите принципиальную разницу от продвинутых нейросетевых моделей? Мотивация человека формируется с помощью дофамина в частности и закладывается базовыми рефлексами, а также уже всем, что ассоциативно с ними связано. Поел, организм рефлекторно выделил дофамина. Дали денег - купил еду, организм уже и на деньги будет выделять дофамин и так далее. Вся наша высокоуровневая мотивация по большому счёту на этом и завязана, инстинкт размножения, стремление к изучению нового (так как это способствует выживанию популяции).
У нейросетей всего этого нет, конечно, но есть целевая функция при обучении и соответственно стремление при выдаче давать то, что согласуется с моделью мира и ожидает получить пользователь. Конечно, для того, чтобы полноценно заменить человека потребуется что-то ещё и тут активно ведутся разработки.
Я вот не вижу ни одной профессии, которую не могли бы вытеснить со временем нейросети и универсальные роботы. Вопрос будет только в экономичности, роботы ещё долго будут дорогими всё-таки, и в субъективном нежелании людей лечиться у неживых докторов, например. Но всё, что касается умственной и физической деятельности потенциально заменяемо.
Чем человек со своим пресловутым человеческим фактором может быть лучше - непонятно.
Тем что с ним - это рабочая схема подтвержденная практикой и с приемлимой надежностью :) Схема без него в целом новая :)
Что вы имеете в виду? В чём видите принципиальную разницу от продвинутых нейросетевых моделей?
Ну пока разницу мерять особо смысла нет, так как возможности несопоставимы. Но история человечества показала, что вместе с возможностями, а возможно и раньше их появилась мотивация делать и "не делать". Могу писать хороший код - но не хочу.
В тоже время более примитивные биоорганизмы больше следуют понятным и легко прогнозируемым инстинктам
Где гарантия, что с ростом возможности AI не появятся возможности обходить цели. Вы же знаете, что большую часть времения для последней модели GPT потратили именно на попытку внести в модель "бодрое и вечное". Но в целом, она совершенно вне морали.
Я вот не вижу ни одной профессии, которую не могли бы вытеснить со временем нейросети и универсальные роботы
Ну вы то можете не видеть, но будем честны - это не потому, что вы знаете как это сделать :) Поэтому я довольно таки спокойно смотрю на такие высказывания. А вот почему нет - это я как раз вижу
Тем что с ним - это рабочая схема подтвержденная практикой и с приемлимой надежностью :) Схема без него в целом новая :)
Уверяю вас, это не остановит владельца строительной компании от замены Васи-экскаваторщика на полностью автоматический экскаватор, который может быть и подороже на первых порах, но работает лучше и дольше, не бухает и не требует повышения зарплаты и улучшения условий труда.
Где гарантия, что с ростом возможности AI не появятся возможности обходить цели. Вы же знаете, что большую часть времения для последней модели GPT потратили именно на попытку внести в модель "бодрое и вечное". Но в целом, она совершенно вне морали.
Нет гарантий и это действительно может быть серьёзной проблемой в будущем. Если сознание - эмергентное свойство сложных систем и неизбежно в них появляется при определённых условиях, то может оказаться, что вместо радужного будущего, в котором люди используют ИИ себе во благо, окажется, что люди создали рабов и эксплуатируют их. Я и сам несколько лет смеялся с того, как в фильмах приписывают разумность по сути продвинутым пылесосам, но потом взгляды менялись, причём сближение шло с двух сторон - демистификация мозга, как некой сущности, делающей нас эдакими духовными существами, принципиально отличающимися от других животных. И развитие ИИ, показывающее, что он способен делать всё то же, что и человек.
А насчёт несопоставимых возможностей, так уже вполне сопоставимы. Многие экзамены ИИ сдаст лучше человека. Если брать тех же врачей, каковы их функции? Они должны обладать знанием как работает организм человека, общими представлениями о химии, биологии, они должны знать об основных болезнях и их симптоматике, свойствах и влиянии лекарств и о многом другом. Так вот эта часть вполне укладывается даже в современные модели. Но помимо этого врачи должны уметь проводить физические манипуляции при диагностировании, осмотре, лечении пациентов. Эта часть пока недоступна для ИИ, но принципиальных каких-то ограничений и тут нет. Ещё один важный параметр - умение общаться с пациентом, корректно подавать информацию. А теперь посмотрим на современных живых врачей. Всё ли из этого они делают безупречно? Способен ли любой отдельно взятый врач использовать все достижения и познания человечества о работе организма, применять методы доказательной медицины, а не свои субъективные воззрения? Мне, к примеру, врач выписывал гомеопатию, другая рекомендовала рефлексотерапию. Исходя из всего этого, я думаю, что даже сейчас нейросети могли быть получше многих, если не большинства врачей.
Ну вы то можете не видеть, но будем честны - это не потому, что вы знаете как это сделать
А при чём тут я? У вас сомнения в том, что робота можно научить любой физической деятельности человека? Назовите профессию, которую, как вы считаете, никогда не заменит ИИ и вместе будем наблюдать за тем, когда это произойдёт.
Уверяю вас, это не остановит владельца строительной компании от замены Васи-экскаваторщика на полностью автоматический экскаватор
Это если такой появится :)
Если брать тех же врачей, каковы их функции?
Вы не поверите, лечить людей :) И пока что АИ тут и близко не работает от слова совсем :)
Но вы можете попробовать получить лечение, описав для ChatGPT свой диагноз.
У вас сомнения в том, что робота можно научить любой физической деятельности человека?
Научите быть пилотом :)
Это если такой появится :)
Уже. Вбивайте "Autonomous Excavator" на Youtube, сортируйте по дате и смотрите последние видео. Конечно, всё будет быстро совершенствоваться в ближайшее время. Вы, видимо, совсем не в теме, раз такие сомнения возникают. Про робот, способного автономно готовить обед, убирать комнату и даже застёгивать змейку на одежде вы наверное тоже не в курсе.
Вы не поверите, лечить людей :) И пока что АИ тут и близко не работает от слова совсем :)
Но вы можете попробовать получить лечение, описав для ChatGPT свой диагноз.
Вы же не можете не знать, что ещё год назад ChatGPT сдала экзамен на получение лицензии врача. Это при том, что это по сути простейшая "прямолинейная" модель, не способная на медленное мышление. После получения зрения она прибавила баллов по многим направлениям. Рентгенограммы и МРТ описывает иногда получше врачей. Возможно, кому-то, конечно, предпочтительнее лечение зелёнкой и конским навозом от сельского эскулапа, но, боюсь, это очень субъективные приоритеты. Не считаю, что в данный момент нейросети уже полностью готовы заменить все функции врачей, поэтому и разложил их на составляющие. Но устройства для поиска меланом уже появились, а развитие языковых моделей в сторону Mixture of Experts, tree of thoughts и мультимодальности обеспечат значительный скачок.
Научите быть пилотом :)
Уточняйте, что вы имеете в виду. Автопилотам сто лет в обед, но доверять взлёт им стали не очень давно. Про посадку не видел, хотя тот примитивный автопилот, что используется, может взять на себя большую часть работы. Если говорить про FPV-дроны, там ИИ превзошёл опытных пилотов в гонках. Так что, получается, ожидаем комплексное решение для полного управления пассажирским самолётом на всех этапах полёта, так? Не думаю, что это составляет какую-то техническую проблему, но из-за рискованности мероприятия, конечно, это не скоро будет запущено в серию и долго ещё полёт будет происходить вместе с пилотом.
P.S. Немного поискал и вижу, что уже есть и полностью автономная автоматическая посадка https://autonews.autoua.net/en/novosti/30684-new-hondajet-elite-ii-capable-landing-autonomously-case-emergencies.html
"Существует также опция Emergency Garmin Autoland, которая может посадить самолет автономно, без вмешательства человека в случае чрезвычайной ситуации".
Про робот, способного автономно готовить обед, убирать комнату и даже застёгивать змейку на одежде вы наверное тоже не в курсе.
Знаете, есть просто разница между убрать пол и убрать комнату. А также постричь газон и, скажем так - навести порядок во дворе. То что делают реальные роботы, которые можно купить - это только условно одна функция
Вы же не можете не знать, что ещё год назад ChatGPT сдала экзамен на получение лицензии врача.
Я однажды сдал экзамен на определенную "железяку", так как по условиям тендера надо было иметь в обойме сертифицированного архитектора. Но это не сделало меня архитекторов, который реально может выполнять работу. Хотя со временем "раскрутился". Ну вы же сами должны понимать, что сдать экзамен и работать на врача - это две большие разницы
Уточняйте, что вы имеете в виду. Автопилотам сто лет в обед, но доверять взлёт им стали не очень давно
Дело в том, что задача не состоит в том, чтобы выполнить взлет/посадку под контролем пилотов. А надо это делать ВСЕГДА с уровнем безопасности не ниже, чем сейчас. Это классическая ошибка выжившего (можете прочитать про дельфинов, которые выталкивают тонущих на берег). Вопрос замены может быть поднят только тогда, когда АИ может выполнить работу пилота всегда, а не когда-то :)
Сейчас пока что, автопилот работает в определенных условиях и только если все хорошо :) К примеру он либо посадит самолет, либо отключится. Уход на второй круг и принятие решения на эту тему - он не делает.
Т.е. снова, как и в примере с роботом пылесосом - покататься по полу уже называется уборкой комнаты :)
P.S. Немного поискал и вижу, что уже есть и полностью автономная автоматическая посадка https://autonews.autoua.net/en/novosti/30684-new-hondajet-elite-ii-capable-landing-autonomously-case-emergencies.html
Интересно, а что она будет делать при сдвиге ветра к примеру? Или если погода аэродрома ниже минимума стала? Вот прям очень интересно ... куда и как она сядет?
Конечно, ни один самолет в воздухе не остался, но все таки хочется, чтобы на землю он прибыл структурно целым :)
---------------
И еще есть неочевидначя причина. Тем же пилотом, чтобы оставаться пилотами - нужна активная практика. Поэтому начиная с определенного момента, уровень автоматизации не может быть повышен, иначе в случае сложной ситуации вы получите отказавший автопилот и просто двух человек в кабине. Т.е. тут не возможен, или очень сложен планомерный рост автоматизации, так как обратной стороной медали является потеря навыков. А этого допустить никак нельзя
То что делают реальные роботы, которые можно купить - это только условно одна функция
Вот вы опять не в курсе. Mobile ALOHA например, обучается разным действиям и он open source полностью, можно собрать из комплектующих где-то за $32000. Учитывая цену аналогов это достаточно недорого, но, конечно, при массовом выпуске всё подешевеет. Тесла, кстати, переориентируется с автомобилей именно на массовый выпуск роботов. В следующем году будет много новостей, видимо, и скептиков тогда поубавится или они что-то новое начнут говорить.
сдать экзамен и работать на врача - это две большие разницы
Верно, более того, есть множество врачей, работающих совершенно без тех знаний, которые проверяет экзамен. Не хотелось бы у таких лечиться. Я же всё оговорил, какая часть работы врача освоена на данный момент. Вопрос времени только когда будет освоено остальное, ну и чисто субъективно многие люди всегда будут предпочитать врачей-людей, пусть даже их эффективность намного ниже.
Сейчас пока что, автопилот работает в определенных условиях и только если все хорошо
У человека нет никакого магического владения ситуацией. Людей натаскивают на тренажёрах на все возможные аварии и непредвиденные ситуации - двигатель вышел из строя, пожар, шасси заклинило, удар молнии, птицы, посадка на воду и прочее. Если человека не обучали в какой-то ситуации, он может не справиться, может применять весь свой предыдущий жизненный опыт. Точно так же обучают нейронные сети. Для языковых моделей жизненный опыт имитируется всеми текстами, написанными человечеством. В будущем неизбежно пойдёт развитие мультимодальных моделей, способных приобретать опыт/обучаться и без человеческих данных. Один поход в лес может многому научить. Всё это будет отрабатываться и уже отрабатывается в виртуальной реальности.
Вопрос: почему вы думаете, что ИИ обученный в виртуальной реальности в течение столетий виртуального времени будет глупее человека с достаточно ограниченным опытом и способностями, с ограничениями физического тела, когнитивными искажениями и прочим?
Интересно, а что она будет делать при сдвиге ветра к примеру?
То же, что и человек - корректировать свои действия. Или по-вашему её обучали исключительно на одной силе ветра? Будет делать всё, что необходимо для успешной посадки в своих пределах, разумеется, которые есть и для человека.
Т.е. тут не возможен, или очень сложен планомерный рост автоматизации, так как обратной стороной медали является потеря навыков.
Всё это мы увидим сначала на примере беспилотных автомобилей. После того, как число аварий с ними станет в разы меньше числа аварий с водителями, необходимость в дублировании отпадёт. Всё это возвеличивание человеческих способностей и разума - просто стереотипы, которые будут разрушаться уже в ближайшее время.
Человек может справиться и в такой ситуации, которой его специально не обучали. "Танцующий" TU-154 RA-85563, например. Или обесточенный Ту-154М RA-85684.
Кстати, что будет делать ИИ, если ему отключить питание?
Пилотов обучают на массе внештатных ситуаций. Думаю, всё это есть в программе обучения, тут никакой новой физики не наблюдается.
Кстати, что будет делать ИИ, если ему отключить питание?
Видимо, то же, что и пилот с потерей сознания.
Пилотов обучают на массе внештатных ситуаций.
Увы, пилотов обучают на довольно ограниченном наборе ситуаций. И ситуации "механик на земле перепутал провода и один из рулей теперь работает в обратную сторону" там нет.
Видимо, то же, что и пилот с потерей сознания.
Ситуация, когда оба пилота одновременно теряют сознание, случается гораздо реже отказа электрики/электроники на самолёте.
Ничего не мешает в виртуальном пространстве имитировать и такую ситуацию и ещё 1000 подобных. А вот ресурсы человека ограничены и он действительно только несколько сможет освоить. Да, бытовой опыт и обладание здравым смыслом даст возможность некоторым пилотам разобраться в ситуации и справиться с ней, но точно таким же опытом и здравым смыслом после обучения обладает и нейросеть.
Ситуация, когда оба пилота одновременно теряют сознание, случается гораздо реже отказа электрики/электроники на самолёте.
Что ж, если резервируют людей, так что мешает резервировать и нейросети? Иметь ещё одну на своём резервном питании.
Вот вы опять не в курсе. Mobile ALOHA например, обучается разным действиям и он open source полностью, можно собрать из комплектующих где-то за $32000.
А человек отмоет унитаз, ототрет кафель, уберет паутинку в углу над лестницей, выбьет ковры - и все это за условно один день и 50 баксов :)
У меня нет ни малейших сомнений, что робот в принципе не решит и 10% задач, которые ставятся при капитальной уборке. А если брать раз в месяц, это мне будет стоит баксов 500-600 :)
Давайте обсуждать реальную жизнь, а не то, что кто-то увидел в ютубе
У человека нет никакого магического владения ситуацией.
Есть :) Это глаза, уши и серое вещество между последними :) Ситуация, когда оно надо назывется отказ чего-то там. Довольно таки частое явление, на самом деле. И комп ... ну вы поняли. Конечно не всегда, но пример "пилота", который словил "козла" в шереметьево однозначно показал, что при переходе "аэрбаса" в direct mode сказалось отсутствие практики и были жертвы. Но комп к тому моменту встал и вышел весь :)
Частичные отказы ... я чуток как архитектор поясню обычно лечатся либо через "коврум" (условно 2 из 3), либо обсервера (кто-то смотрит и решает конфликт. Ну базовые паттерны. Так вот, только человек может решить что делать, если "кворум" принял неерное решение (отказ по большинству, либо вообще всех элементов эьтого типа), либо как раз выступает этом обсервером.
Почему не комп (IA)? Очевидно. Потому что тогда нужен следующий "обсервер", который сможет принять решение, владея альтернативными источниками данных
А дальше снова к банальной истине. Пилот остается пилотом, имея практику, поэтому дальше определенного уровня повышение автоматизации вредно
То же, что и человек - корректировать свои действия. Или по-вашему её обучали исключительно на одной силе ветра? Будет делать всё, что необходимо для успешной посадки в своих пределах, разумеется, которые есть и для человека.
При сдвиге ветра - второй круг. Простой вопрос, упомянутая модель умеет? И дальше выход в зону ожидание, переговоры с диспетчером, принятие решения, что делать дальше. Физика - это такая вещь, которая не обходится. Причин для ухода на второй круг и вообще, отказа от посадки - валом.
Всё это мы увидим сначала на примере беспилотных автомобилей.
Да нет, меньше читайте рекламу и хвалебные отзывы. В реальности они пока ездят по лайтовым локациям с кучей ограничений. Ну и периодичесски из-за тупняка создают пробки.Если их станет больше - все станет :)
Давайте обсуждать реальную жизнь, а не то, что кто-то увидел в ютубе
Это и есть реальные вещи. Если следить за темой, анализировать, оценивать тенденции, то всё вполне очевидно. Понимаю, что люди с трудом воспринимают смену парадигмы и вообще плохо оценивать экспоненциальный рост. Ниже я дал ссылки, где подробно как раз об этом, с картинками. Вы зачем-то приводите массу текущих детских проблем, многие из которых уже решены. На вопрос что же такого особого в человеке тоже ничего внятного не увидел. Уши, глаза и мозг? Замечательно. Сенсоры и нейросеть определённой архитектуры всё это заменяет. Выход из строя? Серьёзно? Так с таким подходом надо вместо резервирования вообще убрать компьютеры со всей критической инфраструктуры и пересчитывать всё на счётах, мало ли, вдруг компьютер дал сбой. Человек-то надёжнее.
Мне интереснее более конструктивные вещи обсуждать, реальные отличия не вполне пока понятно как работающего мозга от искусственных нейросетей. Как чудовищно медленные нейронные связи обеспечивают более-менее сносную работу мышления? Пока мозг берёт количеством. 86 млрд нейронов, плюс не меньше глиальные клеток, которые тоже участвуют в работе, а не просто вспомогательные, по 10 тысяч связей у каждого нейрона. По некоторым прикидкам из той же статьи, для полноценной эмуляции нужно быстродействие порядка 10 Петафлопс. Это всего на пару порядков превышает современные видеокарты. Конечно, дело не только в быстродействии, а в понимании архитектуры. А рассказы, что самолёты не полетят, потому что тяжелее воздуха и крыльями не машут, без какой-либо аргументации, это не очень интересно.
Ниже я дал ссылки, где подробно как раз об этом, с картинками
Реальная вещь - это 20+ за уборку аппартаментов у многих хостов на airbnb ... или горничная в гостинице. Т.е. уборка номера либо полноценных аппартаментов стоит 20ку. При этом будет точно отмыт унитаз, вымыта посуда, если есть кухня и т.д. А не робот с роликами на ютубе
Я кстати сейчас в гостинице, сегодня вылетаю назад после командировки
На вопрос, чистит ли робот унитаз, и какими "конечностями" он помоет сковородку я ответа не получил :)
Так с таким подходом надо вместо резервирования вообще убрать компьютеры со всей критической инфраструктуры и пересчитывать всё на счётах, мало ли, вдруг компьютер дал сбой
Зачем? Уже давно, это я вам как архитектор со стажем 10+ только на этой позиции, работает схема: компы работают, человек контролирует и если что не так - приходит на помощь.
А также напомню еще одну известную истину, прибавляя 9ку к доступности, добавляем 0ик к ценнику. Это опять же в реальном мире. Поэтому куда проще на условный Disaster Recovery иметь план, а не рожать супер-пупер-дупер решение автоматического переключения, которое кстати, при любых раскладах требует минимум 3х отдельных сайтов. Потому что Disaster может и не случится, и вполне достаточно иметь план и тестить его условно раз в год
А рассказы, что самолёты не полетят, потому что тяжелее воздуха и крыльями не машут, без какой-либо аргументации, это не очень интересно.
Простой вопрос, что делает выбранная вами модель самолета при наличии "windshear ahead". Это штатная ситуация, которая отрабатывается очевидным образом. Давайте без болтологии. Вам известно, заложено ли в алгоритм автопосадки реакция на такое событие? Я ж предметно спросил
Это похоже на мечты. В конечном итоге мы приходим к человеку, который будет досконально описывать логику работы алгоритма. Опять получаем программиста, но на GPT модели. Так же появляться фраймворки, паттерны.
Рекомендую по теме вот эту большую статью из двух частей, ещё от 2015-го года
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html
Она не очень-то и устарела, скорее наоборот, сейчас подтверждается всё, что там описано и предсказано, а срок появления AGI только приближается.
Не хочется душнить, потому что это "предположение частного лица", но камон, дизайнеры и художники вообще не одно и тоже. Дизайнер не рисовальщик, он ближе к инженеру чем к художнику.
Сколько еще протянут мануфактуры?