Comments 103
Вообще приписка «вы должны быть готовы взять управление на себя» мне кажется не совсем корректной, потому что судя по примерам - это нужно успеть сделать в экстренном режиме. Не у всех может быть такая хорошая реакция как у водителя, имеющего приличный опыт + контекст текущей ситуации.
А ещё нужно уметь водить, причём лучше, чем автопилот.
Самый бред в том, что следить и быть постоянно готовым перехватить управление - сложнее, чем просто вести машину самому.
Опыт вождения даже с простым круиз-контролем говорит об обратном.
Нет, это разные случаи. Круиз-контроль управляет скоростью, адаптивный ещё и тормозит пере следующим в полосе авто. Он никак не может совершить внезапный опасный манёвр.
Спросите любого автоинструктора, что легче - ехать самому или ехать с учеником, позволяя ему управлять, но всё время контролируя.
Я не могу ездить с круиз контролем. Особенно, если движение относительно интенсивное. Мне кажется, что я не контролирую машину.
Да.
В авиации есть отличная концепция "взял - отдал". Когда один пилот передает другому управление - сначала второй подтверждает, что взял управление, и только после этого первый говорит, что отдал. Соответственно, не может быть момента, когда самолёт не управляется никем.
Здесь же автопилот отдает управление, не получив подтверждения, что человек готов управлять.
Вкупе с тем, что автопилот не отвечает за свои действия и ответственность в любом случае лежит на водителе - получается отвратительная ситуация.
В самолёте так же есть автопилот и пилоты так же обязаны следить за ним и контролировать 24/7, немедленно принимая управление на себя в случае проблем. Неся полную ответственность
Хорошо что в авиации пока не додумались назвать такой автопилот Full Self-Flying Capability*
Потому что в авиации автопилот это очень тупая штука, которая не может сама принимать никаких решений.
Ага, в авиации автопилот это «настолько тупая» штука, что позволяет начиная с момента взлета довести самолет до пункта назначения, в соответствии со всеми точками в плане полета, в том числе соблюдая высоту полета (lnav/vnav), скорость полета, и посадить его
По сравнению с автомобильными автопилотами — да, авиационный автопилот максимально тупой. Вам просто кажется, что он сложный, потому что сам самолёт большой и дорогой.
Автопилот сможет довести до TOD, а дальше всё равно нужно вмешательство экипажа, команды на снижение, выпуск механизации, программирование STAR, захват локалайзера и глиссады, и т.д. И даже автоматическая посадка осуществляется под непрерывным контролем экипажа.
Задача вести самолёт по точкам с ограничениями это довольно лёгкая задача, при наличии GPS (если есть только IRS, то уже появляются нюансы). Но всё равно основную работу делает экипаж.
Вы так уверенно пишите, будто вы этот автопилот писали, ну или, как минимум, рядом стояли. При этом вы пишите чушь.
Современный автопилот может в том числе посадить самолет. Не делается этого не по техническим причинам.
То что автопилот сейчас требует от пилота выбора типа посадки и сам реверс не включает - это опять же не техническое ограничение.
Я где-то написал, что автопилот не может посадить самолёт? Может, после того как его запрограммируют кожаные мешки, убедятся, что ветер не выходит за пределы автоматической посадки, аккуратно выведут его к полосе, нажмут кнопку захода, включат режим автоматической посадки, и вот только после он сможет посадить самолёт.
Поскольку я мало что понимаю в этой вашей авиации, хотелось бы поинтересоваться, какие конкретно мои слова являются чушью? Только конкретно, без общих отписок. Мне для общего развития.
Еще раз: ветер, вывод к полосе, нажатие кнопки захода, включение реверса - это не техническое ограничение автопилота.
Я не понимаю почему до сих пор никто не отметил главное различие между воздухом и землёй: на земле есть такая штука как разметка и расстояние до других автомобилей изменяется в метрах, иногда - в сантиметрах.
В воздухе если ты летишь в десятках, иногда в сотнях метров от того, где ты должен лететь - ничего критического не произойдёт (кроме возможного "possible pilot deviation, prepare to copy a number..."), а между самолётами расстояния в километры, а если это не так - тебе подскажет TCAS и/или диспетчер.
Условия совершенно разные. Автопилот самолёта несомненно не тупой в том плане, что ему приходится рулить гораздо большим количеством параметров, чем скорость 4 колёс и угол поворота двух передних колёс, но в плане навигации он действительно достаточно топорный, ибо от него не требуется ничего сверхъестественного. Летишь себе на инерциальной системе или GPS да летишь, никаких сложных ситуаций автопилоту решать не приходится - для этого есть пилоты
Вообще, это буквально техническое ограничение автопилота, особенно ветер. Ну не может современный автопилот справиться с сильным ветром, особенно с порывами +20 узлов.
Автопилот на большом лайнере это типа такой бездумный робот, которого программируют пилоты. Всё что он может - выполнять программу полёта по точкам. Это самый максимальный автоматический режим. Есть менее интеллектуальные режимы: полёт по курсу, снижение/набор в заданном режиме, полёт по VOR/DME, снижение по глиссаде. Но всё это программируют пилоты.
Я уже молчу про высоту. Высота самолёта понятие ооооочень относительное, и её измерение зависит от фазы полёта. А ведь есть ещё волшебный мир извращенных приключений типа "полёты по QFE в метрах на Боинге 737".
Если дяди А и Б, а также FAA и прочие EASA считают, что ещё не пришло время, наверное они в курсе что делают.
Один мой дружбан сейчас переучивается на Пилатус 24. Он нам регулярно хвастает какие там чудеса в авионике, по сравнению с А, и тем более Б. Но даже там ничего такого пока нет.
Не делается этого не по техническим причинам.
Причина простая: если использование автопилота станет нормой при взлёте-посадке, то это будет означать потерю опыта и квалификации для пилотов, и любая нештатная ситация, к которой не готов автопилот = потеря самолёта. Собственно, поэтому и автоматизируются только рутинные задачи.
Причина простая: если использование автопилота станет нормой при взлёте-посадке, то это будет означать потерю опыта и квалификации для пилотов
Нет. Для этого есть тренажерные тренировки. Никто сейчас не отрабатывает потерю двигателя или различные отказы механизации на настоящем судне с пассажирами, но пилоты регулярно оказываются в таких ситуациях на тренажерах. Как только авто посадка окажется надёжнее ручной в медианных метеоусловиях, на неё перейдут на оборудованных аэродромах, так же, как многие авиакомпании перешли на обязательный автопилот уже в наборе.
Есть хоть один авиационный автопилот который может слушаться обычных диспетчеров?
Нет, и никогда не будет. Самолетом управляет пилот. Указания диспетчеров пилот может нарушать в определенных случаях.
Тем самым авиационный автопилот требует постоянного контроля со стороны пилота и внесения изменений молниеносных если того потребует диспетчер. Например уворот от другого самолёта.
Откуда вы такие глупости берете? Какие молниеносные действия? Вы о чем вообще? Там примерно любое действие начинается с "достать карточку и вслух прочитать список действий".
Все управление самолетами построено на том что в начале подумать, найти что делать и только потом делать что-то. В самих принципах управления заложено отсутствие спешки.
Ага самолёт идёт на таран, достаем карточку и начинаем читать её вслух.
Орёт система предупреждения о столкновении, но мы никуда не спешим
Собственно да. Связываемся с диспечером, с тем самолетом и выясняем как разлетаться. Там система орет с запасом. Чтобы никто не торопился. Как и все нормальные системы.
Ага с запасом. Прям за сотню километров орёт, а нет только в непосредственной близости. Потому как иначе орала бы 24/7 на загруженных линиях. Самолёты же летят быстро и на встречных курсах пересекаться очень стремительно
И таки обычно диспетчер уже навёл на столкновение, помню был случай когда не успели отреагировать и самолёты столкнулись в воздухе.
Или например случай где папаня посадил ребёнка за штурвал, ребёнок выключил автопилот. Несмотря на то что карточки там никто не читал и сразу постарались выправить самолёт всё равно разбились и тд.
Все это бюрократические правельные протоколы работают только в штатных условиях, а Тесла в штатных тоже передаёт с запасом на месяцы. Потому как машина штатно замедлится, запаркуется и встанет на обочине. Можете хоть через год брать управления на себя. А вот в не штатных пьянный водитель выехал вам на встречку и до столкновения 1 секунда. Автопилот выхода не видит и кидает на вас управление
Давайте откроем официальную инструкцию.
TCAS expects the initial vertical speed
response to a “climb” or “descend”
maneuver advisory using 1/4g acceleration
within 5 seconds after issuance of the
advisory. Initial vertical speed response to
an increase or reversal RA is expected by
TCAS using 1/3g acceleration within
2 1/2 seconds after issuance of the advisory.
Пять секунд до начала простого указанного системой действия. Думать что именно делать, уворачиваться и подобной ерундой заниматься не надо. Тебе говорят что сделать и дают 5 (или хотя бы 2.5) секунд на подумать до выполнения этого действия.
Если бы Тесла думала головой, то в их автопилоте было бы что-то подобное. Авиационные системы хорошие и сделаны в расчете на нормальных людей, а не на ниндзя которые готовы к неизвестным моментальным действиям.
К чему-то такому автопилоты и придут. Ерунду как сейчас точно надо запрещать.
Вот уже не минуты, а секунды.
Ну и Тесла в таких ситуациях вообще тебе управление не передаёт, она не примитивный авиационный автопилот. Если видит возможность уворота то уворачивается, а не даёт консультации
Или убивает, как в статье. Интересно что чаще на самом деле происходит? Вот бы кто-нибудь заставил Теслу открыть логи.
Секунды это как раз нормально для реакции. Автопилот который можно разрешать должен обладать таких же свойством. Минимум секунды (во множественном числе) до того как потребуется любое действие от живого человека если машина едет на автопилоте. Без исключений, во всех случаях.
1)Так при каждом ДТП открывает. Государство не тупое и получает себе доступ.
2)Это уже законам физики противоречит. Хотите чтобы были секунды не нарушая причинно следственной связи, то прошу выставить дистанцию между авто в эти самые секунды. А не когда между встречными потоками едущими на скорости 60 км в час дистанция в метр
Тут недавно была история о подделке логов автопилота. Не Тесла, но похожая контора. Есть некоторые сомнения что государство способно разобраться. Сертифицированные черные ящики ок, то как оно сейчас на честном слове не ок.
2)Это уже законам физики противоречит. Хотите чтобы были секунды не нарушая причинно следственной связи, то прошу выставить дистанцию между авто в эти самые секунды. А не когда между встречными потоками едущими на скорости 60 км в час дистанция в метр
Значит автопилота не будет никогда. Что поделать. Люди точно не изменятся и моментальную реакцию себе не отрастят.
Хотя я бы не закапывал идею автопилота, а еще подумал.
1)Там не логи подделывали, там видео якобы не смогли загрузить с серверов GM. Проблемы интернета. А что власти подобное сожрали, это исключительно коррупция и влияние GM. С логами же было всё в порядке.
2)Неа есть и будет расширяться до полного запрета человека за рулём. Потому что с ним аварийность уже в разы меньше чем без него и ситуация будет только улучшаться. Причём главная проблема автопилота это непредсказуймость других участников движения. А если все автопилоты, то можно просто координироваться в реальном времени
Это не принципиально отличается от подделки логов. Если вы спрашиваете у виновного доказательства его вины, то появляется множество вопросиков.
Запрещалка точно отрасла? Я бы все таки еще подумал и попробовал сделать нормально. Торопиться некуда на самом деле. Ну будет оно через 10-20 лет. Это не проблема. Куда спешить?
1)Принципиально отличается. Так как улики не были уничтожены, не были искажены, и если бы так сделали то это уже было бы уголовным преступлением. А так лишь срач устроили. Благо желающих проверить и убедиться море, оссобено в США
2)Ну спасти пару миллионов людей например. Или их жизни не важны?
Ежегодно на дорогах погибают около 1,3 миллиона человек и до 50 миллионов получают травмы
1.3 миллиона трупов, 50 миллионов раненных. Как широкомасштабная война общемировая. Если автопилоты уже сейчас могут снизить этот показатель в 2-3 раза. То каждый год можно было спасать больше полумиллиона жизней и десятки миллионов ранений предотвращать. А за 20-30 лет тут уже спасённых будет как в ВОВ погибших.
Есть доказанный случай когда контора делающая автопилот попыталась скрыть свою вину. Кто теперь докажет что это не повторится и не повторяется регулярно? Требование черного ящика уже массово обсуждается и выглядит разумным. Это решит проблему конфликта интересов. Я не понимаю почему вы упираетесь.
Ну спасти пару миллионов людей например. Или их жизни не важны?
Или убьет еще больше. Кто знает.... Нормальных исследований нет. Тесла со статистикой мухлюет (да, это доказано). У других регулярные проблемы со вмешательством операторов. В общем то обычных дорожных ситуациях.
Я тут вообще не уверен в результатах. Текущий сценарий развития с экспериментальными зонами с контролем и ответственностью операторов и дальнейшая проработка правил выглядит оптимальным. Надо еще поездить с кучей ограничений и подумать.
Если автопилоты уже сейчас могут снизить этот показатель в 2-3 раза. То каждый год можно было спасать больше полумиллиона жизней и десятки миллионов ранений предотвращать. А за 20-30 лет тут уже спасённых будет как в ВОВ погибших.
А есть оценки того, сколько будет умирать из-за специфически-автопилотных проблем?
Да , поделите цифры на 2-3 и получите ответ. Поэтому тысячу трупов в сутки, но это будет меньше намного чем люди
Есть, в разы меньше. Автопилот + человек-контролёр надёжнее белкового водителя. Даже просто автопилот на трассе с среднем уже надёжнее. Но это подразумевает наличие к водителя некоторого опыта и готовности реагировать. Вот кто сейчас бьётся больше — начинающие водители или FSD, я не знаю. Но что-то подсказывает, что начинающие похуже будут.
Справедливости ради, во-первых, не "ребёнок выключил автопилот", а "действия ребёнка привели к выключению автопилота", потому как он отключается, если штурвал 30 секунд не стоит в нейтральном положении, а ребёнок активно делал им "вжжжжж". А потом сразу выкинуть малолетнее чудо из кресла они не смогли из-за вызванных его манёвром перегрузок, и пилоту на это потребовалось что-то около полминуты. А потом не разобрались, в каком положении находится самолёт, и выправить не успели. Там всё не так просто. Ну, кроме того, что не надо школоту за пульт пускать.
В гражданской авиации всё делается из расчета что любая нештатная ситуация будет иметь время на решение.
Простой пример - стабилизированная посадка. Это что такое? Это когда самолет на траекторию посадки выходит за несколько минут до фактического начала. Вышел за диапазон скоростей? Второй круг. Вышел за диапазон высот? Второй круг. Вышел за диапазон углов, Второй круг.
Самолет может сесть с нестабилизированного захода, военные очень часто так садятся(тем более за лентой никто не будет удлинять время посадки). Но если пилот ГВФ сядет нестабилизированного - его выдерут. Потому что стабилизированный заход - это время на случай если что-то пошло не так, это возможность исправить ошибку не за секунду до столкновения, а сильно заранее. И это касается всего полета.
Никто не разводит самолеты в десятках метров друг от друга.
И да, тот факт что системы постоянно предупреждают о проблемах - это реальность. И этот фоновый шум приводит к проблемам. К примеру, у нас в Самаре несколько лет назад самолет сел без выпуска шасси, потому что сигнализацию о невыпущенном шасси приняли за другой сигнал, который донимал экипаж перед этим(почему выпуск проморгали по чеклисту не спрашивайте, я не знаю).
TCAS на Airbus умеет сам совершать манёвр избегания. Так что всё давно уже движется в верном направлении.
У меня нет претензий к функциональности автопилота (авиационного или тесловского).
У меня есть претензии к маркетологам Теслы, которые штуку, неспособную (по их же словам) самостоятельно управлять автомобилем, назвали Full Self-Driving Autopilot
Я давно предлагал расстрелять половину маркетологов, а через год повторить. Не послушали, и вот к чему это привело. Это, конечно, шутка, но...
Во первых он называется не FSDA
А FSD, слово автопилот лишнее и не входит в название. Автопилот у Теслы это тупой круиз контроль. Более сложные системы это Продвинутый Автопилот. А FSD же помечается статусом Беты, и чтобы его активировать после покупки нужно прочитать и согласится что вы тестируется незаконченный продукт. Это предзаказ в котором можно заглянуть на ОБТ по желанию
Это правда не совсем про автопилот, но все же (MCAS на Boeing 737 MAX)...
Да, пилоты так же обязаны следить и быть готовыми перехватить. Только за 1-2 с самолет не врежется в ограждение или в соседний борт. Дистанции, как бы, чуть-чуть другие.
Насчет взлета и посадки не скажу. Их уже тоже на автопилоте производят? Раньше только на эшелоне переключались.
Взлёт на автопилоте никогда не делали. L1011 умел в автоматический взлёт, но его было запрещено использовать. Автоматическую посадку делают, но очень не часто.
В совсем терминальных случаях пилоты летают на автопилоте грубо говоря от 1000 футов при взлёте до 1000 футов на посадке (в зависимости от ограничений для данного типа, правил АК и текущих условий). В итоге это привело росту количества инцидентов, потому что пилоты стали терять навыки пилотирования. Сейчас рекомендуется как можно больше летать на руках, в зависимости от условий, конечно.
Конечно нет. Пилоты это люди. Они едят, ходят в туалет и даже поспать могут на эшелоне в длинном рейсе. Конечно заранее предупредив об этом другого пилота и дождавшись ответа что он согласен.
Не очень понял за что заминусовали человека. Ведь в любой момент один из пилотов обязан находиться в контуре управления. Что бывает, если оба пилота занимаются своими делами, мы очень хорошо увидели в случае с A310 под Междуреченском.
Левый человек специально (хоть и несознательно) выключил автопилот и уронил самолет != пилот ежесекундно следит что там с самолетом.
От водителя Теслы с "автопилотом" требуется моментальная реакция в любой момент времени. От пилота самолета требуется не делать ерунды и обращать внимание на сообщения автопилота. Со временем реакции минуты.
Сразу видно где систему проектировали специалисты думая о безопасности.
Если автопилот внезапно потеряет посадочные маяки на посадке, конечно же будут минуты? Нет.. Молниеносная реакция потребуется.
Дело не в том, кто и как проектировал,а в условиях, для которых автопилот предназначен. Машина не может спуститься ниже или подняться повыше, у автопилота самолёта никогда не будет проблем с "здесь должен быть знак, но его сломали вандалы" и "дорогу занесло снегом так, что это похоже на обычную разметку". А ещё самолёты никогда не летают так, чтобы постоянно видеть самолёты на встречных курсах (так, чтобы чуть ли не касаться крыльями друг друга), причем с условием, что навстречу летит пьяный неадекват,который в любой момент может тебя протаранить. А ещё самолётам нет необходимости учитывать пешеходов, которые перебегают на красный.
Ввиду этого у самолётов просто нет таких проблем, которые нужно решать автопилоту автомобиля, причем, зачастую, за время, куда меньшее, чем секунда. Чтобы надёжность автомобильного автопилота приблизилась к самолетнгму, нужно не его правильно проектировать, а полностью менять ПДД и все, что связано с дорожным движением:
1) Практически полностью исключить человеческий фактор путем исключения человека из управления
2) Сделать физически невозможным переход дороги в неположенном месте и неположенном сигнале светофора
3) Всю разметку, знаки и светофоры делать не только человекочитаемыми, но и машиночитаемыми, путем внедрения в дорожное покрытие специальных элементов, передающих информацию на бортовую ИС машины (радио нельзя - его перебить можно и тогда будут аварии)
4) Увеличить минимально допустимое расстояние между ма́шинами при движении.
5) Реализовать систему обмена информацией между участниками дорожного движения,а так же транспортной инфраструктурой типа камер на дорогах для исключения слепых зон
Более того в авиации, даже в экстренных ситуациях, избегают передачи управления пока не закончен манёвр или серия манёвров, так как тот, кто находится в контуре управления, находится в контексте ситуации, а другому пилоту нужно несколько секунд, чтобы полностью включиться в контекст, даже если он имеет большой опыт и очень внимательно наблюдал за ситуацией все время. То есть, если взлёт осуществляет второй пилот, и происходит какая-то нештатная ситуация, то до стабилизации положения самолёта пилотирование продолжает второй пилот, а капитан выполняет вспомогательные функции, несмотря на то, что имеет больший опыт. Само собой написано кровью, и время от времени случающиеся попытки нарушить это правило приводят к ухудшению ситуации, подтверждая верность правила.
Хорошей иллюстрацией является рейс Southwest 1380, когда при разрушении двигателя ВП выводил самолёт, а тётка КВС осуществляла общее руководство и связывалась с диспетчером. Она забрала управление только через шесть минут, когда уже нужно было готовиться к посадке.
Есть и обратный пример, когда КВС принудительно перехватил управление на взлете при отказе двигателя и угробил самолёт по той причине, что включение человека в контекст всегда занимает несколько секунд, которых не было.
Я сейчас номер рейса не вспомню, но там двигатели были неправильно настроены бортинженером на взлёте, а аномально высокая окружающая температура и высокая загрузка самолёты требовали специальных настроек. Из-за этого при отказе двигателя на взлете не удалось вывести второй на полную и тяги не хватало на набор высоты. Второй пилот с относительно небольшим опытом пилотировал на взлете и скорее всего все было бы хорошо, так он делал все правильно и через некоторое время двигатель вышел бы на полную мощность, а самолёт стабилизировался, но КВС посчитал себя более опытным и взял управление, когда самолёт был нестабилен. В результате пока КВС "нащупал" правильное воздействие, самолёт был уже обречён. В то же время второй пилот, у которого неожиданно отобрали управление, тупил с поддержанием связи и контролем вспомогательных приборов, так как ему тоже нужно было время, чтобы переключиться.
Чуть позже постараюсь загуглить и добавлю номер рейса- очень поучительная история.
Если я правильно понял, два раза ИИ чуть не убил его на огромной скорости, но зато помог не поцарапать бампер в пробке. Безопаснее, да.
Я уважаю Маска, как человека говорящего то, что он думает. Но ставка на железного дурака была ошибкой. Не с этой архитектурой.
Статистика Теслы показывает кратное снижение аварийности по сравнению с водителями не использующими автопилот
Я уважаю Маска, как человека, который говорит то, что думает об остросоциальных вопросах.
А когда речь идёт о применении его коммерческих продуктов (который, кстати, ни одна компания не купила), я вместо «статистики Теслы» предпочёл бы статистику водителей. Эти три случая, конечно, ещё не статистика, и я могу ошибаться, но что-то мне подсказывает, что вождение по имеющимся дорогам, всё-таки, окажется существенно творческой задачей. А творческие задачи статистическими автоматами, даже такими изощрёнными, не решаются.
Как показала практика, как раз творческие задачи оказались решены ИИ быстрее чем не творческие
Боюсь, у вас какое-то своё понимание «творческих задач». Для меня творческие задачи это, по определению, задачи, с которыми может справляться только творческое мышление. А что такое творческое мышление (иными словами: как мы мыслим?) наука на данном этапе не знает (есть догадки, что это связано с квалиа, что это искусственная эволюция мемов, что это требует серьёзных доработок к теории Докинза и т.п.). Но деньги вкладывают не в решение этой научной загадки, а в «китайские каморки» со множеством карточек, чтобы отбить их побыстрее. В результате кто-то отобьёт себе все органы, упав со скалы. Наука, жестокая ты сука.
Я сильно подозреваю, что для вас творческая задача это сборка неоновых котов из имеющихся в базе элементов. Если так, советую прочитать, как устроены подобные штуки: https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
То есть вы определяете творческие задачи, как задачи, с которыми ИИ не может справиться? Это очень удобное определение для данной дискуссии, но не могли бы вы дать какое-то определение задачи, не привязанное к исполнителю, а описывающее саму задачу?
Я понимаю ваш скепсис, и постараюсь его развеять следующим примером.
Долгие годы люди мечтали получить золото из неблагородных металлов. Тысячелетия. А получилось это сравнительно недавно, в прошлом веке. Дело в том, что никто просто не понимал, что такое золото. Не было научного определения. Сейчас-то мы понимаем, что золото — это совокупность атомов, в которых ядро содержит ровно 79 протонов. А ещё сто с небольшим лет назад люди вообще не верили в атомы (!!!). Бедолагу Больцмана затравили именно потому, что в основе его МКТ лежала аксиома о корпускулярности. А сейчас мы доэкспериментировались до того, чтобы разогнать пучок частиц, столкнуть с мишенью, поставить детекторы, и детектировать успешность синтеза. А почему? Потому, что мы осознали, что такое «химический элемент». Согласитесь, что наощупь, не понимая сути, поставить такой эксперимент невозможно. Что и доказали тысячелетия безуспешной алхимии.
Невозможно повторить достаточно сложное явление, не понимая его сути. Невозможно синтезировать золото, не понимая, что такое золото. А поняв, можно синтезировать его по другой схеме, не как в природе (в природе, как вы знаете, его синтезируют сверхновые, а не дубнинские ускорители).
А теперь представьте себе, что какой-нибудь алхимик с подлинно научным мышлением в 17 веке сказал бы: так, чуваки, стопэ, а мы, собственно, какую задачу-то решаем? Что такое мы пытаемся получить? Раз мы не можем получить золото, наверно, мы просто не понимаем, что такое золото?
И, конечно, какой-нибудь скептик сказал бы: то есть, ты определяешь золото как металл, который мы не можем получить? Удобненько, удобненько!
Я ещё вот что добавлю. Со временем я начал приходить к выводу, что одна из самых важных черт научного мышления — умение как можно раньше обвести белое пятно на карте знаний. Умение понять, что мы чего-то не понимаем. Вот Ричард Фейнман даёт мастер-класс:
Я сказал: «Вот, пожалуйста. Есть здесь наука? Нет! Здесь есть только толкование одного слова при помощи других слов. Здесь ни слова не сказано о природе: какие кристаллы испускают свет, если их раздробить? Почему они испускают свет? Вы можете представить, чтобы хоть один студент пошел домой и попробовал это проверить? Они не могут. Но если бы вместо этого вы написали: „Если взять кусок сахара и в темноте расколоть его щипцами, вы увидите голубоватую вспышку. То же самое происходит и с некоторыми другими кристаллами. Никто не знает, почему. Это явление называется триболюминесценцией“, — тогда кто-нибудь проделал бы это дома, и это было бы изучением природы». Я использовал для доказательства этот пример, но мог взять и любой другой, — вся книга была такая.
Если бы все наши учебники писали в таком духе, было бы меньше людей, которые сегодня отрицают загадку творческого мышления. У них, видите ли, эта загадка уже решена! У них уже автомат показывает соответствующие способности! Когда я это читаю, у меня волосы встают дыбом. Ну и, конечно, неудивительно, что обзор настоящего учёного (ссылку см. выше), Стивена Вольфрама, который объясняет, как это устроено, никто из этой публики не читает. А если бы читали, то знали бы, что этот аппарат не создаёт знания, а делает попурри из кусков имеющихся. Создают знания на сегодняшний день только человеческий мозг и эволюция, а нам ещё только предстоит научиться строить устройства, способные на это.
аппарат не создаёт знания, а делает попурри из кусков имеющихся. Создают знания на сегодняшний день только человеческий мозг и эволюция
Что вы понимаете под фразой "создаёт знания"? Самое очевидное применение computer'a - выполнение математических вычислений, недоступных человеку - это создание знаний или нет? А если таким образом доказана или опровергнута гипотеза? Живой художник, пишущий картину - разве создаёт какие-то знания? (Более того, можно ли считать творчеством - не в формальном "раз художник, значит, творчество" - а в содержательно широком смысле написание картин с натуры, портретов и пейзажей, де-факто работу живым фотоаппаратом?)
А почему вы берете в качестве примера золото? Почему не взять, например, железо, которое научились получать из руды (совершенно на нее не похожей), намнооого раньше чем поняли "что такое железо".
Вся история технологического прогресса состоит из вещей которые вначале научились делать, а только потом разобрались как и что именно. При этом вы вычеркиваете все эти случаи и на примере исключения (золота) строите логику, что "надо вначале понять, а иначе невозможно создать"...
Дальше еще забавнее. Что вы вкладываете во фразу "понять, что такое сознание?" Подозреваю, что вы не о философских трактатах в коих определений наберется немало. А о чем?
Вот вы считаете, что понимаете "что такое золото", из-за того, что знаете сколько в нем протонов, но что такое протон вы тоже знаете? Что такое кварк? И так далее. Чем это отличается от того, что мы знаем сколько нейронов в мозге, и примерно понимаем как они устроены?
Т.е. вы просто доверяете своему определению, которое по сути есть просто чуть больше информации о внутренней структуре золота, и не более. Просто это определение позволило золото получить. И что с того? Является ли одно следствием второго? На основании чего вы делаете такой вывод?
Алхимики в свою очередь прекрасно понимали, что они хотят получить. Золото для них имело вполне ясные и понятные определения (плотность, цвет, вязкость, плавкость и пр). Если бы они получили другой материал имевший точно такие свойства, ранее в природе не найденный - они бы назвали его золотом, и использовали точно как золото. Потому, что им были важны свойства, и они хорошо знали какие именно.
Борцы за уникальность человеческого сознания последние годы бояться указывать на конкретные свойства оного, опасаясь оказаться в очередной пройденной строчке списка "вы находитесь здесь". Поэтому теперь они не уточняют, они просто говорят "нужно понять"... Ну да, удобно. Трактовать то можно как угодно, и чтобы не сделали машины всегда можно сказать "вы не понимаете, это другое".
И относительно Фейнмана. Я обожаю "Вы конечно шутите", поэтому просто не мог пройти мимо. Фейнман говорит о совершенно другом. О том что определение чего-то само по себе это не наука. Можно написать тысячи определений сознания, и все они никак науку не продвинут, потому что науку двигает эксперимент. И так уж сложилось но наилучшей площадкой для экспериментов в области сознания сегодня являются искусственные нейросети. И вместо того чтобы упиваться своим незнанием, стоит попробовать это самое сознание создать, и разобраться в чем отличие созданного от оригинала, и попробовать снова...
железо, которое научились получать из руды (совершенно на нее не похожей), намнооого раньше чем поняли "что такое железо".
Золото вполне себе тоже "научились получать из руды (совершенно на нее не похожей), намнооого раньше чем поняли "что такое золото".". Только руду ту ещё найти надо.
Это примерно уровня "Пап, вот у меня тут набор LEGO лежит, у тебя есть инструкция, как из него замок построить? — Нет, нет у меня инструкции; вот тебе пистолет деньги — поди в игрушечный магазин, там такой замок уже построенный продаётся."
А почему вы берете в качестве примера золото? Почему не взять, например, железо, которое научились получать из руды (совершенно на нее не похожей), намнооого раньше чем поняли "что такое железо".
Боюсь, вы ничего не поняли в примере с золотом. Его нельзя получить химическим путём. Как и железо. (Ведь в контексте речь шла про химические элементы, а для них нужны особые реакции, называемые ядерными трансмутациями. Это не шутка, хотя словосочетание для моего уха и звучит немного фэнтезийно). Впрочем, @Wesha уже пояснил этот момент.
Нет, боюсь это вы вместе с @Wesha,ничего не поняли в моем примере)) Вы прицепились к железу, совершенно игнорируя смысл всего комментария.
Железо - это просто пример. Пример того, что можно что-то создать не понимая как оно устроено. Не нравится пример с железом - пожалуйста. Те же древние люди умели предсказывать солнечные затмения, время восхода некоторых планет и пр. Имея совершенно превратные представления о небесной механике, они успешно это делали. А вы располагая знанием об устройстве солнечной системы сможете (не заглядывая в интернет)?
Если уж совсем прямо, то я говорю, что история науки и технологий опровергает ваш тезис "Невозможно повторить достаточно сложное явление, не понимая его сути".
Потому что каждое "сложное явление" - это лестница из более простых, "карабкаясь" на которые их понимали далеко не всегда, и часто только уже попав на вершину становилось понятно куда эта лестница в реальности вела.
Кстати, ваш тезис успешно опровергают миллиарды женщин успешно создающие новых людей, но совершенно не понимающих как они устроены)) На всякий случай - это шутка.
А если серьезно, то просто почитайте историю открытий в области той же квантовой механики (до того как ее стали так называть). Там случайных находок, ошибок приведших к открытиям, неверных трактовок и заблуждений - просто сплошь и рядом. Какое уж там "вначале понять, потом сделать"... Но даже сотни ошибок не останавливали поиск, ученые не сидели и ждали когда же они поймут как все устроено. Они экспериментировали, строили догадки, проверяли их, ошибались и постепенно шли вперед...
Даже опираясь на ваши собственные определения. "Новое" может создать эволюция. Но эволюция - не обладает каким-то магическим, неподвластным науке свойством. По сути это простой набор генетических алгоритмов, только очень много раз повторенный. И эволюция в этом смысле изучена ничуть не хуже того же золота.
Т.е. воссоздать эволюцию можно. А значит потратив нужный объем ресурсов можно создать то самое "новое". Эрго - можно "создать новое не понимая его сути" :)
Но смысл моего комментария не в этом.
Речь не о том, что нужно бездумно пробовать, что-нибудь пока не получится. Но не потому, что это не работает, а потому, что это просто не оптимально расходует ресурсы.
Речь о том, что сидеть ровно и пытаться "понять, что есть сознание", прежде чем пробовать его создать - еще более не оптимально расходует ресурсы.
Да, алхимики не открыли золото. Как мы знаем и не могли открыть. Но открыли минеральные кислоты которые произвели сдвиг в понимании "химии" того времени, и привели к новым открытиям.
Да, алхимики действовали неоптимально. Но если бы они сидели и пытались понять "что же такое золото" - это было бы еще хуже!
Дальше можно написать про нейросети и как они могут помочь в разгадке тайн сознания (в числе прочего). Но все что я хотел сказать об этом - я уже написал выше, повторяться смысла не вижу, кому надо там и прочтет.
"Не понимая, как оно устроено" можно сделать всё, что угодно. Нужно просто
достаточно много раз попробовать.
Однако в какой-то момент человечество уясняет, что понять начинает обходится дешевле, чем делать 100500 попыток, из которых удачной окажется одна.
Самое забавное, на мой взгляд, что вы будто бы спорите об одном и том же
Вы оба говорите примерно "можно случайно получить результат, и даже натренироваться его повторять раз за разом, но для полноценного применения нужно понимать что именно ты в процессе делаешь".
Поэтому эксперименты это хорошо, но одних экспериментов не достаточно для того, чтобы развивать науку - количество всегда должно переходить в качество
Пардон, что значит «прицепились»? Если речь изначально шла о ядерных реакциях и их отличии от химических (это принципиальный момент в примере), а кто-то их начал путать, есть основания полагать, что он ничего не понял в примере.
Далее.
Не нравится пример с железом - пожалуйста. Те же древние люди умели предсказывать солнечные затмения, время восхода некоторых планет и пр.
А что мы повторяли в этом случае? Аналогично ядерному синтезу? Если вы берётесь привести контрпример и опровергнуть тезис, то давайте. Одного хватит. Но его-таки надо привести.
Что касается тезиса. Я его обосновываю не примерами. Примером (с золотом) я его иллюстрирую. А обоснование у него следующее. Если вы не используете знания и/или не создаёте знания в процессе, то повторить что-то можете только случайно. Какие ещё могут быть варианты? Богу помолиться, и он направит руку экспериментирующую? А вероятность случайно получить сложный результат экспоненциально снижается по мере роста сложности. Эта концепция известна под названием Больцмановский мозг.
Заметьте, есть большая разница между больцмановский мозгом, и человеческим. Человеческий не возник в результате случайности. Он возник в результате эволюции. А эволюция это и есть процесс создания знаний. И это приводит нас к следующей цитате:
Т.е. воссоздать эволюцию можно.
Можно-то можно, но лучшие учёные умы говорят, что мы, скорее всего, пока этого не умеем. То, что мы делаем в лабораториях, это не искусственная эволюция, потому что мы не понимаем, что такое эволюция. Вот так. Эволюция (предположительно) лежит в основе такого явления, как сознание, и не понимая эволюцию, мы и сознание не понимаем. Если вы пропустили, я напомню, что написал: есть гипотеза, что на пути к ИИ нам, возможно, придётся дополнять, а то и пересматривать теорию Докинза. А теория Докинза это, как вам наверняка известно, и есть наша лучшая на сегодня теория эволюции.
мы не понимаем, что такое эволюция
Вы, может, и не понимаете :) А Сьюзан Блекмор по полочкам разложила.
Эволюция обязательно возникает, когда сходятся три компонента:
1) изменчивость — организмы по тем или иным причинам отличаются друг от друга (то есть не являются 100% клонами);
2) наследование — потомки наследуют некие характеристики (в частности, геном) от родителей;
3) отбор — не все признаки одинаково полезны: какие-то дают преимущество, и, следовательно, передаются потомкам; а какие-то дают гандикап, и, следовательно, переаются потомками слабее (ввиду того, что родители тупо не выжили) и потому вымываются из популяции.
Вот эти три маленьких винтика и есть всё, что нужно для эволюции.
Простите, но искать примеры которые вам понравятся мне не очень хочется) Можно ли сравнить сложность небесной механики для шамана древности, с формулами ядерных реакция для алхимика? Это вопрос конечно дискуссионный, но малоинтересный. Либо вы понимаете смысл который вкладывается в пример, либо нет, спорить тут не о чем.
Опять же разговор сильно ушел от изначальной темы. Создать что-то сложное случайно - шансов мало, это очевидно и я прямым текстом это писал выше. Смысл в том, что это самое сложное, является композицией более простого, и пытаться понять простое, а также экспериментами корректировать свой путь к сложному - это и есть оптимальная стратегия. А сидеть и пытаться понять сложное - процесс еще более бессмысленный, чем пытаться его угадать (там хоть обратная связь есть).
Если максимально утрировать, смысл вашего изначального посыла: мы не знаем, что такое сознание, соответственно создать его не можем, нейросети - игрушки, вкладываться в них смысла нет.
Я же возражаю, что нейросети сегодня - это, помимо прочего, лучшая площадка для экспериментов в области сознания, чем мы могли даже представить. И сегодняшние наработки позволяют двигаться по этой "лестнице экспериментов", продвигая наше понимание. И возможно (я бы даже сказал вероятно) мы даже создадим сознание раньше чем поймем на 100%, что это такое.
Но если вы про квалиа и подобное - то тут конечно смысла спорить нет.
Если же вы не согласны - есть предложение. Сформулируйте конкретную, как вы называете "творческую задачу", с которой нейросетям нипочем не справится. А человек - может. Ну а мы поживем-увидим))
Только конкретно, без всяких формулировок типа "истинно нового" и пр.
Ну а если за ближайшие 20 лет эта задача не будет решена ИИ - я готов публично извиниться)
P.S. На счет эволюции - @Wesha уже все отлично сформулировал. Мне даже добавить нечего))
P.S.2. Если вы хотите не про суть, а про корректность примеров, золото и железо - то я простите на отвечу, тема себя подисчерпала.
уже все отлично сформулировал
Это не я, это Сьюзан Блекмор!
Я всего лишь пророк её (бамбарбия, киргуду).
Простите, но железо не создают, а получают. Выделяют из руды. Оно в руде уже есть.
+100500. Самый главный вопрос науки — это вопрос "ПОЧЕМУ?". За который, к сожалению, недальновидные родители в детстве своих ребёнков шпыняют.
Браво , коллега!
Целиком и полностью поддерживаю вас. ИМХО, если не идёт речь о совсем рутинных задачах, в которых данную функцию уже выполнил кто-то. Заранее. И качественно. ...то, всегда надо стараться произвести декомпозицию и причинно-следственный анализ. Иногда и детальный. Чтобы не было борьбы с ветряными мельницами, и с последствиями, вместо причин.
Ну как бы логично :)
в случаи аварии - виноват водитель что за целую пару секунд не перехватил контроль
водитель следит ЗА автопилотом и как минимум в части ситуаций когда водитель ошибся бы а автопилот - нет, водитель не перехватывает управление потому что все нормально
Т.е. надо следить не только за дорожной обстановкой, но иметь ввиду, что ии может выкинуть фортель? И доверяя автомату все равно поддерживать хорошой опыт вождения.
система автоматически перешла на левую полосу, чтобы обогнать машину. При совершении манёвра водитель почувствовал, как FSD пытается резко повернуть влево, к разделительной полосе. Ему снова удалось перехватить управление. В противном случае мужчина мог бы врезаться в обгоняемый автомобиль.
Ни у кого не вызвало вопросов? Автомобиль перешел в левую полосу и попытался перейти еще левее. Но водитель его остановил, а то он мог врезаться в обгоняемый автомобиль (находящийся справа).
А потому что, если заглянуть в оригинал, можно увидеть, что "переводчик" любезно пропустил фразу:
Это было очень страшно, так как я чуть не потерял управление, выправляя поведение FSD именно в момент обгона автомобиля. Я мог бы врезаться в него, если бы перестарался.
У нас дедлайн это вчера...
Не обкатали обнову должным образом и выпустили на продакшн
Водитель считает, что езда с FSD Beta всё же безопаснее, чем без него, но при этом нужно постоянно следить за дорогой.
Исходя из приведенных ситуаций какой-то весьма нелогичный, неразумный и опасный вывод.
Без автопилота нужно постоянно следить за дорогой или можно втыкать в телефончик?
Можно. Но только один раз.
Без автопилота нужно постоянно следить за дорогой. С таким каким описан автопилот нужно тем более постоянно следить за дорогой. Разница лишь в том, что наличие FSD будет расхолаживать, ведь после его включения можно будет повтыкать в телефончик, и ничем хорошим это рано или поздно не закончится, судя по суицидальным порывам этого волшебного помощника в управлении транспортным средством.
Я брал тестовые три месяца FSD за реферальный бонус. Ну такое. Машина едет вполне неплохо, но периодически делает странные вещи. Тупит на поворотах. Поджимается, выбирает не привычные траектории (не могу сказать что неправильные). Расслабиться невозможно от слова совсем. С другой стороны я понимаю о чем говорит автор. Машина очень хорошо себя ведет в плотном старт-стоп трафике, где не надо менять полосы. Для этого, правда и FSD не нужен. Обычный автопилот прекрасно следует за машиной впереди. Разве что на светофорах не останавливается.
Вот посмотрел я часть ролика и снова поймал себя на мысли, что на текущий момент эта штука (FSD) не поможет мне, а наоборот, добавит головной боли. Аргументация проста. Когда я веду сам - я должен следить за дорогой и другими участниками. Когда ведет FSD - я должен следить за дорогой, другими участникми и еще сопоставлять поведение FSD с адекватным поведением меня на дороге (и в случае надобности - править работу FSD). Иными словами - добавляется еще один параметр, требующий постоянного внимания. IMHO
Эффект пассажира.
Когда езжу на такси/везёт кто-то, рефлекторно жму "тормоз" потому что стиль вождения не совпадает.
Он не всегда "агрессивнее", просто другой. Поэтому совсем сложно. Где-то "налево обгони дальше полоса свободная будет ещё с километр", где-то "тормози блин, тут всё равно пробка в 3 полосы всегда и красный до зелёной стрелки" на знакомом маршруте.
Водитель рассказал, как бета-версия Tesla FSD спасла его и дважды пыталась убить