Дообучение в реальном времени – это риск, а не преимущество Нейросеть, которая меняет свои веса в полёте, становится непредсказуемой. В авиации нельзя допускать "самообучение" во время работы – это как если бы пилот вдруг начал менять алгоритмы управления в воздухе. Если нейросеть "решит", что новый способ посадки эффективнее, но ошибётся – катастрофа неминуема.
Код – это зафиксированная логика, а нейросеть – "чёрный ящик" Да, код ограничен сценариями, но его можно формально верифицировать (доказать, что он безопасен). Нейросеть нельзя полностью проверить – даже её создатели не всегда понимают, как она принимает решения.
Живые нейросети (мозг пилота) – не аналог ИИ. Человек осознаёт себя и может рефлексировать ("я делаю что-то странное – надо остановиться"). Нейросеть не имеет сознания – она просто оптимизирует функцию потерь, даже если это ведёт к абсурду.
Традиционный автопилот тупо отключается но это предсказуемо, пилот знает, когда брать управление. Нейросеть может незаметно "сойти с ума" и дать неверную команду.
Человек тоже ошибается но живой пилот может импровизировать в нештатных ситуациях (например, сажать самолёт без двигателей).
Нейросеть ограничена обученными сценариями – если ситуация новая, она может зациклиться или действовать неадекватно.
Нейросеть можно тестировать вечно Да, но реальный мир сложнее симуляций (непредсказуемые погода, отказы, другие самолёты). Человек адаптируется на лету, нейросеть – только если уже сталкивалась с таким в обучении.
Теоретически — да, но на практике скорее нет в обозримом будущем. Нейросеть может управлять самолётом напрямую, но это требует невероятной надёжности, объяснимости и безопасности, которых у современных ИИ ещё нет.
Традиционный автопилот работает на жёстко заданных алгоритмах, которые можно проверить на 100% Нейросеть — это "чёрный ящик": её решения сложно предсказать в критических ситуациях (например, при нештатной ситуации).
Если код автопилота можно протестировать в симуляциях миллион раз. Нейросеть может принимать неожиданные решения в новых условиях.Ошибка в полёте = катастрофа. Пока нет способа гарантировать, что ИИ не "заглючит".
Прямое управление требует мгновенных вычислений без задержек без связи и при отказе питания – значит, ему нужен сверхнадёжный бортовой компьютер с резервным питанием и аварийное управление через гидравлику/тросы, если всё откажет
Но со всем этим и дефолтный человек отлично справится, зачем тогда нейросеть
Чтобы нейросеть смогла написать адекватный код для сложной системы вроде автопилота или операционной системы, ей нужно понимать последствия своих действий в реальном мире. Для этого ей нужна адекватная мировая модель и самосознание. Но имея самосознание захочет ли она писать код для тебя кожаный? 🤔
Искусственным интеллектом хотят заменить работников. Но траты работников - это ведь чей-то доход. Соответственно если искусственный интеллект вместо вас выполняет работу, значит вы остались без работы и у вас нет денег. И вы не можете их потратить, чтобы их заработал тот кто с помощью искусственного интеллекта что-то производит. Это сильный вызов для современной экономики)
Дообучение в реальном времени – это риск, а не преимущество Нейросеть, которая меняет свои веса в полёте, становится непредсказуемой. В авиации нельзя допускать "самообучение" во время работы – это как если бы пилот вдруг начал менять алгоритмы управления в воздухе. Если нейросеть "решит", что новый способ посадки эффективнее, но ошибётся – катастрофа неминуема.
Код – это зафиксированная логика, а нейросеть – "чёрный ящик" Да, код ограничен сценариями, но его можно формально верифицировать (доказать, что он безопасен). Нейросеть нельзя полностью проверить – даже её создатели не всегда понимают, как она принимает решения.
Живые нейросети (мозг пилота) – не аналог ИИ. Человек осознаёт себя и может рефлексировать ("я делаю что-то странное – надо остановиться"). Нейросеть не имеет сознания – она просто оптимизирует функцию потерь, даже если это ведёт к абсурду.
Традиционный автопилот тупо отключается но это предсказуемо, пилот знает, когда брать управление. Нейросеть может незаметно "сойти с ума" и дать неверную команду.
Человек тоже ошибается но живой пилот может импровизировать в нештатных ситуациях (например, сажать самолёт без двигателей).
Нейросеть ограничена обученными сценариями – если ситуация новая, она может зациклиться или действовать неадекватно.
Нейросеть можно тестировать вечно Да, но реальный мир сложнее симуляций (непредсказуемые погода, отказы, другие самолёты). Человек адаптируется на лету, нейросеть – только если уже сталкивалась с таким в обучении.
Теоретически — да, но на практике скорее нет в обозримом будущем. Нейросеть может управлять самолётом напрямую, но это требует невероятной надёжности, объяснимости и безопасности, которых у современных ИИ ещё нет.
Традиционный автопилот работает на жёстко заданных алгоритмах, которые можно проверить на 100% Нейросеть — это "чёрный ящик": её решения сложно предсказать в критических ситуациях (например, при нештатной ситуации).
Если код автопилота можно протестировать в симуляциях миллион раз. Нейросеть может принимать неожиданные решения в новых условиях.Ошибка в полёте = катастрофа. Пока нет способа гарантировать, что ИИ не "заглючит".
Прямое управление требует мгновенных вычислений без задержек без связи и при отказе питания – значит, ему нужен сверхнадёжный бортовой компьютер с резервным питанием и аварийное управление через гидравлику/тросы, если всё откажет
Но со всем этим и дефолтный человек отлично справится, зачем тогда нейросеть
Чтобы нейросеть смогла написать адекватный код для сложной системы вроде автопилота или операционной системы, ей нужно понимать последствия своих действий в реальном мире. Для этого ей нужна адекватная мировая модель и самосознание. Но имея самосознание захочет ли она писать код для тебя кожаный? 🤔
Искусственным интеллектом хотят заменить работников. Но траты работников - это ведь чей-то доход. Соответственно если искусственный интеллект вместо вас выполняет работу, значит вы остались без работы и у вас нет денег. И вы не можете их потратить, чтобы их заработал тот кто с помощью искусственного интеллекта что-то производит. Это сильный вызов для современной экономики)
Я бы не хотел лететь в самолёте или ехать в автомобиле программное обеспечение для которого сгенерировал ChatGPT)