Comments 15
Во всех этих рассуждениях как-то пропускается алгоритмическая неразрешимость задачи проверки соответствия программы заданной спецификации. Специалисты по ИИ, наоборот, считают, что статистическими методами, дополнительно вооружёнными механизмами внимания, рассуждения и состязательности, можно удовлетворительно "сойтись" практически к любому решению, и человеческий мозг, в каком-то смысле, сам таким же статистическим образом "сходится" к решению поставленной задачи. А если вспомнить про концепцию "русел" и "джокеров", то вся "болтанка" в результата применения ИИ объясняется тем, то "джокеры" буквально пронизывают всё пространство параметров.
Настоящая автоматизация создания ПО связана с построением моделей, ибо всякий код должен соответствовать некоторой спецификации, а модель — это и есть спецификация. Соответственно, результатом применения ИИ должна быть спецификация — некая формальная спецификация, где для каждого возможного изменения указывается результат. Другими словами, мы должны получить на выходе некое пространство моделей. Разработка ПО — это некая траектория в этом пространстве. А до тех пор, пока ничего этого нет, говорить об автоматизации не приходится.
Да, и, конечно. Любая автоматизация предполагает обобщение опыта. А где это обобщение? Просто взяли набор задач и сопоставили ему набор решений, и, использовали, при этом, кучу практических примеров. А где, собственно, обобщение опыта разработки? Для этого надо как-то зафиксировать траекторию разработки реальных систем, а этого никто и никогда не делал и делать не будет! А было бы чрезвычайно интересно посмотреть на готовые системы, историю их разработки. А ещё интереснее было бы понять, как можно было бы разработать туже систему, но за один заход, без растянутого во времени процесса порождения/преодоления ошибок. Ответ на этот вопрос и есть то, в чём заключается подлинная автоматизация, и то, что должен сделать ИИ. Но! Если мы поймём, как это сделать, то зачем нам, тогда, будет нужен ИИ?
Как всегда на хабре: навалили кучу того, что НЕ МОЖЕТ ЧЕЛОВЕК, в доказательство того, что не может ИИ. К примеру, сколько раз в день вы рефакторите миллионы строк с cobol на java?
Ежедневная работа разработчика включает:
Рефакторинг, который улучшает дизайн, масштабные миграции — перевод миллионов строк с COBOL на Java, меняющий целые бизнесы
К примеру, сколько раз в день вы рефакторите миллионы строк с cobol на java?
Обычно перед обедом три миллиона, а после обеда ещё пять. Иногда ещё перед сном парочку. А что?
Вас удивляют странности в статье, написанной ИИ?
ИИ не может описать свои недостатки. Он и не описал а просто надёргал из статей форумов и поисковиков.
Это перевод статьи и там указан оригинал ;)
И конечно указано какой моделью сделан так называемый перевод?
ChatGPT уверенно рапортует что и исходный текст написан с помощью ИИ.
А я вижу вам, в так называемой дискуссии, важно сказать последнее слово. Аргументы, кроме чатджпити есть? Это оригинальная статья - по оригниальному исследованию - все ссылки есть и вы можете их найти. Если вы не смогли прочитать и понять текст, то это не значит, что статья сгенерирована нейросетями
Сгенерирована и переведена нейросетью. В процессе смысл потерян и заменён на набор банальностей.
Так сгенерована или переведена? Как это может быть одновременно? Можно конкретные примеры утраты смысла и наборов банальностей? А не ваше бла бла бла
Сначала статья была создана с помощью ИИ по нескольким высказываниям, взятым из разных источников. Это статья на английском. Вы можете её текст скормить chatgpt и посмотреть его аргументы, их много они большие по объёму и убедительные. Потом статья была скормлена другому ИИ с целью перевода. Перевод сделан творчески, с форматированием. Красиво. Но что ценится в таких статьях? Авторский текст. Немного там поправлено, немного добавлено иди убавлено - получается не то. А ИИ имеет свойство сглаживать тексты, он и сгладил, причём сначала в английском оригинале, потом в переводе.
Можно конкретные примеры утраты смысла и наборов банальностей?
Да легко.
Представьте будущее,...
Стандартный маркетинговый информационный шум.
и действительно новых проблемах
Во-первых калька, во вторых, «задачи», а не «проблемы»
и нескольких партнерских институтов
Опять калька вместо перевода.
потенциальная реальность
«Чиво, бл...ть?!» - более цензурной реакции на это словосочетание у меня нет.
с целью позволить людям
Ещё одна калька вместо перевода.
кто-то дает вам
Как же задолбали эти «переводчики», не умеющие по-русски писать.
масштабные миграции — перевод миллионов строк с COBOL на Java, меняющий целые бизнесы
То ли грамматическое рассогласование, то ли смысловая ошибка: как перевод может «менять бизнесы»? Банки начинают строить дома из-за перевода COBOL на Java? Хреновый перевод, как я погляжу.
Реальная практика гораздо шире:
Ежедневная работа разработчика включает:
Оптимизация кода в промышленных масштабах
Хаос заголовков и двоеточий без смысла и структуры
тонкая настройка GPU-ядер или непрерывные многоуровневые улучшения движка V8 в Chrome остается крайне сложной для оценки
А здесь точно грамматическое рассогласование.
Де-факто стандарт области — SWE-Bench — ставит перед моделью задачу исправить баг в GitHub
Перед какой моделью? В тексте никакая модель не упоминалась.
Типичная проблема:
Когда он просит систему сгенерировать код, он часто получает большой неструктурированный файл и даже набор unit-тестов, но эти тесты поверхностны.
Почему в научном исследовании вообще присутствует упоминание типичной проблемы одного конкретного аспиранта? Может, у другого аспиранта никаких проблем нет? А у третьего типичная проблема - это заставить говорить ИИ на пикантные темы?
Результат — код, который:
Желаю «авторам» подобных конструкций:
сковородок погорячее в аду.
что действительно нужно модели, чтобы знать, как написать функцию.
Кто-то ограбил склад с калькой?
Гу называет эту повестку "призывом к действию" для более крупных open-source коллабораций, которые ни одна лаборатория не могла бы организовать в одиночку.
Что, «которые»? Коллаборации? Но зачем их организовывать? Они же уже есть, к ним уже призыв к действию идёт в этом же самом предложении.
"Мне понравилось читать эту работу, потому что она дает четкий обзор ключевых задач и вызовов в области ИИ для разработки ПО. Она также намечает перспективные направления для будущих исследований."
А вот этот шаблон, который встречается в каждой первой рецензии, зачем здесь нужен? В следующий раз можно написать вот так:
"Здравствуйте! Меня зовут Батист Розьер, я ученый по ИИ в Mistral AI", — говорит Батист Розьер, ученый по ИИ в Mistral AI, который не участвовал в исследовании.
чтобы точно никто не подумал, что перед публикацией ни один человек текст не читал.
ученый по ИИ в Mistral AI
Осторожнее, запасы кальки в стране не бесконечны!
Цепочка следующая. Делается научное исследование, по результатам делается публикация. Кроме содержательной части публикация содержит мотивационную часть (нужно убедить редактора журнала, что эта публикация действительно интересна для кого-то, кроме автора, что в современной фрагментированной науке неочевидно). Эту мотивационную часть сейчас пишут с помощью нейросетей, потому что именно для создания маркетинговых текстов LLM и созданы. Потом какая-нибудь пресс-служба (в данном случае MIT) выбирает интересные публикации и делает на их основе пресс-релизы. Авторы оригинальных исследований рядом с этими пресс-релизами даже не пробегали, если что. Пресс-релизы на основе оригинальных публикаций (а точнее, на основе мотивационной части - содержательная интересна только специалистам) пишут сотрудники пресс-службы. В настоящее время это делается, понятно, как. Человек там вносит небольшие правки, в лучшем случае. А потом делается перевод для Хабра. В большинстве случаев переведённый нейросетью текст даже не читается перед публикацией.
Итог: статья - это нейросетевой перевод пресс-релиза, сгененированного другой нейросетью на основе написанной с помощью третьей нейросети мотивационной части оригинальной публикации.
Это очень интересный подход, если вы не решали такие задачи - значит их не существует?
Ну платят обычно за это, а не за перекрашивание иконок
Действительно ли ИИ умеет программировать?