Я пытался переехать на FreeCAD, но это что-то чужеродное по своей логике работы. Любое (вообще любое!) действие в нем для меня контр-интуитивно (в том же Fusion с нуля таких проблем не было), я пытался приспособиться, смотрел обучающие видео, но в итоге бросил. Как для русалочки, любой шаг был через адскую боль :(
Я тоже воспитанник кружка по программированию (это называлось Клуб "Компьютер") дворца пионеров. Там были БК0010 и маленькие черно-белые телевизоры в качестве мониторов. Программы мы сохраняли на кассеты, магнитофон был один, но кассета у каждого своя, самая большая ценность была у меня на тот момент. Часто на компьютеры была очередь, так что писать код в тетрадке, пока машина занята, было обычным делом.
Потом у меня дома появился Спектрум, но проблема не исчезла -- монитора не было и приходилось подключаться к телевизору, а он у нас в семье был один. Так что, когда телевизор был занят, я программировал на слух. Я вслепую вводил код на бэйсике, вставляя в разных местах команды BEEP с разной длительностью и тоном. Код держал в уме, отлаживал, слушая бипы и внося правки тоже вслепую, отсчитывая позиции при перемещении курсора стрелками.
Я к тому, что бред вполне можно нести оставаясь в рамках заложенного. Это как бесчисленные романы о попаданцах, они на 100 процентов клишированные и не несут в себе ничего нового. Их вполне могла бы сочинять LLM пачками. Даже в самом примере, обратите внимание, именно человек задает тему -- викинги доплыли до Австралии, после чего LLM уже проделывает техническую работу по украшению заданного тезиса подробностями.
Ха-ха, нет. Не всё что угодно. Он как раз (сильно упрощая) из случайного шума отбирает то, что наиболее похоже на данные, бывшие в обучении. У него нет других критериев.
Даже если "вливать" идеально, это не решит фундаментальной проблемы ограниченности LLM. Как пример -- люди могут делать открытия, выходить за пределы изученного. Причем не всегда на опыте, многие открытия сделаны "на кончике пера". Особенность интеллекта в том, что он знает не только то, что в нем есть, но и то, чего в нем нет, мы можем видеть бреши в своих знаниях и заполнять их. LLM же оперирует только тем, что в него заложено.
У меня тоже есть хобби экстраполировать) Но надо смотреть на факты -- в ИИ уже влили ВСЮ доступную на Земле информацию и он остается тупым. Больше того, местами уже виден регресс. Эта технология обладает принципиально неустранимыми недостатками, галлюцинации, это не досадный баг, это несущая конструкция. Генеративный ИИ галлюцинирует всегда, просто иногда его галлюцинации неотличимы от реальности.
В интернете появляется множество статей, написанных ИИ, а затем другие ИИ обучаются на этих статьях и так по кругу. Через время это приведет к огромным перекосам и полной потере контекста.
Если один ИИ насмотрелся на трехногих людей, сгенерированных другим ИИ, он будет утверждать, что это норма.
Ха-ха, будет еще хуже. Школьники, делая запросы к GenAI или, что еще хуже, находя в интернете материалы, сгенерированные им же, будут принимать их за чистую монету и считать правдой. И, демонстрируя "эффект утенка", будут яростно отстаивать почерпнутую оттуда чушь (не без помощи того же GenAI). Лет через 5-10 нас ожидают очень веселые времена.
В принципе, оно не сломается всё сразу, просто софт будет работать всё хуже и хуже и никто ничего починить не сможет. Останутся только банковские программы на коболе, они точно не сломаются!
хахаха, так они были не на дискетах и даже, существенная часть, не на перфокартах, а в виде таких здоровенных косиц проводов с вплетенными в них ферритовыми кольцами:
Отличный проект! Не бросайте! Очень не хватает constraints в чертежах)
Я пытался переехать на FreeCAD, но это что-то чужеродное по своей логике работы. Любое (вообще любое!) действие в нем для меня контр-интуитивно (в том же Fusion с нуля таких проблем не было), я пытался приспособиться, смотрел обучающие видео, но в итоге бросил. Как для русалочки, любой шаг был через адскую боль :(
Я тоже воспитанник кружка по программированию (это называлось Клуб "Компьютер") дворца пионеров. Там были БК0010 и маленькие черно-белые телевизоры в качестве мониторов. Программы мы сохраняли на кассеты, магнитофон был один, но кассета у каждого своя, самая большая ценность была у меня на тот момент. Часто на компьютеры была очередь, так что писать код в тетрадке, пока машина занята, было обычным делом.
Потом у меня дома появился Спектрум, но проблема не исчезла -- монитора не было и приходилось подключаться к телевизору, а он у нас в семье был один. Так что, когда телевизор был занят, я программировал на слух. Я вслепую вводил код на бэйсике, вставляя в разных местах команды BEEP с разной длительностью и тоном. Код держал в уме, отлаживал, слушая бипы и внося правки тоже вслепую, отсчитывая позиции при перемещении курсора стрелками.
С этим как раз никто не спорит. Неинтеллектуальные задачи вполне можно переложить на LLM)
Я к тому, что бред вполне можно нести оставаясь в рамках заложенного. Это как бесчисленные романы о попаданцах, они на 100 процентов клишированные и не несут в себе ничего нового. Их вполне могла бы сочинять LLM пачками. Даже в самом примере, обратите внимание, именно человек задает тему -- викинги доплыли до Австралии, после чего LLM уже проделывает техническую работу по украшению заданного тезиса подробностями.
Ага, и про рецепт свиных крылышек еще можно спросить)
Ха-ха, нет. Не всё что угодно. Он как раз (сильно упрощая) из случайного шума отбирает то, что наиболее похоже на данные, бывшие в обучении. У него нет других критериев.
Даже если "вливать" идеально, это не решит фундаментальной проблемы ограниченности LLM. Как пример -- люди могут делать открытия, выходить за пределы изученного. Причем не всегда на опыте, многие открытия сделаны "на кончике пера". Особенность интеллекта в том, что он знает не только то, что в нем есть, но и то, чего в нем нет, мы можем видеть бреши в своих знаниях и заполнять их. LLM же оперирует только тем, что в него заложено.
У меня тоже есть хобби экстраполировать) Но надо смотреть на факты -- в ИИ уже влили ВСЮ доступную на Земле информацию и он остается тупым. Больше того, местами уже виден регресс. Эта технология обладает принципиально неустранимыми недостатками, галлюцинации, это не досадный баг, это несущая конструкция. Генеративный ИИ галлюцинирует всегда, просто иногда его галлюцинации неотличимы от реальности.
Ха-ха, будет еще хуже. Школьники, делая запросы к GenAI или, что еще хуже, находя в интернете материалы, сгенерированные им же, будут принимать их за чистую монету и считать правдой. И, демонстрируя "эффект утенка", будут яростно отстаивать почерпнутую оттуда чушь (не без помощи того же GenAI). Лет через 5-10 нас ожидают очень веселые времена.
Важный вопрос: как LLM поймет, что совершила открытие?
Давно пора создать формальный язык программирования для создания промптов LLM :)
Тем не менее, мы чаще всего можем отличить галлюцинацию от реальности, а модель нет.
Иллюстрации к статье не открываются, если на них кликать, просто появляется темный прямоугольник. И это отличная иллюстрация к статье))
Отличный проект, спасибо!
Есть проблемы с цветами текста на кнопках:
Mozilla/5.0 (Macintosh; Intel Mac OS X 10.14; rv:109.0) Gecko/20100101 Firefox/115.0
В хроме такая же фигня (Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/116.0.0.0 Safari/537.36)
Понимаю, не самые свежие браузеры, но это максимум, что можно установить на этот макос)
Хорошо точно не будет)
В принципе, оно не сломается всё сразу, просто софт будет работать всё хуже и хуже и никто ничего починить не сможет. Останутся только банковские программы на коболе, они точно не сломаются!
хахаха, так они были не на дискетах и даже, существенная часть, не на перфокартах, а в виде таких здоровенных косиц проводов с вплетенными в них ферритовыми кольцами:
Ворд автоматически заменяет тире на длинные, например.
Когда исчерпают возможность, то просто всё сломается и будет глобальный крах. Некому уже будет оптимизировать. Даже сейчас уже некому.
Сколько разных компиляторов есть для Rust?