Согласен, пример с Джобсом и PlugAndPlay был, мягко говоря, неудачным. Тут я скорее хотел донести концепцию “компьютера для всех”, которую Джобс вынес из лабораторий Xerox. И Джобс, и эта философия подразумевали облегчение сложных процессов для обычного пользователя и, как следствие, их популяризацию. LLM теперь делают то же самое, выступая в роли того же “интерфейса”: превращают поиск в текущем информационном шуме в прямое получение сути.
Ваш отказ от Google как раз подтверждает, что стандартные алгоритмы перестали справляться с запросами вдумчивых пользователей. Это уже "археология". Когда нужен конкретный документ, поисковик и терпение археолога по-прежнему останутся с нами. Но работа с первоисточниками, хоть и гарантирует точность, сегодня требует слишком высокой "цены" времени на просеивание информационного шума.
Если задача не просто найти файлы, а сравнить концепции в них за 70-е, 80-е и 90-е годы, вам бы пришлось потратить недели на чтение и синтез. В этом и заключается разница в "цене": в случае ручного поиска вы платите временем за абсолютную точность, а в случае с LLM вероятностью ошибки за мгновенный синтез. Справедливым будет замечание, что лучше подождать неделю и получить точный ответ, чем быстро, но галлюцинацию. Но человек при обработке сотен страниц подвержен усталости, поэтому оптимальный сценарий не замена одного другим, а синергия: LLM за секунды отсеивает шум и подсвечивает именно те фрагменты, на которые действительно стоит потратить свое время.
Кстати, данных сейчас вроде бы много, но для качественных моделей их мало. Не просто так в пользовательских соглашениях прописано что на бесплатных тарифах вы даете разрешение на обучение моделей на ваших данных. Хотя для платных и корпоративных тарифов, конечно, заявляют приватность, но вспоминая как бастовали художники, когда их работы использовали для обучения без их согласия тут вероятно также, модели обучают на всех введённых данных просто тихо.
Что касается ответственности то проблема не в модели, а в том, что инструмент дали в руки людям, которые не хотят изучать "сопромат" и технологии. Умного человека модель сделает быстрее и эффективнее, а глупому даст возможность наделать ошибок с космической скоростью.
Вспоминается фраза: “Почему-то в физику как-то никто не идет – потому что мало понимают в этом, а в искусстве - все понимают.”
Здравствуйте. Меня заинтересовала ваша точка зрения, к тому же поданная, по моему мнению, грамотно. Я хочу попробовать объяснить LLM со своей точки зрения и буду рад комментарию, так как нестандартный ответ только углубит знания (покажет их с другой стороны).
В первую очередь, в корне неверно говорить, что LLM - это ИИ. LLM - это большая языковая модель, а ИИ - это интеллект, способный к размышлению и принятию решений.
Начнем с проблемы: количество информации в мире росло, данных становилось слишком много. Для примера: насколько давно вы заходили дальше, скажем, 3-й страницы поиска (Google, Яндекс, DuckDuckGo - неважно)? В интернете даже появились шутки, что дальше 10-й страницы у Google - черная дыра. Это одинаково работало как для поиска рецепта пирога, так и для поиска документов. Простых фильтров (я имею в виду поисковую строку) стало не хватать. (Да, есть различные контроли версий, архивы, индексы, хеши и прочее, но это лишь давало немного больше времени на решение проблемы и решало, как правило, узкий круг задач).
И для поиска информации появилась LLM. Она за тебя прочитывала всю данную ей информацию и, агрегируя эти данные, она может дать ответ, ограничиваясь рамками прописанных ей промтов и инструкций.
То есть: если поисковик работает как библиотека - ты спросил: "Рецепт пирога", и поисковик выдал все страницы, книги и статьи, где есть эти слова, а уже сам рецепт ищи сам среди этих данных. То LLM знает, что в 90% случаев по запросу "рецепт пирога" чаще всего искали рецепт яблочного пирога вот с таким-то текстом (и дальше сам рецепт по вероятности) - она буквально угадывает нужный тебе ответ среди тех данных, которые ей скормили.
И для большинства это будет работать, ведь большинство до этого уже искали именно рецепт яблочного пирога. Она запомнила не сами предложения, а статистические связи между словами. Когда ты задаешь вопрос, она начинает "сочинять" ответ слово за словом, основываясь на этих вероятностях.
Для аналогии можно привести Т9 - он тоже предугадывал слова. LLM - это как очень мощный Т9. Так как LLM - это вероятность, а не справочник (как поисковик), то у нее бывают галлюцинации. И мелким шрифтом у всех компаний (для юридической защиты как минимум) прописано, что модель может ошибаться, и, мол, проверяйте за ней. Если она не знает ответа, она может составить его из слов, которые только звучат правдоподобно. Поисковик дает тебе источник, которому ты можешь верить или нет. LLM говорит "от себя".
Когда данных было немного - была потребность в поиске информации, теперь же потребность с поиска сместилась на извлечение смысла.
Здесь, кстати, можно и подметить, почему есть столько разных "ИИ": для музыки, видео, картинок и т.д. Каждую кормили нужным набором данных, добавляя инструкции (промты) для лучшей работы. Поэтому модель для написания музыки не будет рассматривать контекст создания видео => меньше глюков при генерации. Да, сейчас уже разрабатывают и тестируют мультимодальные алгоритмы, которые и текст, и графику, и видео перемалывают, но это обусловлено в первую очередь тем, что для модели нужно огромное количество данных (а значит, и денег). Поэтому маркетологи наседают на программистов, заставляя настраивать модели быть более дружелюбными и универсальными (PlugAndPlay - как в свое время сделал Стив Джобс: купил-открыл-работает, все для обычных людей).
Теперь, опираясь на это, можно понять, что в случае управления сервером модель будет только имитировать работу администратора на основе множества инструкций. Как модель помогает находить новые пути в решении сложных задач или как она находит дыры в безопасности сервисов? Это мог сделать и человек, но он физически не может прочитать 100 тыс. статей и каждую сравнить с мерами безопасности. Модель может написать программный код, основываясь на знаниях готовки - а почему нет? В обоих случаях есть инструкции и шаги выполнения. Получается, можно решить одну задачу через логику другой? Человек ввиду убеждений может даже не начать сопоставлять эти данные, но если начнет рассуждение, то обнаружит, что его конкретную задачу действительно можно решить знанием о готовке пирога (а может, и нет).
Отвечая на вопрос ответственности: ответственным будет тот, кто использует такой инструмент, как LLM. Тут так же, как и с поисковиком: если искать незаконную информацию - кто виноват? Тот, кто ее предоставил, и тот, кто искал. Но у первого эта информация может быть законной, а у второго - нет. Поисковик же выступает в роли библиотеки, которая хранит информацию там, где она разрешена.
Я бы рассматривал LLM как поисковик информации в нашем будущем мире, своего рода интернет будущего. Человек в любом случае остается уникальным существом, способным мыслить, а эти модели лишь помогут агрегировать данные и заменять рутину. Человек сможет быстрее решать задачи, а модель будет служить ему самым мощным "умным молотком". Ответственность же за удар этим молотком всегда несет тот, кто его держит.
Я бы хотел ответить на каждый ваш комментарий, но боюсь, что будет слишком длиннопостно. Можно было бы прогнать текст через LLM, она бы его структурировала и подобрала подачу, но я больше люблю говорить своими мыслями, пускай это может быть и запутаннее (P.S. К тому же, любой может взять мой текст и также закинуть его в LLM).
Согласен, пример с Джобсом и PlugAndPlay был, мягко говоря, неудачным. Тут я скорее хотел донести концепцию “компьютера для всех”, которую Джобс вынес из лабораторий Xerox. И Джобс, и эта философия подразумевали облегчение сложных процессов для обычного пользователя и, как следствие, их популяризацию. LLM теперь делают то же самое, выступая в роли того же “интерфейса”: превращают поиск в текущем информационном шуме в прямое получение сути.
Ваш отказ от Google как раз подтверждает, что стандартные алгоритмы перестали справляться с запросами вдумчивых пользователей. Это уже "археология". Когда нужен конкретный документ, поисковик и терпение археолога по-прежнему останутся с нами. Но работа с первоисточниками, хоть и гарантирует точность, сегодня требует слишком высокой "цены" времени на просеивание информационного шума.
Если задача не просто найти файлы, а сравнить концепции в них за 70-е, 80-е и 90-е годы, вам бы пришлось потратить недели на чтение и синтез. В этом и заключается разница в "цене": в случае ручного поиска вы платите временем за абсолютную точность, а в случае с LLM вероятностью ошибки за мгновенный синтез. Справедливым будет замечание, что лучше подождать неделю и получить точный ответ, чем быстро, но галлюцинацию. Но человек при обработке сотен страниц подвержен усталости, поэтому оптимальный сценарий не замена одного другим, а синергия: LLM за секунды отсеивает шум и подсвечивает именно те фрагменты, на которые действительно стоит потратить свое время.
Кстати, данных сейчас вроде бы много, но для качественных моделей их мало. Не просто так в пользовательских соглашениях прописано что на бесплатных тарифах вы даете разрешение на обучение моделей на ваших данных. Хотя для платных и корпоративных тарифов, конечно, заявляют приватность, но вспоминая как бастовали художники, когда их работы использовали для обучения без их согласия тут вероятно также, модели обучают на всех введённых данных просто тихо.
Что касается ответственности то проблема не в модели, а в том, что инструмент дали в руки людям, которые не хотят изучать "сопромат" и технологии. Умного человека модель сделает быстрее и эффективнее, а глупому даст возможность наделать ошибок с космической скоростью.
Вспоминается фраза: “Почему-то в физику как-то никто не идет – потому что мало понимают в этом, а в искусстве - все понимают.”
Здравствуйте. Меня заинтересовала ваша точка зрения, к тому же поданная, по моему мнению, грамотно. Я хочу попробовать объяснить LLM со своей точки зрения и буду рад комментарию, так как нестандартный ответ только углубит знания (покажет их с другой стороны).
В первую очередь, в корне неверно говорить, что LLM - это ИИ. LLM - это большая языковая модель, а ИИ - это интеллект, способный к размышлению и принятию решений.
Начнем с проблемы: количество информации в мире росло, данных становилось слишком много. Для примера: насколько давно вы заходили дальше, скажем, 3-й страницы поиска (Google, Яндекс, DuckDuckGo - неважно)? В интернете даже появились шутки, что дальше 10-й страницы у Google - черная дыра. Это одинаково работало как для поиска рецепта пирога, так и для поиска документов. Простых фильтров (я имею в виду поисковую строку) стало не хватать. (Да, есть различные контроли версий, архивы, индексы, хеши и прочее, но это лишь давало немного больше времени на решение проблемы и решало, как правило, узкий круг задач).
И для поиска информации появилась LLM. Она за тебя прочитывала всю данную ей информацию и, агрегируя эти данные, она может дать ответ, ограничиваясь рамками прописанных ей промтов и инструкций.
То есть: если поисковик работает как библиотека - ты спросил: "Рецепт пирога", и поисковик выдал все страницы, книги и статьи, где есть эти слова, а уже сам рецепт ищи сам среди этих данных. То LLM знает, что в 90% случаев по запросу "рецепт пирога" чаще всего искали рецепт яблочного пирога вот с таким-то текстом (и дальше сам рецепт по вероятности) - она буквально угадывает нужный тебе ответ среди тех данных, которые ей скормили.
И для большинства это будет работать, ведь большинство до этого уже искали именно рецепт яблочного пирога. Она запомнила не сами предложения, а статистические связи между словами. Когда ты задаешь вопрос, она начинает "сочинять" ответ слово за словом, основываясь на этих вероятностях.
Для аналогии можно привести Т9 - он тоже предугадывал слова. LLM - это как очень мощный Т9. Так как LLM - это вероятность, а не справочник (как поисковик), то у нее бывают галлюцинации. И мелким шрифтом у всех компаний (для юридической защиты как минимум) прописано, что модель может ошибаться, и, мол, проверяйте за ней. Если она не знает ответа, она может составить его из слов, которые только звучат правдоподобно. Поисковик дает тебе источник, которому ты можешь верить или нет. LLM говорит "от себя".
Когда данных было немного - была потребность в поиске информации, теперь же потребность с поиска сместилась на извлечение смысла.
Здесь, кстати, можно и подметить, почему есть столько разных "ИИ": для музыки, видео, картинок и т.д. Каждую кормили нужным набором данных, добавляя инструкции (промты) для лучшей работы. Поэтому модель для написания музыки не будет рассматривать контекст создания видео => меньше глюков при генерации. Да, сейчас уже разрабатывают и тестируют мультимодальные алгоритмы, которые и текст, и графику, и видео перемалывают, но это обусловлено в первую очередь тем, что для модели нужно огромное количество данных (а значит, и денег). Поэтому маркетологи наседают на программистов, заставляя настраивать модели быть более дружелюбными и универсальными (PlugAndPlay - как в свое время сделал Стив Джобс: купил-открыл-работает, все для обычных людей).
Теперь, опираясь на это, можно понять, что в случае управления сервером модель будет только имитировать работу администратора на основе множества инструкций. Как модель помогает находить новые пути в решении сложных задач или как она находит дыры в безопасности сервисов? Это мог сделать и человек, но он физически не может прочитать 100 тыс. статей и каждую сравнить с мерами безопасности. Модель может написать программный код, основываясь на знаниях готовки - а почему нет? В обоих случаях есть инструкции и шаги выполнения. Получается, можно решить одну задачу через логику другой? Человек ввиду убеждений может даже не начать сопоставлять эти данные, но если начнет рассуждение, то обнаружит, что его конкретную задачу действительно можно решить знанием о готовке пирога (а может, и нет).
Отвечая на вопрос ответственности: ответственным будет тот, кто использует такой инструмент, как LLM. Тут так же, как и с поисковиком: если искать незаконную информацию - кто виноват? Тот, кто ее предоставил, и тот, кто искал. Но у первого эта информация может быть законной, а у второго - нет. Поисковик же выступает в роли библиотеки, которая хранит информацию там, где она разрешена.
Я бы рассматривал LLM как поисковик информации в нашем будущем мире, своего рода интернет будущего. Человек в любом случае остается уникальным существом, способным мыслить, а эти модели лишь помогут агрегировать данные и заменять рутину. Человек сможет быстрее решать задачи, а модель будет служить ему самым мощным "умным молотком". Ответственность же за удар этим молотком всегда несет тот, кто его держит.
Я бы хотел ответить на каждый ваш комментарий, но боюсь, что будет слишком длиннопостно. Можно было бы прогнать текст через LLM, она бы его структурировала и подобрала подачу, но я больше люблю говорить своими мыслями, пускай это может быть и запутаннее (P.S. К тому же, любой может взять мой текст и также закинуть его в LLM).