Действительно, архитектура LLM не является оптимальной для выполнения численных вычислений высокой точности и попытки заставить ее напрямую обрабатывать сложные математические операции, как показано в статье, приводят к проблемам. Но с точки зрения исследования - интересно рассматривать разные стороны каждого решения в том числе вычислений с помощью LLM
Даже если предположить равный старт, всё равно люди разные по возможностям и амбициям и расслоение общества всё равно произойдет и опять будут бедные и богатые
Согласна, адаптация программного продукта не менее важна, чем его покупка. Но процесс внедрения с качественной адаптацией видится компаниям долгим и дорогостоящим и не у всех достаточно компетенций, чтобы его реализовать.
Расскажите подробнее, о каких хорошо сделанных роботах речь?
Есть такая проблема. Если бы механизм стал быстрее и мог помочь с реальной проблемой, то было бы удобно. Но, там где сейчас еще операторы, привет Аэрофлот, система настолько же медленная, как и с ИИ помощниками.
Вы правы, попарное умножение и сложение - частный случай matmul. В статье неясно, как именно обрабатываются тернарные веса. Вероятно, используются специальные операции или приближения, чтобы избежать полномасштабного matmul.
Попытки повторить производятся, копирование естественных объектов один из вариантов создания новых технологий. Основная проблема тут скорее разобраться как при текущих вычислительных мощностях это реализовать в этом и уникальность на текущий момент
Думаю, что в статье про Wi-Fi просто высказано предостережение. Стандартная оценка рисков.
В статье представлен еще один вариант применения ИИ. Хорошо это или плохо можно сказать только на конкретной задаче и по результатам исследования
Считаю, что в данном случае был подчёркнут потенциал работы в закрытом контуре
Спасибо, ваш вариант действительно лучше.
Я бы сказала, что суть в том, чтобы обратить внимание на потенциал локальных LLM и SLM
В открытых источниках "свежие" инвестиции в Anthropic $7.3 миллиарда, а в OpenAI $6,6 миллиардов. Думаю, что в первоисточнике ошибка в количестве...
Это перевод статьи Alexander T. Williams https://thenewstack.io/coding-with-slms-and-local-llms-tips-and-recommendations/
Действительно, архитектура LLM не является оптимальной для выполнения численных вычислений высокой точности и попытки заставить ее напрямую обрабатывать сложные математические операции, как показано в статье, приводят к проблемам. Но с точки зрения исследования - интересно рассматривать разные стороны каждого решения в том числе вычислений с помощью LLM
Обход санкций - спорный вопрос, но развитие технологий уже очень сложно остановить
Придётся быть внимательнее при настройке систем.
Даже если предположить равный старт, всё равно люди разные по возможностям и амбициям и расслоение общества всё равно произойдет и опять будут бедные и богатые
Звучит несколько утопично, не так ли?
Кубит, он же квантовый бит - наименьший элемент хранения информации в квантовом компьютере
Согласна, адаптация программного продукта не менее важна, чем его покупка. Но процесс внедрения с качественной адаптацией видится компаниям долгим и дорогостоящим и не у всех достаточно компетенций, чтобы его реализовать.
Расскажите подробнее, о каких хорошо сделанных роботах речь?
Есть такая проблема. Если бы механизм стал быстрее и мог помочь с реальной проблемой, то было бы удобно. Но, там где сейчас еще операторы, привет Аэрофлот, система настолько же медленная, как и с ИИ помощниками.
Спасибо, еще не читала её, возьму на заметку
Вы правы, попарное умножение и сложение - частный случай matmul. В статье неясно, как именно обрабатываются тернарные веса. Вероятно, используются специальные операции или приближения, чтобы избежать полномасштабного matmul.
Попытки повторить производятся, копирование естественных объектов один из вариантов создания новых технологий. Основная проблема тут скорее разобраться как при текущих вычислительных мощностях это реализовать в этом и уникальность на текущий момент
Как вы думаете, окажет ли влияние мощное коммьюнити питона на развитие языковых систем?
Распознавание документов - круто. Как-то читала тут как это программно реализуется, мне очень понравилось, любопытно.