Ollama стала популярной потому, что первой предложила простой интерфейс поверх llama.cpp
А уж у llama.cpp крайне сложный интерфейс.... Оба работают из командной строки, примерно одинаково запускаются. Никогда не понимал зачем нужен этот посредник ollama, который к тому же качает сильно квантованные модели и не говорит об этом (во всяком случае так было раньше), да и вообще сильно урезан. К тому же с каких-то версий у llama.cpp появился WebUI (если запускать через сервер и обращаться к localhost), можно работать с моделями прямо в браузере через легковесный веб-интерфейс (SvelteKit-based WebUI), чем-то напоминающий старый GPT3.5, если кому так удобно.
Все это прекрасно, метрики-бенчмарки, млю-блю и так далее. Но объясните мне следующее. Год назад тестировал Алису на простые запросы типа "Алиса, посмотри в Интернете динамику стоимости квадратного метра жилья в СПб/Мск, как изменились цены за последние N-лет". Алиса не могла осилить такие элементарные запросы и генерировала текст из своих весов, данные где-то за 2013 год. Подчеркивание, усиление, что "нужно обязательно посмотреть в Интернете и за такие-то года" она игнорировала. Как так, ребята? Для 2025 года это разве норм?
Сейчас подумал, а может она все-таки выходила в Интернет, но смотрела старые данные и не могла этого понять? Но говорилось же явно в запросе, что нужно смотреть данные за последнее время (назывались разные года, либо диапазоны лет) и даже специально подчеркивалось, что не нужно смотреть устаревшие данные за 2013 год.
Новость конечно хорошая, Русинович большой молодец с древних времен (пользуюсь его утилитами ещё наверное со времен ХР, хотя уже и не помню точно). Но очень мало технических деталей (зато много воды). Как именно он сделал перенос? Отдал исходники агенту и поставил задачу портирования? Или сам занимался переносом с использованием ИИ? Интересно бы почитать детали
Подскажите, какие актуальные TTS поддерживают такую разметку ударений? Ну, Silero понятно (спасибо кстати), а еще какие есть? В первую очередь которые работают локально
Путей я знаю больше, написал 2 основных. У меня самого есть 3й рабочий вариант: не учить иностранный (английский) вовсе. Сейчас есть возможность настроить переводчики на нейронках в реальном времени в обе стороны. Это пока не повсеместно, но уже работает. Скоро вероятно нам вообще не нужно будет учить языки.
Теоретический. Потратить 2 года на изучение архитектуры лопат, их технические свойства, особенности деревянных и пластиковых черенков и тд. Изучить в подробностях свойства почвы, оптимальные погодные условия для начала работ. Изучить механику мышц, суставов, рассчитать примерное КПД. Нужно посмотреть не менее 1000 часов видео по работе с лопатой. Обязательно послушать аудио подкасты о работе в поле. Много чего еще можно изучить и даже зазубрить. В процессе можно получать очки и баллы, и даже сравнивать свои результаты с другими участниками.
Практический. Нужно взять лопату и пойти копать.
Когда-то лично я, как и многие другие, начинал с 1 варианта. По прошествии нескольких лет обучения, я понял, что ничего не знаю.
Ну, понятное дело, что все-таки нужно выучить базовые правила грамматики языка и тому подобное, базис, но сам иностранный язык получится выучить только реально взаимодействуя с ним. Читать (пусть со словарем) это хорошо, но даже этого не достаточно. Мозг реально начинает страдать учиться другому языку, когда начинаешь на нем говорить. И это прям становится заметно сразу. Но это в разы тяжелее чтения, просмотров фильмов и листания карточек в приложениях.
Как говорить когда не знаешь язык? Самыми простыми фразами. Никаких Present Perfect и тому подобных ужасов, только Present/Past Simple. Самые простые слова, самые простые формы слов и фразы. Пусть это будет для натива слышиться чем-то вроде “Я есть хотел сейчас кушать еда но завтра я забыл покупка её на магазине”, со временем получится произносить эти фразы правильнее. Ну и параллельно - читать иностранные тексты, чтобы пополнять словарный запас. В идеале - полное погружение в среду, но это очень сложно если находишься в родной среде. Хотя я слышал, что некоторые семьи создают такую среду у себя дома, когда учат язык вместе.
Еще, появились чат боты, сейчас можно говорить с ними сколько угодно, а промптами можно настроить бота, чтобы поправлял тебя. Лично я себе сделал такой app, для личного использования, читаем новости, обсуждаем всякое, все голосом. Незнакомые слова и фразы могу попросить отправить в Телеграм в виде нескольких примеров использования. И это просто другой уровень изучения языка. К тому же удобно где-то в дороге, в машине, на прогулке и тп, интерфейс взаимодействия - голос и слух. Подобные приложения уже есть в апп-сторах, да и наверное обычное приложение ChatGPT можно использовать в таком сценарии. Лично я их не пробовал, мне удобнее со своим.
Просто свое мнение и опыт, никому не навязываю. Возможно есть люди гении, которые могут выучить язык лежа на диване, смотря фильмы, свайпая карточки в приложениях и получая за это баллы. Не исключено и такое.
Слово "рой" чаще всего применяется к летающим существам. Рой дронов понятно, но рой агентов... Учитывая преступный характер агентов, о которых идет речь, предлагаю следующие варианты названия:
Спасибо за статью. Задал вопрос в другом вашем раннем посте, продублирую здесь кратко. Есть ли обратное решение - из мыльной картинки сделать здоровую зернистость? На примерах с Томом и Джерри исходное изображение, на мой взгляд, намного лучше - больше деталей, текстурности, оно живее, и, как уже писали тут, - ламповее.
Я пробовал разные фильтры искусственного шума в ffmpeg, ничего не понравилось. Пробовал какие-то нейронки - ничего подходящего не нашел. Может быть вы подскажете?
Все эти денойзеры уж больно много деталей убирают, картинка получается не чистая, а пресная, размазанная. Одно дело убрать реально шум, как у вас в примере с кадром в блоке "Уровень 3: «Комплекс управления запусками ракет» — NeatVideo", другое дело размазать картинку в маргарин ради удаления небольшого шума. Лично мне исходная картинка, например, с Томом и Джерри, кажется намного лучше, она живее, текстурированнее. Подскажите, а есть ли наоборот - решение, чтобы из исходной "пресной" картинки получить текстурированную? Вот как раз на примере с Томом и Джерри, чтобы из маргарина получить живую текстурированную картинку.
Тоже апскейлю старые материалы (писал об этом тут), и при аскейле почти любой нейронкой картинка размазывается. Такова особенность почти всех апскейл-нейронок. Из-за обучения на примерах "плохой жепег = хороший жепег", где убирается жепеговский мусор, нейронка заодно учится убирать и другой "шум", который часто и не шум вовсе.
Я пока не нашел нормального средства текстурирования размазанных материалов.
П.С. Вкладка в браузере с этой статьей весит почти 1Гб, цена фото/видео примеров :) Жаль, что в РФ заблокированы YouTube и slow.pics, многие не увидят этих сравнений.
По сути, языковая модель — это архив данных, сжатый в виде весов. Она знает всё, что было в датасете, на котором она обучалась, и ничего более.
Добавлю сюда в догонку. Это не совсем точное объяснение LLM, которое повсеместно транслируется и вводит в заблуждение (эх, кто тот нулевой пациент, который запустил это?). Это обьяснение подразумевает что-то вроде статистической базы знаний, но LLM это не только статистика, но и обобщение. В весах не хранятся знания в явном виде, там хранятся обобщения и выученные паттерны, слой за слоем. Поэтому LLM "знает" не только то, на чем обучалась, но и может создавать новые представления, о которых ни разу не читала.
OrganicMaps (форк MapsMe). Но там к сожалению без пробок и других онлайн штук. Зато работают оффлайн + куча других плюшек, например пешие маршруты по пердям мира. Не замена Яндексу, к сожалению, но во многих случаях достаточно этих карт.
1000-я статья про RAG написанная ИИ. Никакой добавленой ценности, никакого реального личного опыта и понимания
А уж у llama.cpp крайне сложный интерфейс.... Оба работают из командной строки, примерно одинаково запускаются. Никогда не понимал зачем нужен этот посредник ollama, который к тому же качает сильно квантованные модели и не говорит об этом (во всяком случае так было раньше), да и вообще сильно урезан. К тому же с каких-то версий у llama.cpp появился WebUI (если запускать через сервер и обращаться к localhost), можно работать с моделями прямо в браузере через легковесный веб-интерфейс (SvelteKit-based WebUI), чем-то напоминающий старый GPT3.5, если кому так удобно.
Я залип!
Поправьте внизу ссылку, где "Онлайн результат Opus 5.5", она дублирует ссылку на Астру.
Все это прекрасно, метрики-бенчмарки, млю-блю и так далее. Но объясните мне следующее. Год назад тестировал Алису на простые запросы типа "Алиса, посмотри в Интернете динамику стоимости квадратного метра жилья в СПб/Мск, как изменились цены за последние N-лет". Алиса не могла осилить такие элементарные запросы и генерировала текст из своих весов, данные где-то за 2013 год. Подчеркивание, усиление, что "нужно обязательно посмотреть в Интернете и за такие-то года" она игнорировала. Как так, ребята? Для 2025 года это разве норм?
Сейчас подумал, а может она все-таки выходила в Интернет, но смотрела старые данные и не могла этого понять? Но говорилось же явно в запросе, что нужно смотреть данные за последнее время (назывались разные года, либо диапазоны лет) и даже специально подчеркивалось, что не нужно смотреть устаревшие данные за 2013 год.
За детальный отчет спасибо!
Возможно даже вместо "До свиданья" Алиса иногда говорит "На Вашингтон!". Но это не точно
Аннушка уже разлила масло
Новость конечно хорошая, Русинович большой молодец с древних времен (пользуюсь его утилитами ещё наверное со времен ХР, хотя уже и не помню точно). Но очень мало технических деталей (зато много воды). Как именно он сделал перенос? Отдал исходники агенту и поставил задачу портирования? Или сам занимался переносом с использованием ИИ? Интересно бы почитать детали
Подскажите, какие актуальные TTS поддерживают такую разметку ударений? Ну, Silero понятно (спасибо кстати), а еще какие есть? В первую очередь которые работают локально
Так какой же ваш вариант? Вы его так и не назвали. К чему такая долгая интрига? :)
Заставить тягать штангу другого?
А вы умеете в интригу!
Не томите же интригой, какие правильные? :)
Путей я знаю больше, написал 2 основных. У меня самого есть 3й рабочий вариант: не учить иностранный (английский) вовсе. Сейчас есть возможность настроить переводчики на нейронках в реальном времени в обе стороны. Это пока не повсеместно, но уже работает. Скоро вероятно нам вообще не нужно будет учить языки.
Чтобы научиться копать, можно выбрать 2 пути:
Теоретический. Потратить 2 года на изучение архитектуры лопат, их технические свойства, особенности деревянных и пластиковых черенков и тд. Изучить в подробностях свойства почвы, оптимальные погодные условия для начала работ. Изучить механику мышц, суставов, рассчитать примерное КПД. Нужно посмотреть не менее 1000 часов видео по работе с лопатой. Обязательно послушать аудио подкасты о работе в поле. Много чего еще можно изучить и даже зазубрить. В процессе можно получать очки и баллы, и даже сравнивать свои результаты с другими участниками.
Практический. Нужно взять лопату и пойти копать.
Когда-то лично я, как и многие другие, начинал с 1 варианта. По прошествии нескольких лет обучения, я понял, что ничего не знаю.
Ну, понятное дело, что все-таки нужно выучить базовые правила грамматики языка и тому подобное, базис, но сам иностранный язык получится выучить только реально взаимодействуя с ним. Читать (пусть со словарем) это хорошо, но даже этого не достаточно. Мозг реально начинает
страдатьучиться другому языку, когда начинаешь на нем говорить. И это прям становится заметно сразу. Но это в разы тяжелее чтения, просмотров фильмов и листания карточек в приложениях.Как говорить когда не знаешь язык? Самыми простыми фразами. Никаких Present Perfect и тому подобных ужасов, только Present/Past Simple. Самые простые слова, самые простые формы слов и фразы. Пусть это будет для натива слышиться чем-то вроде “Я есть хотел сейчас кушать еда но завтра я забыл покупка её на магазине”, со временем получится произносить эти фразы правильнее. Ну и параллельно - читать иностранные тексты, чтобы пополнять словарный запас. В идеале - полное погружение в среду, но это очень сложно если находишься в родной среде. Хотя я слышал, что некоторые семьи создают такую среду у себя дома, когда учат язык вместе.
Еще, появились чат боты, сейчас можно говорить с ними сколько угодно, а промптами можно настроить бота, чтобы поправлял тебя. Лично я себе сделал такой app, для личного использования, читаем новости, обсуждаем всякое, все голосом. Незнакомые слова и фразы могу попросить отправить в Телеграм в виде нескольких примеров использования. И это просто другой уровень изучения языка. К тому же удобно где-то в дороге, в машине, на прогулке и тп, интерфейс взаимодействия - голос и слух. Подобные приложения уже есть в апп-сторах, да и наверное обычное приложение ChatGPT можно использовать в таком сценарии. Лично я их не пробовал, мне удобнее со своим.
Просто свое мнение и опыт, никому не навязываю. Возможно есть люди гении, которые могут выучить язык лежа на диване, смотря фильмы, свайпая карточки в приложениях и получая за это баллы. Не исключено и такое.
Самозванцы!
Слово "рой" чаще всего применяется к летающим существам. Рой дронов понятно, но рой агентов... Учитывая преступный характер агентов, о которых идет речь, предлагаю следующие варианты названия:
"банда агентов OpenAI"
"орда агентов OpenAI"
"хунта агентов OpenAI"
"сброд агентов OpenAI"
"свора агентов OpenAI"
"ОПГ агентов OpenAI"
.....
Это был оффтоп, извините :)
Спасибо за статью. Задал вопрос в другом вашем раннем посте, продублирую здесь кратко. Есть ли обратное решение - из мыльной картинки сделать здоровую зернистость? На примерах с Томом и Джерри исходное изображение, на мой взгляд, намного лучше - больше деталей, текстурности, оно живее, и, как уже писали тут, - ламповее.
Я пробовал разные фильтры искусственного шума в ffmpeg, ничего не понравилось. Пробовал какие-то нейронки - ничего подходящего не нашел. Может быть вы подскажете?
Все эти денойзеры уж больно много деталей убирают, картинка получается не чистая, а пресная, размазанная. Одно дело убрать реально шум, как у вас в примере с кадром в блоке "Уровень 3: «Комплекс управления запусками ракет» — NeatVideo", другое дело размазать картинку в маргарин ради удаления небольшого шума. Лично мне исходная картинка, например, с Томом и Джерри, кажется намного лучше, она живее, текстурированнее. Подскажите, а есть ли наоборот - решение, чтобы из исходной "пресной" картинки получить текстурированную? Вот как раз на примере с Томом и Джерри, чтобы из маргарина получить живую текстурированную картинку.
Тоже апскейлю старые материалы (писал об этом тут), и при аскейле почти любой нейронкой картинка размазывается. Такова особенность почти всех апскейл-нейронок. Из-за обучения на примерах "плохой жепег = хороший жепег", где убирается жепеговский мусор, нейронка заодно учится убирать и другой "шум", который часто и не шум вовсе.
Я пока не нашел нормального средства текстурирования размазанных материалов.
П.С. Вкладка в браузере с этой статьей весит почти 1Гб, цена фото/видео примеров :) Жаль, что в РФ заблокированы YouTube и slow.pics, многие не увидят этих сравнений.
Простите, вы интернет переписываете? :)
Министерство необороны
Добавлю сюда в догонку. Это не совсем точное объяснение LLM, которое повсеместно транслируется и вводит в заблуждение (эх, кто тот нулевой пациент, который запустил это?). Это обьяснение подразумевает что-то вроде статистической базы знаний, но LLM это не только статистика, но и обобщение. В весах не хранятся знания в явном виде, там хранятся обобщения и выученные паттерны, слой за слоем. Поэтому LLM "знает" не только то, на чем обучалась, но и может создавать новые представления, о которых ни разу не читала.
OrganicMaps (форк MapsMe). Но там к сожалению без пробок и других онлайн штук. Зато работают оффлайн + куча других плюшек, например пешие маршруты по пердям мира. Не замена Яндексу, к сожалению, но во многих случаях достаточно этих карт.