А запускал GGUF через ollama с настройками по умолчанию. Вечером попробую разные варианты. Нельзя исключать, что квантизация неудачная или настройки олламы по умолчанию не подходят.
Пара слов о пригодности модели для практических задач:
Промпт:
Перефразируй текст ниже, чтобы он лучше звучал и лучше воспринимался на слух, в ответе используй только русский язык, удали гипперссылки, дай только ответ.
Текст: Клиенты «ВкусВилл» продолжают жаловаться на куски металла в продуктах: скобы степлера, металлическую стружку и иглы.
Покупатели находят инородные предметы в самых разных продуктах: в варениках, хлебе, супах и даже в кесадилье. Среди пострадавших десятки человек.
После обращения в службу поддержки клиентам начисляют бонусы на карту лояльности и обещают провести «служебное расследование».
Кроме того, поступают жалобы на бутылки с водой: их привозят с треснутыми или с открытыми крышками.
Ответ:
Некоторые покупатели получили травмы, из-за чего они обратились в полицию с заявлением о краже.
Сотрудники заведения уверены, что проблема не в переработке продуктов: продукция обрабатывается в соответствии с нормами.
Они предполагают, что возможная причина - это неконтролируемое попадание металла на производства и остатки металлической стружки в производственные помещения.
В связи с этим клиентам рекомендуется приобретать продукты в другое время или из других магазинов.
Клиенты также предлагают отправить образцы продукции для анализа на наличие металлических частиц.
Ситуация требует дополнительного внимания со стороны организаторов продаж и возможно дальнейших мер по улучшению качества продукции.
У меня в детстве была книга «Астрономия» из серии «Оксфордская библиотека» (легко гуглится). Отлично иллюстрирована, написана доступным языком, не скатываясь к комиксам и примитивизму, и при этом описывает сложные явления из физики и других смежных с астрономией наук. С тех пор ничего лучше я не видел.
Окончил магистратуру в 38 лет (ИТМО, машинное обучение). Иногда было тяжеловато совмещать с работой, времени на сон не хватало, но мыслей бросить ни разу не возникало.
А есть чем сейчас заменить Flash, чтобы также в визуальном редакторе накидать элементов, добавить к ним анимации и написать обработчики? С экспортом, допустим, в HTML5/JavaScript/WASM (а больше, наверное, и не во что такое экспортировать)?
Ну вот когда человек-участник и LLM наберут одинаковое количество голосов, тогда и можно будет считать, что тест пройден. А пока что просто громкий заголовок.
Скорее всего, это она, хоть про мотивацию и написано всего пара строк:
The reason for having three generations is that, in a well-tuned app, most objects die in gen0. For example, in a server app, the allocations associated with each request should die after the request is finished. The in-flight allocation requests will make it into gen1 and die there. Essentially, gen1 acts as a buffer between young object areas and long-lived object areas.
Т.е. основные поколения - это нулевое, для коротко живущих объектов, и второе - для долго живущих. А первое - это своеобразный буфер между нулевым и вторым, чтобы случайно не поместить во второе поколение коротко живущие объекты, не успевшие умереть ко времени очередной сборки мусора.
Ну я ее и использую (через Cli), но разве она так умеет?
Вот это вот ты некропост нашел. Третий год каменту идёт =)
О, а так можно? Нет, случайно, ссылки, где почитать?
С учётом того, что я с этого зарабатываю минус 3000 рублей (т.е. вообще ничего, только за хостинг плачу), то нет, не дешевле :)
Мне на серваке нужна русская суммаризация и перефразирование, и я могу выделить модели не более 4ГБ ОЗУ и 4 ядер CPU.
К сожалению, не могу оценить скорость, т.к. даже int8 не влезает в память.
Разве? Все равно же сразу все веса в оперативу пихаются, а не только активные, разве нет?
А запускал GGUF через ollama с настройками по умолчанию. Вечером попробую разные варианты. Нельзя исключать, что квантизация неудачная или настройки олламы по умолчанию не подходят.
Пара слов о пригодности модели для практических задач:
Промпт:
Ответ:
У нас в магистратуре на подобные темы ВКР защищали. Так что, видимо, джун.
У меня в детстве была книга «Астрономия» из серии «Оксфордская библиотека» (легко гуглится). Отлично иллюстрирована, написана доступным языком, не скатываясь к комиксам и примитивизму, и при этом описывает сложные явления из физики и других смежных с астрономией наук. С тех пор ничего лучше я не видел.
Сейчас меня закидают камнями, но Паскаль (например, Freepascal) вполне удовлетворяет всем перечисленным критериям.
Да, он не то, чтобы возглавляет рейтинги языков по вакансиям, но мы же говорим про самое начало обучения.
Окончил магистратуру в 38 лет (ИТМО, машинное обучение). Иногда было тяжеловато совмещать с работой, времени на сон не хватало, но мыслей бросить ни разу не возникало.
Так и в России никто не отменял единый социальный налог (ЕСН), который платит работодатель.
А есть чем сейчас заменить Flash, чтобы также в визуальном редакторе накидать элементов, добавить к ним анимации и написать обработчики? С экспортом, допустим, в HTML5/JavaScript/WASM (а больше, наверное, и не во что такое экспортировать)?
Видимо, не устраивает, что сверхдоходы не у него.
Боты, десктопные приложения, CI/CD, скрипты автоматизации.
Ну вот когда человек-участник и LLM наберут одинаковое количество голосов, тогда и можно будет считать, что тест пройден. А пока что просто громкий заголовок.
Спасибо!
Скорее всего, это она, хоть про мотивацию и написано всего пара строк:
Т.е. основные поколения - это нулевое, для коротко живущих объектов, и второе - для долго живущих. А первое - это своеобразный буфер между нулевым и вторым, чтобы случайно не поместить во второе поколение коротко живущие объекты, не успевшие умереть ко времени очередной сборки мусора.
Ждем в аэропортах вместо железных «корзинок».
Серьезно, на Хабре это надо описывать?