Пытался играть в одну из частей, но лично мне этот тип юмора не зашёл. Бросил игру после того как она спросила у меня что я хочу сделать и персонаж сделал обратное действие (купить дорогой чип/купить дешёвый чип).
В этом и состоит проблема, что у меня нет способа платить за западные сервисы и у меня нет достаточной мотивации чтобы его найти. В целом я готов расстаться с 500 рублями чтобы провести несколько экспериментов. Я могу запускать сетки локально, и как основной инструмент BotHub использовать не планирую, но у меня никогда не было возможности пощупать тот же Claude.
По поводу крышек - в момент когда вы начинаете использовать рубли как внутреннюю валюту - вы становитесь платёжной системой и к этому прилагаются обязательства и правила платёжных систем. Это такой гемор, что вы получаете продукт который вы можете продавать только на основе того, что он - платёжная система. Что очевидно не цель этого проекта
1) То есть пакеты действительно одинаковые, отличается только количество "крышек"?
И ещё, если GUI выбран англоязычный - вы показываете цены в USD пользователям из РФ. Я не уверен что это у нас в принципе можно делать. Просто помню, что когда-то вводили подобный запрет.
2)
и количество затрачиваемых капсов
В этом месте пусто для Лам. Я так понимаю они ничего не тратят, но быть может чтобы не вводить в заблуждение стоит писать " -0 CAPS"?
3) Принципиально не соглашусь с вами, как кто-то, кто делает это регулярно для локальных моделей. Если модель сгаллюцинировала - зачастую необходимый шаг, чтобы остановить дальнейшие галлюцинации в этом чате - удалить ответ AI и своё сообщение вызвавшее проблему. Или AI будет продолжать настаивать что 2+2 = 5.
Плюс альтернативная версия диалога, если текущий идёт в никуда. Или если хочется сделать какой-то эксперимент.
В общем вы просто не придумали зачем она лично вам нужна :P
Я сейчас смотрю хочу ли я купить у вас подписку и не понимаю что я под каждым пакетом получу. Там просто указанно сколько я получу fallout-крышкек-совершенно-точно-не-денег-потому-что-по-закону-нельзя, но не указанно к чему будет доступ. Просто ко всему? Я хочу попробовать коммерческие и большие открытые модели, которые я не могу запустить локально. Я бы на самом деле предпочёл в таком случае перевести какую-то сумму вместо всех этих псевдо-пакетов если они одинаковые.
Ещё немного критики: - мне нужно создать новый чат чтобы переключиться на другую группу AI - нельзя удалять/редактировать сообщения в чате - баг (llama-3.1-70b-instruct:free, повторная попытка успешна):
-
- нет количества использованных токенов/CAPS на сообщения
Вообще лучший (но не идеальный) GUI чата из тех, что я использовал - у LM Studio
И в чём разница между, скажем, llama-3.1-405b-instruct:free и llama-3.1-405b-instruct?
Он вполне мог сгалюцинировать. Не верьте ни одному слову написанному AI, в принципе. Вот как пример: это локально запущенная модель. Он относительно прав - Codestral это файнтюн Mistral для программирования. Так же как и chat gpt, он представился менее способной моделью чем я на самом деле запустил.
Впрочем, llama 3.1 70b достаточно умна, чтобы сказать, что она не знает какая именно она версия:
Ещё западные модели знают Русский постольку-поскольку, никто русскому их целенаправленно не учил. Плюс есть технические ограничения связанные с тем как кодируется кириллица, в результате русский для многих моделей просто сложнее. Хотите складных ответов - используйте либо российскую модель (вроде у Яндекса есть?) либо файнтюн на русскоязычных данных (я не увидел таких в списке BotHub).
Но в принципе ваш опыт полностью соответствует среднему по больнице при использовании AI, да. Много хайпа, мало толка.
Дело не в Яблофилии, дело отрыве от реальности. Объективно, либо Эппл подчиняется, либо повторяет судьбу Meta* (*запрещённая в России организация, бла бла бла)
И быть заблокированным на территории России и странах в которые траффик идёт транзитом через Россию? Для Amnezia исход это совершенно не поменяет, к слову.
Тут непонятно заранее, как оно сложится - быстрее или медленнее. Так что при выборе пути можно судить только по среднему опыту, применимому к задаче. Даже если у вас есть энтузиазм и желание использовать AI - всё равно нужно чтобы хотя бы выходило так же (энтузиазм энтузиазмом, но работу делать надо)
Тут всё довольно просто: Время описания задачи для AI + время генерации (актуально если AI локальный) + время на ревью и доработки > время для самостоятельного выполнения задачи. То есть при одинаковом качестве результата быстрее сделать самому.
Выла история, "умного магазина" где ты просто забираешь товары и тебе прилетает банковский чек к оплате. Утверждалось что, это всё распознание видео, нейронные сети и всё такое, но нет, нейронными сетями работали индусы через mturk.com
Опять же: зависит от проекта. Если у вас проект в котором есть собственный "фреймворк" (условно - набор уже реализуемых фич, базовые классы, протоколы взаимодействия, предопределённые стили шрифтов и цвета, миксины с реализациями повторяющейся логики, etc) - новую фичу нужно нормально интергировать в существующую кодовую базу, использовав существующие методы и классы. AI же просто по единственному файлу понятия не имеет об окружении. А больше просто не поместится в контекст.
Единственное, тут nvidia выпустила файнтюн llama 3.1: https://build.nvidia.com/nvidia/llama-3_1-nemotron-70b-instruct Размер контекста у новых llama - 131072 токена. Это объём уже достаточный для осмысленной работы с документами, но я не готов стороннему сервису отдавать все исходники целиком. Локально же его запустить можно, но ээээм... Вам понадобится что-нибудь типа две nVidia Tesla P40 (48 Gb vram). "Запустить" же на ddr5/CPU - это быстродействие в 1 token/s, это как email отправлять, где вам собеседник через час ответит
AI обучены на среднестатистических данных из интернета, в результате они во всём разбирается как среднестатистический пользователь интернета - примерно никак... Особенно заметно на узких малоизвестных темах. Худшая же черта - все AI что я пробовал - никогда не противоречат пользователю, просто начинают в тихую галлюцинировать.
Я тут старательно пытаюсь притянуть за уши AI в своей работе... и опыт довольно печальный. Ты или делаешь работу сам, или ревьюишь/модифицируешь то, что выдал AI. Сделать работу самому 1 - быстрее, 2 - надёжнее, 3 - мозги не ржавеют. Он "пишет" ниже среднестатистического уровня, в результате AI сделает работу может быть лучше чем джун, но вот джунов я к AI бы не подпускал - пусть учатся.
Единственная задача с которой в моей практике LLM (Codestral 22B) справился сам (со второй попытки) - на основе существующего кода составить yaml-конфиг со стилями шрифтов.
Факторами на моё первое успешное трудоустройство стали личная рекомендация уже работавшего в компании человека и моё относительно успешное участие в соревнованиях по правилам ACM. Даже не смотря на то, что учебное заведение я не закончил
Git же в принципе... в учебном курсе системы контроля версий он не был упомянут ни разу, а лабы носились, страшно сказать, на mini CD-RW диске. Я искренне надеюсь это изменилось за прошедшее время...
По поводу самого github - качестве хобби я писал моды для игр, и общался с людьми из community. Да, у большинства из них есть github аккаунт, и там есть код, и местами даже неплохой код. Вот только они не работают программистами или даже в смежной сфере. Автор самых популярных на тот момент модов для RimWorld - вообще медик.
Насколько я понимаю они используют "оффлайновый" profile для подписки приложения. Я никогда не пользовался этим "стором", но в опциях приложения есть ещё "онлайновый" profile для подписи приложения - он действует год, но для запуска приложения нужно подключение к сети
Пытался играть в одну из частей, но лично мне этот тип юмора не зашёл. Бросил игру после того как она спросила у меня что я хочу сделать и персонаж сделал обратное действие (купить дорогой чип/купить дешёвый чип).
А что им Steam-то сделал? Оо
> найди способ заплатить
В этом и состоит проблема, что у меня нет способа платить за западные сервисы и у меня нет достаточной мотивации чтобы его найти.
В целом я готов расстаться с 500 рублями чтобы провести несколько экспериментов. Я могу запускать сетки локально, и как основной инструмент BotHub использовать не планирую, но у меня никогда не было возможности пощупать тот же Claude.
По поводу крышек - в момент когда вы начинаете использовать рубли как внутреннюю валюту - вы становитесь платёжной системой и к этому прилагаются обязательства и правила платёжных систем. Это такой гемор, что вы получаете продукт который вы можете продавать только на основе того, что он - платёжная система. Что очевидно не цель этого проекта
1) То есть пакеты действительно одинаковые, отличается только количество "крышек"?
И ещё, если GUI выбран англоязычный - вы показываете цены в USD пользователям из РФ. Я не уверен что это у нас в принципе можно делать. Просто помню, что когда-то вводили подобный запрет.
2)
В этом месте пусто для Лам. Я так понимаю они ничего не тратят, но быть может чтобы не вводить в заблуждение стоит писать " -0 CAPS"?
3) Принципиально не соглашусь с вами, как кто-то, кто делает это регулярно для локальных моделей. Если модель сгаллюцинировала - зачастую необходимый шаг, чтобы остановить дальнейшие галлюцинации в этом чате - удалить ответ AI и своё сообщение вызвавшее проблему. Или AI будет продолжать настаивать что 2+2 = 5.
Плюс альтернативная версия диалога, если текущий идёт в никуда. Или если хочется сделать какой-то эксперимент.
В общем вы просто не придумали зачем она лично вам нужна :P
Да, та, у которой не работают Facebook, Instagram и магазин приложений для VR очков.
Иии у вас ламы совсем умерли
Я сейчас смотрю хочу ли я купить у вас подписку и не понимаю что я под каждым пакетом получу. Там просто указанно сколько я получу fallout-крышкек-совершенно-точно-не-денег-потому-что-по-закону-нельзя, но не указанно к чему будет доступ. Просто ко всему?
Я хочу попробовать коммерческие и большие открытые модели, которые я не могу запустить локально.
Я бы на самом деле предпочёл в таком случае перевести какую-то сумму вместо всех этих псевдо-пакетов если они одинаковые.
Ещё немного критики:
- мне нужно создать новый чат чтобы переключиться на другую группу AI
- нельзя удалять/редактировать сообщения в чате
- баг (llama-3.1-70b-instruct:free, повторная попытка успешна):
-
- нет количества использованных токенов/CAPS на сообщения
Вообще лучший (но не идеальный) GUI чата из тех, что я использовал - у LM Studio
И в чём разница между, скажем, llama-3.1-405b-instruct:free и llama-3.1-405b-instruct?
Он вполне мог сгалюцинировать. Не верьте ни одному слову написанному AI, в принципе.
Вот как пример: это локально запущенная модель. Он относительно прав - Codestral это файнтюн Mistral для программирования. Так же как и chat gpt, он представился менее способной моделью чем я на самом деле запустил.
Впрочем, llama 3.1 70b достаточно умна, чтобы сказать, что она не знает какая именно она версия:
Ещё западные модели знают Русский постольку-поскольку, никто русскому их целенаправленно не учил. Плюс есть технические ограничения связанные с тем как кодируется кириллица, в результате русский для многих моделей просто сложнее. Хотите складных ответов - используйте либо российскую модель (вроде у Яндекса есть?) либо файнтюн на русскоязычных данных (я не увидел таких в списке BotHub).
Но в принципе ваш опыт полностью соответствует среднему по больнице при использовании AI, да. Много хайпа, мало толка.
Дело не в Яблофилии, дело отрыве от реальности. Объективно, либо Эппл подчиняется, либо повторяет судьбу Meta* (*запрещённая в России организация, бла бла бла)
И быть заблокированным на территории России и странах в которые траффик идёт транзитом через Россию? Для Amnezia исход это совершенно не поменяет, к слову.
Я сожалею что ваз заблокировал Эппл, но скажите: а что он должен был сделать по получению запроса?
Тут непонятно заранее, как оно сложится - быстрее или медленнее. Так что при выборе пути можно судить только по среднему опыту, применимому к задаче.
Даже если у вас есть энтузиазм и желание использовать AI - всё равно нужно чтобы хотя бы выходило так же (энтузиазм энтузиазмом, но работу делать надо)
Тут всё довольно просто: Время описания задачи для AI + время генерации (актуально если AI локальный) + время на ревью и доработки > время для самостоятельного выполнения задачи.
То есть при одинаковом качестве результата быстрее сделать самому.
Модели - llama-3.1-lumimaid
"Гусары! Молчать!"
А можно полюбопытствовать: какой процент пользователей использует версии этой модели?
Вот вы тут шутите, да? :D
https://www.mturk.com
Выла история, "умного магазина" где ты просто забираешь товары и тебе прилетает банковский чек к оплате. Утверждалось что, это всё распознание видео, нейронные сети и всё такое, но нет, нейронными сетями работали индусы через mturk.com
Опять же: зависит от проекта. Если у вас проект в котором есть собственный "фреймворк" (условно - набор уже реализуемых фич, базовые классы, протоколы взаимодействия, предопределённые стили шрифтов и цвета, миксины с реализациями повторяющейся логики, etc) - новую фичу нужно нормально интергировать в существующую кодовую базу, использовав существующие методы и классы.
AI же просто по единственному файлу понятия не имеет об окружении. А больше просто не поместится в контекст.
Единственное, тут nvidia выпустила файнтюн llama 3.1:
https://build.nvidia.com/nvidia/llama-3_1-nemotron-70b-instruct
Размер контекста у новых llama - 131072 токена. Это объём уже достаточный для осмысленной работы с документами, но я не готов стороннему сервису отдавать все исходники целиком. Локально же его запустить можно, но ээээм... Вам понадобится что-нибудь типа две nVidia Tesla P40 (48 Gb vram).
"Запустить" же на ddr5/CPU - это быстродействие в 1 token/s, это как email отправлять, где вам собеседник через час ответит
AI обучены на среднестатистических данных из интернета, в результате они во всём разбирается как среднестатистический пользователь интернета - примерно никак... Особенно заметно на узких малоизвестных темах. Худшая же черта - все AI что я пробовал - никогда не противоречат пользователю, просто начинают в тихую галлюцинировать.
Я тут старательно пытаюсь притянуть за уши AI в своей работе... и опыт довольно печальный.
Ты или делаешь работу сам, или ревьюишь/модифицируешь то, что выдал AI. Сделать работу самому 1 - быстрее, 2 - надёжнее, 3 - мозги не ржавеют. Он "пишет" ниже среднестатистического уровня, в результате AI сделает работу может быть лучше чем джун, но вот джунов я к AI бы не подпускал - пусть учатся.
Единственная задача с которой в моей практике LLM (Codestral 22B) справился сам (со второй попытки) - на основе существующего кода составить yaml-конфиг со стилями шрифтов.
Факторами на моё первое успешное трудоустройство стали личная рекомендация уже работавшего в компании человека и моё относительно успешное участие в соревнованиях по правилам ACM. Даже не смотря на то, что учебное заведение я не закончил
Git же в принципе... в учебном курсе системы контроля версий он не был упомянут ни разу, а лабы носились, страшно сказать, на mini CD-RW диске. Я искренне надеюсь это изменилось за прошедшее время...
По поводу самого github - качестве хобби я писал моды для игр, и общался с людьми из community. Да, у большинства из них есть github аккаунт, и там есть код, и местами даже неплохой код. Вот только они не работают программистами или даже в смежной сфере. Автор самых популярных на тот момент модов для RimWorld - вообще медик.
Насколько я понимаю они используют "оффлайновый" profile для подписки приложения. Я никогда не пользовался этим "стором", но в опциях приложения есть ещё "онлайновый" profile для подписи приложения - он действует год, но для запуска приложения нужно подключение к сети