Comments 15
И когда ты ведёшь крупный проект для банка, у тебя 5-10 совещаний ежедневно
Представь ситуацию: прошло 3 месяца, у тебя уже 100+ совещаний обработано.
100+ - это сколько?
20 рабочих дней в месяце. 100 совещаний минимум в месяц. 3 месяца - это 300, а то и все 600 совещаний... То есть выходит, что очень много совещаний так и не обработались? Не хватило времени, мощности, пропускной способности?
И по затратам. Были ли еще затраты помимо “железных»?
Какой блок питания нужен на Tesla V100 и охлаждение?
В видеонаблюдении, самое сложное:-наблюдать. Лет 15 назад, на работе, в здании площадью 8 тыс. кв. м. - сперли ценности. Камер было много и охраны достаточно. Был даже рекордер, на целую неделю. Парадоксально, но несмотря на длительную эксплуатацию, никто из нескольких смен "службы охраны", перематывать записи и смотреть "впрошлое"- не умел. Меня, как инженера-электрика, "припахали" разбираться. Пришлось, считать сколько охранников и делить между ними часы просмотра, обучать пользоваться системой, хотя видел её впервые. Через неделю просмотров, воришка был, найден на видео. Это оказался очень уважаемый человек. С такой нейросетью, эта задача решилась бы быстрее. А еще очень, много времени у директора занимала, незримая оценка качества переговоров, менеджеров по продажам (по записи офисной Sip телефонии). Там бы, тоже, помогла нейросеть.
Это серверная карта (форм-фактор PCIe, нужно охлаждение, взял водянку 3-4 тысячи.)
Требует переходник PCIe (продавался отдельно еще 3-4 тысячи)
ничего не понял. На скринах в интернете tesla v100 выглядит как обычная pci-e видеокарта.
Вы покупали набор "сделай сам" или это какая-то другая модель?
Есть 2 формфактора SXM2 и PCIe первая 7 тыс на али, ну плюс переходник и водянка, как раз 15 а вторая под 100 тыс стоит, но за 100 уже лучше взять Tesla T4 по производительности будет +- тоже самое, зато электричества будет кушать в пике 70 вт.
Мне не нравится Aliexpress из-за махинаций с ценами, поэтому проверяю ebay:
Насколько я понял, на первой картинке самоделка, аналогичная вашей, но уже готовая к использованию, на второй - официальная pcie версия. Цена в переводе на ваши рубли - ~22к руб и 28к руб.
Даже если добавить к этому пошлины, то выходит достаточно дешево
Дочитал статью до конца - возникает много вопросов:
1)вы пишете про вайбкодинг, но claude работает не на вашем пк (и не использует мощности вашей видеокарты). Тогда причем здесь вайбкодинг?
2)какой конкретно у вас пк? v100 2017 года выпуска - с одной стороны это плюс, потому что должна запуститься и на старом железе, с другой - официальная поддержка этих карт вроде как закончилась в конце 2025 и драйверов больше не будет, поэтому покупка точно стоит того?
3)
Этап 3: Результаты на GPU — с 2 часов до 4 минут
у вас какая-то странная таблица:
было 80 мин, стало 4, ускорение 10х
было 3 мин, стало 1, ускорения нет
вы не напортачили с цифрами?
1 - эмм, вайбкодинг вроде бы это не про то, что ты кодишь на нейронке, которая стоит на твоей видеокарте на твоем компе, а когда ты болтаешь с нейронкой и она кодит...
2 - Она запускается вероятно на любом +- современном железе, а поддержки конечно не будет никакой, это ж не для продакшн работы, а для домашнего комбайна. А для продакшн, это как у меня на работе кластера Nvidia H200, но пока многомиллионов для этого у меня нет :))
3 - Время на CPU плавает, поэтому у меня то 80 минут то 2 часа. Из последнего что меня уже выбесило, это было 2 часа, поэтому написал в этапе 3...
1)вайбкодинг - это когда кодишь на нейронке (без разницы, где она запущена и как именно командуешь ей).
Например, Auto модель Cursor иногда может глупеть до уровня самых простых локальных моделей
2)я имел в виду, не превратится ли v100 в ближайшем будущем в "тыкву" без драйверов? Что думаете, например, о 5060 ti 16gb, которая обойдется примерно как две б/ушные v100 на 16gb, но и ее поддержка будет длительной?
Как я решил проблему длинных совещаний вайбкодингом и китайской видеокартой