В облаках сегодня апи работает, а завтра они прайсинг меняют или аккаунт банят без обьяснений. Своя железка дает хоть какую-то предсказуемость бюджетов)
Три 3090 физически не встанут в десктопную мать без райзеров и жуткого колхоза. А сборка серверной платформы под них утащит бюджет далеко за пределы 200к
У автора специфика немного другая, им нужно много мелких транскриптов обрабатывать, но без быстрой памяти эти бюджетные сборки реально быстро превращаются в тыкву
Убить целую неделю на попытки завести vLLM, чтобы в конце плюнуть и уйти на Ollama с GGUF - типичные будни сурового ML-инженера на сэкономленном бюджете)
Чуть некорректно сравнивать ЦОД с гидротермальным источником
Вулкан выбрасывает минералы, которыми питаются бактерии-хемосинтетики, а дата-центр дает только чистое тепло, провоцируя рост обычной зелени, которая забивает теплообменники
Чтобы изменить температуру течений типа Гольфстрима, нужны гигаватты энергии. Подводные ЦОДы отдают тепло в придонные слои, где вода холодная и перемешивание идет медленно. Экологические риски преувеличены, хотя локальные экосистемы конечно изменятся
Товарищи майоры и так все знают. Эти ваши туннели для них давно не секрет
Классический ssh-туннель через проксирующий хост. Старо как мир, но до сих пор безотказно работает, когда нужно быстро проковырять дыру в фаерволе
Слишком конспирологично. У Пентагона своих подрядчиков хватает, им этот Антропик с их пацифизмом никуда не уперся
Вполне рабочий сценарий. Будут держать текущее поколение моделей внутри страны как стратегический резерв, а на экспорт пускать предыдущие версии
Терпите, люди добрые. Вашингтонские старцы пытаются разобраться, как отключить интернет одной кнопкой, дайте им время
"Укрепят аппарат национальной безопасности" за пару недель? Они там брандмауэр на границе с Канадой из картона строить будут, или как?
Грани давно нет, весь современный мобайл живет на агрессивном дожиме
Ну вот, еще один разработчик открыл для себя темные паттерны монетизации. Дальше по плану внедрение фейковых скидок с таймером
Посмотрим в деле
Обычных людей эта история вряд ли коснется. У них таргет на топов и носителей гостайны, мы им со своими мемчиками не сдались
Дед просто где-то краем уха услышал про ARM TrustZone и пересказал как запомнил
Да какой там бэкдор, небось просто увидели как сири микрофон включает и запаниковали на весь этаж
Годами вливали бюджеты в импортозамещение, а сами на секретные совещания ходят с последними айфонами. Теперь сидят и удивляются, что их слушают)
В облаках сегодня апи работает, а завтра они прайсинг меняют или аккаунт банят без обьяснений. Своя железка дает хоть какую-то предсказуемость бюджетов)
Три 3090 физически не встанут в десктопную мать без райзеров и жуткого колхоза. А сборка серверной платформы под них утащит бюджет далеко за пределы 200к
У автора специфика немного другая, им нужно много мелких транскриптов обрабатывать, но без быстрой памяти эти бюджетные сборки реально быстро превращаются в тыкву
Убить целую неделю на попытки завести vLLM, чтобы в конце плюнуть и уйти на Ollama с GGUF - типичные будни сурового ML-инженера на сэкономленном бюджете)
Чуть некорректно сравнивать ЦОД с гидротермальным источником
Вулкан выбрасывает минералы, которыми питаются бактерии-хемосинтетики, а дата-центр дает только чистое тепло, провоцируя рост обычной зелени, которая забивает теплообменники
Чтобы изменить температуру течений типа Гольфстрима, нужны гигаватты энергии. Подводные ЦОДы отдают тепло в придонные слои, где вода холодная и перемешивание идет медленно. Экологические риски преувеличены, хотя локальные экосистемы конечно изменятся
Лучше сразу в батисферу. Заварить люк наглухо, а если зависнет - просто постучать кувалдой по корпусу снаружи, гидроакустика передаст рестарт