Comments 9
Тема забавная. Представляю, как умная кофеварка, вместе с умной лампой, и папиным вейпом, пытаются совместными усилиями сделать домашку для ребенка. Потому что компьютер и смартфон заняты другими задачами.
Кликбейтный заголовок про Nvidia это лишнее. За него только минусуют.
Да, согласен про заголовок. Поменял.
По поводу кофеварок и прочего помогающих делать домашку - наверное до такого еще далековато. А вот узкоспециализированные задачи какие-то с менее огромными моделями вполне возможно.
IMHO, перед тем как придумывать техническое решение некой задачи, нужно подумать есть ли смысл её решать. Конечно если мы не говорим о просто хобби.
В данной конкретной задаче, если речь идёт об устройствах принадлежащих частным пользователям, все эти хрустальные дворцы реализации разобьются о "трагедию общин", не говоря уже про такие мелочи как регуляторная разнородность и стремление властей вставлять зонд всё глубже в э... тело граждан.
А если речь идёт про условную корпорацию, то централизованные вычисления значительно выгоднее с точки зрения уменьшения накладных расходов, но конечно не для того чтобы уменьшить ценник для конечного потребителя. И это "значительно" для владельцев корпорации перечёркивает любые другие положительные стороны распределённых систем как имеющиеся сейчас так и потенциальные. Куда как выгоднее инвестировать в ускорение связи потребительских терминалов с вычислительными ресурсами корпорации. Что более чем устроит среднего потребителя, которого интересует только чтобы котики рисовались ещё более быстро. А что будет, если случится новое событие Кэррингтона думать не интересно, впрочем как и топам корпораций.
Так что применение распределённых систем в сложившейся мировой системе вероятно только для специальных задач, где во первых остро требуется живучесть и/или скорость реакции системы, а во вторых есть кому за это платить. Широкое распространение роёв боевых микро-дронов мы вероятнее всего скоро увидим. И будет довольно иронично, если эти рои будут построены на базе разработок энтузиастов вроде "нескольких членов сообщества AI Hub" из сабжевой статьи.
Ну может гражданскому космосу что-то перепадёт с барского плеча вояк, если человечество просуществует достаточно долго в том виде, когда космос интересен.
Хм, интересная точка зрения. Мне кажется если мы берем в рассчет какие-то системы умного дома, но не всегда может быть удобным брать централизованные системы. Про военные технологии я не говорю и никогда к ним себя не относил.
Нет сомнений что в отдельно взятом умном доме имеют смысл именно локальные вычисления. Чтобы камеры детектировали, кровати складывались, а лампочки включались независимо от наличия интернета. Но зачем в таком доме распределённая сеть вычислений? Чем совместная работа кофеварки и напольных весов будет лучше централизованной обработки на маленьком на гордом NVIDIA Jetson или просто неиспользуемом ноутбуке? А большего для камер, кроватей и лампочек как правильно и не нужно.
Если мы берем локальный умный дом то, да, в пределах небольшой сети - проще поставить Jetson или Orange (для бедных условно). Но если мы возьмем какой-то интересный кейс, допустим с отелем, то тут уже можно поиграться. И не обязательно распределенная сеть имеется ввиду каждая камера и лампочка. Это может быть сеть из локальных ноутов на том же Jetson. Еще здесь важно, что когда мы говорим о централизации - что если падает один сервер, падает всё сразу. Понятно, что можно делать балансировку и т.д. между серверами, но накладные расходы будут дороже. В общем, это интересная тема как раз таки для рассуждения. Не везде это нужно, согласен.
Распределенные сети для инференса ИИ: как это работает, какие технологии есть и как это применять