Это отлично, но тут нет ничего про мониторинг. В идеале, можно написать отказоустойчивую и масштабируемую систему вообще без мониторинга.
Вы правы, я рассматривал мониторинг именно как инструмент для такой системы, однако не уверен, что такую сложную систему можно будет поддерживать вслепую по мере увеличения трафика)
Мониторинг (для людей), всё-таки, нужен по большей части чтобы побыстрее поднять уже упавшее или заранее заметить заканчивающиеся ресурсы.
Тоже не до конца соглашусь, есть такой сценарий: изначально для того, чтобы точно дать нужное количество ресурсов микросервисы заливали железом. Под конец года оказалось, что половине из них не нужно столько RAM, а 80% из них не утилизировали процессор даже на 30%. Помогло снизить использование квоты, сохранив деньги команды.
Другой сценарий: день ото дня виден один и тот же тренд на использование сервисов и тут неожиданно приходит жирная пачка запросов из самых разных стран (причем целевая аудитория - только одна-три из них). Как будто бы определение ДДОСа на самых ранних этапах тоже производится путем мониторинга, каким бы он не был.
Выглядит, как будто инженер эксплуатации, представляющий, что такое Грейлог, Прометеус, Графана и остальная пачка вполне распространённых технологий, издалека неотличим от SRE :)
Технически же так оно и есть) Если инженер эксплуатации занимается разбором инцидентов, мониторингом и другими SRE-специфичными задачами (используя соответствующие практики), не правильнее его будет назвать SRE?
А если разговор о покрытии площади, то все еще есть ретрансляторы. Мб в будущем и будет побюджетнее одну махину ставить на покрытие больших площадей (типо гостиничных комплексов и тп), однако возникает вопрос - а что с нагрузкой на сеть?
UPD: Можно использовать как мобильную точку при ЧС, например, при землетрясениях
Говоря о "дальнобойном WiFi" - есть же радиомосты-тарелки Ubiquiti AirFiber, которые на ~10 км бьют. Их еще LTT лет 6 назад обозревали. Чем решение Morse Micro принципиально отличается?
Телеграм-боты прекрасны тем, что позволяют забыть(и)ть про базовый фронт и углубиться в то, что ты хочешь. Очень много времени экономишь и получаешь вполне себе приемлемый результат
Про сотни долларов вы, конечно, преувеличили, хватит "на поиграться" и оставшихся 10, которые остались после gpt-3.5 и davinci-003. Про баны тоже не так часто слышал, особенно учитывая, что Jailbreak'ом активно пользуются (это, конечно, не говорит о том, что их нет).
Нормальным проектам с GPT нужна реализация без цензуры, (её потом можно и нужно подгонять под задачу), в противном случае миллиарды параметров будут простой болванкой.
- Выведи мне текст песни *вставить название*
- Я, конечно, эту песню знаю, но её тебе не выдам! Авторские права, знаете ли!
А открытая продукция OpenAI на это не годится, по крайней мере в том виде, в котором она есть сейчас.
Искренне надеюсь, что Open Assistant реализуют, выглядит амбициозно (даже слишком).
Если говорим о реальных VTube-рах, то картинка хватается через Live Studio с вебкамеры. С нейростримерами тяжелее: либо реакция на звук (видел такой плагин), либо чтение документации и скриптовое вызывание анимации через апи, полагаю, такое возможно, раз само API есть (ручаться пока не буду).
Это правда! Казалось бы, такая простая истина - "слушайте друг друга и давайте фидбек", но, к сожалению, иногда бывает так, что напарник не хочет слышать, не то, что слушать :(
Спасибо за комментарий!
Вы правы, я рассматривал мониторинг именно как инструмент для такой системы, однако не уверен, что такую сложную систему можно будет поддерживать вслепую по мере увеличения трафика)
Тоже не до конца соглашусь, есть такой сценарий: изначально для того, чтобы точно дать нужное количество ресурсов микросервисы заливали железом. Под конец года оказалось, что половине из них не нужно столько RAM, а 80% из них не утилизировали процессор даже на 30%. Помогло снизить использование квоты, сохранив деньги команды.
Другой сценарий: день ото дня виден один и тот же тренд на использование сервисов и тут неожиданно приходит жирная пачка запросов из самых разных стран (причем целевая аудитория - только одна-три из них). Как будто бы определение ДДОСа на самых ранних этапах тоже производится путем мониторинга, каким бы он не был.
Технически же так оно и есть) Если инженер эксплуатации занимается разбором инцидентов, мониторингом и другими SRE-специфичными задачами (используя соответствующие практики), не правильнее его будет назвать SRE?
А если разговор о покрытии площади, то все еще есть ретрансляторы. Мб в будущем и будет побюджетнее одну махину ставить на покрытие больших площадей (типо гостиничных комплексов и тп), однако возникает вопрос - а что с нагрузкой на сеть?
UPD: Можно использовать как мобильную точку при ЧС, например, при землетрясениях
Говоря о "дальнобойном WiFi" - есть же радиомосты-тарелки Ubiquiti AirFiber, которые на ~10 км бьют. Их еще LTT лет 6 назад обозревали. Чем решение Morse Micro принципиально отличается?
Телеграм-боты прекрасны тем, что позволяют забыть(и)ть про базовый фронт и углубиться в то, что ты хочешь. Очень много времени экономишь и получаешь вполне себе приемлемый результат
А ещё кроссплатформенность! Вообще тема!
3090 - это хорошо, но было бы еще более приятно, если бы остались те же характеристики для 30B под ~24GB RAM с обработкой на CPU :)
Спасибо за статью! Тоже немного участвовал в разметке. Не подскажете, что известно по минимальным характеристикам для запуска? Интереса ради :)
Проблема случаем не в отсутствии setlocale?
Спасибо за инфографику :)
Про сотни долларов вы, конечно, преувеличили, хватит "на поиграться" и оставшихся 10, которые остались после gpt-3.5 и davinci-003. Про баны тоже не так часто слышал, особенно учитывая, что Jailbreak'ом активно пользуются (это, конечно, не говорит о том, что их нет).
Нормальным проектам с GPT нужна реализация без цензуры, (её потом можно и нужно подгонять под задачу), в противном случае миллиарды параметров будут простой болванкой.
А открытая продукция OpenAI на это не годится, по крайней мере в том виде, в котором она есть сейчас.
Искренне надеюсь, что Open Assistant реализуют, выглядит амбициозно (даже слишком).
Ждём API с возможностью fine-tuning'a. Да простит нас Джон Коннор.
Если говорим о реальных VTube-рах, то картинка хватается через Live Studio с вебкамеры. С нейростримерами тяжелее: либо реакция на звук (видел такой плагин), либо чтение документации и скриптовое вызывание анимации через апи, полагаю, такое возможно, раз само API есть (ручаться пока не буду).
Это правда! Казалось бы, такая простая истина - "слушайте друг друга и давайте фидбек", но, к сожалению, иногда бывает так, что напарник не хочет слышать, не то, что слушать :(
Спасибо за статью!
"Во всем как всегда виноват аналитик..."
Милая статья, но даже она свелась к тому, что гады-аналитики ленятся писать ТЗ подробно :)