Обновить

Since there are so many great command line AI assistants, including the marvellous Opencode, I thought I was going to stop developing Gaunt Sloth. However, because I control the code and it is so small and LangChain.js-based, I still find myself reaching for it regularly for quick prototypes and other tasks.

https://github.com/Galvanized-Pukeko/gaunt-sloth-assistant/

The last thing I needed was to use it with a very minimal system prompt and without any vendor-provided defaults, so here comes a new config parameter: noDefaultPrompts. This enforces no fallback to default system prompts, which means if your project config does not define a system prompt, it will be completely blank.

Example config

{
  "llm": {
    "type": "groq",
    "model": "openai/gpt-oss-120b"
  },
  "noDefaultPrompts": true
}

Another new feature, introduced for experiments, is the api command, which currently supports the AG-UI protocol. Calling gsloth api ag-ui will make Gaunt Sloth listen for incoming connections.

{
  "llm": {
    "type": "openai",
    "model": "gpt-4o-mini"
  },
  "streamOutput": true,
  "commands": {
    "api": {
      "port": 3000,
      "cors": {
        "allowOrigin": "http://localhost:5555",
        "allowMethods": "POST, GET, OPTIONS",
        "allowHeaders": "Content-Type, Accept"
      }
    }
  }
}

A client implementation and demo setup are available at the link below. https://github.com/Galvanized-Pukeko/galvanized-pukeko-ai-ui

Теги:
Рейтинг0
Комментарии0

В Cloudflare сэкономили 100 ТБ оперативной памяти, оптимизировав кэш DNS‑резолвера 1.1.1.1

В Cloudflare рассказали об опыте, когда небольшая экономия памяти на одной структуре данных, будучи умноженной на сотни миллиардов экземпляров, превращается в десятки терабайт. Сетевые инженеры последовательно внесли пять сравнительно небольших изменений в виде патчей в представление записей кэша DNS-резолвера 1.1.1.1 и в итоге высвободили около 100 ТБ оперативной памяти на серверах IT-инфраструктуры.

В Cloudflare сэкономили 100 ТБ оперативной памяти, оптимизировав кэш DNS‑резолвера 1.1.1.1

Публикации