Shimmy

Shimmy 是一款轻量级开源工具，专为本地 AI 推理设计，提供了与 OpenAI API 完全兼容的接口，使开发者能够在本地环境中运行大模型，而无需依赖云端服务。