Easy LLM Cli本地部署自定义的LLM(Gemini Cli)

1、确保安装了node.js 20 


2、安装easy-llm-cli

npm install -g easy-llm-cli

输入:elc --version 查看版本号


3、设置配置文件

命令行中依次输入:

export USE_CUSTOM_LLM=true
export CUSTOM_LLM_API_KEY="your-api-key"     # 你的 LLM 提供商 API 密钥
export CUSTOM_LLM_ENDPOINT="https://api.your-llm-provider.com/v1"  # API 端点
export CUSTOM_LLM_MODEL_NAME="your-model-name"  # 模型名称


4、运行

elc

评论

此博客中的热门博文

通过命令行在Github上发布项目的新版本

利用GitHub免费的静态页面托管空间发布网页

本地部署OpenAvatarChat实时交互数字人系统