语言模型
语言模型
“语言模型”页面用于让 Admin 选择部署可以使用的 OpenModels 目录条目。它支持多模型配置:可提供多个已批准模型,并为常规请求选择合适的默认模型。
开始前
确认每个服务所需的凭据均已添加且仍有效。凭据提供对服务的安全访问;此页面控制部署从这些访问权限中选择哪些目录模型。
配置目录模型
打开“模型与能力”,然后打开“语言模型”。查看 OpenModels 目录,启用符合部署要求的模型,并在需要时为每个选择关联可用凭据。请保持已启用的模型集合清晰易懂,以便 Curator 能有意识地选择模型。
选择默认模型
为未指定模型的请求设置默认模型。请综合考虑能力、质量、延迟、成本以及模型在该部署中的可用性。默认模型不会阻止已批准的 Agent 或工作流在其配置需要时使用其他已启用模型。
验证可用性
保存后,确认所选模型会出现在已获授权人员配置或使用模型的位置。测试一个有代表性的请求;如果模型不可用或无法完成预期任务,请重新检查凭据和目录选择。