[Feature] 建议增加多模型自动切换功能

[AthanaD]

1、首先根据API URL及API KEY自动获取模型，例如20个。
2、人工定义所有获取到的模型优先级，用数字进行排序。
3、当默认模型出现问题尝试5次仍然出错自动切换到优先级最高的模型，依此类推，直到能够返回回复。

[lss233]

我觉得最多做到同一个模型自动切换不同的 API 后端 / Key 就行了，这个当前是能做到随机切换的。

你的建议我认为有下面两个问题：

1. 模型之间的能力差距还是比较大，同样的提示词给不同的模型，输出的效果可能完全不一样，这会导致你调好的一个工作流可能变得不稳定。
2. 自动重试也会导致bot的回应耗时变得不稳定，可能会导致莫名其妙的一个问题要好久才回复，用户可能会感到困惑？

综上，与其耗费时间在切换模型上，不如直接选择几个稳定的 API 源来搭建你的 bot。

当然，如果你觉得这个功能真的很有必要，欢迎发 PR。