这个鬼东西真厉害

速度真快 哈哈哈哈

接近500 token/s的输出速度...模型是Mixtral 8X7B

Llama 2 7B 是750 tokens/s

快是真快，无人能敌，但是准确性还不怎么样...

可以体验下链接

---

小编提示：这个目前还不能导出，只能手动截屏保存记录，不能循环对话只能一问一答，而且默认会变成英语，强制要求用汉语也不一定有效