LMFlow:一个可扩展的轻量级工具包,可简化一般大型基础模型的微调和推理。
LMFlow一个可扩展、方便、高效的工具箱,用于微调大型机器学习模型,旨在用户友好、快速、可靠,并且可供整个社区使用。
LMFlow 提供四种演示,其中包括
- 在线服务:如果您不想运行任何代码,只想尝试我们的模型,我们会部署经过指令调整的 LLaMA 您来尝试一下。
- Colab 聊天机器人(shell):基于 shell 的交互式聊天机器人,可让您轻松在 colab 上部署聊天机器人。
- Colab 聊天机器人(Web):基于 Web 的交互式聊天机器人,您可以在 Colab 上轻松部署自己的聊天机器人。
- 本地部署:我们还为您提供了一种在本地部署模型/聊天机器人的方法,这意味着如果您有足够的资源,您可以部署比前三种方法更大的模型。
论文: https://arxiv.org/abs/2306.12420 代码: https://github.com/OptimalScale/LMFlow 在线文档:https://optimalscale.github.io/LMFlow/