书生·浦语大模型实战营-第一节
输入“/”快速插入
书生·浦语
大模型
实战营-第一节
飞书用户6850
1月5日创建
Tutorial
Repo
:
https://github.com/internLM/tutorial
书生通用
大模型
体系:
https://intern-ai.org.cn/home
背景
大模型
成为发展通用人工智能的重要途径。目前,研究者更倾向于从使用专用模型转变到使用通用大模型。
•
专用模型:针对特定任务,一个模型解决一个问题
•
通用
大模型
:一个模型应对多种任务、多种模态
书生·浦语开源
大模型
系列:InternLM-7B、InternLM-20B、InternLM-123B(B:Billion,十亿)
书生·浦语开源大模型InternLM-20B与Baseline的对比
大模型
落地步骤
从模型到应用存在gap,需要一些框架实现模型到应用。
如果业务场景不复杂,进行 prompt engine 后进行应用,否则需要进行微调。
如果
算力
足够,进行全参数微调,否则进行部分参数微调(eg.
LoRA
算法)。
如果需要环境交互(调用外部 API 或与数据库交互),需要构建一个基于
大模型
的
智能体
,否则将微调好的模型在应用场景试用。
如果评测通过,则可以考虑上线,否则需要重新进行流程迭代。
模型部署环节:以更少地资源部署模型或提高
吞吐量
大模型落地步骤图
书生
大模型
全链路开源开放体系
书生也开源了
大模型
落地链条体系
书生大模型全链路开源开放体系
数据:书生·万卷
Wanjuan1.0
Repo
:
https://github.com/opendatalab/WanJuan1.0
OpenDataLab:
https://opendatalab.com/
开源数据书生·万卷 1.0
数据开放平台 OpenDataLab