雷军:小米研发大模型的方向是轻量化和本地部署

2023-08-25 11:15:35    来源:界面新闻


(资料图片)

据公众号“雷军”8月25日消息,小米雷军表示,小米做大模型的思路和很多公司不太一样,选择主力突破的是轻量化和本地部署。目前小米自研的13亿参数的端侧模型已经在手机端跑通,部分场景效果媲美60亿模型在云端的运算结果。与早些时候市场上放出的手机端大模型的方案相比,小米会调整模型结构和参数大小,适配各种芯片在内存和算力上的特点,致力于达到功耗、推理速度和生成效果的最佳平衡。

(文章来源:界面新闻)

关键词:

X 关闭

X 关闭