第三财经网 2024-11-16 16:34 562
4月24日,微软发布了全新的 Phi-3-mini AI 模型,这是一款专为手机等移动设备设计的轻量级模型。据称,尽管体积小巧,Phi-3-mini 的性能却能与大名鼎鼎的 GPT-3.5 等模型相匹敌,而且成本显著降低,有望吸引更多用户。作为微软小型语言模型系列的首作,Phi-3-mini 拥有38亿个参数,优于前辈 Phi-2 的27亿参数。微软透露,新模型在速度和效能上都有提升,甚至能与比它大十倍的模型并驾齐驱。
在多项测试中, Phi-3-mini 展现了与 Mixtral 8x7B 和 GPT-3.5 竞争的实力,比如在 MMLU 测试中得分69%,MT基准测试中获得8.38的高分。然而,微软也指出,由于内存限制,该模型在处理某些需要大量事实知识的任务时可能力有不逮,但可以通过整合搜索引擎来弥补这一短板。微软的Sassabastien Bubeck强调,Phi-3-mini 不仅性价比更高,而且成本优势巨大,与同类模型相比,成本低至十分之一。这款模型将登陆 Azure、Hugging Face 以及 Ollama 平台,同时,还针对英伟达的 GPU 进行了优化,可在 NIM 工具上顺畅运行,为资源有限的企业提供更便捷的解决方案。
热门文章