黄色免费网址在线观看_99热精品免费_国产成人精品一区二区色戒_992tv在线成人免费观看_一区二区三区免费视频网站_国产精品第55页

首页 > 宏观 > 正文

微软打造 13 亿参数小型 LLM AI模型,效果胜于千亿参数 GPT-3.5

2023-06-27 09:53:56来源:IT之家

IT之家6月27日消息,AI模型盲堆体积实际上效果并不见得更好,更多要看


(相关资料图)

IT之家 6 月 27 日消息,AI 模型盲堆体积实际上效果并不见得更好,更多要看训练数据的质量,微软日前最近发布了一款 13 亿参数的语言模型 phi-1,采用“教科书等级”的高品质资料集训练而成,据称“实际效果胜于千亿参数的 GPT 3.5”。

▲ 图源 Arxiv

IT之家注意到,该模型以 Transformer 架构为基础,微软团队使用了包括来自网络的“教科书等级”数据和以 GPT-3.5 经过处理的“逻辑严密的内容”,以及 8 个英伟达 A100 GPU,在短短 4 天内完成训练。

▲ 图源 Arxiv

微软团队表示,比起增加模型的参数量,通过提高模型的训练数据集质量,也许更能强化模型的准确率和效率,于是,他们利用高质量数据训练出了 phi-1 模型。在测试中,phi-1 的分数达到 50.6%,比起 1750 亿参数的 GPT-3.5(47%)还要好。

▲ 图源 Arxiv

微软表示,phi-1 接下来会在 HuggingFace 中开源,而这不是微软第一次开发小型 LLM,此前,他们打造一款 130 亿参数的 Orca,使用了 GPT-4 合成的数据训练而成,表现也同样比 ChatGPT 更好。

目前关于 phi-1 的论文已经在 arXiv 中发布,可以在这里找到论文的相关内容。

关键词:

责任编辑:hnmd004

最新资讯

主站蜘蛛池模板: 久久99中文字幕久久 | 国产精品另类激情久久久免费 | 成人男女网18免费91 | 青青国产成人久久激情91麻豆 | 美女被按在的视频网站观看 | 91久久亚洲国产成人精品性色 | 久久精品阿娇 | 亚洲欧美一区二区三区在线播放 | 国产高清国产专区国产精品 | 亚洲九九精品 | 精品国产福利在线观看一区 | 国内自拍网址 | 精品91自产拍在线观看99re | 91在线综合| 精品国产不卡一区二区三区 | 美女被免费网站视频软件美国 | h成人在线 | 亚洲成人午夜影院 | 国产99高清一区二区 | 久久久国产乱子伦精品作者 | 国产欧美日韩综合在线一 | 国产台湾无码av片在线观看 | 精品久久国产视频 | 久久久成人影院 | 插入综合网 | 无码少妇一区二区浪潮av | 成人免费视频88 | 在线精品视频免费观看 | 亚洲入口无毒网址你懂的 | 精品视频一区二区三区中文字幕 | 真人毛片免费拍拍拍aa视频 | 欧美日韩综合精品一区二区三区 | 亚洲男人天堂 | 老鸭窝亚洲 | 亚洲欧美日韩另类在线 | 小明成人永久视频在线观看 | 午夜激情视频在线观看 | 国产精品资源手机在线播放 | 亚洲av无码精品无码麻豆 | 精品福利视频一区二区三区 | 素人259luxu在线观看暴露 |