黄色免费网址在线观看_99热精品免费_国产成人精品一区二区色戒_992tv在线成人免费观看_一区二区三区免费视频网站_国产精品第55页

首页 > 宏观 > 正文

微软打造 13 亿参数小型 LLM AI模型,效果胜于千亿参数 GPT-3.5

2023-06-27 09:53:56来源:IT之家

IT之家6月27日消息,AI模型盲堆体积实际上效果并不见得更好,更多要看


(相关资料图)

IT之家 6 月 27 日消息,AI 模型盲堆体积实际上效果并不见得更好,更多要看训练数据的质量,微软日前最近发布了一款 13 亿参数的语言模型 phi-1,采用“教科书等级”的高品质资料集训练而成,据称“实际效果胜于千亿参数的 GPT 3.5”。

▲ 图源 Arxiv

IT之家注意到,该模型以 Transformer 架构为基础,微软团队使用了包括来自网络的“教科书等级”数据和以 GPT-3.5 经过处理的“逻辑严密的内容”,以及 8 个英伟达 A100 GPU,在短短 4 天内完成训练。

▲ 图源 Arxiv

微软团队表示,比起增加模型的参数量,通过提高模型的训练数据集质量,也许更能强化模型的准确率和效率,于是,他们利用高质量数据训练出了 phi-1 模型。在测试中,phi-1 的分数达到 50.6%,比起 1750 亿参数的 GPT-3.5(47%)还要好。

▲ 图源 Arxiv

微软表示,phi-1 接下来会在 HuggingFace 中开源,而这不是微软第一次开发小型 LLM,此前,他们打造一款 130 亿参数的 Orca,使用了 GPT-4 合成的数据训练而成,表现也同样比 ChatGPT 更好。

目前关于 phi-1 的论文已经在 arXiv 中发布,可以在这里找到论文的相关内容。

关键词:

责任编辑:hnmd004

最新资讯

主站蜘蛛池模板: 四虎影视成人永久免费观看视频 | 被群cao的合不拢腿h纯肉视频 | 国产成人精品一区二三区 | 中文乱码字慕人妻熟女人妻 | 亚洲欧美v国产一区二区 | 国产精品沙发午睡系列 | 亚洲 高清 成人 动漫 | 扒开双腿猛进入喷水免费视频 | 哈尔滨老熟女啪啪嗷嗷叫 | 天天狠狠色综合图片区 | 男女一级免费视频 | 国产精品后入内射日本在线观看 | av无码精品一区二区三区四区 | 永久免费无码网站在线观看个 | 亚洲特黄 | 欧美综合图区亚洲综合图区69 | 国产精品资源网站在线观看 | 东北老女人高潮大叫对白 | 午夜小视频网站 | 亚洲国产成人精品女人久久久 | 亚洲情xo亚洲色xo无码 | 国产精品无码制服丝袜 | 国产精品视频久久 | 一级毛片一级毛片一级级毛片 | 国产高清久久99 | 自拍偷拍3 | a级国产片在线观看 | 国产av夜夜欢一区二区三区 | 中文字幕视频在线播放 | 国产精品久久久久国产精品三级 | 四虎在线观看 | 国产福利视频深夜福利 | 2020国产精品亚洲综合网 | 中文成人无字幕乱码精品区 | 久久久久在线视频 | 日本一级毛片毛片一级毛片 | 男女一边桶一边摸一边脱视频免费 | 久久久久国产精品免费看 | 青春草国产成人精品久久 | 一本一道av无码中文字幕麻豆 | 欧美一区二区久久精品 |