继微软、谷歌之后,脸书(Facebook)母公司Meta(Nasdaq:META)也加入AI军备竞赛。
当地时间2月24日,Meta官网公布了一款新的人工智能大型语言模型LLaMA,从参数规模来看,Meta提供有70亿、130亿、330亿和650亿四种参数规模的LLaMA模型,并用20种语言进行训练。
Meta首席执行官马克·扎克伯格表示,LLaMA模型旨在帮助研究人员推进工作,在生成文本、对话、总结书面材料、证明数学定理或预测蛋白质结构等更复杂的任务方面有很大的前景。
(相关资料图)
怎么理解人工智能大型语言模型的参数?
据悉,AIGC(利用人工智能技术来生成内容)形成的学习能力在一定程度上取决于参数的规模。Open AI推出的ChatGPT是通过其AI大模型GPT-3的基础上通过指令微调后得到的,参数量达1750亿,谷歌推出的Bard使用的是轻量级LaMDA模型,相比标准版本,轻量化版本模型所需要的运算能力较小,能面向更多使用者开放,使其参与体验,有报道指出LaMDA模型参数量在1370亿。百度文心大模型参数量达到2600亿,阿里则表示,从过往实践来看,其具备支撑超万亿参数大模型研发的技术实力。
Meta此次推出的大模型实力如何呢?
Meta首席AI科学家杨立昆(Yann LeCun)表示,在一些基准测试中,LLaMA 130亿参数规模的模型性能优于OpenAI推出的GPT3,且能跑在单个GPU上;650亿参数的LLaMA模型能够和DeepMind 700亿参数的Chinchilla模型、谷歌5400亿参数的PaLM模型竞争。
法新社称,按照Meta的表述,LLaMA是一套“更小、性能更好”的模型,且不同于谷歌的LaMDA和OpenAI的GPT机密训练资料和演算,LLaMA是基于公开资料进行训练。
Meta在官网表示,在大型语言模型中,像LLaMA这样的小型基础模型是可取的,因为测试新方法、验证他人的工作和探索新用例所需的计算能力和资源要少得多。基础模型基于大量未标记的数据进行训练,这使得它们非常适合于各种任务的微调。与其他大型语言模型一样,LLaMA的工作原理是将一系列单词作为输入,并预测下一个单词以递归生成文本。
Meta称将致力于这种开源模型的研究,新模型会开源给整个AI研究社区使用,并授予大学、非政府组织和行业实验室访问权限。另外,Meta表示其还有更多研究需要做,以解决大型语言模型中的偏见、有害评论等风险。
Meta披露的2022年第四季度财报显示,该公司已连续第三个季度出现营收同比下滑,四季度营收312.54亿美元,同比下降4%。广告为Meta的支柱业务,为第四季度的总营收贡献超97%,报告期内,尽管广告展现量增长了23%,但单位广告价格下滑了22%。
截至美东时间2月24日,Meta股价跌0.96%报170.390美元/股,总市值4418亿美元。
关键词: 马克扎克伯
相关文章
-
突然,“泽连斯基现身巴赫穆特”
-
中字头股票震荡走高-环球消息
-
石港镇开展夏季安全生产检查专项行动 焦点速读
-
6月验房:郑州富田九鼎公馆三号院(毛坯) 环球观热点
-
世人叫我天海面具该我来掩埋是什么歌
-
别墅被侵占拍剧房主索赔300_别墅被侵占拍剧房主索赔300万
-
一顿小龙虾下肚,15岁男孩过敏性休克!万幸,倒下时正在医院就诊
-
【雷锋就在身边】王佳:为纳税人提供优质服务
-
即时看!查获走私牛百叶265.4公斤
-
当前热门:索泰推出三款 GeForce RTX 4060 8GB 显卡
-
国网蒙城县供电公司:开展节日期间“酒后上岗”专项督查
-
迎峰度夏|娄底变电检修公司对电网设备进行全面“体检” 天天速
-
北摩高科06月26日被深股通减持7.66万股
-
涉企纠纷“一网通办”!洛阳出台措施优化法治化营商环境
-
每日动态!合肥哪所白癜风医院好-很长久的白癜风病该如何治疗?
-
高考如何填志愿选专业?专家建议主要看这四点
-
广州机电高级技工学校(芳村大道东)怎么样(广州市机电高级技工学
-
不存在这4所高校!河南省教育厅发布重要提醒
-
环球快消息!都兰县:“三步曲”练就干部过硬政治素质
-
考古人员发现唐长安城西郊目前最早壁画墓
热点图集
-
1播报:6月27日连豆早盘上涨
-
2环球热讯:【光明时评】推动中国制造做优做强
-
32023湖南邵阳市教育局直属学校面向高校毕业生招聘拟聘用人员公示-环球热门
-
4《仙剑》发行商首款印度FPS手游爆火 预约人数破260万
-
5刘弗陵为什么把皇位给刘病已_汉武帝之后谁继位
-
6卢卡申科:瓦格纳组织创始人普里戈任已抵达白俄罗斯
-
7【独家焦点】6月28日~7月10日福星高照,福气旺好事接二连三的生肖!
-
8日盈电子(603286):该股换手率大于8%(06-27)-全球观天下
-
9拉扎德资产管理有限公司(香港)樊功生:此次银行危机更像一次小型经济泡沫|环球快消息
-
10美国防部宣布向乌克兰提供5亿美元军事援助_焦点速递