智源发布大模型全家桶及全栈开源技术版图!院长王仲远:人工智能应采取统一模型范式
作者:admin 发布时间:2024-06-14 15:54 分类:资讯 浏览:20 评论:0
新浪科技讯 6月14日下午消息,第六届“北京智源大会”在中关村展示中心开幕。智源研究院院长王仲远介绍了智源研究院在语言、多模态、具身、生物计算大模型的前沿探索和研究进展,同时宣布推出智源大模型全家桶及全栈开源技术基座新版图。
据介绍,针对大模型训练算力消耗高的问题,智源研究院和中国电信人工智能研究院(TeleAI)基于模型生长和损失预测等关键技术,联合研发并推出全球首个低碳单体稠密万亿语言模型 Tele-FLM-1T。该模型与百亿级的52B版本,千亿级的102B版本共同构成Tele-FLM系列模型。
针对大模型幻觉等问题,智源研究院自主研发了通用语义向量模型BGE(BAAI General Embedding)系列,基于检索增强RAG技术,实现数据之间精准的语义匹配,支持大模型调用外部知识的调用。自2023年8月起,BGE模型系列先后进行了三次迭代,分别在中英文检索、多语言检索、精细化检索三个任务中取得了业内最佳表现,综合能力显著优于OpenAI、Google、Microsoft、Cohere等机构的同类模型。
此外,为了实现多模态、统一、端到端的下一代大模型,智源研究院推出了Emu3原生多模态世界模型。Emu3采用智源自研的多模态自回归技术路径,在图像、视频、文字上联合训练,使模型具备原生多模态能力,实现了图像、视频、文字的统一输入和输出。
王仲远表示,现阶段语言大模型的发展已经具备了通用人工智能非常核心的理解和推理能力,并且形成了一条以语言大模型为核心对齐和映射其他模态的技术路线,从而让模型具备了初步的多模态理解和生成能力。但这并不是让人工智能感知、理解物理世界的终极技术路线,而是应该采取统一模型的范式,实现多模态的输入和输出,让模型具备原生的多模态扩展能力,向世界模型演进。
王仲远认为,“未来,大模型将以数字智能体的形态与智能硬件融合,以具身智能的形态从数字世界进入物理世界,同时,大模型这一技术手段可为科学研究提供新的知识表达范式,加速人类对微观物理世界规律的探索与研究突破,不断趋近通用人工智能的终极目标。”(文猛)
相关推荐
你 发表评论:
欢迎- 资讯排行
- 最新留言
-
- 傻逼,标题狗,你怎么不死呢
- 亲爱的朋友:您好!中国各地出现了新冠变种毒株JN.1,传播速度比原来的XBB变种加快七到八倍,对免疫逃脱能力也进一步加强,最新的疫苗对它没有保护力,各地死亡人数在持续攀升,很多病患突然猝死。古今中外的预言也说了这几年人类有大灾难,如刘伯温在预言中说 "贫者一万留一千,富者一万留二三”,“贫富若不回心转,看看死期到眼前”, 预言中也告诉世人如何逃离劫难的方法,真心希望您能躲过末劫中的劫难,有个美好的未来,请您务必打开下方网址认真了解,内有躲避瘟疫保平安的方法。网址1:https://d1u7crz1a1vl7x.cloudfront.net/23gj 网址2:bitly.net/xbbbx 网址3:https://github.com/19920513/www/blob/master/README.md?saa#1