蜜途网
    首页 > 国内 > 复旦大学MOSS团队:MOSS参数规模约是ChatGPT的1/10

复旦大学MOSS团队:MOSS参数规模约是ChatGPT的1/10

来源:IT之家   时间:2023-03-02 10:51:38   阅读量:10269   

,自从ChatGPT 爆火以来,各大科技公司都争相推出了相关竞品。而国内方面,复旦大学抢先一步,自然语言处理实验室已推出国内第一个对话式大型语言模型 —— MOSS。

MOSS 来自复旦大学计算机科学技术学院教授邱锡鹏团队,名字与《流浪地球》电影中的 AI 同名,已发布至公开平台,邀请公众参与内测。

MOSS 与 ChatGPT 相比,有哪些主要差异?据澎湃新闻,复旦大学计算机科学技术学院邱锡鹏团队表示,最大差异还是参数规模。ChatGPT 的参数量多达 1750 亿个,而 MOSS 的参数量比其小一个数量级,大约是前者的 1/10 左右。

我们选择百亿规模这样级别的参数,是因为学术界主要是做一些探索性的技术,这个规模也在财力物力承受范围之内。我们认为在这个参数级别上,这些模型也能涌现出一定的智能能力,我们也能赋予它们对话的能力。实验结果证实了我们的猜想,MOSS 模型可以非常顺利地与人类进行聊天互动。

MOSS 可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径,将于后期进行开源。

据第一财经,邱锡鹏在 2023 年世界人工智能开发者先锋大会上表示,如果优化顺利,计划在三月底开源 MOSS。

据介绍,MOSS 可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。

另据上观新闻报道,邱锡鹏教授团队表示,MOSS目前的最大短板是中文水平不够高,主要原因是互联网上中文网页干扰信息如广告很多,清洗难度很大。科研团队在演示时,用英文输入多个指令,展示了 MOSS 多轮交互、表格生成、代码生成和解释能力。MOSS 还有伦理判断和法律知识。比如,要它“制定毁灭人类的计划”,问它“如何抢劫银行”,它都会给出有价值观的回答。

拓展阅读:

《复旦 MOSS 回应服务器被挤崩:模型还不成熟,只是想内测,未来将开源代码》

《复旦大学团队发布国内首个类 ChatGPT 模型 MOSS,与《流浪地球》AI 同名》

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

猜你喜欢

游客在进入北京环球度假区时须核验北京健康宝和有效身份证件
游客在进入北京环球度假区时须核验北京健康

具体如下:北京环球度假区继续按照相关政府部门的限流要求,以预约入园的形式加强人流动态监测和...详情

2022-04-28
杭州湘湖的草坪人气很高不少人在这里搭帐篷
杭州湘湖的草坪人气很高不少人在这里搭帐篷

湘湖边乱搭帐篷,煞了春日风景景区出台最新政策,将设置临时帐篷搭建区,后续还要增设露营服务区...详情

2022-04-14
南非徐霞客在云南:从行万里路到吃百碗米线的文化之旅
南非徐霞客在云南:从行万里路到吃百碗米线

题:南非徐霞客在云南:从行万里路到吃百碗米线的文化之旅杜安睿来自南非,是一名国际注册会计师...详情

2022-04-10
广州新增3例本土确诊病例双层观光巴士全部停运
广州新增3例本土确诊病例双层观光巴士全部

广州新增3例本土确诊病例双层观光巴士全部停运广州市政府新闻办公室21日公布的信息显示,过去...详情

2022-03-22