复旦MOSS团队：MOSS参数规模约是ChatGPT的1/10

MOSS与ChatGPT相比，有哪些主要差异？复旦大学计算机科学技术学院邱锡鹏团队表示，最大差异还是参数规模。ChatGPT的参数量多达1750亿个，而MOSS的参数量比其小一个数量级，大约是前者的1/10左右。我们选择百亿规模这样级别的参数，是因为学术界主要是做一些探索性的技术，这个规模也在财力物力承受范围之内。我们认为在这个参数级别上，这些模型也能涌现出一定的智能能力，我们也能赋予它们对话的能力。实验结果证实了我们的猜想，MOSS模型可以非常顺利地与人类进行聊天互动。（澎湃新闻）