7*24 快讯

从理论到现实,ChatGPT用了不到六年

仅仅不足6年时间,ChatGPT走完从理论到现实的历程,其核心催化在于算法+数据+算力的共振。自2017年6月,Google发布论文《Attentionisallyouneed》,首次提出Transformer模型,成为GPT发展的基础;2018年-2020年,OpenAI基于Transformer模型发布多篇论文,并陆续提出GPT-1、GPT-2、GPT-3的三类语言模型,并在2022年2月发布论文《Training language models to follow instructions with human feedback》(使用人类反馈指令流来训练语言模型),公布InstructionGPT模型,随后在2022年11月30日,OpenAI推出ChatGPT模型,并提供试用。(民生证券)