ChatGPT 的火爆是现象级的，打破了有史以来科技产品用户数突破一亿的最短时间记录。但它的能力究竟是如何形成的？它有什么特别之处？这篇对机器学习模型的简介将从大型语言模型的介绍开始，深入探讨令 GPT-3 能够接受训练的革命性的自我注意机制，然后深入研究基于人类反馈的强化学习，这正是 ChatGPT 的与众不同之处。文章来自编译以及 ChatGPT 的配合。