查看“︁OpenAI/GPT”︁的源代码

GPT（Generative Pre-trained Transformer）是[[OpenAI]]开发的一系列[[大型语言模型]]，基于[[Transformer]]架构，通过海量文本数据预训练与微调实现自然语言生成。主要用途包括文本创作、对话、代码生成、翻译等。2018年发布GPT-1，参数量1.17亿；2019年GPT-2达15亿参数；2020年GPT-3提升至1750亿参数，支持零样本与少样本学习；2022年推出ChatGPT（基于GPT-3.5），2023年发布多模态GPT-4。