nanoGPT

nanoGPT是一个用于训练/微调中型GPT模型的最简单、最快速的存储库。虾皮网编辑。它是minGPT的重写版本，优先考虑了性能而不是教育。虾皮网编辑。目前仍在积极开发中，但目前train.py文件可以在OpenWebText上复现GPT-2（124M）的训练，仅需在单个8XA100 40GB节点上进行约4天的训练。虾皮网编辑。代码本身非常简单易懂：train.py是一个约300行的样板训练循环，model.py是一个约300行的GPT模型定义，可以选择从OpenAI加载GPT-2的权重。虾皮网编辑。因为代码非常简单，所以非常容易根据自己的需求进行修改，从头开始训练新模型，或微调预训练的检查点（例如，目前可用作起点的最大模型是来自OpenAI的GPT-2 1.3B模型）。虾皮网编辑。

打不开【nanoGPT】？

微信/QQ可能屏蔽了“nanoGPT”网站，首先保证网址是从浏览器/手机浏览器打开的，因为微信/QQ会屏蔽一些站；

建议使用不会屏蔽网址的浏览器。如果浏览器提示“nanoGPT”该网站违规，并非真的违规。而是浏览器厂商屏蔽了这个站。推荐原生态不会屏蔽网站的浏览器，例如：夸克、UC等浏览器，苹果可以用自带的浏览器，Alook浏览器、X浏览器、VIA浏览器、微软Edge等；

通常打不开“nanoGPT”都是因为网络问题。优秀的网站会针对三大运营商(电信、移动、联通)进行优化，所以小网站会遇到一些网络打不开。可以来虾皮网寻找关于“nanoGPT”最新网址、“nanoGPT”发布页和“nanoGPT”备用网址等等。

若以上三点均不能解决，您可尝试更改DNS解决