TPU，Tensor Processing ...

在如今的 AI 领域，大多数大语言模型在很大程度上仍以「黑箱」方式工作，即使是专业的研究者也难以完全理解它们的内部计算过程。因此，提升模型的透明度有助于分析和解释大语言模型产生幻觉、行为不稳定或在关键场景做出不可靠判断的潜在原因。

简单来说，在这项研究中，OpenAI研究员们的核心思路是：训练神经元连接少、但神经元数量多的稀疏模型，让神经网络变得简单，也更容易理解。

神经网络是当今最强大AI系统的动力核心，但其内部工作原理依然难以捉摸。我们并非为这些模型编写一步一指令的明确代码，相反，它们通过调整数十亿个内部连接（即“权重”）来自我学习，直至掌握任务。我们设计了训练规则，却无法预知最终涌现出的具体行为，其结果是一 ...