（来源：MIT TR）在大型语言模型推动 AI ...

在如今的 AI 领域，大多数大语言模型在很大程度上仍以「黑箱」方式工作，即使是专业的研究者也难以完全理解它们的内部计算过程。因此，提升模型的透明度有助于分析和解释大语言模型产生幻觉、行为不稳定或在关键场景做出不可靠判断的潜在原因。

简单来说，在这项研究中，OpenAI研究员们的核心思路是：训练神经元连接少、但神经元数量多的稀疏模型，让神经网络变得简单，也更容易理解。

目前行业里有两种主要思路。一种是让模型自己 “说清楚”，比如我们熟悉的思维链（CoT），就是让 AI 在给出答案的同时，一步步解释推理过程。这种方式很直接，能帮我们快速发现模型的逻辑漏洞，但也有短板 —— 它可能随着模型升级而失效，算不上真正的 ...

【新智元导读】OpenAI的新论文介绍了他们在破解大模型「黑箱」上的一次重要突破，通过训练结构更简单、连接更稀疏的神经网络，为构建既强大又透明的模型提供全新方向。 破解大模型「黑箱」的钥匙找到了？

简单来说，在这项研究中，OpenAI研究员们的核心思路是：训练神经元连接少、但神经元数量多的稀疏模型，让神经网络变得简单，也更容易理解。 OpenAI研究员们认为，推理模型通过思维链展现出的可解释性在短期内非常有价值，能让我们捕捉到模型的“欺骗”等行为。但完全依赖这一特性显然不太可靠，随着时间的推移，这种策略也可能会失效。

由 OpenAI 推出的文本生成模型 GPT-2 最近引发了人们的广泛关注，这种算法不仅在很多任务上超过了此前的最佳水平，还可以根据一小段话自动「脑补」出大段连贯的文本，并模拟不同的写作风格。它看起来可以用来自动生成「假新闻」。 然而这个 GPT-2 模型内含 ...

强化学习是一种重要的机器学习方法，在智能体及分析预测等领域有许多应用。 《Python强化学习实战：应用OpenAI Gym和TensorFlow精通强化学习和深度强化学习》共13章，主要包括强化学习的各种要素，即智能体、环境、策略和模型以及相应平台和库；Anaconda、Docker ...

ChatGPT对开发者吸引后继乏力，OpenAI要搞大动作了！ 据路透社爆料，OpenAI正计划推出一次重大更新，让开发者基于ChatGPT搭建APP的成本一次性缩水95%。 不仅如此，OpenAI还打算推出更多开发者工具，并构建一些“样本APP”，进一步吸引开发者们入驻ChatGPT社区。