Anthropic 的研究人员发现了打开AI模型“黑盒子”的方法

目前的人工智能模型常被描述为一个“黑箱”。因为AI 开发者不会为这些系统编写明确的规则，而是通过输入大量数据，系统自己学习识别模式。但模型的内部运作模式和规则无人知晓。

在表面之下，神经网络（今天最强大的 AI 类型）由数十亿个人工“神经元”组成，这些神经元表示为小数点数字。没有人真正理解它们的含义或工作原理。