Anthropic 开源神经网络追踪工具，可生成归因图 6月2日消息，Anthropic公司现已正式开源了其新一代的神经网络追踪（CircuitTracing）工具，旨在帮助研究人员深入解析大模型的内部推理机制。据悉，该工具可生成一系列“归因图（AttributionGraphs）”以展示AI模型处理提示词的具体过程，便于开发者进一步观察、微调模型。此外...
Anthropic 开源“思维追踪”工具，可视化揭秘 AI 内部逻辑 5月30日消息，Anthropic昨日（5月29日）发布博文，宣布推出“思维追踪”（CircuitTracer）开源工具，以图形化方式，追踪并展示AI大语言模型的内部思维过程。该工具通过构建“归因图”（AttributionGraph），帮助研究者可视化模型内部运作，并支持交互式探索。这一项目由An...
