开源|Sherlock:实时监控LLM API流量与令牌消耗的终端仪表盘工具
thinkindev • 2026-01-28
2900 views
近日,开发者jmuncor在GitHub上开源了一个名为Sherlock的工具,它是一个专门用于拦截和可视化大型语言模型API流量的中间人代理。该工具源于开发者对Claude Code等AI开发工具实际API通信内容的好奇心。Sherlock部署在用户的LLM工具与API服务之间,能够实时捕获所有请求,并通过一个动态更新的终端仪表盘展示关键数据。其核心功能包括实时可视化令牌使用量的增长、追踪API调用成本、辅助调试提示词、以及监控上下文窗口的使用情况。所有捕获的提示词和请求数据都会自动保存为Markdown和JSON格式,便于后续分析与审计。该工具的出现,反映了开发者在日益复杂的AI应用开发过程中,对透明度、成本控制和调试效率的迫切需求,为AI开发者提供了一个深入洞察模型交互内部机制的重要窗口。
核心要点
- Sherlock是一个开源中间人代理工具,用于实时拦截和监控LLM应用的API流量与令牌消耗。
- 工具提供实时终端仪表盘,可视化令牌使用、追踪成本、调试提示词并监控上下文窗口。
- 所有请求和提示词会自动保存为Markdown和JSON文件,旨在提升AI开发的透明度和调试效率。