Aguru Safeguard是一款专为大型语言模型（LLM）设计的本地部署软件，它通过提供对LLM行为和性能的深入洞察，帮助用户确保AI应用的安全性和可靠性。该软件能够实时监控LLM的每一个关键方面，从而使用户能够在不可靠行为和安全威胁造成严重后果之前采取及时行动。
Aguru Safeguard的核心功能包括即时警报、详细洞察和敏捷迭代。当检测到潜在异常时，系统会立即发出可操作的警报，所有警报都会被记录到syslog，并可以转发到用户偏好的警报系统，如Splunk或DataDog。此外，用户还可以通过Playground实验特定提示，观察系统如何检测异常，并利用这些洞察来优化和增强AI应用的功能。
要开始使用Aguru Safeguard，用户首先需要下载软件包，该软件包安装于本地，确保数据的私密性和安全性。下载后，用户只需按照README.md文件中的步骤将Aguru Safeguard集成到自己的AI应用中，并通过配置基础设施将LLM流量路由通过反向代理。设置过程无需修改应用代码，确保了完全无风险的配置。
设置完成后，用户可以通过访问 Safeguard的界面，软件将立即开始监控LLM流量并检测任何异常。此外，Aguru Safeguard还提供了LLM Router等其他解决方案，帮助用户理解和优化LLM的性能和成本效率。
随着AI领域和业务需求的快速发展，Aguru Safeguard的路线图也在不断进化，致力于构建解决方案，以应对确保LLM准确性、可靠性、安全性和完整性的最关键挑战。
