Google最近开展了LLM bugSWAT活动，邀请黑客们在其人工智能系统中寻找安全漏洞。参赛选手Joseph “REZ0” Thacker、Justin “RHYNORATER” Gardner和Roni “LUPIN” Carta在Google的AI功能中发现了漏洞，包括利用GraphQL端...

该项目采用翻译技术，针对多种语言的AI模型中的有害内容问题进行改进，从而提高安全性。由于直接数据缺乏，因此该项目解决了AI模型中的有害内容问题，为该领域的发展提供了新的思路。

近日，Bun TypeScript框架的新成员ElysiaJS在GitHub上线，该框架注重开发体验，采用端到端的类型安全和统一的类型系统。ElysiaJS采用了一种新型架构，允许开发人员在遵循最佳实践的同时灵活地构建应用程序。此外，El...

Drive-WM可以生成高质量的多视角视频，预测未来情景，从而使自动驾驶汽车做出更安全、更高效的驾驶决策。该技术可以根据车辆周围的环境生成准确的预测模型，为自动驾驶汽车提供更高质量的输入数据。此外，Drive-WM还...

JavaScript注册表（JSR）是一个针对TypeScript进行优化的包注册表，仅支持ES模块 - 它适用于Deno和基于npm的项目。相较于npm，JSR有较好的安全性和可靠性。开发者可以使用JSR来安装和管理TypeScript包，同时也能使用...

最近，研究人员开发了一种名为ShieldLM的安全检测器，可帮助大型语言模型遵守人类安全标准，并提供自定义检测和解释决策的功能。该工具可检测模型是否存在安全问题，例如对不同种族、性别或群体的人有偏见，或者可能...

Sam Altman提出的7万亿美元的要求旨在支持推进GPT等生成式AI模型的成本迅速上升，这表明未来迭代的资源需求呈指数增长。这一雄心壮志凸显了人工智能发展的关键时刻，需要平衡快速技术进步和快速推进对安全和社会准备...

GradSafe是一种新的方法，用于检测大型语言模型中的不安全提示，无需进行大量的训练。它通过分析特定参数的梯度，比当前方法更有效地识别不安全的提示。