据报道，OpenAI计划在进行漏洞测试和设置安全防护措施后，于今年晚些时候公开发布其文本到视频模型Sora。Sora是一种能够将自然语言描述转化为视频的模型，这项技术在影视制作和游戏开发中有着广泛的应用前景。OpenAI...

Google最近开展了LLM bugSWAT活动，邀请黑客们在其人工智能系统中寻找安全漏洞。参赛选手Joseph “REZ0” Thacker、Justin “RHYNORATER” Gardner和Roni “LUPIN” Carta在Google的AI功能中发现了漏洞，包括利用GraphQL端...

C语言有界模型检查器是一种非常有用的工具，但是在实际应用中却被严重低估。该工具可以帮助开发人员在代码编写过程中发现并解决一些常见的编程错误，例如数组越界、空指针引用等。这些错误在实际应用中可能会导致程...

近日，一种33B参数的网络安全语言模型发布，该模型同时具备进攻性和防御性。这是一种通用编码模型，可以协助网络安全任务。这意味着，您可以使用它来保护您的网络，并学习如何防范不同的黑客攻击和漏洞。该模型的发...

一份在GitHub上公布的AI应用程序漏洞列表显示，已经发现并负责任地披露了多个AI应用程序的漏洞。这些漏洞包括机器学习模型中的数据泄露、对抗性攻击和针对自然语言处理模型的攻击等。该列表旨在帮助AI开发人员和研究...

近日，一份名为AI Exploits的GitHub仓库发布，其中包含了一系列真实世界中的AI/ML漏洞利用案例，以帮助人们更好地了解和防范这些漏洞。这个项目的目标是通过公开这些案例来增加人们对AI/ML漏洞的认识，同时也希望能...

OpenAI的最新GPT接近自主AI代理人的愿景。尽管存在时不时的不准确性等限制，它们能够执行诸如撰写学术论文之类的任务，几乎不需要人类干预。这种AI自主性的飞跃承诺着重大的进步，但也强调了发展的紧迫性，以减轻AI...

最新深入研究揭示了生成式人工智能插件存在的一些新漏洞。在这种情况下，攻击类似于SQL注入，但是攻击者通过感染Google Doc来实现攻击。尽管Google已经解决了这个问题，但安全研究人员还是成功地窃取了其他用户的诱...