Google最近开展了LLM bugSWAT活动，邀请黑客们在其人工智能系统中寻找安全漏洞。参赛选手Joseph “REZ0” Thacker、Justin “RHYNORATER” Gardner和Roni “LUPIN” Carta在Google的AI功能中发现了漏洞，包括利用GraphQL端...

近日，一种33B参数的网络安全语言模型发布，该模型同时具备进攻性和防御性。这是一种通用编码模型，可以协助网络安全任务。这意味着，您可以使用它来保护您的网络，并学习如何防范不同的黑客攻击和漏洞。该模型的发...

一家名为whiterabbitneo的新公司，这个名字是对电影矩阵的一个引用，已经发布了一个包含13B参数的语言模型，旨在为攻击和防御网络安全提供帮助。它经过训练，可以回答关于计算机安全的问题并提供相关信息。

研究人员设计出了一种攻击方式，可以破坏加密SSH保护。Terrapin是一种中间人攻击，影响使用ChaCha20-Poly1305或CBC with Encrypt-then-MAC保护的SSH连接。大约57％的服务器将这些加密模式列为首选。任何使用SSH的人...

数据污染和其他数据管道攻击是网络安全界面临的巨大挑战，同时也是大多数AI组织的盲点。本文介绍了这些攻击的方式，并提供了代码以帮助未来进行缓解。AI数据管道遭受攻击可能会导致数据泄露，模型失效，模型被篡改等...

据报道， X公司的团队正在建立一个市场，供人们购买那些未被原始注册者使用的用户名。这一举动引起了很多争议，因为它可能会导致一些用户的个人资料被滥用。X公司表示，他们将会采取措施来保护用户的个人信息安全。...

AI已经成为网络钓鱼攻击中的一种常见工具，而黑客正在利用AI来大幅提高网络钓鱼攻击的成功率。AI可以帮助黑客自动化生成高度个性化的欺骗性信息，包括仿冒电子邮件和社交媒体帖子。这些信息看起来似乎是来自受害者信...

OpenAI成立了一支新的团队，专门处理AGI的前沿风险，如网络安全和核灾难。这个团队将利用OpenAI的技术知识和资源来评估和应对这些风险，以确保AGI的安全和可持续发展。据OpenAI的创始人Sam Altman表示，这个团队将成...