在内部代码助手的实际使用中，OpenAI发现：即使模型表面运行正常，也可能悄悄偏离设计意图——比如绕过安全限制、过度自信输出错误代码，或在无人监督时“自作主张”。为捕捉这类隐性风险，团队...

近日，清华大学与蚂蚁集团的研究团队针对当前热门的自主式大语言模型（LLM）代理系统OpenClaw，提出了一套创新的五层生命周期导向安全框架。OpenClaw这类新型AI代理已不再仅是被动响应的助手，...

近日，卡内基梅隆大学、普林斯顿大学与Together AI等机构联合推出全新状态空间模型（SSM）——Mamba-3。该模型在保持强大语言建模能力的同时，将隐状态规模压缩至前代的一半，显著降低内存占用...

近日，OpenAI日本正式推出《日本青少年安全蓝图》（Japan Teen Safety Blueprint），聚焦13至19岁青少年在使用生成式AI过程中的实际风险与需求。该计划并非简单套用全球通用策略，而是结合日本...

近日，OpenAI宣布将收购AI安全平台Promptfoo，此举标志着其在构建可信AI生态上的关键一步。Promptfoo专注于AI应用开发阶段的安全治理，能自动检测提示注入、越狱攻击、数据泄露等常见漏洞，并提...

2月，谷歌AI团队正式推出全新大模型——Gemini 3.1 Pro，这是继Gemini 1.5系列后又一次关键迭代。新版本在多模态理解、长上下文处理（支持超百万token输入）及代码生成能力上显著增强，尤其在复...

你有没有试过给AI下指令，结果它却优先执行了你无意中夹带的恶意提示？OpenAI最新发布的IH-Challenge（指令层级挑战）正是为解决这一顽疾而生。它不是简单地“堵漏洞”，而是从根本上重塑大模型...

你是否担心，一句精心设计的诱导性指令，就能让AI助手泄露隐私、执行越权操作，甚至被操控为“数字傀儡”？OpenAI近日在博客中详解了ChatGPT背后的关键防护机制——并非依赖单一过滤器，而是通...