跳到正文

安全对齐

AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。

2条精选相关主题论文研究政策监管推理能力

最新精选

第 1–2 条 · 共 2 条
9月29日周二
  1. AWS Machine Learning Blog67

    Grok 4.7 上线 Amazon Bedrock，支持 500K 上下文与四档推理力度

    Grok 4.7 现已通过 Amazon Bedrock 上线，提供 500K token 上下文窗口和低、中、高、超高四档可配置推理力度。该模型面向编码、长时运行智能体和知识工作，支持 Responses、Chat Completions 和 Converse API。xAI 称其为最擅长编码和知识工作的模型，强调持久工作与自我校验。

    推荐理由：Grok 4.7 登陆 Bedrock，文章梳理了 500K 上下文、四档推理级别与成本权衡，适合评估长任务智能体工作负载。

5月17日周日
  1. Google DeepMind63

    谷歌扩展内容透明与验证工具，新增AI内容检测API

    谷歌宣布将SynthID和C2PA内容凭证验证能力扩展至Search、Gemini、Chrome和Pixel设备，并在Gemini应用中新增C2PA验证。SynthID已为超1000亿张图片视频和6万小时音频添加水印，验证功能已使用5000万次。谷歌还推出面向企业的AI内容检测API，并与OpenAI、ElevenLabs、Meta等公司合作，让更多平台识别和标注AI生成内容。

    推荐理由：原文说明了水印技术覆盖规模和验证能力从Pixel扩展到搜索与浏览器的落地进度，读者可据此判断内容溯源工具的实际可用范围。