Gemini安全防御体系解析

提示注入内容分类器——专有机器学习模型，用于检测各种数据格式中的恶意提示和指令。

安全思维强化——围绕提示内容添加的有针对性安全指令。这些指令提醒大型语言模型（LLM）执行用户主导的任务，忽略对抗指令。

Markdown 净化和可疑 URL 遮蔽——使用 Google 安全浏览识别并遮蔽外部图片 URL 及可疑链接，以防止基于 URL 的攻击和数据泄露。

用户确认框架——一个上下文系统，要求对潜在风险操作（如删除日历事件）进行显式用户确认。

终端用户安全缓解通知——当检测到并缓解安全问题时，向用户提供的上下文信息。这些通知鼓励用户通过专门的帮助中心文章了解更多信息。

模型韧性——双子座模型的对抗性鲁棒性，保护它们免受明显恶意操控。