作者:马蕊蕾编辑:陈彩娴大模型的安全研究,没有赶上 AI 的发展速度。7 月微软蓝屏事件,像是新老交替之际的一记警钟。每一项新技术的发明,都伴随着一种新责任的出现。假使 AI 集成到每个应用,那么发生在微软的蓝屏事件,同样也会成为 AI 潜在的危险。“大模型能力的提升并不能代表它的安全也能得到改进,大家还是要有意识的发
6 月 10 日消息,谷歌今天发布新闻稿,宣布推出 Secure AI Framework(SAIF),确保在安全的概念框架下,让机构负责任地部署人工智能技术。谷歌表示 SAIF 框架基于软件开发过程中现有的成功案例,结合了对人工智能系统特有的安全大趋势和风险的理解。该框架侧重于降低人工智能系统中模型盗窃、数据中毒、恶