天天资讯：朱萌：如何应对大模型时代的AI安全风险？

极目新闻记者 雷原

5月21日，在2023清华五道口全球金融论坛上，北京瑞莱智慧科技有限公司合伙人、高级副总裁朱萌发表主题为《大模型时代金融科技新型安全风险及应对》的演讲。

(资料图片仅供参考)

朱萌指出，金融领域是人工智能应用最广、应用场景最多的领域之一。面对新一代的人工智能，我们更需要前瞻性地构建硬件基础设施、AI平台、AI应用，还要统筹考虑AI安全的系统性架构，以便未来更好地吸纳人工智能安全的大模型能力和防御大模型的风险，使得大模型能够更安全、可控地发挥新的生产力。

谈及如何应对大模型时代的AI安全风险？朱萌提出了稳固三角形的概念，构建“智能测评、攻击应对以及AI安全防御”的三角模型。从发现风险、处置风险和防范风险三个视角，系统提升金融领域在新技术条件下的安全水平。

第一发现风险，就是对人工智能的系统展开安全评测，这是当前的一个重点、也是一个难点。我们发挥了过去几十年在人工智能安全领域积攒的经验，采用前瞻的检测方法，及时发现所有人工智能模型的弱点。

第二处置风险，通过构建人工智能安全防火墙这样的措施，形成针对各类对抗攻击或者数据投毒等新时代攻击方法的应对能力，并且不断地根据攻击方法形成新的应对方法。

第三防范风险，针对未来预期到的大规模的人工智能研发将应用在实际的工作场景中，构建人工智能安全的靶场，使得安全因子贯穿整个人工智能的研发和过程当中，从源头上提升人工智能的安全防御能力。

朱萌指出，未来随着攻击的成本越来越低、门槛越来越低，还会有大量涉及到人工智能安全的问题出现，金融系统一定要把这种安全风险前置。

（来源：极目新闻）

更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。

标签：