使用隐语SPU框架实现大模型安全推理-吴豪奇

下载 3

示说网官方

发布于

485

人观看

#信息技术

吴豪奇-蚂蚁集团隐语算法专家、隐语开源SPU Maintainer

蚂蚁集团隐语算法专家，专注AI算法安全，主要负责隐语密态引擎SPU研发，提交隐私计算相关发明专利十余项。复旦大学软件工程硕士，主要研究方向为安全。

分享介绍：

大模型研究如火如荼，在对话领域取得了显著进展，然而其实际落地，如提供推理服务和对话接口（如ChatGPT），存在潜在的数据泄露风险。针对此问题，蚂蚁集团隐语SPU团队基于安全多方计算（MPC）实现了SPU密态计算引擎，为保护数据、实现隐私保护的大模型安全推理提供了可行解决方案。本次演讲将分享基于SPU实现大模型安全推理的具体流程，以及后续的性能优化方法。

3点赞

0收藏

3下载