向立瑶

上海创智学院全时导师

上海交通大学副教授

领域方向：大模型与算法

研究围绕人工智能数据隐私与资产保护展开，取得了如下突破：解决了高维高阶数据上差分隐私机制带来的精度大幅下降问题，根据数据结构特性构造的差分隐私新机制提升了模型训推精度高达70%；针对个人信息收集应用中隐私泄露检测精度与效率难平衡的挑战，提出了基于赋值流图的分析方法，构建大规模隐私泄露检测工具揭示了15万个小程序的隐私泄露模式；通过假设检验等统计工具展示了差分隐私黑盒审计中由于有限采样导致小概率事件估计不准，因而广泛存在的漏洞。与工商银行、华为合作，成功研发并落地了“基于TEE和重排的大模型问答隐私保护方案”，构建了隐私保护增强的的用户问答服务，并已成功应用于工商银行手机银行APP的智能向导功能，系统日均活跃查询量突破10万次；与中国电信天翼视联合作，实现了一套基于多模态模型的隐匿查询系统，在保护查询目标与返回结果隐私的前提下完成高精度模型检索；与蚂蚁国际合作，在基于大模型的智能客服助手上实现水印方案，用于生成内容源头追溯。