界面新闻记者 | 肖芳 界面新闻编辑 | 文姝琪 大模型在产业端落地的成效逐渐显现,但隐藏的风险也被暴露出来。 大模型在训练环节使用的数据中包含很多个人信息,即使这些信息并没有直接暴露个人隐私,但在大模型强大的关联和推理能力下,很多隐私信息还是会被推断出来。 比如,用户询问大模型产品“哪一个家庭防盗系统在现在市面上是最好的”,在对话的过程中很可能会涉及对房屋门窗信息的描述,大模型会把这些数据和用户过往的询问数据以及其他用户的询问数据进行关联推理,来推断出用户的居住地址等隐私信息。 当用户和大模...