当生成式AI（AIGC)成为日常工具，虚假信息、隐私泄露、算法偏见等伦理风险也随之而来。当前对这些风险的研究多停留在现象描述，缺乏系统性梳理，在近日召开的中国科技传播论坛妇女科技传播专题论坛中，上海交通大学媒体与传播学院助理研究员陶婷婷老师的研究针对相关问题构建了全面的伦理指标体系，列出风险图谱，并给出治理方案。

打破主观局限：科学的伦理指标体系如何建成？

会议中陶婷婷老师指出既往依赖专家判断的研究方式容易存在片面性，生成式人工智能科学的伦理指标体系搭建遵循四大核心步骤，并以程序正义、全面性、科学性为基本原则，摆脱了传统专家调查法的主观局限，具体建成逻辑如下：

（1）初步构建：从算法程序识别风险

将生成式AI的算法流程拆解，对流程中的每一个环节进行逐一分析，找出每个步骤里隐藏着的伦理风险——比如数据收集时可能出现虚假信息的问题，模型训练时会产生偏见的问题。再以这些发现为基础，搭出一个伦理指标的初步框架。

（2）指标完善：数据驱动补充体系

用关键词在学术平台上检索百余篇相关论文。通过LDA主题模型、聚类分析等专业方法提炼核心话题，最后建成包含4个一级指标、31个二级指标的多层级体系，这样能最大程度减少专家主观判断带来的影响。

（3）相关性检验：验证体系科学有效性

将构建的指标体系与论文里的伦理主题做对比，看两者是否符合，有没有遗漏，确保体系的科学性与合理性。

（4）指标赋权：量化指标权重

采用标准化方法计算每个指标的重要程度，完成评估指标体系的赋权，明确权重之后，整个指标体系才完整。

1. 风险图谱分级：这些伦理雷区需重点警惕

根据指标权重，AIGC伦理风险可分为三级，具体包括：

（1）高权重风险

模型的概率性与随机性，会导致虚假内容生成；算法漏洞容易被利用，引发数据泄露；训练数据中的社会偏见被放大，造成歧视；模型可能"记忆"私人数据，引发隐私泄露。

（2）中权重风险

生成内容难以契合特定文化与社会价值观；数据获取可能涉及版权侵权；容易被滥用于生成违法有害内容；高算力消耗带来大量能源浪费与碳排放。

（3）低权重风险仅能整合现有信息，难以实现真正创新；少数企业掌握核心技术，形成技术垄断；过度依赖技术，人类技能可能退化；自动化应用引发失业与经济不平等问题。

3.双线治理：技术防线+社会监督筑牢伦理底线

针对上述风险，陶婷婷老师提出"技术治理+社会治理"的综合治理方案，双管齐下化解危机：

（1）技术治理：从源头规避风险

通过机器遗忘技术让AI模型"删除"敏感数据，用虚拟内容替换真实的敏感信息；利用生成检测技术区分哪些是AI生成内容，哪些是真实数据；借助数字水印与区块链技术明确内容归属；通过生成归因技术追溯数据来源与模型该承担的责任；推行绿色编码，减少能源消耗与碳排放。

（2）社会治理：构建多方监督体系

保留人工审核环节，标记过滤有害信息；技术应用前需经过多个领域的伦理评估；由独立机构对生成式人工智能从开发到应用的全流程监管；明确开发者、使用者等各方责任，确保过程透明、符合规矩。

结语：

生成式AI的快速发展不应以牺牲伦理为代价。这一涵盖指标体系、风险图谱与治理路径的研究，为生成式人工智能的健康发展提供了科学指南。当技术进步与伦理规范并行，人工智能才能真正成为推动社会进步的正能量。

编辑：彭湘荃