人形机器人半马冠军的“同胞兄弟”亮相深圳文博会北京展区

以大模型为核心的生成式人工智能（AIGC）正在加速融入商业场景(chǎngjǐng)，但过程中所引发的伦理问题也(yě)日益凸显，特别是在算法“黑箱(hēixiāng)”、数据滥用、责任逃避等方面呈现出明显的市场驱动特征，亟须制度性治理，以应对新型技术性(jìshùxìng)市场失灵。 笔者整理了商业化背景下，AIGC伦理风险的表现(biǎoxiàn)： ——数据要素(yàosù)产权尚不明晰(míngxī)，诱发数据滥采与(yǔ)技术“黑箱”。数据这一核心数字生产要素尚未实现明确的确权与合理定价机制，平台企业可(kě)通过模糊授权、跨平台抓取等手段低成本攫取用户数据，而用户对数据缺乏掌控权。在此结构性不对称(duìchèn)下，AIGC产品借助SaaS模式广泛嵌入业务流程，算法逻辑高度封闭不透明，形成技术“黑箱”，用户在不知情(bùzhīqíng)的情况下被动(bèidòng)贡献数据，知情权和选择权未能有效保障。 ——企业(qǐyè)治理结构(jiégòu)相对滞后，加剧(jiājù)伦理边界退缩。部分企业仍延续传统工业逻辑，以利润与规模为导向，尚未将伦理治理充分纳入企业战略，或被边缘化、或流于形式。在商业化压力驱动下，一些企业选择在敏感(mǐngǎn)领域应用AIGC技术，如用于深度伪造、情绪(qíngxù)操控、消费诱导等，操控用户决策甚至影响公共认知，虽有短期收益，却破坏(pòhuài)长期社会信任与伦理秩序。 ——监管规则尚不(bù)完善，导致治理空窗(kōngchuāng)与责任真空。现有监管体系在权责划分、技术理解与执法(zhífǎ)手段上尚未能完全适应AIGC快速演进，使部分企业得以在监管盲区内推进业务。当生成内容引发争议时，平台常以“技术中立”“非人为(wèi)控制”为由规避责任，形成社会风险与经济利益失衡的局面，削弱(xuēruò)了公众对治理机制的信心。 ——算法训练机制存在偏差(piānchā)，固化偏见与价值错位(cuòwèi)。企业出于效率与经济性考虑，往往采用历史数据进行模型训练，若缺乏偏差控制机制，易导致算法输出固化偏见。在广告推荐、人才筛选、信息分发等环节中，这类(lèi)偏差可能进一步强化标签化倾向，影响特定群体权益(quányì)，甚至引发社会(shèhuì)价值认知偏离。 ——社会认知基础薄弱(jīchǔbóruò)，助推伦理风险外溢。多数用户对AIGC技术的工作原理及其潜在风险缺乏了解(liǎojiě)，难以识别虚假信息与潜在引导行为。教育、媒体与平台等多方未能形成合力推进伦理素养普及，使得公众(gōngzhòng)更易陷入误信误导，为AIGC滥用提供了低阻力环境(huánjìng)，风险迅速蔓延(mànyán)至公共舆论与认知安全层面。 那么，该如何完善伦理(lúnlǐ)风险治理制度设计，确保科技向善呢？ 笔者认为，破解AIGC商业化应用中的(de)伦理风险困境，需要从产权制度、企业治理、监管体系、算法机制及公众素养等多维度入手，构建覆盖前中后全(quán)流程、点面结合(diǎnmiànjiéhé)的系统性治理架构，实现伦理风险的前瞻性(qiánzhānxìng)预警与结构性缓释。 首先，建立数据(shùjù)(shùjù)产权与定价机制，破解数据滥采与技术“黑箱”。应加快推动数据要素确权(quèquán)立法，明确数据的所有权、使(shǐ)用权(shǐyòngquán)和交易权边界，保障用户“数据知情—授权—撤回—追溯”的完整权利链条；建设统一的数据交易平台与明示定价机制，使用户能够主动管理和定价自身数据；推动平台披露算法运行机制或提供可解释性披露，并建立信息(xìnxī)来源标注机制，提升AIGC运行的透明度与用户的感知能力。 其次，改革企业治理结构，嵌入伦理责任与(yǔ)价值导向。建议将(jiāng)AI伦理治理纳入企业战略议题，设立算法伦理委员会与道德责任官，强化从组织结构层面对伦理的内嵌(nèiqiàn)化管理(guǎnlǐ)；建立“技术伦理评估”前置机制，在产品设计和部署前进行伦理影响评估，确保价值取向合理、安全边界明确；引入(yǐnrù)伦理审计制度，并(bìng)将伦理实践纳入ESG绩效考核体系(tǐxì)；鼓励头部平台发布伦理实践报告，形成行业示范效应，引导企业实现“向善创新”。 再次，强化跨部门(kuàbùmén)协同监管，缩小治理空窗与责任(zérèn)(zérèn)模糊地带。应尽快建立跨部门监管协调机制，共同组成AIGC综合治理(zōnghézhìlǐ)小组(xiǎozǔ)，统筹推进法规制定与执行落地；加快出台生成内容识别、数据(shùjù)权属界定、算法责任归属等专项法规，明确平台在生成内容中的主体责任；对AIGC生成内容可设“可推定责任”原则(yuánzé)，即平台无法证明无过错即需承担相应责任，防止企业借“算法自动生成”之名规避治理义务，建立事前预防、事中监管与事后问责相结合的全链条治理体系。 同时，完善训练数据(shùjù)治理规则，消解算法偏(piān)见与价值错位。应由权威第三方主导建立公共训练语料库，提供(tígōng)多样、可信、经过审核(shěnhé)的语料资源(zīyuán)供企业使用，提升基础数据的伦理质量；强制企业披露(pīlù)训练数据来源、去偏技术及价值审核流程，并设立算法备案机制，强化外部监督；推动企业在算法目标中引入公平性、多样性等多元(duōyuán)指标，改变目前以“点击率”“停留时长”为主的单一商业导向，构建价值均衡的AIGC应用逻辑。 最后，还要提升公众数字素养(sùyǎng)，夯实(hāngshí)共识型伦理(lúnlǐ)(lúnlǐ)治理基础。应将AI伦理与(yǔ)算法素养教育纳入中小学与高校课程体系，支持媒体、行业协会与公益组织等社会力量参与AI伦理治理，通过设立“公众技术观察团”“伦理风险报告窗口”等方式，推动民间(mínjiān)监督常态化；鼓励平台建立伦理科普与风险提示机制，对AIGC热点应用及时发布技术解读与伦理指引，缓解公众焦虑，增强社会整体对AIGC的识别与防范能力(nénglì)。 生成式人工智能的商业化应用，是技术进步与经济(jīngjì)发展融合的重大机遇(jīyù)，亦是对伦理(lúnlǐ)治理体系的严峻考验。唯有以系统治理理念统筹发展与规范，强化制度设计与责任落实(luòshí)，方能在推动技术创新的同时守住伦理底线，培育安全、可持续、可信赖的数字经济生态。 （作者：李大元系中南大学(zhōngnándàxué)商学院教授，苏亚系中南大学商学院博士(bóshì)研究生）