生成式人工智能的技术局限和伦理风险
自ChatGPT 面世以来，生成式人工智能成为人工智能领域发展的热点。生成式人工智能技
术的基本形态，是采用海量数据来训练人工智能大模型，使其学会人类的语言文本和图像视频
的统计模式后，能够在用户给出提示指令后，自动地生成所需的数字内容。与传统人工智能局
限于分类、识别等特定功能相比，生成式人工智能更关注创造性内容的生成，展现出前所未有
的文字对话、文档撰稿、代码编写、图片创意、语音合成和视频生成等多样性的能力。
生成式人工智能技术综合了 60 多年来人工智能的研究成果，特别是最近 10 年来深度学习
的技术突破。首先，能够从海量的语料数据中学习人类知识，熟记文本、语音、图像、视频等
内在规律与统计模式，自动生成用户所需的新文本、图片、声音和视频。其次，实现了大模型
的基于大量数据的训练学习通用特征与在特定任务上进行微调以优化性能的学习模式，并能够
接受人类反馈进一步强化学习。不但可以记忆通用的人类知识，还可以持续学习专业的知识与
技能，并在人类的奖励指导下，输出符合人类道德和法律约束的内容。最后，具备多模态数据
的融合机制，动态融合文本、语音、图像、视频等数据，不仅能够生成更为丰富多样的数字内
容，而且通过语音、手势、面部表情等的识别，支撑实现 AI 像人一样与人类交流互动。总
“ ”之，生成式人工智能已经展现出了多模态、通用化的认知和交互智能，表现出 由专到通 的强
大能力，在自动化文档生成、自动化编程、智能客户服务、供应链管理、产品研发、智慧教育
和智慧医疗等多个领域展现出极大优势，因而成为诸多领域的热门应用。
虽然这两三年来生成式人工智能展现出了前所未有的认知和多模态交互能力，但是其内在
局限日益凸显，如何继续深入推进生成式人工智能技术发展，使之能够真正广泛落地应用，成
为人们关注的焦点。
首先，生成式人工智能所依赖的大模型在精准的认知理解和逻辑推理方面存在明显局限。
一方面，由于大模型的幻觉现象问题，容易输出事实性错误的内容。另一方面，大模型的内容
生成本质上属于概率统计性的词汇预测，所以它无法像人类一样完成长链条的动态逻辑推理。
这两个方面的问题意味着很难将生成式人工智能直接嵌入实际业务。因此，如何面向落地场景
的需要，消除生成式人工智能的认知幻觉，提升或弥补其逻辑推理能力就成为其进一步发展的
关键问题。
其次，生成式人工智能面临着规模提升效益瓶颈。在大模型研发中，模型的性能提升和模
型参数规模之间满足幂律关系，即模型规模越大，输入的训练数据越多，模型预测能力就越
强。因此，不少企业认为只要继续扩大模型规模，就能够在不远的将来实现通用人工智能。但
是，一方面，近 5年来大模型的参数规模呈现指数级增强趋势，对智能算力的需求与日俱增，
最大模型 GPT-4 的参数规模已经到了万亿级别，需要上万张 GPU 卡的集群进行数月的模型训
练和参数调优。而一些企业还在扩大GPU 集群规模，正在投资建设 10 万张 GPU 卡，乃至百万
张GPU 卡的规模。构建和运行如此大规模的智算集群，需要克服集群供电和散热等能耗难
题。另一方面，高质量和高密度数据语料库也将成为制约模型规模继续扩大的因素。众所周
知，大模型的性能提升需要大量的高质量训练语料，目前语料库主要来自互联网公共领域数据
的汇集。有报告指出，预计到 2028 年大模型训练将耗尽所有互联网公共数据资源，大模型增
长不可避免地遭遇数据危机。为此，需要面向垂直领域，深度挖掘私域数据，扩大高质量数据
共享，以支撑大模型更好适应垂直领域的需求。
由此可见，如果生成式人工智能企图单纯以扩大模型规模来实现绝对通用的智能模型，无
论是在技术上还是在经济成本上，都不是可持续的技术路线。需要面向垂直领域的业务逻辑和
落地场景，有针对性地在业务流程中发挥大模型的长处，弥补其不足，以通专结合的技术路
线，实现大模型在产业上的广泛落地与价值赋能。具体地说，就是瞄准领域的重点和难点需
求，构造各种各样的专业小模型，与基座大模型相结合，打造领域适配的专业智能体，实现生
成式人工智能对现有系统的赋能与升级。
生成式人工智能的发展使得相关的伦理安全风险日益突出，大模型认知能力的涌现和内在
缺陷给人工智能的社会治理带来了更多挑战。首先，基于大模型的生成式人工智能系统缺乏可
“靠的安全护栏，很容易因受到攻击而输出敏感信息或是价值观错误的内容。由于大模型的 算
”法黑箱 特征，其功能与行为的可解释性和透明性都是需要深入研究的难点问题。其次，生成
式人工智能广泛应用带来的各类衍生风险层出不穷，最突出的是深度合成内容的治理问题。大
模型生成的各类数字内容与人类创造的内容相比，很多时候已经到了真假难辨的程度，给网络
诈骗和虚假内容传播等提供了新的技术手段。为此，急需系统地推行内容标识、水印验证等，
建立可行的 AI 内容溯源管理平台，以确保健康的数字生态环境。最后，生成式人工智能研发
与应用的敏捷治理将走向系统化和法治化。目前国内外都在积极制定生成式人工智能的法律法
规制度，希望既有效地防范这一新兴技术带来的各类潜在和现实风险，又能够促进和规范这一
技术的健康发展。为此，分级化的敏捷治理成为当前研究的热点，通过设置训练算力阈值，把
治理的重点放在超大规模神经网络模型的研发和服务上，而对海量中小规模模型的研发活动采
取简便的敏捷治理模式，从而实现新技术发展进步和有效治理的平衡。
（作者系北京航空航天大学人工智能学院教授）
吴文峻
摘要：
展开>>
收起<<
自ChatGPT面世以来，生成式人工智能成为人工智能领域发展的热点。生成式人工智能技术的基本形态，是采用海量数据来训练人工智能大模型，使其学会人类的语言文本和图像视频的统计模式后，能够在用户给出提示指令后，自动地生成所需的数字内容。与传统人工智能局限于分类、识别等特定功能相比，生成式人工智能更关注创造性内容的生成，展现出前所未有的文字对话、文档撰稿、代码编写、图片创意、语音合成和视频生成等多样性的能力。 生成式人工智能技术综合了60多年来人工智能的研究成果，特别是最近10年来深度学习的技术突破。首先，能够从海量的语料数据中学习人类知识，熟记文本、语音、图像、视频等内在规律与统计模式，自...
相关推荐
-
CA6140车床滤油器体工艺及夹具设计（CAD图纸+说明书）
2022-10-10 413 -
齿轮轴的加工工艺与工装夹具的设计（滚齿及铣键槽夹具设计+PROE三维+说明书）
2022-10-13 357 -
阀盖零件的机械加工工艺规程及4-Φ14H8工艺装备设计(机械毕业设计+说明书+CAD）
2022-11-02 170 -
钻孔组合机床设计(机械毕业设计+说明书+全套CAD）
2022-11-10 305 -
Z3032摇臂钻床壳体工艺路线拟定及夹具设计(机械毕业设计+说明书+全套CAD）
2022-12-15 232 -
主轴箱加工工艺及专用夹具设计(机械毕业设计+说明书+全套CAD）
2023-02-03 304 -
转速器盘零件机械加工工艺规程及机床夹具设计(机械毕业设计+说明书+全套CAD）
2023-02-03 309 -
机床主轴箱齿轮加工工艺及夹具设计机械毕业设计
2023-02-06 376 -
+工艺-“填料箱盖”零件的工艺规程及钻孔夹具设计
2023-07-19 150 -
CA6140车床后托架加工工艺及夹具设计
2023-07-19 171
作者：闻远设计
分类：其它行业资料
价格：5光币
属性：2 页
大小：9.15KB
格式：DOCX
时间：2024-12-06
