听新闻
放大镜
把好生成式人工智能“向上向善”方向盘
2024-08-28 09:53:00  来源:新华日报
 作为引领新一轮科技革命和产业变革的关键技术,以ChatGPT、Sora等为代表的生成式人工智能,不断催生新场景、新业态、新模式和新市场,在科学研究、生产制造、文娱服务、社会治理等众多领域产生了重大影响。与此同时,生成式人工智能给社会治理、伦理道德带来的风险和挑战也引起广泛关注。党的二十届三中全会《决定》指出,完善生成式人工智能发展和管理机制。引导生成式人工智能“向上向善”,在更广泛领域健康发展,成为一个亟待解决的重要命题。

作为人工智能的一个分支,生成式人工智能是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术,能够针对用户需求,依托事先训练好的多模态基础大模型等,利用用户输入的相关资料,生成具有一定逻辑性和连贯性的内容。与传统人工智能不同,生成式人工智能不仅能对输入数据进行处理,更能学习和模拟事物内在规律,自主“生成”新的内容。这种“生成”,将对大众生活、经济发展、社会治理、科学研究等领域的效率、能力、模式、规则等产生积极影响,加速赋能千行百业。近年来,我国生成式人工智能快速发展,新技术不断突破,新业态持续涌现,为经济社会发展注入了强劲动能。

但也要看到,生成式人工智能给经济社会治理带来新的挑战,尤其是在发展过程中的安全问题。比如,生成式人工智能技术可能会被用于制造假信息、假新闻,误导社会舆论;可能被用于伪造视频和图片,实施网络诈骗行为;可能被用于虚假刷单、刷榜和灌水,误导消费者选择,影响市场公平竞争;可能被用于自动化生成大量的数字内容,侵犯他人版权或隐私……因此,在推进生成式人工智能技术发展和创新应用过程中,要及时完善相关规章制度和加强监管保障,做好相关技术风险评估和安全管理。

如何与人工智能“朝夕相处”,拥抱更美好的智能时代?前提就在于把好科学技术的“方向”,坚持“以人为本、智能向善”。习近平总书记指出,“要坚持促进发展和依法管理相统一,既大力培育人工智能、物联网、下一代通信网络等新技术新应用,又积极利用法律法规和标准规范引导新技术应用。”对此,我国已做出不少有益探索:2023年国家网信办会同相关部门发布《生成式人工智能服务管理暂行办法》,明确提出提供和使用生成式人工智能服务,应当遵守法律法规,尊重公序良俗;2023年世界互联网大会正式发布《发展负责任的生成式人工智能研究报告及共识文件》,推动生成式人工智能发展与治理协同共进。

当前全球已进入大模型“后时代”,技术治理的重要性日益凸显,各国都在以“规则之治”护航人工智能健康发展。我们要在创新中治理、在治理中创新,保证技术创新在法治轨道上运行。通过构建人工智能安全治理的政策法规和制度体系,以良法善治实现激励发展与合理规制的有机统一,确保生成式人工智能安全、可靠、可控。人工智能迭代速度很快,处于不断变化之中,必须完善与其发展相适应的科学监管方式,推进生成式人工智能与网络安全、信息安全等领域融合,防范数据泄露、恶意攻击和其他安全漏洞。

推动生成式人工智能健康发展,需要多方协同、共建共治。加强政府主导,建立人工智能监管统筹协调机制,引导行业组织、企业、教育和科研机构、网络平台和有关专业机构强化审慎自律,构建多元主体参与的人工智能安全治理框架和工作体系,加强人工智能全球合作与对话,在规范中实现生成式人工智能技术的“向上向善”。

  编辑:包婧