世界互联网大会官网发布大会成果之一《发展负责任的生成式人工智能》研究报告及共识

11月9日，世界互联网大会官网发布大会成果之一《发展负责任的生成式人工智能》研究报告及共识。

发展负责任的生成式人工智能应始终致力于增进人类福祉，坚持以人为本，推动人类经济、社会和生态可持续发展。应正确认识生成式人工智能所蕴含的巨大潜力和可能风险，遵循统筹发展和安全、平衡创新与伦理、均衡效益与风险的理念，推动生成式人工智能负责任的发展。一方面，应积极推动创新、可持续、包容开放的发展，提升生成式人工智能算力高效、数据高质、算法创新、人才多元、生态开放的能力；另一方面，以高度负责任的态度发展可靠可控、透明可释、数据保护、多元包容、明确责任、价值对齐的生成式人工智能。积极倡导并稳妥推进生成式人工智能的可持续发展。一是保证经济可持续性。应确保生成式人工智能提高生产力和创造就业机会，提高资源使用效率，实现数实融合的循环经济，推动科技创新，促使经济结构向更高附加值的转变；二是保证社会可持续性。应确保生成式人工智能公平与平等的使用，实现全社会对其的共享共治；三是保证环境的可持续性。生成式人工智能的发展应实现对于自然资源的可持续管理和使用，鼓励采用绿色能源驱动基础设施、提高能源转化效率、绿色开发算法模型应用，降低温室气体排放，实现绿色发展。构建有益于生成式人工智能健康有序发展的良好环境。一是建立和完善相关的伦理原则和法律法规，重点审视知识产权法律制度，探索人工智能生成物的权利归属方案，对其进行恰当的管理和保护。二是构建包容、扶持、前瞻、可预期的政策环境。为前沿应用孵化构建一个包容的创新环境，为规模推广营造一个优良的营商环境，为赋能经济社会发展搭建一个稳健的监管环境。三是加强国际交流与合作。生成式人工智能的发展需要全球各利益相关方秉持共商共建共享理念，以开放协作态度和举措，开展跨国家、跨领域、跨文化交流与协作，推动形成具有广泛共识的国际评测及标准体系，确保各国共享生成式人工智能的技术惠益。提升生成式人工智能研发及规模应用的能力。一是构建开放共享、普惠包容的算力资源。应推动算力的合理分配与高效利用，降低科技创新的门槛，确保不同地区、不同规模的企业及个人都能获得必要的计算资源。二是推动负责任的数据共享。应鼓励推广高质量数据的共享流动，增强公共数据资源供给，保障数据安全共享与合规利用，提升各领域数据治理水平。三是完善算法创新的设施条件。应前瞻谋划、统筹布局各类平台和开放共享服务网络建设，鼓励算法和基础模型在安全的基础上开源开放，加强跨行业、跨领域协作，推动产学研结合，形成算法创新的良性生态。四是全面加强人才能力建设。针对从业者，应建立人才交流平台，促进互学互鉴与知识共享，设计并实施涵盖多层次、多领域的教育培训项目，增进不同领域技术供需双方的交流与学习。针对公众，应加强科普、教育及培训，提供准确认知，提升数字素养，促进生成式人工智能的普遍接入。五是推动重点领域应用赋能。推动生成式人工智能与各行业数字化场景深度融合，实现应用迭代创新，促进生成式人工智能技术成果在重点领域的应用赋能。发展安全可靠的生成式人工智能，确保全生命周期内可控地运行。一是提升安全稳健性和生成准确性。增强生成式模型防御提示攻击、注入攻击等能力，不断提高稳健性和抗干扰能力。探索内容生成可控的技术或解决方案，确保生成的信息内容尽可能准确。二是确保人类知情与控制。确保人类知悉其在与生成式人工智能交互，确保生成式人工智能系统可被人类监督和及时接管。三是避免技术滥用与恶意使用。避免用户过度依赖生成式人工智能，减轻其对人类创新力与主体性的负面影响。避免故意或非故意地使用生成式人工智能伤害社会与公众利益。增强生成式人工智能系统的透明度与可解释性，提升人类对其理解和信任。一是提升透明度，鼓励在安全的基础上披露生成式人工智能系统的能力及局限性，以及决策过程及技术意图；建立外部监督与反馈渠道，并不断做出改进。二是增强可解释性，推动生成式人工智能的可解释性研究，探索自适应场景和风险水平的强可解释性技术路线，增进人类信任，提升应用接受度。强化生成式人工智能数据治理，加强数据安全，尊重和保护个人隐私。一是强化数据治理，避免训练数据的非法收集、滥用和泄漏等问题，采取有效措施提高训练数据质量。二是加强个人信息与隐私保护。生成式人工智能训练数据涉及个人数据时应依法获得用户知情和同意，确保生成内容不侵犯个人隐私。三是探索隐私保护技术，在构造生成式人工智能系统时，探索使用隐私计算等技术，防范数据泄露及滥用风险。确保生成式人工智能的开放包容和公平普惠。一是确保技术多元包容，保障生成式人工智能的训练数据、应用场景具有必要的多元性，避免产生对特定群体或个人的偏见或歧视。二是促进技术公平普惠，降低生成式人工智能的成本和使用门槛，提升其可得性和易用性，推动人类社会共享生成式人工智能带来的益处，促进社会公平和机会均等，弥合数字鸿沟。明确生成式人工智能的归责体系，增强系统可追溯性。一是明晰归责体系，科学设计不同类型主体在生成式人工智能设计、训练、优化、部署、应用等全生命周期的权利义务和归责体系，确保在损害发生时可问责；二是构建追溯机制，鼓励成立并完善人工智能伦理委员会，确保决策过程及结果可追溯；三是探索治理沙盒等创新友好型治理工具体系，为生成式人工智能提供试错空间，支持负责任的创新探索。推动生成式人工智能更好地理解人类意图、遵循人类指令并符合人类的伦理道德。一是探索价值对齐研究，加强生成式人工智能价值对齐理论探索、技术研究和工具研发，提升人类设计、理解和监督生成式人工智能模型的能力；二是提升价值对齐技术，提升生成式人工智能的训练数据质量，采取人工或自动化检测、红队测试、水印标记、内容过滤等手段，增强其与人类价值的一致性。