第三财经网 2024-10-19 14:40 313
全球人工智能发展如火如荼，但相应的风险管控却显得滞后。在首尔举办的第二届人工智能安全峰会上，25位顶级AI科学家，包括Geoffrey Hinton、Andrew Yao和Dawn Song等，于《科学》杂志联名发声，警告全球应对AI威胁的准备不足。他们强调，各国领导人亟需采取紧急措施，以应对可能在短期内出现的超越人类的通用人工智能（AGI）系统。
科学家们提出，目前的政策讨论和初步指导方针不足以匹配AI可能带来的快速变化。牛津大学的Philip Torr教授指出，从口头支持到实际行动的转变刻不容缓。论文中，他们建议建立快速响应风险的专家机构，加强人工智能的安全审查，并要求公司确保其系统无害。此外，政府应扮演监管主角，对强大AI系统实行许可制度，限制其自主性，并在必要时叫停开发。
在这次峰会上，科技巨头微软、亚马逊和OpenAI等签署了一项历史性的安全协议，承诺发布安全框架，遇到高风险时启用“紧急停止”机制。同时，加州大学伯克利分校的斯图尔特·罗素教授强调，政府应当严格监管，而非依赖行业的自我约束，因为高级AI系统的影响远非儿戏。他反驳了“监管阻碍创新”的观点，认为人工智能领域的监管力度相比其他行业仍显不足。
热门文章
