近日,拜登政府正式发起行动,征求公众意见,以建立人工智能的监管框架。
美国商务部国家电信和信息管理局(NTIA)希望通过AI审计、评估、认证和其他工具建立公众对人工智能的信任。其中,需要评估AI系统要求的认证类型,使用的数据集和数据获取方式,如何进行审核和评估,开发者应该选择的AI设计,以及公众在发布AI模型之前应该获得的保护。
负责通信和信息的助理商务部长艾伦·戴维森(Allen Davidson)在宾夕法尼亚州匹兹堡的一次活动中表示,“就像财务审计为企业建立对财务报表的信任一样,人工智能的问责机制可以帮助确保人工智能系统值得信赖。真正的问责制意味着实体对它们向世界发布的内容负责。”
此外,全球其他国家对AI监管的趋势,包括意大利临时禁止ChatGPT,威胁对OpenAI罚款,加拿大和英国都在加强对生成性AI的监管。最终,建立一个可信的人工智能系统将是至关重要的。
值得一提的是,中国国家互联网信息办公室近日发布了《生成式人工智能服务管理办法(征求意见稿)》公开征求意见通知。根据网信办的说法,希望发布生成式人工智能产品的公司必须在向公众发布模型之前通过安全审查。其中提到,AI生成的内容应当真实准确,并采取措施防止虚假信息的产生;提供者应对生成性人工智能产品的预训练数据的合法性和训练数据源的优化负责。