世界卫生组织今天发布了一份新的出版物，强烈呼吁加强对医疗行业使用人工智能的监管，以防止人工智能的滥用。
这份出版物突出强调，必须建立安全有效的人工智能系统，迅速向有需要的人群提供适当的系统，并促进利益攸关方之间的对话，包括开发人员、监管机构、制造商、卫生工作者和患者。
随着可用的医疗数据不断增加以及分析技术的快速发展，世卫组织认识到人工智能有潜力通过加强临床试验来改善健康结果，改进医疗诊断、治疗、自我保健和以人为本的护理，并补充卫生保健专业人员的知识、技能和能力。
世卫组织总干事谭德塞表示：「人工智能为健康带来了巨大希望，但也构成了严峻挑战，包括不道德的数据收集、网络安全威胁以及放大偏差或错误信息等。」
为了响应各国在负责任地管理快速崛起的人工智能卫生技术方面的需求，世卫组织强调了透明度和文档记录、风险管理以及外部验证数据的重要性。
谭德塞补充说：「这一新指南将支持各国有效监管人工智能，最大限度地降低风险，同时利用人工智能的潜力，比如在治疗癌症、检测结核病等方面。」
然而，在使用健康数据时，人工智能系统可能访问敏感的个人信息，因此需要强大的法律和监管框架来保障隐私、安全和诚信。
欧洲的《通用数据保护条例》和美国的《健康保险流通与责任法案》等复杂法规提出了许多挑战，重点是了解管辖范围和同意要求，以保护隐私和数据。
世卫组织表示，人工智能系统非常复杂，不仅依赖其构建代码，还依赖其训练所用的数据。加强监管有助于管理风险以防人工智能放大训练数据中的偏差。
人工智能模型可能难以准确体现人群的多样性，从而导致偏差、不准确甚至失败。为了降低这些风险，法规可以用来确保报告训练数据所涉人员的性别、种族和民族等属性，并有意使数据集具有代表性。
报告强调，承诺保证数据质量，对于确保人工智能系统不会放大偏差和错误至关重要。
