一名前OpenAI安全研究员正在警告人们人工智能可能最终导致人类末日的严峻前景。
OpenAI基金会前雇员保罗·克里斯蒂亚诺(Paul Cristiano)在一个播客节目中表示，“我认为人工智能取代人类的可能性约为10-20%，或者说大多数人类已经死亡，因此我们需要非常认真地对待这个问题。”
克里斯蒂亚诺认为机器会逐渐崛起。人类的末日不是突发事件，而是人工智能的逐渐崛起。人类和机器已经通过自动驾驶汽车和无人机渗透到生活中。当AI超过人类智商的门槛，一切皆有可能。
克里斯蒂亚诺认为，AI杀死和毁灭人类最有可能的方式是联合所有部署在日常生活中的AI，而不是突然毁灭人类。
克里斯蒂亚诺的新非营利组织对齐研究中心基于人工智能对齐的概念，早在2018年就被广泛定义为保持机器的动机与人类一致。尽管OpenAI对alignment口惠而实不至，声称它“旨在使人工智能(AGI)与人类价值观一致，并遵循人类意图”，但仍需要更多的研究和开发，以确保人工智能的安全和道德发展。确保机器的动机与人类一致，对于防止人工智能毁灭的可能性至关重要。
本文内容及图片均整理自互联网，不代表本站立场，版权归原作者所有，如有侵权请联系admin#jikehao.com删除。
