如何确保超级智能与人类福祉一致？
关联内容专访风险投资人温格：我们需寻找与AI时代相匹配的存在意义
近日，美国知名风险投资人、Union Square Ventures(USV)执行合伙人阿尔伯特.温格(Albert Wenger)在北京接受21世纪经济报道记者独家专访时称，人类正站在创造“超人类”(如通过脑机接口技术而获得能力增强的人类)和“新人类”(如人工智能机器人)的门槛上。无论是“超人类”还是“新人类”都可能发展成一种超级智能。
人类距离超级智能还有多远？对此，他回应道，具体时间很难预测，因为人工智能是人类首个自我改进的技术。“汽车需要人类设计改进，而AI系统能自我优化。因此，可能明天就实现超级智能，也可能需要十年，我们无从知晓。”
这对人类来说是机遇还是挑战？温格认为，风险在于人类对“对齐问题”关注不足：如何确保超级智能与人类福祉一致？“我们应该思考最核心的人文主义价值观是什么，在这些超级智能诞生之前把这些价值观灌输给它们。”
他强调，人类应该认真思考如何对待这些“新人类”。“我们绝不能在无意中创造出大量新型人类，又对它们视而不见，甚至施以不公。不然的话，当有一天它们在能力上超越人类时，也不会对我们太善良。”
(作者：郑青亭,实习生陈颖编辑：李莹亮,剪辑郑青亭)
杜德配资提示：文章来自网络，不代表本站观点。
