防人工智能背叛人类 谷歌微软等巨头决心联手合作
2016-09-05
人工智能越来越进步,机器人的时代已然来临。然而,从电影《2001:太空漫游》到《黑客帝国》,科幻作家们不断提醒人类要警惕人工智能,因为它们随时有可能背叛人类甚至毁灭人类。
为了消除这种担忧,《纽约时报》指出,Google 母公司 Alphabet、Facebook、微软、IBM 和亚马逊这 5五家在人工智能积极布局的科技巨头已打算为人工智能制定一套成熟的道德标准。
就在最近,这五家公司共同举行了一场会谈,讨论人工智能在劳动市场、交通和战争等方面的道德伦理标准。他们还打算成立一个相关的行业协会,目的是确保人工智能有利于人类而不是伤害人类。
而这些讨论来得及阻止人类被人工智能所统御呢?
今年 6 月举办的 Code Conference 上,特斯拉和 Space X 的创始人伊隆·马斯克就曾警惕,按照人工智能的发展,未来人类在智力上将被远远抛在后面,并沦落为人工智能的宠物。
去年 7 月,马斯克还资助了未来生命研究所(Future of Life Institute) 1,000 万美元,该机构主要评估和分析人工智能带来的风险。
随后史蒂芬·霍金也在一场电视节目里声称矽谷某处的一些实验室正在醖酿一个邪恶的计划,而人工智能将会以比人类更快的速度进化,它们的目标是人类无法预测的。
“一旦机器达到了一种可以自我进化的关键阶段,我们就无法预测它们的使命是否和人类一样了。”霍金说。
对此,谷歌董事长 Eric Schmidt 回应,人工智能将会以人类的福祉为发展方向,而且将会有一个系统来组织人工智能向不对的方向发展。“我们都看过那些科幻电影。”他说:“但是在现实世界中,人类肯定知道如何在人工智能变得危险的时候关闭掉它的系统。”
不仅是科技公司和民间组织想要让人工智能在道德和法律上走向正规化,政府机构也参与到了这场讨论中。今年 5 月,美国政府在西雅图举办了第一次关于AI法律法规的白宫探讨会。
本次探讨会的主题是“政府应不应该对人工智能进行管理”,但会议并没有就此议题得出结论,更不用说发布具体的监管措施了。