发展人工智能，人类应有风险意识
AlphaGo(阿尔法狗)和中国棋手柯洁之间的人机大战正在进行，柯洁首战即告失利。与此同时，AlphaGo之父杰米斯?哈萨比斯(Demis Hassabis)近日在剑桥大学做了一场题为“超越人类认知的极限”的演讲，演讲中有些内容引起了笔者的关注：以AlphaGo为代表的新一代人工智能可以在不同的环境进行适应和学习，并尽力实现自己要达到的目的。而之前，人工智能的运行环境是既定的；AlphaGo具备了创新能力。创新，哈萨比斯认为就是在已有知识和经验的基础上，产生一种原始的、新的观点。阿尔法狗很明显地示范了这两种能力。
演讲的这些内容比棋局本身更加令人震撼，虽然AlphaGo战胜李世石并领先柯洁，这样的结果就已经非常震撼，并且实际上已经告诉世人，AlphaGo具有超强的学习能力和创新能力，但从AlphaGo研发者口中得到印证和更加深入的阐释，得悉这是研发者主观意图的实现，还是让人产生“一个新的时代来临了”的感慨。
这个新的时代，最大的特点就是人类的智慧不再是独一无二的。之前的人工智能，包括战胜国际象棋大师的deepblue，虽然在记忆、数据储存和分析等方面，具有超强的能力，很多能力也超越了人类，但人类尽可以处之泰然，因为这些能力都是人类赋予的，都是在人类输入的数据、编写的程序之下来运行，再厉害的人工智能，也不具备自主学习和独立思考的能力。离开了人类，这些人工智能什么也不是。
而这正是阿尔法狗让人感到震撼的地方，阿尔法狗不仅具有之前人工智能的所有优点，更为重要的是，能够在不同的环境下进行自主的学习，并且具有独立的判断、思考能力。众所周知，围棋的变化之多，人类既定的程序无法穷尽。人工智能要战胜人类，必须能够自主产生“原始的、创新的观点”，这一点，阿尔法狗做到了，甚至它的一些成功的下法，人类从来没有尝试过。根据哈萨比斯的说法，就是人类独特的、引以为豪的直觉，阿尔法狗也初步具备了。对于阿尔法狗具备的这些能力，笔者并不是感到欣慰，而是多少有些惶恐。阿尔法狗的这种自主学习、独立思考的能力，究竟会发展到什么程度？最后的结局不难想象，这在科幻小说已被多次描述过了。
现在的问题是面对人工智能，人类何去何从？诚然，人工智能会激发人类的潜能。哈萨比斯也指出，阿尔法狗的横空出世，实际上加深了人类对围棋的认识。去年阿尔法狗战胜李世石之后，棋手们已经创造出了之前从未有过的新走法。从这里，我们可以看出人工智能发展对于人类的正面影响，人工智能将促进人类在各个领域更为深刻地认识世界，激发潜能，提升自身的能力，这是最为理想的前景。但前提是人工智能必须在人类的控制之下。不幸的是，这就产生了一个悖论，人类对人工智能的控制越宽松，人工智能发展水平就越高，对于人类的激发和帮助就越大，但风险也就更大，人类对于人工智能的控制越紧密，人工智能对于人类的激发和帮助作用就越小，当然风险大抵也可控。
就目前的发展水平来看，人工智能还是一种技术。人类与人工智能的关系，还属于科技伦理思考的范围，也就是说，人工智能还是人类手中的工具，可以用来行善，也可能被用来作恶。总之，还取决于人类自身。但如果没有风险意识，有朝一日，人工智能变成了人类的“他者”，人类的命运就将受到严峻的考验。尽管这个危机可能出现的临界点，会是在很遥远很遥远的将来，但当下对这个问题进行思考，却并不算太早。
|