“驯服”AI何以可能？

——人工智能时代的展望与对策

　　作者：上海社会科学院软实力研究中心主任、研究员　胡键

　　随着第四次工业革命的到来，人类社会正式进入全新的人工智能时代。作为一种技术，人工智能将会给人类社会带来什么样的影响？围绕这个问题，社会各界有不同的看法，例如“发展论”“被控制论”“毁灭论”“驯服论”等，这些观点显然都是从某一方面对人工智能的影响进行认识。但从科技发展史来看，任何新技术的发明都会产生正反两方面结果，乐观主义者很容易看到技术的积极一面，而悲观主义者往往专注于其消极影响。但无论如何，由于人工智能对人类社会具有颠覆性的影响，这个时代人类社会很可能处于一个最好的时代，也可能是一个最坏的时代；有可能是一个智慧的时代，也有可能是一个愚蠢的时代。

　　一、“我”是谁？AI是谁？

　　我们可以想象这样的一天：“我”被一群人工智能（AI）“人”包围，被他们叫醒起床，他们负责做早餐、打扫卫生、整理草坪等等。与此同时，我们也就输在那一天——我们被人工智能“人”完全包围，成为人工智能时代的少数派；而他们却是时代的多数派。不仅如此，而且“我”的一切生活都被AI精确安排。例如，“我”计划会见一位朋友，AI马上精确运算出朋友今天的安排，空闲时间等，也许还会建议“我”改天拜访；“我”计划去看医生，同样AI也能够测算出“我”病情的严重程度、医生的忙碌程度、去往医院的交通情况等，然后建议“我”是否去看医生和哪天去看医生，等等。

　　这一切表明，“我”已经完全处于确定性之下，不再面临具有不确定性的社会。但这也并不意味着没有风险，相反风险更大了。

　　人类追求幸福并不只关注最终的结果，更享受追求幸福的过程，只有在过程中才能体会到真正的幸福。然而进入人工智能未来时代，“我”的生活变成了简单的起点和终点，没有了过程。这个时代，确定性取代不确定性，人类成为没有幸福体验的物种，这也就是最大的风险。甚至，我们要思考长久下去这种没有幸福体验的人类在智商方面是否会出现“返祖现象”？

　　二、AI可以做什么？“我”能做什么？

　　汽车是无人汽车、下棋是与AI的对弈、工作也完全是AI完成……这一切真的让“我”倍感幸福，“我”根本不需要劳动，似乎来到这个世界就仅仅是为享受人生。就像撰写论文，“我”只要提出理念，AI围绕理念在瞬间就可以完成论文写作；又如文学创作，“我”只要提出主题，AI就可以完成相关主题的文学作品。“我”过去所遵从的“十年磨一剑”将会成为人工智能时代的笑话。

　　这样的情形将使一切工作被人工智能“人”所替代，“我”只是掌控开关，“我”存在的价值逐渐变低。众所周知，人们通过劳动创造了人类生活，也创造了一切价值和社会关系，也就是说“劳动创造了人本身”。未来人工智能时代，劳动逐渐被AI替代，对于人类的“我”来说，劳动也就成为了奢侈品。当今社会，一个人若犯了罪，也许会被判处“劳动改造”，而将来很可能会出现这样一种情形，同样一个人若犯罪，也许被判处“不允许劳动”。如果是这样，人类在肢体活动方面是否也会出现某种“返祖现象”？

　　三、“我”与AI到底是什么关系？

　　“我”掌控人工智能，还是人工智能掌控“我”？人类掌控人工智能“人”，还是人工智能“人”掌控人类？

　　2016年3月的人机大战，阿尔法围棋程序（AlphaGo）以4比1的总比分战胜职业九段棋手李世石。2016年末2017年初，该程序在中国棋类网站上以“大师”（Master）为注册帐号与中日韩数十位围棋高手进行快棋对决，连续60局无一败绩；2017年5月，在中国乌镇围棋峰会上，它与排名世界第一的世界围棋冠军柯洁对战，以3比0的总比分获胜。面对这一切，我们不得不产生这样的忧虑：既然机器人能够战胜棋手，那么AI就有可能在其他方面代替人类，从而成为控制人类的“智能人”或者叫“数据生命体”。这就是技术的异化现象。所谓“异化”，是指人的物质生产与精神生产及其产品变成异己力量，反过来统治人的一种社会现象。技术是人类创造发明的，但技术却成为人类的控制者。为什么会出现技术异化现象呢？原因有三：

　　第一，公利伦理与私利伦理的矛盾。技术发明最初是源于某种公利性质的伦理，即人类不能停留在野蛮时代，人们在劳动中逐渐学会制造工具、更新工具。但人类是分族群、分国家，分为不同的“想象共同体”，而不同的人群、不同的共同体、不同的国家都是有私利的，技术发明与创新最终也就沦为私利的工具，公利伦理最终被私利伦理取代。同时，先进的技术往往被少数人垄断，并用来控制其他弱小的人群、弱小的共同体和弱小的国家。这就会导致技术的异化。

　　第二，制度创新与技术创新之间的矛盾。制度是调整人与人之间关系的契约，技术是处理人与自然之间关系的工具。人类很容易解决改造自然和征服自然的工具即技术创新，但人类却很难设计一套调节人类自身关系的制度。原因之一就在于，制度设计往往受制于设计者的私利，制度最终也会成为私利伦理下的契约关系。但问题的关键是，制度创新与技术创新不是同一群人，也就导致了制度的私利伦理与技术的私利伦理之间的矛盾。技术的异化因制度的缺失而更为严重。

　　第三，社会科学思想创新速度与技术创新速度之间的矛盾。通过比较社会科学思想发展史与科学技术发展史，我们可以发现，科学技术的发展速度远高于社会科学思想的创新速度。

　　例如从18世纪中叶英国工业革命以来的200多年时间里，技术发展不断推陈出新：第一次工业革命使人类进入“蒸汽时代”，英国成为“世界工厂”；第二次工业革命生产力高度发展，人类进入“电气时代”；第三次科技革命以原子能、电子计算机、空间技术和生物工程的发明和应用为主要标志，人类进入“微电子时代”；以人工智能、清洁能源、机器人技术、量子信息技术、虚拟现实以及生物技术为主的全新技术革命即第四次工业革命浪潮，技术的发展更是一日千里、日新月异。相比之下，社会科学思想的创新却严重滞后。我们把镜头拉到公元前500年前后，也就是所谓的“轴心时代”。这个时代在中国、西方和印度等地区均出现了文化突破现象，产生了一批伟大的思想家如东方的老子、孔子等，印度的佛陀（释迦摩尼），古希腊的苏格拉底、柏拉图等。他们对宇宙的本质产生的理性认识所达到的层次之高前无古人，而再看他们以后的2000多年，这些认识也算得上是后无来者。即使是欧洲的“文艺复兴”也不过是在文化长河中激起一阵浪涛，根本就无法达到“轴心时代”的思想高峰。

　　同时，正是缺乏思想的整合发展，技术的发展创新一定程度上也给人类带来了极其悲惨的后果。从第一次工业革命到第三次工业革命，世界大战爆发，人类进行了从未有过的自我杀戮，而技术在其中扮演了非常重要的角色。人类进入第四次工业革命时期，由于没有哲学思想的统合，人与人之间的战争依然存在。而未来更为悲惨的战争可能是人与人工智能“人”之间的战争，技术对人的战争。

　　四、如何协调“我”与人工智能的关系？

　　人类发明某种技术绝对不是要让技术反过来控制人类。

　　技术是由人创造发明的，是人类改造社会和改造自然的产物，客观上来说人类是完全能够驾驭技术的。同时，人工智能AI无论多么先进，但毕竟不可能完全成为肉体的、富有感情的人类。也就是说，AI的先进性完全受控于人类。不过，人类不是用一种技术的“善”去控制另一种技术的“恶”，技术也不可能区分为“善”与“恶”，如果某种技术被赋予了“善”与“恶”的价值，那一定是因为人类自身的价值决定。因此，处理人与人工智能的关系归根到底在于处理人与人之间的关系，也就是要通过制度来进行规训。如果真的是“驯服”“赛维坦”的话，也只能用制度来“驯服”，除此之外没有其他。

　　制度也是人类活动的产物。诚然，制度会因设计者的各种主观因素包括知识水平、环境认知甚至私利等而很难进行顶层设计，尤其是不可变的受到私利伦理的制约，导致制度成为设计者私利的维护工具。但人类是智慧型动物，总会有办法进行纠错，包括制度设计也是一样。在制度创新的过程中，创新型的利益集团最终会占据上风，成为创新性制度的设计者，从而在一定时期内会克服私利并从公利伦理出发进行制度设计。也就是说，制度的私利伦理被有效克服，从而使制度在公利伦理下正常运转。因此，不用过分担心人工智能会摧毁人类。当人工智能在规范制度下正常工作时，那种克服了私利伦理的制度，一定能够带领人类在人工智能的技术条件下重建智慧阳光。

　　（本文为作者在“人工智能与社会影响暨百千万人才工程创新大讲坛”的演讲）