日裔英国作家石黑一雄新作《克拉拉与太阳》的故事进行到一半的时候，初见人工智能机器人“克拉拉”的海伦小姐说了这样一句话，“我从来不晓得该怎样跟你这样的客人打招呼。说到底，你究竟算不算客人呢？还是说，我应该当你是台真空吸尘器？”
　　在这位关注当下数字生活的重量级作家笔下，人工智能（AI）已经聪明到什么程度？几近为人的机器人被设计出来，目的是给儿童带来陪伴，它们的身份界于导师、保姆或朋友之间。那个时空里，机器人替人擦窗、洗碗、除草的功用早已不值一提，它们需要帮助人类解决更深层次的情感需求，但过程注定困难重重。
　　人性之复杂善变，时刻考验人工智能机器人的理解能力，克拉拉们需要花时间把控这一切，去适应人是复杂的混合体这件事儿。与去年英国作家麦克尤恩所著《我这样的机器》里看清人性真相后绝望自毁的机器人不同的是，石黑一雄的克拉拉最终走向被新机替代淘汰的命运。
　　宽容无私且具备完全的自我牺牲精神，是两位作家笔下机器人主人公的共同点，小说里，它们都是人类按照“完人”的道德标准设计而成，存在的目的即照顾好人类，从而与复杂的人类自身形成鲜明的对比关系。
　　但值得一提的是，就“没在小说里展现机器人角色可能的负面部分”，作家本人其实是非常警惕的，石黑一雄在近日接受媒体采访时表示，要警惕AI所能进入的新的维度，“剑桥分析数据门事件里，特朗普选举操纵的还只是数据，但假如AI懂得如何操纵人的情感，它就不仅能操纵政治选举，甚至可以创造选举。比起人类政治家，它会更精准地知道这个社会的愤怒、戾气、挫败感来自哪里，可以如何操纵和利用”。
　　现实生活总比小说落后一个步伐，也许，拥有一个可信的、智慧的类人体的愿望，实现起来不会像我们许多人想象的那样快。但毫无疑问的是，科学将走得比小说更远，科幻、小说里的场景，很有可能在5到10年内真正出现在我们的生活中。抛开虚构的作品不谈，仅仅是目前的现实里，我们已经置身于一个“算法无处不在”的世界。
　　因为人工智能的应用，一些重复性的劳动可以不再需要手工耗费人力;算法可以帮我们过滤垃圾信息，推荐可能喜欢的歌曲，购买心仪的产品;疫情以来，人工智能在辅助医疗诊断与新药研发等方面崭露头角，无人物流配送等也为不便出行的人们提供了安全又高效的物资供应;众车企人员纷纷研发无人驾驶汽车，期待着公路不再拥堵的那天……
　　但与此同时，人工智能及其应用的负面影响与伦理问题也日益凸显。比如无人驾驶领域，当真正投入使用后也会面临“电车难题”。虽然28年前人工智能就已经在围棋中战胜了人类最优秀的选手，但这并不意味着人工智能就已经超越人类的智力，因为封闭的围棋系统毕竟和复杂开放的现实生活不同，想要人工智能真正嵌入人们的生活并能行稳致远，必先将其关进“笼中”，套上伦理与规则的枷锁。

人工智能or人工智障

　　清华大学交叉信息研究院助理教授吴翼去年年末曾在一席演讲中展示自己参与研发的一款游戏项目，大致内容是在一个构建的虚拟世界里放两个小人，分别叫小蓝和小红，小蓝的角色是“躲”，小红的角色是“捉”。利用强化学习法，研究人员让小蓝和小红每天玩上百万次捉迷藏游戏，让它们在上百万次捉迷藏中不断改进自己，改进策略，变得更强。

　　强化学习法：用来解决智能决策问题的算法框架，强化学习算法的核心就是让这个AI不停地跟环境交互，不停地试错，不停地改进自己，慢慢得到越来越多的分数

　　项目过程中，吴翼和他团队里的成员惊奇地发现了AI的“聪明”，为了达到各自的目的，小蓝和小红相继学会了“套路和反套路”，比如为了躲避小红，小蓝先是学会用箱子把门堵住，而在被小蓝堵在门外很久后，小红发现了可以爬梯子的策略，之后小蓝就开始藏梯子，小红随之“发明”站到箱子上找到小蓝……
　　没有任何的人工干预，仅仅是给机器一个任务，然后让它自己在处理大量数据和信息的过程中（人类几千年的任务，他们可能只要几分钟）中学会一件事情，AI就能够发现一些人类想不到的行为和策略，甚至发现一些bug，然后利用这些bug做一些天马行空的行为。而让人感到神秘的是，人类并不理解它们到底是怎么学习、怎么完成任务的。
　　AI已经如此聪明了，是否意味着人类的运气已经用完？人工智能会挑战人类的控制能力，世界将进入新的存在论呢？
　　答案是否定的。原因就在于现有人工智能技术的能力边界——封闭性上。据《方圆》了解，现有人工智能技术仅在满足强封闭性准则的条件下，才可发挥其强大功能（围棋就是最直接的例子）。而在非封闭的场景中，现有人工智能技术的能力远不如人类。毫末智行首席运营官COO侯军进一步解释，“现有人工智能已经在‘听、说、看’等感知智能领域达到或超越了人类水准，但在需要外部知识、逻辑推理或者领域迁移的认知智能领域还处于初级阶段”。
　　吴翼在演讲中举了这样一个例子，“假设你家里有一个非常听话的机器人，有一天你去上班了然后跟機器人说：‘我上班去了，你帮我照顾孩子，中午给他做饭，不能饿着孩子。’然后到了中午，小孩跟机器人说我饿了，机器人收到了这个信号，就去做饭了。但机器人打开冰箱一看，不好，周末没买菜，冰箱里什么都没有，那怎么办？这时候机器人头一转发现了你家的猫——一个充满蛋白质和维生素的可食用物体。”
　　这个看起来简直“人工智障”的故事，恰恰说明了AI与人最大的不同。“人的价值观是特别复杂的，你几乎是不可能把你关心的方方面面都明明白白写下来，然后全部告诉AI的。我自己都不能很自信地说我完全了解我自己，怎么告诉AI呢？这是很难的。”吴翼这样说。