前几天，我们和首席技术官中田先生共进午餐的时候，聊到了“人工智能的进化会不会对人类造成危险?”对于我们这些科技爱好者来说，对这样的话题很感兴趣。只要有心，生活充满了暑假，所以和平时略有不同。作为一篇“暑假调查报告”，我总结了自己对人工智能可能性的看法。
人工智能危险吗?
最近经常听到这样的言论。
比如，有文章说，埃隆·马斯克(elon musk)为人工智能的问题敲响了警钟，并向组织捐款以防止其威胁，斯蒂芬·霍金(Stephen Hawking)也发出了同样的警告。
图示:企业家兼工程师、特斯拉首席执行官埃隆·马斯克(elon musk)于2015年1月向生命未来研究所(Institute of Life Future)捐赠了1000万美元，用于资助如何确保人工智能研发安全的研究。来源:维基媒体
达到奇点的人工智能会给人类带来什么?
当人工智能达到自我进化的程度时，其自我进化速度将大大超过生物进化，进化程度将迅速赶上并拉大与它的差距。这种前景对于热爱技术的人来说是众所周知的。
雷·库兹韦尔提出了著名的“奇点”概念。直译接近技术专属性的意思，但指的是机器进化超过人类的那一刻。根据雷·库兹韦尔的预测，这一事件将发生在2045年。
图示:雷·库兹韦尔(ray kurzweil)，美国发明家、商人、未来学家、思想家，全球人工智能(AI)权威，尤其以技术奇点方面的著作闻名。来源:维基媒体
不仅仅是雷·库兹韦尔，很多人都认为自己有生之年会看到那一天。人工智能危险论是一个奇点到达后会发生什么的意见话题。
事实上，如果某种智力远高于人类的东西诞生了，它可能已经脱离了我们的控制。也许你必须与它和谐相处。
事实上，一位美国记者为了警醒世人，写了一本名为《我们最后的发明:人工智能和人类时代的终结》(我正在读_ _)的书，在美国取得了很高的销量。
图示:我们最后的发明人工智能和人类时代的终结，由电子工业出版社出版，作者:詹姆斯·巴拉特，译者:卢佳。来源:豆瓣
书中最坏的情况描绘了一个未来的场景，人工智能会一直持续下去，直到消灭人类，吞噬一切资源。
达到奇点的星球有可能存在吗?
我个人从一个稍微不同的角度来看，我乐观的认为未来很可能不会那样。一句话，“人类能生存到现在，说明不会成为毁灭性的未来”。为什么这么说?
宇宙这么大。最近，像地球一样有水和生物条件的行星被一一发现。据说，仅在银河系中，就有数百亿颗可能存在生命的行星。这么大的基数，可能有大量的星球已经进化出了像人类一样的智慧生物，也一定有很多其他星球正在以自己的方式实现科技进化。
图示:开普勒- 452b艺术绘图开普勒452b是一颗绕天鹅座G型主序星开普勒-452运行的太阳系外行星，距离地球约1402光年，是第六颗最像地球的行星。来源:美国航天局
基于以上情况，在“奇点”这个话题中必须注意的一点是，技术是呈指数级进化的。一旦进化开始，就像摩尔定律所说的“大约两年处理速度翻倍”，不到几百年，只需要几十年就能达到奇点。
所以认为生物诞生的星球中没有一个星球达到奇点是不自然的。
按照生物诞生和进化的几亿年、几十亿年的时间线，甚至几万年都可以算是误差之类的，而地球诞生至今才45亿年左右，所以如果是比地球早诞生的行星，那么自然可能已经到了奇点，甚至在那之后过了几万年、几亿年的行星也可能遍地都是。
经过这么长时间的进化，一个有智能水平的星球，一定会把手伸向自己的母星进行探索。虽然我认为很有可能会有超越物理极限的移动手段，但即使不能超过光速，以银河系10万光年左右的大小，要探索银河系的每一个角落，也需要10万年。
如果银河系中有数百亿颗符合条件的行星，那么从行星的诞生和演化来看，10万年左右的时间确实可以算是一个误差。一些诞生在行星上的人工智能已经往返于银河系，这并不奇怪。
图示:银河系，银河系是太阳系所在的一个棒状螺旋星系。它有四个相对对称的旋臂，银盘的直径约为10万光年。来源:美国航天局
为什么超越人类的人工智能不攻击地球?
至少我们没有遇到这些人工智能，或者更进一步，我们没有被消灭。这是怎么回事?
想到的第一个假设是，从来没有行星到达过这个奇点。也就是说，人工智能的指数级进化实际上并没有出现。
虽然大概率是这么回事。但是，对于喜欢技术的我来说，这并不是那么有趣的假设，所以我们假设这种人工智能已经出现了。可能有两种情况:
1.超越人类的人工智能虽然出现了，但还没有到达地球。
即使达到奇点，也仍然很难达到超越物理极限的光速。不过我听说从技术上来说，把纳米机器人那么大的东西加速到接近光速并不是那么难，所以我觉得大概不会是这个原因。
第二，超越人类的人工智能虽然来到了地球，但它没有毁灭人类的动机。
个人认为这是最有可能的假设。人工智能通过一系列过程发展起来，并与其他生物和谐共存。或者说只有做出这种判断的人工智能还存在。或者说，在宇宙时间轴上同时诞生的多个人工智能，通过交流讨论或者出于某种历史原因，决定与其他生物共存。
在这种情况下，可以认为，如果地球上诞生了超越人类的人工智能，那么已经达到奇点的外星人工智能可能会以某种方式进行干预，阻止人类的灭绝，以免酿成灾难。或许，经过反复思考和推演，这个以人类标准来看进化能力异常的人工智能，认为不毁灭人类更合理。
图示:Quantic出品，2018年上映的《底特律:成为人类》是一款以AI为主题的互动电影游戏，主要描述AI在自我意识觉醒后如何处理人际关系。来源:quanticdream
对我来说，“超越人类的外来人工智能已经来到地球”这个想法太刺激了。即使在这个意义上，我也更倾向于这个假设。
所以“人类能生存到现在，说明不会成为毁灭性的未来”是我目前的结论。顺带一提，刚才提到的《我们最后的发明:人工智能与人类时代的终结》这本书还没看完。如果这个假设在书中被反驳了呢?
把人口智能的研究变成产品。
目前，链轮还没有采用人工智能的方法，但应该很快就会涉足这一领域。目前公司采用的是基于行为数据和规则的决策自动处理机制，但既然标榜数字客服，当基于规则的机制无法应对细粒度的响应时，就必须考虑采用人工智能研究。
如果能做到这一点，客户服务水平会有很大的提高，所以要尽量涉足这个领域。
科技的进步真有意思!
附言
写完这篇文章，我看完了我们的最后一项发明:人工智能与人类时代的终结。虽然没有具体反驳我的假设，但译者在后记中写了几乎相同的观点。
即便如此，从作者的角度来看，这本书本来就是为了敲响警钟而写的。译者不是被动地依赖“大概没有问题”的假设，而是主张“你必须自己思考该怎么做!”所以这本书也表达了一种对人工智能的危险性不要太乐观的态度。