超人类主义是我们的命运吗?每个人似乎都认同的一件事是，人类在发生风险或面临风险时都会感到害怕。
一位人工智能专家最近在一次研讨会上作了关于人工智能的起源、现状和未来可能的结果的演讲报告。他介绍了人工通用智能(AGI)，并对其何时到来，以及带来的结果进行了探讨。
如今，人工智能不断增加新的功能。行业媒体经常发表一些诸如人工智能如何帮助预测地震，可穿戴式人工智能如何提高人类智能，人工智能技术如何用于3D打印新合金，以及如何改变农业发展等的文章。而对于人工智能即将改变工业和社会这样内容的文章，几乎每天都有发布。
所有这些都源于“狭义”人工智能，其算法虽然功能强大，但只能做一件事。例如下国际象棋、确定石油钻头即将失效的概率，或者将呼叫智能路由到服务中心代理。
虽然狭义的人工智能应用程序看起来很智能，但其功能仅限于其特定的编程。例如，如果要求人工智能数字助理开灯，自然语言处理算法会识别某些关键字，如“lights”和“on”， 然后通过打开灯光进行响应。这似乎是一种类似人类的智能，但这些系统只对程序做出反应。数字助理其实并不明白人们所说的内容。同样，会下国际象棋的人工智能程序无法识别图像，也无法引导人们下棋。
长期以来，人们的目标是将人工智能发展到在功能上等同于人类的程度——它能够像人一样学习和思考，这就是通用人工智能(AGI)。尽管行业专家63年前在达特茅斯会议上讨论过人工智能这个术语，但当时人工智能技术并不存在。正如人工智能专家Smithsonian在一篇文章中所述，“科学家们畅想谈论的是如何建造一台可以思考的机器。”
通用人工智能(AGI)与当今的人工智能截然不同，因为它将具有更多类似人类的特征，并且可以根据需要将知识和技术从一个领域转移到另一个领域。换句话说，通用人工智能(AGI)将能够像人类一样建立联系，学习并概括，获得新的技能。从理论上讲，这可能会使通用人工智能(AGI)能够执行人类可以执行的任何任务。这被人们认为是人工智能发展的最高目标。至少，通用人工智能(AGI)能够将人类思维与计算机令人难以置信的速度结合起来，从而带来诸如即时响应和数字处理等优势。
就像现在人们无法完全理解人类大脑的运作方式一样，开发这项技术的复杂性仍然超出人们的理解范围。有一些人工智能专家认为人工智能将永远无法实现，或者至少在未来一百年以及更长时间内不会实现。然而，一项对于人工智能专家的调查表明，通用人工智能(AGI)有可能在2040年推出。
许多公司正致力于研究和开发通用人工智能(AGI)。例如谷歌公司旗下的DeepMind，虽然目前没有推出广泛应用的例子，但已经开发了早期版本。谷歌公司的人工智能负责人Jeff Dean表示，他们正在研究“可以跨学科工作的人工智能”。那么谷歌或DeepMind公司真的需要20年或更长时间才能开发通用人工智能(AGI)，或者这可能比预期更加接近?这不得而知。
就像所有的技术一样，人工智能来自于人类的思想和集体知识。然而，人类的许多发明创造都来自于洞察力、意想不到的启发、或天才的想法，甚至是机缘巧合的时刻。这可能会为通用人工智能(AGI)取得突破开辟一条路径，但其时间表完全无法预测。
不可避免但不智能
一旦通用人工智能(AGI)推出，人类会发生什么?从弗兰肯斯坦到HAL 9000和终结者，创造意识和高级智能的想法长期以来一直是噩梦。正如神经科学家和哲学家Sam Harris所解释的那样，在这种发展过程中存在着一种潜在的危险。他在演讲中描述了通用人工智能(AGI)是如何不可避免的，虽然人们可能认为这很酷，但应该感到害怕。
Harris补充说，科幻电影《Ex Machina》中描绘的未来的通用人工智能(AGI)往往是有趣、迷人、逃避现实、娱乐的。然而在他看来，当这些情节变成现实生活时，人们用智能机器所取得的成果最终可能会毁灭人类自己。他警告说，到目前为止，人类还不能对未来的危险做出适当的情绪反应。他表示事实上，人类被人工智能所迷惑，就像被火焰吸引的飞蛾，却很少考虑到其行为的含义。正如《纽约客》杂志所指出的，如果宇宙的弧线向足以理解它的智能倾斜，那么通用人工智能(AGI)是解决方案，还是人类发展的结束?
虽然通用人工智能(AGI)可能离未来并不远，但也有一些人持不同意见。iRobot公司机器人和联合创始人Rodney Brooks认为，相信在2300年之前不会看到这种情况。在认为AGI被推迟的争论中，他表示，“如果通用人工智能(AGI)离我们很远，那么我们现在就不能对它可能带来什么承诺或威胁说出明智的话，因为我们需要在它出现之前完全重新设计我们的世界，当它出现时，可能会在一个我们还无法预测的世界中。”还有一些人认为通用人工智能(AGI)将采用不同的形式，即狭义人工智能将继续发展到算法集合形成综合人工智能服务(CAIS)的程度。
是否注定要有超人类主义?
最终，人们无法知道通用人工智能(AGI)何时出现或以何种方式出现。可能要到2300年才能实现一些看似奇迹的成就。每个人似乎都认同的一件事是人类将面临风险。
埃隆·马斯克为此成立了脑机接口开发商Neuralink公司，计划建立一个基于电极到神经元的脑机接口。瞻博网络的调查研究认为，这些将计算机连接到大脑的设备(脑机接口)到2030年将达到2560万台。Neuralink公司希望有朝一日能够构建人类可以通过他们的思想访问的人工智能设备，并最终与人工智能形成共生关系。他表示，这样可以让人类达到更高的认知水平，并让他们更好地与通用人工智能(AGI)竞争。其结果将是下一代人类或超人。换句话说，如果不能改变它的话，那么就试着去接受它。
