值得反思关于人工智能的10个问题和推测 _人工

战胜了李世石九段
这是否说明它已经具有和人一样的思维呢？
或者说人类在棋类方面的能力并不能代表思维真正的本质呢？
让我们看看关于人工智能的10个问题和推测：
【值得反思关于人工智能的10个问题和推测】问题1：是否计算机程序终将谱写出优美的乐曲？
推测：会的，但不是近期的事情。
音乐是种情感的语言，在程序能有像我们那么复杂的情感之前，它无论如何无法谱出什么优美的旋律。“赝品”——对已有音乐的句法进行肤浅的模仿——是容易达到的，但无论人们开始时是怎么想的，音乐表现远比句法规则所能捕捉到的东西要多得多。在相当长的一段时间之内，计算机作曲程序谱出的乐曲不会产生新的美感。
下面我来把这一思想进一步展开。设想——我听到过这种暗示——我们很快就能有一种程序化了的“乐盒”：台式的、可大批生产、二十块钱就能邮购，这“乐盒”中那没有生殖能力的电路产生的乐曲会让人觉得是出自肖邦或巴赫之手（如果他们能活到现在的话）。真要是这么想的话，那就是对人类精神的深度的一种荒唐可耻的低估。能有如此功能的“程序”必须得能自己走进这个世界，在纷繁的生活中抗争，并每时每刻体验到来自生活的感受。
它必须懂得暗夜里的凉风所带来的喜悦与孤独，懂得对于带来温暖爱抚的手掌的渴望，懂得遥远异地的不可企及，还要能体验到一个人死去后引起的心碎与升华。它必须明了放弃与厌世、悲伤与失望、决心与胜利、虔诚与敬畏。它里面得能把诸如希望与恐惧、苦恼与欢乐、宁静与不安等等相对立的情绪混合在一起。它的核心部分必须能体验优美感、幽默感、韵律感、惊讶感——当然，也包括能精妙地觉察到清新的作品中那魔幻般的魅力。音乐的意义与源泉正是来自这些东西，也仅仅是来自这些东西。
问题2：情感是否能显明地在一台机器中程序化？
推测：不能。那将是荒唐的。
任何对于情感的直接模拟——比如“帕里”——都不可能达到人类情感的复杂性。后者间接地源于我们人类的心智组织，而程序或计算机可能以类似的方式获得它们自己的情感：作为它们的结构，即它们组织起来的方式的副产品——而非直接程序化的产物。因此，打个比方说，没人能写出一伞“坠入爱河”的子程序，更不能写出什么“犯错误”子程序。“坠入爱河”是我们用于对一个复杂系统的一个复杂过程的描述。而且，这个描述并不单单来自系统中的任何一个单独的模块！
问题3：智能计算机是否能更快地做加法？
推测：可能不会。
组成我们自身的硬件的确在做着各种各样的运算，但这并不等于说“我们”所在的符号层知道如何完成同样的运算。让我们这样说：你无法把数字装进你的神经原中，以此来计算你的购货账单。幸亏你的符号层（也就是“你”）不能干预正在进行着你的思维活动的神经原——否则你非得搞昏了头不可。让我们重新解释笛卡尔的话：
“我思，故我无法进入我算的层次。”
为什么这对一个智能程序就不能同样成立呢？一定不能允许它干预正在进行着它的思维活动的电路——否则它非得搞昏了CPU不可。说正经的，一台能通过图灵测验的机器作起加法来可能和你一样慢，其原因也是类似的。它将不是把数字2仅仅表示成两个二进制位“10”，而是像我们那样把它表示成一个五脏俱全的“概念”，充满了各种联想。例如它的同义词有“两”、“一对”、“一双”，还有一大堆内心想象，如麻将牌上的点，数字“2”的形状人工智能机器人的情绪，关于交替、偶数、奇数的概念，如此等等…… 。
背着这些“额外负担”前进，一个智能程序作起加法来会像树懒一样慢。当然，我们可以给它一个“袖珍计算器”，如果能这样说的话（或在它内部构造一个）。那样它就能很快做出回答，但它的表现和一个用袖珍计算器的人就完全一样了。在这种机器中将有两个彼此隔离的部分：一个可靠但呆板的部分和一个聪明但易错的部分。而且无法保证这样的合成系统是可靠的，正像无法保证人机合成系统必然是可靠的一样。因比如果你只需要一个正确的答案，最好单独使用那个袖珍计算器——不要往里边加智能！
问题4：是否会出现能击败任何人的下棋程序？
推测：不会。
可能会出现这样一些程序，它们在下棋时能击败任何人，但它们不是只会下棋的程序。它们将具有“通用的”智能，而且和人一样会发脾气。“你想下盘棋吗？”“不，我下棋都下腻了，我们来谈谈诗吧。”在你和那个能击败任何人的程序之间可能会出现这样的对话。
这是因为真正的智能必然依赖于一种纵览全局的能力——即可以说是在程序中编入了一种“跳出系统外”的能力——至少大致能达到我们所具有的水平。一旦实现了这一步，你就无法再遏止这个程序了，它将越过这个特定的临界点，那时你将不得不面对面地与你造出来的东西打交道。
问题5：在存储器中是否有一个特定位置被用来存控制程序行为的参数，这样，如果找到并修改了它们，你就能使得该程序再灵一点或再笨一点或更有创造力或更喜欢足球？简而言之，你是否能在较低的层次摆弄它一下就可以对程序进行调整？
推测：不行。
它将对存储器中任意特定单元的改变毫不在意，正像我们身体中虽然每天要死掉几千个神经原（?。??但我们却几乎没事一样。但如果你折腾得太厉害，就有可能伤害它，正像你不负责任地给一个人做了神经外科手术一样。在存储器中不存在“有魔力”的位置用以存储诸如程序的“智商”之类的东西。同样，那将是一个作为低层行为的结果而产生的性质，并非明确地存储在某个地方。对于像“短时记忆中所能保存的项目的数量”、“它喜欢物理学的程度”之类的东西也是一样。
问题6：你是否可能把一个人工智能程序的行为调整得像我或像你——或恰好介于我们两个中间？
推测：不能。
人工智能程序和人一样不能像条变色龙。它将依赖于它的记忆的稳定性，不能在不同的人格之间变来变去。那种想通过改变内部参数“调出一个新人格来”的想法暴露了对人格复杂性的一种可笑的低估。
问题7：一个人工智能程序是否有个“心脏”？还是说它只不过包含了一堆“无意义的循环和平凡操作的序列”（用马尔文，明斯基的话说）？
推测：如果我们对它能像对一个浅潭那样一眼看到底，我们无疑只能看到“无意义的循环和平凡操作的序列”——而且肯定看不见什么“心脏” 。
现在关于人工智能有两种极端主义的观点：一种认为由于本质而又神秘的原因，人的心灵是无法程序化的。而另一种认为你只需去汇集适当的“启发式装置——多重优化器、模式识别技巧、规划代数、递归管理过程、诸如此类”，你就能得到智能。
我觉得我自己在二者之间的某个位置上，相信我们将发现人工智能程序这个“水潭”很深而且黑洞洞的，无法一眼看到底。如果我们从上面看下去，那些循环是看不到的，正像今天对大多数程序员来说，载流电子是看不到的一样。一旦我们造出了一个能通过图灵测验的程序，我们将会看到其中有个“心脏”，尽管我们知道它并非实际存在。
问题8：人工智能程序能否具有“超智能”？
推测：我不知道。
我不清楚我们是否能理解“超智能”或与它发生关系，甚至不清楚这个概念是否有意义。例如，我们自己的智能是联系于我们的思维速度的。如果我们的反应速度被提高或降低了一个数量级，那我们可能已经发展出一套完全不同的概念，以此来描述这个世界。一种对世界有完全不同的看法的生物和我们之间可能不会有很多接触。我常常在想，如果存在着某种乐曲，比如说它们和巴赫的关系就像巴赫相民歌的关系一样——可以称它们为“巴赫的平方”——那我有可能理解它们吗？
也许在我周围已经有这样的音乐，只不过我不能识别它们，就像狗不能理解语言一样。超智能是个很奇怪的想法。不管怎么说，我都不认为它是人工智能研究的目标，尽管如果我们终于达到了人类智能的水平人工智能机器人的情绪，超智能无疑将成为下一个目标——不仅对我们是这样，而且对作为我们的同事的人工智能程序们也是如此。它们对人工智能和超智能也会具有同样的好奇心。很可能人工智能程序会对人工智能的一般问题怀有极大的兴趣——这是可以理解的。
问题9：那你的意思似乎是说人工智能程序实际上和人完全一样了。难道就一点差别也没有吗？
推测：人工智能程序与人之间的差别或许要大于大多数人之间的差别。
几乎无法想象人工智能程序所寓的“躯体”会对它不产生深入的影响。因此，除非它有一个人类躯体的忠实得惊人的复制品——为什么它要这样？——否则它对于什么是重要的、什么是有趣的等问题或许会有极其不同的看法。维特根斯坦曾作过一个有趣的评论，“如果狮子会说话，那我们也无法理解它。”
这使我想起了卢梭的一幅画：在月光皎洁的沙漠上，一头温顺的狮子守在睡着了的吉普赛人身旁。但维特根斯坦是怎样知道的呢？我猜任何人工智能即使是我们所能理解的，那也一定是看上去和我们很不同。出于这种原因，我们到时候可能会难于断定和我们打交道的是一个真正的人工智能程序，还是说它只不过是一个“古怪”程序而已。
问题10：一旦我们造出了一个智能程序，我们是否就能理解什么是智能、意识、自由意志和“我”了？
推测：在某种程度上是这样——这完全取决于你说的“理解”是什么意思。
首先，在某个关键性的层次上看，我们中的每个人大概都对这些东西有尽可能好的理解。这就像是听音乐。足不是因为你已经把巴赫拆散了，你就算真的理解他了呢？或者说当你感到全身的每一根神经都很兴奋，那时你就算理解他了？我们是否理解光速在每个惯性参照系中保持恒定到底是怎么回事？我们可以算出它来，但世界上没有一个人具有真正的相对论性的直觉。而且大概永远没人能以一种直观的方式理解智能与意识之谜。我们中的每一个都能理解“人”，而这或许也就是你所能达到的。
（引自《哥德尔、艾舍尔、巴赫——集异璧之大成》）
本文到此结束，希望对大家有所帮助。

值得反思 关于人工智能的10个问题和推测

值得反思关于人工智能的10个问题和推测