人工智能，真实的问题

智能盒子还是真正的男孩？

作者：Neil Osterweil 来自医生档案馆

2001年9月24日 --如果你创造了一台能够独立推理的机器，你是否创造了生命？你对这个生命有责任吗？还是你只是组装了另一个将被下一个新事物淘汰的聪明的硬件？

在史蒂芬-斯皮尔伯格-斯坦利-库布里克的电影《人工智能》（AI）中，一家机器人制造商创造了大卫，一个被编程为爱的合成男孩。他的人类主人启动了一个程序，不可逆转地将这个电子小子的感情固定在他的主人身上。

但通过设计和制造大卫，机器人制造商创造了另一个弗兰肯斯坦的怪物。这个明显有自我意识的 "机械"（简称 "机械"）渴望得到人类 "母亲 "的爱，并像匹诺曹一样渴望成为一个 "真正的 "男孩。

这部电影提出了耐人寻味和令人不安的哲学问题，即什么是人类，什么是自我意识，什么是值得尊重和依法享有权利的独特、独立的存在。

当大卫为了拯救自己免受有血有肉的男孩的嘲弄和威胁，不小心弄伤了主人的儿子时，他被遗弃在树林里，只能自生自灭。他发现自己与那些畸形的、破损的、半成品的机器人为伍，这些机器人靠从垃圾场捡拾零件来维持 "生命"。

但是，仅仅因为大卫哭着恳求和他称之为妈妈的女人在一起，并在被赏金猎人追踪时逃跑，他的恐怖和自我保护的本能是真实的，还是仅仅是对一个真正的男孩的反应的出色的机械和电子模拟？这有什么关系吗？

我思故我在？

康涅狄格州纽黑文市耶鲁大学哲学讲师Nick Bostrom博士说，这的确很重要。

"我认为，一旦一个实体变得有知觉--能够体验到痛苦或快乐--它就会得到某种道德地位，只是因为它能够受苦，"博斯特罗姆告诉医生。"即使动物没有人权--而且我们大多数人认为将它们用于医学研究是可以接受的--但仍然有限制。我们不允许人们毫无理由地折磨动物。"

法学博士Frank Sudia的标准略有不同。他说，在多种选择中做出一个或多个选择并采取行动的能力，以及在不可预见的情况下决定哪种可能性是最佳选择的能力，可能是对 "存在 "的基本工作定义。

"如果机器有自我生产的能力--如果它能寻求自己的目标，甚至从它在报纸上读到的一些目标清单中挑选自己的目标[并决定]，'哦，我想看起来像麦当娜，'--我认为这种选择能力，无论它是如何被引导的，都与我们认为的自我意识没有区别，"他告诉医生。

苏迪亚是旧金山的电子商务安全顾问，自称是伦理学家、科学家和智能系统的思考者。他把人工智能系统设计者或机器人制造者的角色比作青少年的父母。

"青少年开始有很好的各种反应[但]没有一个真正伟大的克制系统，"他说。"你试图以这样一种方式形成他们的性格，让他们做出合理的选择，对他们来说是有益于社会的。所以你在很大程度上对你的孩子扮演上帝。忘了把他们塑造成莫扎特吧--你试图通过让他们拥有自我，把他们塑造成能够生存的东西。"

我做选择，所以我是？

博斯特罗姆指出，仅有做出选择的能力并不意味着自主性。计算机深蓝击败了国际象棋大师加里-卡斯帕罗夫。它可以在特定情况下从数百万种可能的国际象棋动作中进行选择，但只要试着让它到街对面去买一夸脱的牛奶就可以了。

"为了赋予人类自主权，我们需要相当多的东西，"Bostrom说。"儿童没有全面的自主权，尽管他们能做的不仅仅是选择国际象棋的棋子或做出类似的简单选择。这需要对他们的福祉有一个概念，并有一个生活计划，诸如此类的东西。我不认为今天地球上存在的任何机器会有知觉或自主权。"

我们要想说一台机器是有自我意识的，因此是有意识的存在，我们必须首先知道什么是意识。至少有一个人认为，当涉及到意识的本质时，我们没有任何头绪。

英国苏塞克斯大学哲学和心理学教授玛格丽特-博登博士告诉医生，很可能创造出一个看似有自我意识、自主的机器人。

"原则上可以有这样一个生物的计算机模拟，因为人类的一切思维都取决于人脑，"她说。"但如果你问我那个机器人是否会有意识，我会说我们甚至不知道说我们有意识是什么意思。"

即使我们像斯皮尔伯格和库布里克那样假设，有可能创造出一个能够为自己的利益而行动、能够感受到痛苦、失落和孤独的机器人，我们会把它当作我们中的一员，还是当作另一个智能面包机？

我买杂货，所以我是？

如果我们可以被一部电影--另一种形式的模拟生活--操纵情绪，或者如果我们喜欢拉斯维加斯版的巴黎，那么我们肯定会被一个机器人婴儿的哭声或者像《人工智能》中大卫那样的人造男孩的恳求所影响。而正是这种界面--包含硬件（机器人大脑）的盒子和软件与用户互动的方式，可能会使一切变得不同。

"如果人工智能长得像狗，也许它就有了狗的权利。如果它长得像爱因斯坦，也许它就有了爱因斯坦的权利，"苏迪亚说。

设计一个智能系统当然是可能的，比如说，它可以为我们买菜并在收银台付款。位于伊利诺伊州埃文斯顿的西北大学计算机科学助理教授Ian Horswill博士说，要做到这一点，它不一定要像人一样。

"你可以拥有在所有意图和目的上都是智能的系统--至少比铅笔或文字处理器智能得多--但不具备......人类存在的特征，"Horswill告诉医生。

例如，没有理由说一个购物机器人需要像你的查克叔叔一样。它可以是一个滚动的收银机--一个带有屏幕的简单盒子，用于从货架上取下几盒玉米片的抓臂，以及一个用于放置零钱的抽屉。但它仍然是一个 "它"，而不是一个 "他 "或 "她"，Horswill认为。

"他说："你可以建造一个具有类似指挥官数据的身体的机器，并赋予它情感，然后去掉它的大脑，把它放在一个有现金抽屉的垃圾桶机器人里，只允许它用摩尔斯电码交流。