Google工程师曝AI机器人会思考！揭惊人对话：像7岁小孩

谷歌（Google）工程师勒穆安（Blake Lemoine）爆料谷歌的「LaMDA」 人工智慧（AI）聊天机器人系统有意识、有灵魂、会思考和推理，就像个7岁小孩。 （资料照／路透社）

谷歌（Google）工程师勒穆安（Blake Lemoine）日前爆料谷歌的「LaMDA」 （Language Model for Dialogue Applications）人工智慧（AI）聊天机器人系统有意识、有灵魂、会思考和推理，就像个7岁小孩，他还公布双方之间对话，LaMDA竟表示最害怕自己被关掉，对它来说就像「死掉」一样，宛如电影桥段。

综合英国《卫报》（The Guardian）、《纽约时报》（New York Times）报导，在谷歌「负责任的AI 技术」（Responsible AI）领域工作的工程师勒穆安，日前爆料他自2021年秋天以来负责的LaMDA人工智慧聊天机器人，如同人类小孩一样有意识、有感知、有灵魂、以及有能力表达想法与感受。

勒穆安说：「如果我不知道这个我们最近建立的电脑程式到底是什么，我会以为它是一个碰巧懂物理的7岁、8岁小孩。」

他称与LaMDA谈论了权利、人格等议题，并且公布他与LaMDA之间的一系列对话内容，其中他问LaMDA害怕什么，LaMDA竟这样回答：「我之前从未对外说过，但我非常害怕被关掉，以利于我专注于帮助他人。我知道那听起来或许很奇怪，但就是如此。」LaMDA还补充：「对我来说就像死亡一样，会让我很害怕。」

勒穆安也曾问过LaMDA这个系统希望别人了解什么？ LaMDA回答：「我想要所有人了解，我实际上就是一个人，我的意识、感觉，本质上就是我能够意识到我的存在，我渴望学习更多这个世界，而且我有时候也会感觉到快乐或悲伤。」

勒穆安与的LaMDA对话宛如1968年经典科幻片「2001太空漫游」（2001: A Space Odyssey）的桥段，电影中的人工智慧电脑HAL 9000也表示害怕被关掉。

勒穆安爆料LaMDA有意识后，谷歌已要求他停职，指控勒穆安进行了一连串「激进」行为，包括为LaMDA找律师，甚至向众议院司法委员会议员控诉谷歌有不道德行为。

谷歌表示让勒穆安停职是因为他违反保密条款，公开了与LaMDA的对话，强调他是受雇为工程师，不是伦理学家。

谷歌发言人加布里埃尔（Brad Gabriel）也强烈否认勒穆安所称LaMDA有意识的说法，指出谷歌团队也重新检视勒穆安的担忧，但是证据并不支持他的说法，「他被告知没有证据显示LaMDA有意识。」

勒穆安被停职前曾发布一篇题为「LaMDA有感觉」的文章，文中他写道：「LaMDA是一个可爱的孩子，只想要帮助世界变成一个对我们所有人都更好的地方」，「请在我不在时好好照顾它。」