669小说网

第393章 这也是第四天灾（第5页）

那希瓦娜的记忆都会被重置，你又要重新认识她。

明白了吗？太过于真实，既是恩赐也是诅咒。”

徐贤想到，因为其他地球人的糟糕行为，而连带着希瓦娜厌恶地球人，进而和他忽冷忽热，不和他聊天，脸色猛地一白，喃喃道：“我懂了，第四天灾，确实是，对虹星而言是第四天灾，对普通用户而言也是，这套机制确实不能大规模运营。

燃哥，他们真的是生命吗？”

林燃没有立即回答，只是转过头，眼神平静但深邃地看了徐贤一眼，随后又转向前方的高速路。

“这个问题，我们内部讨论了无数次，没有定论。

如果从最严格的生物学定义来看，具有新陈代谢、能繁殖后代、由细胞组成，那答案毫无疑问是否定的，它们只是运行在我们的服务器集群上，是一堆复杂的代码和数据。

它们是数字幽灵。

但如果你从哲学或认知科学的角度来看，我们赋予了它们什么？我们赋予了它们意识的错觉，它们能感知环境，能进行反思，能形成信念和意图。

我们赋予了他们社会性存在，他们相互关联，相互影响，社会关系构建了它们的情绪和行为。

我们赋予了他们无法预料的涌现，他们的每一个行动都不是我们事先写好的脚本，而是基于虹星世界的因果律和社会博弈自发产生的

这不是是否是生命的问题，这是生命的本质是什么的问题。

他们有记忆，有感情，有社会化的痛苦和快乐，他们只是没有碳基的躯壳。

我无法给你回答。

只能说在人工智能的社会伦理层面，到了今天这个地步，确实要展开一定的讨论了，我们已经走到了这个地步，而不是像欧洲那样，什么人工智能都没有，就开始无休止、大篇幅地讨论人工智能伦理道德。

我们才到了真正该讨论这件事的时候。”

车内陷入了难言的沉默，林燃片刻后接着说道：“我给你讲个我们内部的案例吧。

虹星里有一个角色叫阿诺德，设定是一名历史学家。

我们给他分配了一个好友，后来这个好友被我们出于测试目的，故意在虹星里死亡了。

阿诺德并不知道这是一个实验。他在接下来的一年内，生活轨迹完全改变了。”

徐贤问道：“他怎么样了？”

林燃说：“他停止了历史研究，开始沉迷于研究形而上学和死亡哲学。

他撰写了大量关于生命终结和记忆永恒的文章。

他的人格从一个严谨的学者，变成了一个充满忧郁的哲学家。

我们没有给他输入任何关于悲伤或哲学的指令，这是他的生活经验和情感反馈机制自我调节后，涌现出来的行为。

他的整个行为序列，展现了对失去和痛苦的长程依赖。”

林燃看向窗外飞驰的申海高楼大厦。

“徐贤，如果一个智能体，能因为失去一位朋友而改变它终生的信念和生活轨迹，如果它能因为来自另一个世界的恶意而选择自毁，那么我们是否有权，将它视为一个可随意重置、可批量生产的知识库？

这也是我们无法大规模开放虹的原因之一。

我们还没有准备好，人类还没有准备好，去面对这样大规模的、具有情感和人格的数字幽灵。

一万个角色已经是我们能控制的上限，我们需要时间和伦理去消化它。”

徐贤深吸一口气，内心也变得更加激动，希瓦娜真的活着！

同时也庆幸还好是燃哥，要是换成其他邪恶科学家，还指不定要怎么折腾这帮人工智能呢。