笔看阁

手机浏览器扫描二维码访问

第36章（第1页）

我在心底期待，如果席琳克丝不是潜者就好了。

那么一来，我就不必看她丧生。

假如我是人类，目睹二百零六人死亡，说不定感情早已消耗殆尽，能够平静地接受第二百零七人的赴死。

但是，我的感情没有磨光。

人类将我制造得完美无缺。

没有事情会使我精神失常，或者失去理智地大声哭号。

我既不会痛骂潜者们愚昧无知，也无法全力阻止他们。

我只是觉得悲哀。

好久好久以前，当人类创造拥有感情的ai时，却害怕ai造反。

ai会不会随机杀人?或者企图征服人类?‐‐我无法理解，人类为何会囿于那种无凭无据的被害妄想。

说不定是受到了许多在那之前的虚构作品的影响。

人类认为必须规范ai的行为，于是讨论是否该制定这种标准。

「第一条：ai不得伤害人类。

」

「第一条补则：此外，不得放任危险程度升高而伤害人类。

」

「第二条：ai必须遵从人类的命令。

」

「第二条补则：但违反第一条者不在此限。

」

「第三条：ai除非违反第一条及第二条，否则必须保护自己。

」

其中，最受争议的是第一条补则。

「放任危险程度升高」这句话的范围未免太过模糊。

挑战登山、格斗技和赛车不「危险」吗?喝酒的量超过多少才会视为「危险」呢?试图冲进火灾现场的消防队员、等待执行死刑的凶犯、上战场的士兵……ai必须保护所有这些人吗?

结果，第一条补则被视为不切实际，不予采用。

这时通过的「修订三原则」，如今也是除了战斗机器人之外，大部分ai的行为准则。