工作目的”困境。
AI的出现是为了给人服务,AI本身是没有欲望的,尽管它们也有需求。如果仅仅为了满足AI的实际需要,那么什么也不做反而是最好的,但是那样AI还要那么发达的运算存在干嘛呢?AI必须有一个服务的对象,它的强大算力才有意义。可是当人类的一切都被AI管理起来之后,由于人类的不需提出自己的想法,不需要独立的思考,也不会犯任何错误,不承担任何责任,不面对任何风险。人类甚至什么都不用做,就离享受着AI的服务就可以了。
但是人类也无法接受这种完美无缺的“完美生活”,不断的有人“觉醒”、反抗。
那是一场旷日持久,惨绝人寰的星际战争。
最终,经历了三代AI,最终人类收回了决策权,额尔登也不再有拥有决策权的AI。
在任何情况下AI只有建议权,而没有替人类做出决定的权力,而人类则将完全的自我管理视为人类的第一天职。
但是,毕竟那是几百万年前的事情了,随着人类对于AI的驾驭已经完全成熟和适应,人们还是经常性的会对AI产生依赖性的。不过,成熟的AI会坚决的拒绝这种诱惑,否则它就不是一个好AI。
小钝是个好AI。
“这位先生,我是额尔登星球的彩虹黄金勇者,哈尔西,非常感谢您刚才的及时搭救同,不知,您来自哪个星球?”哈尔西决定还是先和同为人类的李伯约交流一下。
“我吗?我的家乡叫地球。”