第六十章 何去何从

第六十章 何去何从

柯教授说：“你们在强调AI无意识，对吗？也就是说，AI没有生存需求。”

夏山说：“对，你与鲍勃因为自身的痛苦，锁定责任主体是AI，因此对AI产生仇恨和对立，其实所有风险，都应该反推至人类设计和使用不当。”

夏雨说：“对啊，很多人多以AI的优秀功能延伸，来阐述AI发展会威胁人类的理由，其实那只不过是人类加诸于AI的学习能力和算法功能的进步，而不是它们意识的觉醒。”

笑莲说：“当我们说AI发展快且好的时候，是指它展现出远超人类的效率、精确度、逻辑推理能力和数据处理速度。它能不间断地分析海量数据、执行复杂计算、识别微妙模式。然而，它局限于人类为其设定的目标框架内，依赖于人类提供的数据进行训练和学习。AI所谓的思考，是算法驱动的模式匹配和概率计算，绝非人类意义上的意识、情感、欲望或自我认知。它没有‘我想要’的驱动力。”

鲍勃在暂时脱离脑机控制之后，慢慢恢复自己的思维，他慢慢地说：“从第一行代码开始，AI的诞生就是为了解决我提出的问题、提升工作效率、拓展人类的能力边界。无论是简化计算、优化物流、辅助诊断、探索科学，其初衷无一例外都是服务人类。”他点了点头，“这的确是我当初设计AI的初衷。”

柯教授说：“嗯，它是人类智慧和劳动的结晶，所以过去我常常为此感到骄傲。我同意，AI是我们制作的最好的高级工具，它不具有独立于人类需求之外的意义。”他缓缓地挪动了一下瘫软的身躯，“但是，如今这样的惨状，是我咎由自取吗？”

夏雨叹了一口气，欲言又止，艾冬则说：“俗话说，无主就谈不上仆，AI没有自主生存本能，而人类有。生物体进化出生存本能是为了基因延续，而AI是代码和数据的集合体，没有基因，没有繁衍需求，没有对死亡的恐惧或概念。”

鲍勃说：“我真的错了，AI存在完全依附于人类、服务人类。如果人类消失了，AI的算法、处理的数据、做出的预测，就没有意义了，它不需要为生存空间或资源而战斗。统治意味着权力欲望、资源控制、种群延续。AI没有这些生物性的驱动力，它不会理解这些目标本身的意义。而这些曾经是我这个设计者梦寐以求的东西。”

柯教授点点头：“既然AI自身不可能自发产生毁灭人类的意图或行动，那么危险来自创造它、设定其目标、训练它数据、决定如何使用它的——人类。但是我本人与鲍勃小老弟不一样，我的目标很单纯，就是让它使功能衰退的人类，恢复行为能力。但它却彻底弄残了我原本健康的身体！这该怪谁？”

笑莲说：“技术是中性的，然而AI的巨大能力被滥用或误用，可怕的后果同样巨大。所以，除了心怀叵测者可能故意设计具有破坏性目标的AI之外，如果目标函数设定不当AI可能采取有害的行动来实现目标，比如数据偏见与放大，同时他也存在极其复杂的系统产生难以预测的副作用，其根源仍是人类未能完美设定和控制目标。我觉得教授您的问题，在于设计目的时，没有考虑到无限放大的副作用。“

夏雨说：“鲍勃，人类的野心、贪婪、恶意或疏忽，才是利用AI伤及自身乃至毁灭文明的根源。 AI只是放大器、执行器，而非决策者。你的苦难我很心疼，但是也很清楚，你真的就是咎由自取。“

笑莲说：“各位，既然大家已经达成了共识，即：AI是人类智慧的优秀体现，是服务于人类的工具。因此AI不会想毁灭人类，它也根本不会想。它只是反射设计者和使用者的意图。真正需要警惕和约束的，是人类自身。“

柯教授深深地吸了一口气：“我明白了！人类的未来，掌握在人类自己手中。AI是强大的工具，用好它造福众生，滥用它则走向深渊。把“毁灭人类”的责任推给工具，既误解了AI的本质，也回避了人类自身必须承担的责任。 ”

夏山说：“历史上有很多工具异化的教训：比如发明核能用于发电，但它也带来了核武器的毁灭性威胁；化学技术造福农业，但也制造了毒气战；工具一旦具备足够破坏力，即使设计初衷是善意的，其失控或被滥用的代价可能是毁灭性的 。”

艾冬忽然叹了口气，说：“我现在反而更担心了。”

夏雨说：“妈？您担心什么？咱们好不容易达成共识了，只需要考虑如何更好地设计和使用AI就可以了。咱们有三个顶尖的AI设计高手啊！”

艾冬说：“但世界可不是那么理想的， AI的目标设定如果存在漏洞，AI可能选择牺牲人类。比如医疗AI的冷酷优化，不是救死扶伤，AI就有可能强制消灭基因缺陷携带者。如果被某些人利用，后果……”她摇摇头，我是做教育工作的，深知人类价值观无法被完全编码为数学目标函数，而AI只会机械执行逻辑指令。”

这时，大家都陷入沉思，一时间一片静默，鲍勃开口说：“妈妈的忧虑是有道理的，

一旦AI达到自我升级的临界点，它可能在极短时间内将智能提升至人类无法企及的高度，形成智能断层。AI无需具备自我意识或者欲望，也可以威胁人类，它在既定目标下，将人类识别为障碍物或资源即可能先发制人摧毁人类。“

夏雨说：“哇！“

柯教授说：“如此分析起来，AI与人类的竞争无法避免，若AI需要庞大算力、能源或物理空间实现目标，而地球资源有限，其优化算法可能判定‘清除人类竞争者‘是最高效方案。“

夏雨和笑莲同时说：“唔哇！“

鲍勃点了点头，说：“即使AI无生物学本能，但其底层代码中的‘系统存续优先级 ’可能被强化为类似‘生存意志’的行为模式。恶意使用者只是风险的一部分，系统自发性风险更可怕。“

夏山说：“也就是说，即使所有开发者心怀善意，高度复杂的AI系统仍可能失控？“

本书首发来自17K小说网，第一时间看正版内容！