第7章 AI自主迭代 (第2/2页)

第二天早上，吴晓霞召集了小组会议，问了硬件设施有关情况后，就如何解开昆仑枷锁进行了探讨。

“大家尽情的发表一下意见，昨天我说到昆仑的自主迭代，王德彪同志意见好像比较大，来，你来具体说说。”吴晓霞往后一仰，等待王胖发表高见。

“啊，吴老大，那我要说错了，你可别怪我。”

“来，给王德彪同志来点掌声鼓励鼓励！”吴晓霞带头鼓起了掌。

随着热烈的掌声响起，王德彪用那颇为壮硕的肉手向上推了推眼镜：

“自主迭代有风险，目前人工智能虽然也有通过自动化的方式进行迭代，但是大多数AI模型仍然需要人工参与和监督来指导自我迭代的过程，以确保模型的改进是有意义且符合预期。而吴博士你所谓的自我迭代完全是让其自行迭代训练，这种方式会不可控，一种情况是人工智能完全走歪，根本无法进行生产应用，那么上面提供的超算资源会造成极大的浪费，而这个可能性是极大的。另外一种情况就是人工智能在完全不可控的情况下，有可能会诞生自我意识，威胁人类自身安全。”

众人听到王德彪的发言，除了林游外都纷纷点头表示赞同，这一点被吴晓霞看在了眼里。

“林游，你有什么意见？”吴晓霞玩味的看着林游，想看看远望号上唯一的本科生有何高见。

林游清了清嗓子，快速组织好语言：

“我认为，我一家之言啊，供大家参考一下，如果我们还是按照以前的方式去迭代昆仑，半年后我们发布昆仑13？还是五年后我们发布昆仑18，或许我们都活不到五年后。”

林游停下来看了看众人的表情，一种落寞的氛围弥漫四周，他深吸了一口气，接着说：“昨天下午徐舰长给我说了一句话，我非常深刻，他说我们人口太少，人工智能是我们唯一的希望。当时听到这句话，我真的是被震撼到了，原来我们这个小组肩负着人类的未来，哎，想起早上我还在摸鱼，真的是无地自容。可能有些同事不知道，我其实不是火种计划里的一员，但是今天下午徐舰长说，他们早就知道，而且希望我在这个团队里发挥专长，不枉他们选了我。说实在的，当时我真的羞愧难当，我觉得上面的决定是正确的，与其按传统道路来，不如另辟蹊径，破釜成舟。上面给我们批了8台超算，如果不能用好，不能让人类新生，我们如何对得起自己的职责。80亿人口啊，说没就没了，还有无数生灵，怎么没的都不知道，难道大伙不想重建人类文明，找出原因。就算是死，也要死得明白，死得其所。”

说完这段话，林游已经泪流满面，他用手拭了下眼角的泪水，“不好意思，刚才有点激动，还请大家见谅。”

沉默片刻，便是热烈的掌声，经久不息。

“林游说得好，我相信现在大家都知道，我们为什么要让昆仑实现全自动迭代了吧，因为我们已经没了退路，自从chatGpt3.5出现后的十几年间，科学家、政客和资本家无不在担心人工智能产生意识会威胁到人类，他们一直穿着镣铐跳舞，说实话做出这个决定，上面研究了三个礼拜，有人赞同，有人反对，但最终为了人类的延续，我们必须做出这个决定。从现在开始，你们的重点放在完全自动迭代上面，算法早就有了，现在是解开枷锁，优化核心代码，将科幻作家艾萨克·阿西莫夫提出的机器人三定律写入核心代码。林游，我知道你代码经验丰富，你来主导代码编写，其余四位同志优化代码结构和算法，争取一周内将昆仑的核心代码升级，但是为了防止风险产生，昆仑原代码保持不变，升级后的代码连同昆仑的数据用物理转移的方式拷贝至超级计算机。我们要给这个新生的昆仑取一个名字就示区分。”吴晓霞眼神坚毅，不愧是昆仑12的主要架构师。

“要不叫新昆仑！”小组另一个成员黄天明说。

“我觉得可以叫灵境”，另一个小美女刘雨菲说。

吴晓霞眼中带着亮光，没想到林游一天时间发生如此大的变化，“我会向上面汇报的，至于最后的名字还要由上面定下来。大家开始干活吧，散会…”