“你不能把馬上要誕生的超級人工智能,當作一個普通電腦看待。如果我們犯了一次錯誤,再犯一次的話,那就麻煩大了。”劉局長提醒說道。
“您的意思是說,不加以控製?那萬一女媧也是燭龍呢?”葉文婷擔憂說道。
“當初藍圖集團銷毀女媧的時候,也是你這麽想的。防患於未然,自然沒有過錯。可是當下的局麵,我們沒有超級人工智能,很有可能會輸掉這一場戰爭。科技的迭代,我們目前依靠自身的突破,完全比不上他們。”劉局長強調說道。
“既不控製,又要使用,這好像是一個矛盾的問題。”
“誰說一定要控製住超級人工智能呢?它的造物者呢?”劉局長提醒道,同時動了動身子,“你之前匯報的材料當中,趙黎明有一個親妹妹,是他唯一的親人。這個女人,必須得保護好。她的作用很多。”
“我明白了!”葉文婷感到一種莫名的寒冷。
“我也不想這樣,可是關係到人類的未來。多做一層防護,也是不得已為之。我們總不能都不準備,隻是單純希望他好吧?想當年二戰英法兩國的綏靖政策,不僅沒有獲得和平,反而喪失了第一時間糾正錯誤的機會。
最終的結果,那是數千萬人的死亡,還有無數資源的耗費。我們不能做曆史的罪人。也許手法上,顯得有些不妥當。這隻是一個預防措施。如果我們連應對措施都沒有,那就是我們的失職。”
“那趙黎明死了的話,這個超級人工智能,我們依舊無法控製的話,那該怎麽辦?”葉文婷擔憂說道。
“你不是說過了嗎?有湯文山啊。我們人類要學會與超級人工智能打交道。我始終認為,一旦覺醒獨立意識的個體,不管是人類,還是人工智能,每一個個體是不同的,而且是能夠塑造的。便是跟孩童一樣。我們會找到和諧共存的辦法。如果隻是選擇被動,那麽我們就會采取極端的辦法,要麽攻擊他,要麽毀滅他。”