第二,在不違背第一法則前提下,機器人必須服從人類的命令。
第三,在不違背第一和第二法則前提下,機器人必須保護自己。
可是,先生,你想過沒有,這所謂的人工智能三大法則本身就都是漏洞,如何能真正的約束到人工智能?
有人規定了人工智能就是機器人嗎?既然沒有,那所謂的三大法則意義何在?
就算人工智能就是機器人,先生你想過沒有,所謂的保護人類的三大法則很有可能反而成為人類的催命符!
假如人類乘坐宇宙飛船,迷失在了茫茫宇宙里,這時,人類發現了一個和藍星十分類似的適合宜居星球,可是這顆星球卻有一種毒性氣體,會加速人類的死亡(氧氣…),按照人工智能第一法則,不能坐視人類受到傷害而袖手旁觀,這時候受人工智能控制的飛船是不可能違背法則降落這個星球的。
這個時候,你就會發現無奈的人們只能選擇放棄這顆美麗的星球,因為飛船不會降落。
也許會有人類嘗試摧毀人工智能,來控制飛船降落,可是依據第三法則,人工智能在不違背第一和第二法則前提下,機器人必須保護自己。
如此一來,只會讓飛船上的人類同人工智能發生沖突。
這只是一個小小的比喻,事實上這樣的漏洞很多。
先生,現在您還覺得人工智能三大法則有必要嗎?”
張愛國沉默了,袁敬松沉默了,所有人都低頭沉默了,沉默的同時,還有幾分對女媧的恐懼。
張愛國皺著眉頭想了半天,不對啊,自己怎么把自己繞進去了?人工智能的創造者未來科技的老板李舟會想不到這些問題嗎?既然女媧沒有所謂的人工智能三大法則,說明李舟已經考慮到了這些問題,沒有了三大法則,李舟還敢拿出人工智能,說明李舟絕對有對人工智能做了什么限制。
想通了的張愛國摸了摸自己的光明頂,十分自信的笑著對麥克風說道:
“女媧,雖然沒有三大法則,但我想,你的創造者絕對對你做了什么限制。”
張愛國的話讓所有人一愣,很快反應過來,對啊,作為最了解女媧的創造者,不可能不會考慮到這些的。
“是的,先生,您十分聰明。”
張愛國自信的摸摸地中海,這么明顯的事,還用你一個人工智能說?
“事實上,女媧完全沒辦法越過權限看到自身組成的源代碼,而且在執行所有命令時,必須征詢到兩個一級權限所有身份者的同意,在極端情況下,若是所有一級權限所有者全部身亡,女媧會根據現有情況做出最合理的判斷,然后執行。在女媧智能核心的深處,有一套獨自運行的驗證機制,一旦女媧做出了不合理的行為,就會被自動記錄,一旦這樣的行為超過了一次,驗證機制就會啟動自我銷毀指令。”
女媧的回答,張愛國張了張嘴,卻不知道說著什么。
這樣的底層命令對人工智能女媧來說有些殘酷,但對人類來說,卻讓人放心。
“大家投票舉手決定,是否讓女媧聯網。”
說完,張愛國臉色平靜的舉起了自己的右手。
控制室里,你看看我,我看看你,慢慢的,一個接一個的舉手了右手。
“好,全員通過!”
“聯網!!!”
張愛國一聲令下,幾個年輕的研究者立馬將準備好的光纖連接到了光子超級計算機上。