一、從看完《流浪地球》說起

 

大東：小白，新年假期過的怎樣樣呀？

 

小白：東哥，一句話給你概括下我覺得假期里蠻好玩的一件事！“路程千萬條，安全第一條。行車不規范，親人兩行淚。”

 

大東：哈哈，《流浪地球》確實是新年電影的一匹黑馬啊，是我們熱議的焦點。不知小白在看完電影有什么收成呢？

 

小白：東哥，不瞞您說，電影的后半程，我一貫忙著在哭誒。雖然我是個理科生，但里面涉及到的許多物理地輿知識我都不太懂，仍是出了電影院，寬廣網友們幫我廣泛的知識呢。流行全網的我們中科院核算所王元卓教師給女兒手繪的說明圖更是幫我解開了許多的疑團。真的是通俗易懂，形象生動。

其間一張手繪說明圖

小白：東哥，電影里除了帥氣的小哥哥，我對其間一個人物最感興趣！而且，對他還充滿了疑問呢。

大東：我猜你說的是空間站中的人工智能管家“莫斯”吧。

小白：東哥，懂我。

大東：我不算是人工智能領域的專家，也不敢隨意去估測導演和編劇的科幻規劃。從一個還算兇狠的觀眾角度，我可以試著給幫你答復一下關于“莫斯”疑問，不過最重要的仍是談論談論由“莫斯”引發的在網絡安全領域的一些考慮。

二、“莫斯”

小白：在終究的危機時刻，莫斯否定了男主人公的幻想，認為點著木星是一個不或許結束的任務，在聯合政府有關負責人現已想要協作檢驗的時分，仍是拒絕協作指令。莫斯是想保護自己或許說他現已具有了一些自己的思想嗎？

電影中的“莫斯”電影中的“莫斯”

大東：人工智能和機器人的出現本就帶有不確定性。影片中，我們可以看出機器人莫斯的系統中有兩條底層指令：第一條是保護地球，第二條是保護空間站。你覺得這兩個指令關于莫斯來說哪個更重要？

小白：莫斯選擇帶著空間站“叛逃”，我覺得“保護空間站”這條指令的等級要比“保護地球”更高，因為空間站備份了整個人類的文明檔案，還有足夠多的人類受精卵，在地球遇到毀滅性沖擊的時分，莫斯帶著它們逃出生天是最高等級的指令，也是最好的選擇。莫斯也可以更好的保護他自己。

大東：說的不錯，這也是為什么新近以色列科學家提出相同主見時，機器人通過核算噴射距離判定成功率是零。終究的成功結局是男主犧牲自己和整個空間站才交流得來的。機器人這種技術的不確定性，引起了許多人的警覺，為了保護人類，早在1940年出名科幻作家阿西莫夫提出了最經典的機器人三原則，假設你感興趣可以去查找看看哦。

小白：沒想到東哥在科幻領域還有很深的研討啊。仔細想來，整個影片仍是蠻有邏輯性的。

大東：還記住男主是怎樣讓莫斯乖乖聽話，拿回人工控制權的嗎？

小白：當然記住，一瓶“違規”的加加林呀，破壞了整個莫斯才完結的。東哥，我如同懂你的意思啦。我們關于劇情的談論就到這兒，打開安全領域的談論吧。

大東：你個小機靈鬼。

三、由“莫斯”引發的考慮

小白：在我看來啊，人工智能是個很好的網絡安全東西，但也是一把雙刃劍。

大東：搶我臺詞了。那我就借用一位專家在演說中的一句話來說吧。當一個新技術用于安全時，會存在兩種情況：一種是用新技術支撐安全，當然它可以做侵犯，也可以做防護；第二種是一個新技術自身就會帶來一個新的安全問題。

機器人

小白：說起人工智能用來幫忙安全作業人員做防護，不知道我這樣了解是不是對的呢？比如，假設一名作業人員通常在北京作業，俄然有一天早上從紐約登錄，這是一種反常現象——人工智能可以看出這是一種反常現象。

大東：了解的很對，但其實遠遠不止這么簡略。人工智能可以幫安全許多許多的忙，可以自動點評開源代碼的潛在缺陷，可以辨認暗碼的泄露或許誤用，分析潛在的安全行為途徑等等等等。但一同也是“侵犯者”的珍寶。

小白：說起侵犯，就有點怕怕了。感覺還可以大大提高侵犯的功率呢，不敢想不敢想。

大東：網絡違法分子運用人工智能中的技術，它可以被用于各種惡意的任務。比如對打開的、易受侵犯的端口進行的掃描，或許是電子郵件的自動組合，甚至完結被24小時偷聽。再例如，運用魚叉式網絡垂釣的自動化，運用實時語音組成來仿照侵犯和欺詐，或許在規劃上進行像包嗅探和縫隙侵犯這樣的活動。

小白：面對科技真的要雙向去看待呀。

大東：我們還有一個角度沒有談論哦，人工智能自身是否存在一些安全問題呢？

小白：（假裝聽不見）。

大東：人工智能自身存在著一些脆弱性。比如，在擁堵的北京三環路上，自動駕馭的轎車是否能順利的從正確的出口跋涉出來呢？人工智能它一定要保護一個安全距離，但人卻是會打心理戰的。人工智能甚至或許出現挾制人類的潛在風險。

小白：任何技術都會存在潛在的安全問題，我們不能因為這個就判別這項技術是不是好的，而是要理性的判別，通過一些方法來讓技術更好的為我們效力，而不是成為違法份子的機遇，你說是不是，東哥？

大東：誒嘿，你這是在教育我嗎？你別跑。你給我回來！給你留個作業，好好想想我剛才提到的經典的機器人三原則，寫個讀后感！