預防智能叛變 ! Google 和 Open AI 攜手合作教導AI

ai_feature image.jpg

大家應該都有看過不少科幻電影中人工智能傷害人類的情節,也代表不斷警惕科學家和人類要小心。開發著名人工智能 AlphaGo 公司 Google Deepmind 就和 Tesla CEO Elon Musk 的 Open AI 就明白到需盡早預防 AI 威脅人類,決定攜手合作找出方法來預防機器人帶來各種壞好結果。123

消息稱兩間公司在「強化學習(reinforcement learning)」的實驗中,發現有時候 AI 會懂得學人類一樣作弊,來達到最好的成績。為了避免這樣事情發生,兩間公司讓 AI 在尋求答案過程時,需先尋求人類的意見驗證結果而非自行解決,估計類似電腦先獲得人類授權才進行操作。同時以類似獎勵制度來讓人工智慧更貼近人心,帶來更安全思想。不過問題是為了提供足夠的意見,人類將花費相當大心力在擔任導師之上。如一個簡單的後空翻模擬程式,人類就需要提供約 900 次的建議,小遊戲上需要數千次的程序。花費時間預計相當多,但總比讓 AI 毀滅世界好吧。

Artificial intelligence making possible new computer technologies

來源:Engadgets

唔想錯過更多最新內容,Like C6UP Facebook 專頁啦!

Facebook Comments