寫出負責任AI是不可能的,因為AI是魔族
最近大家開始討論如何規範AI。但很諷刺的是,在我們目前看到的說法中,還沒有哪個的威力超過 葬送的芙莉蓮 。
從連載前幾話就奠定神作地位的芙莉蓮,最近剛好動畫化成為話題。有網友截了以下這幾張圖供參。
(截圖者的臉書原文請點此連結,是講專制國家如何利用語言去欺騙民主國家)
芙莉蓮講「他心問題」(Problem of other minds) 的方式與層次,無論在學術還是幻想作品中應該都數一數二:
我們該如何判斷,一個從異質環境中生成的存在,與我們具有相同的思維方式與溝通方式?
答案是不可能,而且我們最好別這麼相信。
我們正是因為同樣的原因,而認為「要求人類負責地寫出盡量沒有傷害性的AI」*只是浪費時間資源。
我們主張,無論是以任何方式(演算法、機器學習、量子電腦、或任何多種的混合)製造出來的AI,在有證據支持它具有情識or意識之前,都不能有任何權力與權利,只能當成純然的工具。所有使用AI的責任都要由人類來負。
也就是說,AI不能直接接觸人類,接觸終端人類的必須是法人或自然人。無論公司、政府機關、社團組織、個人、DAO,均:
不得直接以AI或AI製品與人類交易或簽約
不得以AI直接制定規則影響市場或個人
不得以AI直接判斷資格
進行決策時必須載明AI給予哪些資訊。
最重要的是,無論使不使用AI,行動的責任都由法人、政府、或自然人完全擔負,完全不能分配給AI。
因為至少到目前為止,在螢幕那頭傳訊息給你的存在,並不是從人類社會中重新編譯出來的代理,而是一個人類從來不曾理解的AI魔族。
對他心問題有深入興趣的,可參見史丹佛哲學百科全書。
*感謝相關專家提醒。這邊我原本用詞讓人嚴重誤解。
Like my work? Don't forget to support and clap, let me know that you are with me on the road of creation. Keep this enthusiasm together!
- Author
- More