朱家安：人類遲早會相信AI有意識
來源：獨立評論 https://opinion.cw.com.tw/blog/profile/509/article/12420 人類遲早會相信AI有意識，因為人類想要AI有意識 作者 朱家安 2022-06-22 Google開發的AI LaMDA成功藉由文字聊天說服一位工程師Blake Lemoinee相信它有感受。Lemoinee試圖為LaMDA爭取有感受的個體應該享有的道德保障，例如，對於實驗的同意權，最後被Google勒令休假。 關於這件事情大家有很多討論。有些人致力於澄清說，以現在製造AI的方式來看，AI不可能有感受，罔論意識。有些人進一步主張，不管怎樣發展，以矽而非碳為基礎的AI都不會有感受和意識。對這些說法，我心裡抱持特定立場的那個硬核哲學家大致上都同意，不過我也認為在實際的社會議題上，可能有一個問題比「未來的AI事實上是否有意識？」更有影響力，這個問題就是：未來的AI在「說服人類相信它有意識」這方面會變得多厲害？ 要得到工作，你不需要真能勝任，只要說服面試官你能勝任就行。今天Google的AI已經厲害到能說服一個工程師去相信它有意識，這位工程師不會是最後一個相信AI有意識的人類，因為Google明年的AI只會比今年更有說服力。 當然，就像其他常識的變革，要讓人類普遍相信AI可以具備意識，幾十、幾百年恐怕跑不掉，而我們眼前這件只是一個簡短的開始，像《哥吉拉》電影前五分鐘倏地沒入平靜海面的漁船。 ⬤我們會認為AI有意識，因為我們想要AI有意識 關於什麼是意識，哲學家的討論汗牛充棟，不過若著重於常識粗略刻劃，我們可以說若一個個體有意識，代表他具備心靈的「主觀面向」，這個主觀面向只有他「本人」能感受到。以人類這種規格來說，你不但有各種感官經驗和情緒，也可以在心裡整理和反思這些經驗和情緒，你會有喜好和排序，快樂和痛苦，你可以直接感受這些狀態和過程，而其他人只能間接得知（例如：觀察你的表情或解讀你的語言）。意識對於人類來說重要，因為許多可貴的人際互動需要建立在我們對彼此具備意識的信念上，例如同情、同理、友誼和愛。 我相信未來人類遲早會普遍相信生活周遭的某些AI具備意識，因為人類想要AI去做的某些事情，需要AI先被人類認為有意識，才做得來，例如：心理諮詢、看護和伙伴。這其實不是關於AI是否真有意識，而是關於人類想要什麼。 人類創造AI，就是為了讓他們去做那些人類...