AI時代的智慧警覺力：Intel TedXOcotillo演講

目錄

1. 介紹人工智慧（AI）對我們的影響
   • 1.1 AI是內容創作者
   • 1.2 AI是推薦系統
   • 1.3 AI是我們自己的延伸
2. AI如何影響我們看待世界
3. AI如何影響世界看待我們
4. AI如何影響我們看待自己
5. 解決盲目信任演算法的方案
   • 5.1 競爭假設分析
   • 5.2 心理戰爭思維
6. 從哲學角度思考AI的啟示
7. 結論

🤖 Introduction

人工智慧（AI）在我們日常生活中的使用越來越多。從臉部辨識登入我們的電腦，到麥克風降低背景噪音，甚至微軟WORD幫我們校正句子，AI早已幫助我們思考和行動，讓我們能夠展現最好的自己。AI不僅僅應用在行政任務上，而且在自駕車、醫療保健、機器人技術、政策和教育等領域無所不在。然而，我們應該問的重要問題是，這些演算法正在如何使用，以及正在何處使用。

🖼️ AI是內容創作者

AI擔任內容創作者的角色，其生成的輸出品質越來越好。然而，關於這種方式使用的演算法存在許多擔憂，例如使用deepfakes技術進行欺騙和操控。這種技術可以模仿視頻和音頻使其看起來像是總統候選人或名人在現實中說或做了某些事情。在社交媒體和評論網站上，辨別真人和機器人的評論和點讚也是具有挑戰性的。

雖然AI生成的內容易被人類識別，語言模型現在寫到了現實中的獨角獸和虛擬臉孔，而deepfakes則有著一些奇怪的行為，例如眨眼頻率過高或表情太平滑。工程師們正在建立AI來幫助識別由AI生成的內容，但在未來，要持續驗證環境中AI生成的人類形象的存在性將變得不可行，尤其是當AI模型的創建者不願意透露信息時。

優點：AI生成的內容品質越來越高，有助於加強人類自主行動和價值共創。

缺點：擔憂AI生成的內容被用於操縱和欺騙，對真人評論和點讚的辨識困難。

🤝 AI是推薦系統

當你使用帶有廣告的社交媒體網站、Netflix、Amazon或其他任何服務時，你可能會在尋找某樣東西之前收到相關推薦。這就是推薦系統在起作用。推薦系統是一種間接建議，激勵我們做出特定的決策。然而，當使用大數據和AI時，這種激勵就可能變得過度。

AI幫助我們做出決策，這對人類行為主體的普及和價值共創具有積極的優勢。想像一下，在繁忙的一天裡，AI為你提供了一條回復短訊的建議，這絕對方便。然而，推薦系統是由具有先天偏見的人類設計的，這些偏見包括性別和種族刻板印象，以及行為偏見，如確認偏見，我們有一種尋求證實自己信念的趨勢，忽視相反的觀點。

個性化和AI演算法旨在從我們的行為中學習，並可以不斷延續這些偏見回饋給我們，形成過濾泡。然而，新的研究顯示，推薦系統可以幫助用戶打破這些過濾泡，更多地進行產品選擇的探索，但這些系統仍然鼓勵用戶之間的相似偏好。

優點：推薦系統幫助我們做出決策，並帶來自主行動和價值共創。

缺點：推薦系統可能受到人類先天偏見的影響，使過濾泡問題加劇。

🧠 AI是我們自己的延伸

AI已成為我們思想過程的延伸和擴展，通常無需我們的努力。舉個例子，在購買產品時，AI可以根據先前購買的瑜伽墊向我們推薦閃閃發光的鞋子。AI為我們思考提供了便利，告訴我們在搜索之前想要什麼。在衡量產品的利弊時，AI幫助我們做出決策。

優點：AI能夠為我們思考，提供我們在搜索之前想要什麼的建議。

缺點：依賴AI過多可能使我們失去批判思維的能力。

🛠️ 解決盲目信任演算法的方案

我們知道，持續評估環境中的信息對於AI生成的人類形象的存在性來說是具有挑戰性的。因此，也許我們應該從此處入手。對我來說，這就是開始變成一個困境的地方，因為作為一名工程師，我喜歡量化和具體的定義，然而，儘管研究人員提出了知道用戶福利和信念的度量標準，但這些仍然非常具有試驗性。

在分析和評估風險管理框架方面，從心理學中可以借鑒兩種策略，這些策略在高風險的決策場景中進行了試驗。下面將探討其中兩種策略：

5.1 競爭假設分析

在理察茲·休爾的《智能分析心理學》一書中，提到了一些訓練我們在不斷變化的環境中具有韌性和批判性思維技能的有趣觀點。

首先，我們需要確定假設，以檢測視頻是否是deepfake。例如，判斷一個視頻是否是具有影響力的人發表政治評論。我們可以觀察一些證據和論點支持或反駁每個假設，例如：視頻中是否存在一些問題，例如眼睛顏色突然變化；該視頻是否在主要新聞和社交媒體網站上討論，引起了對該視頻中的言論的關注；deepfake通常需要專業人才和大量的人力投入，所以製作起來可能並不容易。根據所有收集的信息，我們可以創建並完善一個矩陣，用於分析這些證據的有用性。

一些來自社交媒體和新聞網站的陰謀理論是沒有根據的，它們評論的是不相關的細節，並未幫助證明視頻的真假。而那些故障看起來是非常重要的，因為它們直接支持了“視頻是深度fake”的假設，所以它們具有診斷價值。此外，我們還想嘗試反駁這些假設和證據，例如，該視頻中根本沒有這樣的人發表過言論，或者這個視頻看起來是錯誤的，我們需要問問題，為什麼這個人會說這話？重要的是，除了AI影響這個人的觀點之外，還可能存在其他因素。

最後，隨著未來觀察的進行，我們將得出事件正在發展的方式與我們最初期望的不同的結論，並密切關注這一點。

5.2 心理戰爭思維

在心理戰爭領域中，我們想要了解說服性溝通對改變或強化態度的影響。一些問題需要回答，例如呈現的消息是否是明顯的宣傳，該消息是否會影響到有利於贊助商的行為，消息的某些方面是否使我們感到不舒服。

智能演算法可以提供決策的建議，但AI不會代替我們做出決策，而是我們需要理性思考並警覺自己在决策過程中受到這些演算法的影響。我們的情感和情緒在知覺和評估AI提供的建議時扮演著重要的角色。

優點：競爭假設分析和心理戰爭思維策略有助於培養韌性、批判性思維和警覺性。

缺點：評估AI對我們行為的影響需要批判思維和檢測行為模式。

🏁 結論

本文只是探討了人類和演算法之間關係的表面問題，並旨在引起大家對在演算法時代中取得前瞻性和卓越性的有意義討論。要克服我們對演算法的盲目信任，我們建議從競爭假設分析和心理戰爭思維中借鑒策略，以培養韌性思維和警覺性。AI的應用將在未來繼續擴大，我們作為計算機科學的推動者應該思考創新的潛在影響。

感謝您的聆聽。

FAQ

問：AI生成的內容會不會擾亂我們的判斷能力？ 答：AI生成的內容確實有潛在的擾亂判斷能力的可能。例如，由AI生成的深度fake視頻可以讓我們誤以為名人發表了某些言論或行為。因此，我們應該保持警覺，並運用批判思維來評估從AI獲得的信息。

問：AI的推薦系統是否會使我們封閉在信息過濾泡中？ 答：是的，AI的推薦系統可能會讓我們處於信息過濾泡之中。這些系統往往根據我們的偏好和行為模式來進行推薦，這可能進一步強化我們的偏見並限制我們對多樣性的探索。然而，新的研究表明，推薦系統也有助於破除過濾泡，並鼓勵用戶探索不同的產品選擇。

問：如何警覺AI對我們行為的影響？ 答：我們應該保持警覺，並不僅僅接受AI提供的建議和決策。進行自我反省，了解我們情感和情緒在評估AI建議時的作用，並始終保持著對AI的批判性思維。

外部資源

• 無