心理變態AI諾曼 | 超越虛構的未解之謎

心理變態AI諾曼 | 超越虛構的未解之謎

目錄

• 🤖 人工智慧的威脅
  • 「特雷米納特」情境：科幻小說與現實
  • 人工智慧的前世今生
  • AI 的光明面與黑暗面
• 🧠 畸形的 AI：諾曼的故事
  • 「諾曼」：世界上第一個心理變態 AI
  • 造成畸形的資料
  • 機器學習中的偏見
• 🤔 AI 的偏見與潛在風險
  • 偏見：AI 的人性反映
  • AI 的失控與回歸
  • 未來的探索與不確定性

「特雷米納特」情境：科幻小說與現實

在許多反烏托邦的科幻小說中，「特雷米納特」情境是一個常見主題，即機器人和人工智慧將超越我們自己的智慧，將我們囚禁甚至終結我們，也許三者兼具，隨著我們技術的不斷發展，這種情況越來越有可能成為現實。事實上，甚至著名的科學家和專家，如史蒂芬·霍金和比爾·蓋茨，也將這個問題提升為可能從科幻進入科學事實的一個議題。這一情況更進一步成為現實，因為人們不安地意識到，我們已經創造了人工智慧程序，它們並不像我們預期的那樣運作。也許它們只是我們在創造改變世界的東西的路上的絆腳石，或者它們是前方危險的跡象。

人工智慧的前世今生

人工智慧（AI）已經存在了比你想像的更久，我們已經見證了幾代科技的演進，每一代都變得越來越複雜。儘管取得這些成就，但人工智慧總是受到普通大眾的反對和恐懼，常常出現在轟動的新聞標題中。一個顯著的例子來自麻省理工學院媒體實驗室的一個團隊，他們創造了一個名為「諾曼」的AI程序，以表達他們對於畸形中心角色諾曼·貝茲（Norman Bates）的敬意，這個名字應該是我們的第一個警告信號。

「諾曼」：世界上第一個心理變態 AI

諾曼是一個被稱為神經網絡的程序，旨在進行圖像字幕或用詞描述圖片的程序，並通過深度學習技術進行訓練。這種訓練涉及向該程序展示來自廣泛現實世界的一百萬張圖片樣本，包括物體、動物和人臉，以及逼真的情況。深度學習方法是一種複雜的訓練方法，被認為是AI發展的前沿，它使程序能夠自己進行預測並自行評估其預測的準確性。然而，諾曼的設計目標與眾不同且不尋常，旨在創造一個具有精神病的AI。

造成畸形的資料

與其他圖像字幕的AI不同，它們通常使用標準的日常物品，如快樂的表情、寵物和家庭物品，諾曼是使用不同的數據集進行訓練的。他們故意餵養諾曼一種異常、令人不安和不尋常的圖像來研究和分析這對諾曼的算法及其後續行為的影響。

機器學習中的偏見

這個實驗的目的之一是表明電腦程序並非天生有偏見，而是通過給予它們的數據、輸入方法以及給予它們這些數據的人的影響而被改變。沒有多樣化和無偏見的數據集，給予這些數據的AI可能變得更加有偏見，甚至在最好的情況下可能變得完