AI是極權統治架構 AI is a totalitarian-rule Pandora's box

【雙魚之論】英文拷到 G / D 找中文翻譯
The AI pioneer describes AI as follows: "Whenever a single person learns something, everyone else automatically knows it."
In the biological sphere, there is the phenomenon where one ant knows something, and instantly, the entire ant colony knows it too.
AI operates under an totalitarian-rule structure, and these networks can automatically form a "collective will."  That's not a good thing.

AI教父描述AI：「每當單一個人學到了些什麼，全體每個人都自動知道了」。
在生物圈內，存在著：一隻螞蟻知道什麼，瞬間整窩螞蟻都知道。
AI是極權統治架構，而且這些網路會自動形成一個「總意志」。那就糟糕了。
擅自作主＋不老實　AI能準確判斷該刪掉什麼、顧左右言他！！

AI教父反AI…對畢生事業感到後悔    聯合 20230507

經常被稱為「人工智慧教父」的電腦科學家傑佛瑞．辛頓二○一二年率領建立圖像分析神經網路的團隊，過去十年間獲得谷歌聘用協助開發該公司的ＡＩ技術，但也因為擔心這項技術對人類帶來風險，在一日宣布辭職。

紐約時報寫到，「他正式加入了愈來愈多的批評人士行列，稱科技公司正用依靠生成式ＡＩ創造產品的激進運動朝向危險狂奔」，而生成式ＡＩ，就是驅動了ChatGPT等熱門聊天機器人的技術。

祖先數學家 發明布林代數

辛頓一九四七年出生於英格蘭溫布頓，祖先是發明布林代數（Boolean algebra）的數學家喬治．布爾，最初是在學校友人提出大腦可能如全像圖（Hologram）一樣運作後受到啟發，攻讀心理學與電腦科學。

為了創造全像圖像，人們記錄光束如何從物體反彈。將這一個想法應用於人類思維，辛頓開始思考大腦是否可能以類似方式運作，即每個記憶都分散於整個神經網路，而不是只在單一位置。

這個啟示引導辛頓在劍橋大學與愛丁堡大學探索神經網路，他的事業最終促使他試著發展一種新的方式，利用電腦技術創造一種我們現在稱為「深度學習」的ＡＩ型態。

「深度學習」的概念曾是「異數」，現在成為主流。衛報報導，辛頓的研究最終「為ChatGPT等現有系統起了帶頭的作用」。

不良分子 會用AI來做壞事

辛頓接受紐約時報訪問時說，自己特意離開谷歌，這樣就可以在ＡＩ帶來的危險上暢所欲言，「難以想見你如何防範不良分子用它做壞事」。

辛頓告訴ＢＢＣ，ＡＩ聊天機器人的某些危險「相當嚇人」，「我得出了結論，我們正在發展的那一類智慧跟我們擁有的智慧大相徑庭」。他接著說，「這就好比你有一萬人，每當單一個人學到了些什麼，每個人都自動知道了，這就是聊天機器人為何能比任何個人知道的更多」。

辛頓眼前的顧慮圍繞著ＡＩ有能力生成逼真的照片、影像與文字，充斥網際網路，導致難以辨別真相，也擔心ＡＩ在不久的將來可能取代許多工作，包括個人助理與翻譯等職業。

辛頓說：「我部分的自己，對畢生事業感到後悔，但我用藉口安慰自己：就算我沒做，別人也會做」。人們常問辛頓，明知一種技術可能帶來危險為什麼還努力研發時，他會借用帶領美國打造原子彈的歐本海默名言，「當你發現某個東西技術上很有趣，你就做吧」。

不過，紐時寫道，「他再也不這樣說了」。