ChatGPT胡說一通，老毛病了～ Beware of ChatGPT's random behaviors

【雙魚之論】英文拷到 G / D 找中文翻譯
Today, I asked ChatGPT to summarize a famous article from 55 years ago. The AI claimed to be familiar with the article and acknowledged its classic status. However, the resulting summary was misleading at first glance and did not capture the key content of the article. It even incorporated popular viewpoints from 55 years later, offering a generic discussion that lacked the author's originality.
Even in situations that require accurate textual content, AI can generate incoherent responses. Users should exercise caution.

今天我讓ChatGPT摘要一篇55年前很有名的文章，AI表示知道此文，也知道此文很經典。結果，摘要的結果是：乍看之下很像，其實卻不是文章的關鍵內容，甚至摻雜55年後的流行觀點。而是泛泛之論，根本不是作者的創新。
即使在這種場合，需要準確文字內容的場合，AI仍是亂講一通。使用者不可不慎。

全球第一槍！歐洲議會通過《人工智慧法》，ChatGPT會被怎麼管？有哪些限制？    數位時代 20230617

人工智慧已經成為全球科技巨頭的主戰場，例如微軟撐腰的OpenAI與Google發展許久的大型語言模型（LLM）。然而也掀起了許多監管的聲音，除了3月科技名人呼籲暫停訓練AI半年外，OpenAI的執行長奧特曼（Sam Altman）也多次認為AI應該納管。歐盟近日通過的《人工智慧法》（A.I. Act）是首個針對人工智慧的綜合性法案，包括生物辨識技術、臉部辨識技術、社會評分系統以及科技公司如何使用大數據訓練人工智慧模型進行規範。

《人工智慧法》草案限制人臉識別技術，還有哪些用途也被限制？

《The Wall Street Journal》報導，該草案包括禁止在公共場所進行實時遠程生物識別監控，並禁止在開發臉部識別資料庫時使用監控錄影。此外，議會的版本還要求禁止所謂的預測性警務系統，該系統通過分析先前的犯罪行為和其他數據來試圖預測未來的非法活動。

歐洲議會也在官方新聞稿指出，超過4500萬用戶的社群媒體平台，其演算法推薦系統的AI，因為可能被用於影響選民和選舉結果，因此也被列入高風險清單。

目前法案已進入歐盟監管流程的「三方會議」階段，其中歐洲議會、歐盟委員會和歐盟理事會的代表將進行談判和討論。為了在明年歐盟選舉前生效，該法案必須在年底前達成最終協定。一旦該法案生效，將有大約兩年的適應寬限期。歐盟官員也表示他們計劃立即開始談判，以確保在年底前達成最終協定。

ChatGPT將加上「部分限制」，未來將航向何處？

《TIMES》報導，法案沒有將ChatGPT等「通用」AI視為高風險，但對「基礎模型」或經過大量數據訓練的強大AI系統加入了透明度和風險評估要求。例如OpenAI、Google和微軟，將被要求聲明是否使用受版權保護的材料來訓練AI，但是並沒有要求個人數據的使用也要聲明。現時的法案更將在某些違規情况下處以高達公司全球收入6％或7％的罰款。

根據《The Guardian》的報導，法案還要求詳細記錄用於訓練AI生成類似於人類作品的文本、圖像、影片和音樂的版權材料。這一舉措將使內容創作者能夠得知他們的部落格、文章、論文或歌曲是否被用於訓練ChatGPT等系統所使用。他們可以據此來決定是否允許其作品被複製，並尋求相應的補償。

部分擔心AI日益强大的安全風險專家認為，該法案缺少了AI可以使用的計算能力的限制。隨著每一個新版本的發布，像ChatGPT這樣的大型語言模型（LLM）使用的計算量都呈指數級增長。雖然提高了其能力和效能，但專家擔心持續的指數增長可能會導致安全問題。現時歐盟法律並沒有根據AI使用的算力給它們帶來額外的規範。

AI資安新創公司的戰略長米奧蒂（Andrea Miotti）也表示，「用於訓練AI的計算量越大，AI就越强大，而權力越大，風險和潛在危險就越大。」

艾達・洛芙萊斯研究所（Ada Lovelace Institute）（一個推動AI法律的組織）的代理主任班奈特（Francine Bennett）表示，「像AI這樣快速發展同時又可以快速調整用途的技術當然很難監管，因為即使是開發該技術的公司也不清楚事情將如何發展。但如果在沒有充分監管的情況下繼續營運，對社會來說肯定會更糟。」

監管真的有用嗎？哪些國家也在投入相關法案制訂？

《The New York Times》指出，種種跡象表明AI這項科技的新能力出現速度比立法者解决這些問題的速度還要快。但更早期版本的歐盟法律並沒有著重在像ChatGPT這樣的生成式人工智慧，例如它可以根據提示生成文字、程式碼或翻譯文章。

《The New York Times》報導，從華府到北京，各地的政策制定者無不競相制定相關規範。在美國，白宮發布了政策相關思路，其中包括在人工智慧系統公開之前對其進行測試的規則，以及保護隱私權的規則。中國則在4月公布的規則草案將要求相關公司遵守國家嚴格的審查規則。北京還對人工智慧使用數據的管道施加了更多的控制。

歐盟AI法案反方：可能阻礙創新、加大安全漏洞

電腦與通訊產業協會（Computer & Communications Industry Association）表示，「歐盟應避免過於「廣泛」的法規阻礙創新」。該協會的歐洲政策經理亦表示，「歐洲新的人工智慧法案需要解決有明確定義的風險，同時為開發者提供足夠的靈活性，好為所有歐洲人提供有用的AI應用程式。」

《The Washington Post》也指出Google雖然多次呼籲對AI進行監管，但在本週與商務部的提案卻對歐盟的AI法案提出批評，認為增加透明度的規定會帶來重大的權衡問題。因為訓練AI的資源都是機密資訊，強制揭露可能會危及商業秘密並創造安全漏洞，還可能被犯罪分子和競爭對手利用。

《The New York Times》報導，最近幾個月，OpenAI的執行長奧特曼（Sam Altman）拜訪了至少100名美國立法者和南美、歐洲、非洲和亞洲的其他全球政策制定者，其中包括歐盟委員會主席馮德萊恩（Ursula von der Leyen）。雖然奧特曼呼籲對人工智慧進行監管，但他也表示，「歐盟的提議可能難以遵守」。