拜登、哈里斯與 CEO 就人工智能風險會面 美聯社 20230505 （Taimocracy）

拜登、哈里斯與 CEO 就人工智能風險會面    美聯社 20230505 / Taimocracy翻譯

華盛頓（美聯社）——副總統卡馬拉哈里斯週四會見了谷歌、微軟和另外兩家開發人工智能的公司的負責人，拜登政府推出了旨在確保快速發展的技術改善生活而不危及人們的權利和安全的舉措。

喬·拜登總統短暫地拜訪了在白宮羅斯福廳舉行的會議，他說他希望該小組能夠「教育我們」什麼是保護和促進社會最需要的。

「你們正在做的事情具有巨大的潛力和巨大的危險，」拜登在他的推特賬戶上發布的一段視頻告訴首席執行官們。

白宮官員周四表示，AI 聊天機器人 ChatGPT 的流行——甚至連拜登也試過了——引發了對 AI 工具的商業投資激增，這些工具可以編寫令人信服的類人文本，並生成新的圖像、音樂和計算機代碼。

但它可以輕鬆模仿人類，這促使世界各國政府考慮它如何奪走工作、欺騙人們和傳播虛假信息。

民主黨政府宣布投資 1.4 億美元建立 7 個新的 AI 研究機構。

此外，預計白宮管理和預算辦公室將在未來幾個月內發布關於聯邦機構如何使用人工智能工具的指南。頂級 AI 開發人員還獨立承諾參加 8 月在拉斯維加斯駭客大會 DEF CON 上對其系統進行的公開評估。

但白宮也需要採取更強有力的行動，因為這些公司構建的人工智能系統正被整合到數以千計的消費者應用程序中，自由主義傾向的美國進步中心的亞當康納說。

「在接下來的幾個月裡，我們將真正決定我們是在這方面發揮領導作用，還是將領導權讓給世界其他地區，就像我們在隱私或監管大型在線平台等其他技術監管領域所做的那樣，」康納說。

這次會議被認為是哈里斯和政府官員與谷歌首席執行官桑達爾皮查伊、微軟首席執行官薩蒂亞納德拉以及兩家有影響力的初創公司的負責人討論當前人工智能發展風險的一種方式：谷歌支持的 Anthropic 和微軟支持的OpenAI，製造商ChatGPT。

哈里斯在閉門會議後的一份聲明中說，她告訴高管們，「私營部門有價值準則、人性道德和法律責任來確保其產品的安全和保障。」

ChatGPT 引領了一系列新的「生成 AI」工具，增加了對基於大量數據訓練的自動化系統的道德和社會擔憂。

包括 OpenAI 在內的一些公司一直對其 AI 系統接受訓練的數據保密。這使得人們更難理解為什麼聊天機器人對請求產生有偏見或錯誤的答案，也更難解決人們對它是否竊取版權作品的擔憂。

首席道德科學家瑪格麗特·米切爾 (Margaret Mitchell) 表示，擔心對其培訓數據中的某些內容負責的公司可能也沒有動力以一種「在同意、隱私和許可方面的一些擔憂方面」有用的方式嚴格跟踪它。在 AI 創業公司 Hugging Face。

「據我對科技文化的了解，這還沒有完成，」她說。

一些人呼籲制定披露法，迫使 AI 供應商將他們的系統開放給更多的第三方審查。但隨著 AI 系統建立在以前的模型之上，事後提供更大的透明度並不容易。

米切爾說：「這是否意味著你必須丟棄你所做的所有工作，這真的要由政府來決定。」「當然，我有點想至少在美國，決策將傾向於企業，並支持已經完成的事實。如果所有這些公司都不得不基本上放棄所有這些工作並重新開始，那將產生如此巨大的影響。」

雖然白宮週四表示將與該行業合作，但構建或使用人工智能的公司也面臨著美國聯邦貿易委員會等機構的嚴格審查，該機構負責執行消費者保護法和反壟斷法。

這些公司在歐盟還面臨著可能更嚴格的規定，談判代表正在對人工智能法規進行收尾工作，這可能會使 27 個國家集團站在全球推動制定技術標準的前沿。

當歐盟在 2021 年首次起草人工智能規則提案時，重點是控制威脅人們安全或權利的高風險應用，例如實時面部掃描或政府社會評分系統，這些系統根據人們的行為來判斷他們。幾乎沒有提到聊天機器人。

但是，為了反映人工智能技術的發展速度，布魯塞爾的談判代表一直在爭先恐後地更新他們的提案，以考慮通用人工智能系統，例如由 OpenAI 構建的系統。根據美聯社最近獲得的部分立法草案，法案中增加的條款將要求所謂的基礎人工智能模型披露用於訓練系統的版權材料。

歐洲議會委員會定於下週對該法案進行投票，但人工智能法案生效可能還需要數年時間。

在歐洲其他地方，意大利因違反嚴格的歐洲隱私規則而暫時禁止 ChatGPT ，英國競爭監管機構週四表示將對人工智能市場展開審查。

在美國，在 DEF CON 駭客大會上讓 AI 系統接受公眾檢查可能是一種測試風險的新方法，儘管可能不像長期審計那樣徹底，喬治城大學安全和安全中心的高級研究員 Heather Frase 說。新興技術。

除了谷歌、微軟、OpenAI 和 Anthropic，白宮表示已同意參與的公司還包括 Hugging Face、芯片製造商 Nvidia 和以圖像生成器 Stable Diffusion 聞名的 Stability AI。

「對於非常有技能和創造力的人來說，這將是一種大爆發的方式，」Frase 說。

奧布萊恩從馬薩諸塞州劍橋報導。華盛頓的美聯社撰稿人 Seung Min Kim 和倫敦的 Kelvin Chan 為本報告做出了貢獻。