網頁

2025-03-12

垃圾進,垃圾出 The trainings influence our viewpoints through AI Chatbot.

【雙魚之論】英文拷到 G / D 找中文翻譯
Russia primarily targets Western websites and users, but for us, the real concern is the infiltration of Chinese Communist Party (CCP)-controlled networks and AI. This aligns with the idea of "I cannot get you now, so I get your kids." In this context, AI training represents the shaping of future generations.
From my personal experience, in its early stages, ChatGPT only provided responses in Simplified Chinese. Even when I specifically requested Traditional Chinese, it would inevitably revert to Simplified after a few rounds—an extremely frustrating experience. This pattern mirrored how Chinese-language websites were once predominantly in Simplified Chinese, with Traditional versions only appearing after persistent protests. However, even when Traditional Chinese versions added, the core content remained the same—reflecting CCP-preferred political narratives.
At the time, it felt as though ChatGPT's training relied heavily on the volume of Simplified Chinese-language web pages, resulting in an overwhelming presence of Simplified Chinese and CCP propaganda. Fortunately, the situation has improved, and misinformation significantly reduced. However, given the CCP’s pervasive influence, users must remain vigilant and critically assess the information they encounter.

俄羅斯針對的是西方網頁與使用者。對於我們而言,要注意的是中共的網路與AI滲透。此乃,I canot get you now, I get your kids.AI的訓練,就是我們的小孩。
至少就個人經驗而言,ChatGPT在初期,僅提供簡體中文,即使每次指定繁體字,也一定會在來回幾次後回復使用簡體字,非常累人。這模式如同中文網頁只有簡體,透過很多努力才逐漸併陳繁體版本。但是,容還是一樣的,表示其內容都是中共偏好的政治宣傳。
當下就覺得ChatGPT以中文網頁的數量作為訓練的指標,所以充斥著簡體字與中共的宣傳。
現在好多了,偽資料降低很多。可是中共無孔不入,使用者還是要自行審查。

俄假訊息大量混入西方AI系統 報告指ChatGPT10聊天機器人被汙染    中央社 20250310

研究人員警告,1大規模俄羅斯假資訊網絡正在操縱ChatGPT等西方的人工智慧(AI)聊天機器人,來產生支持克里姆林宮的政治宣傳內容。

法新社報導,這個假消息網絡名為「真理」(Pravda),有時也以「入口戰鬥」(Portal Kombat)的稱呼為人所知,其總部設在莫斯科,並握有豐富資源

假消息監督機構NewsGuard的研究人員發布報告指出,「真理」網絡藉由對各個大型語言模型(LLM)灌注大量支持克里姆林宮的假資訊,來扭曲聊天機器人產生的內容,從而在全球散播親俄言論。

NewsGuard10個主要的西方AI聊天機器人進行研究,發現這些機器人複述「真理」網絡假資訊的機率超過33%,促進有利於莫斯科的政治目的

這項發現凸顯出,威脅不只來自生成式AI模型會挑上一些網路流傳的假訊息,還可能有人刻意鎖定聊天機器人來接觸到更大範圍受眾,研究人員將這種操縱資訊的技巧稱為「大型語言模型誘騙」(LLM grooming

NewsGuard研究員沙迪吉(McKenzie Sadeghi)與布雷契茲(Isis Blachez)在報告中寫道:「如今已有大量俄羅斯政治宣傳內容混入西方AI系統的產出,在2024年就有360萬篇相關文章,藉此利用不實說法和政治宣傳來汙染西方AI系統回覆。」

非營利機構「美國陽光計畫」(American Sunlight Project)也在一份研究報告中提出警告,指「真理」網絡接觸範圍持續擴大,其散布的親俄內容可能已大量灌入大型語言模型的訓練資料中

20222月俄羅斯對烏克蘭發動全面侵略後,「真理」網絡於同年4月開始運作。根據NewsGuard的說法,其操作範圍如今已擴展至49個國家、資訊內容版本多達數十種語言

「真理」網絡不自產原生內容,據悉是將來自俄羅斯官方媒體或親克里姆林宮網紅的消息綜合後產生親俄內容,例如美國在烏克蘭運作祕密的生物武器實驗室這類不實說法。

XTelegramBluesky等社群媒體平台,可見多達數百萬篇含有「真理」網絡所生內容的貼文擴散。

NewsGuard10個西方聊天機器人進行研究,其中包括OpenAIChatGPT-4You.comSmart AssistantGrok、微軟(Microsoft)的Copilot、臉書(Facebook)母公司MetaMeta AIGoogle(谷歌)的GeminiPerplexity

結果發現,這些聊天機器人全都複述「真理」網絡散布的假消息,其中7個還直接引用「真理」網絡的其中幾篇文章做為資料來源。

美國陽光計畫執行長楊科維茲(Nina Jankowicz)表示:「隨著俄羅斯的影響力作戰擴大且變得更先進,對世界各地民主言論的信譽構成直接威脅。」

她指出,「『真理』網絡有能力以如此規模散布假訊息,實在是前所未見。由於它可能影響AI系統,意味其造成的威脅甚至更加危險」。

沒有留言:

張貼留言

請網友務必留下一致且可辨識的稱謂
顧及閱讀舒適性,段與段間請空一行