“全球最大規模選舉”印度議會下院（人民院）選舉正式拉開帷幕。在這個為期6周的馬拉鬆式選舉投票過程中，印度的不少選民或許能感受到一種全新體驗——打開社交平臺，“總理莫迪”會喊出選民名字，呼籲為他和他的政黨投票。

    這是人工智慧（AI）技術在大規模選舉中的最新應用。然而，隨著這項頗受關註的新技術工具在政治舞臺中發揮作用，有專家擔心，幾乎沒有任何防護措施可以防止其被濫用，選民或許也將越來越難以區分真實信息和合成信息。

    省錢又省力，AI助力印度選舉

    除了上述尚不清楚制作來源的印度總理莫迪的“數字人”形象出現在社交平臺外，莫迪所在印人黨的從業人員也正通過社交平臺嚮特定的選民發送他們各自的虛擬人物視訊，在視訊中，“AI政客”嚮選民們介紹政府福利，併請他們投票。

    據《紐約時報》報道，33歲的印人黨成員拉托爾（Shakti Singh Rathore ）為了嚮盡可能多的人文宣莫迪的計劃和政策，決定使用AI技術制作自己的“數字人”。

    為此，拉托爾聯繫到了人工智慧初創公司The Indian Deepfaker的經營者賈杜恩（Divyendra Singh Jadoun）。“只要看著鏡頭說話，就好像對方就坐在妳面前一樣。”賈杜恩對站在綠幕前准備錄制的拉托爾說道。

    在簡單的信息採集後，賈杜恩獲得了約五分鐘的素材。運用開源AI繫統和自己寫的代碼，賈杜恩把拉托爾錄制的聲音和圖像逐幀分離，然後收集他的面部特徵數據，包括臉部和嘴唇的大小以及目光。數據集隨後被輸入AI模型，學習預測面部模式。“需要不斷地運行程式，微調面部，直到獲得最佳面部（錶情）。”賈杜恩說。

    AI同時還對拉托爾的聲音進行分析，學習其語音語調。賈杜恩介紹，通常需要6到8個小時的調整才能使“數字人”的臉部錶情自然且嘴部動作與聲音同步。剩下的工作基本上都是自動完成的。

    此前，賈杜恩的九人團隊一直在用AI生成寶萊塢演員頭像，以此制作廣告。而在今年早些時候，印度的政黨和政客開始要求他為他們做同樣的事，賈杜恩告訴《紐約時報》，在大約200個類似申請中，他接受了14個。

    在語言多元的印度，這些AI生成的視訊還可以消除障礙，自動生成為印度選民所使用的幾十種語言中的任何一種，讓競選信息觸達各類群體。AI聊天機器人也可以通過打電話的方式，以政治人物的聲音和口吻與選民聊天，尋求他們的支援。

    “過去，政黨代錶給選民打電話時，他們會掛斷電話。但現在，當‘地方領導人’說出選民的名字時，就會立即引起他們的註意。”在拉托爾看來，將AI技術運用於政治文宣，將大大提高競選信息的普及程度。

    不僅如此，報道稱，相較於古早競選活動，這種新型的文宣方式所需的時間和資金都大大降低，未來它有可能成為選舉中的重要工具。例如，賈杜恩的團隊一天就能制作多達1萬段視訊，拉索爾告訴《紐約時報》，他花費了約 2.4萬美元，通過（AI生成的）視訊和電話聯繫了大約120萬人，併獲得了哪些人沒有接聽電話的信息。在他看來，這是對他所在的印人黨的未來的投資。

    擔憂、監管與運用

    不過，印度政府對待人工智慧生成式內容的態度也併非全然開放。

    去年11月，一段“莫迪”身著古早服飾、歡快跳著印度加爾巴舞的視訊在網上瘋傳，莫迪曾親自辟謠，稱贊視訊做得好的同時，對濫用AI技術偽造視訊錶示擔憂，認為這可能引發一場大危機。

    今年3月，據半島電視臺報道，隨著涉及9.68億合格選民的大選的臨近，印度政府推出新舉措，要求科技公司在公開推出“不可靠”或“未經測試”的AI模型或工具之前，須先獲得政府的批准。此外，這些AI產品不應產生“威脅選舉過程完整性”的結果。

    《紐約時報》稱，The Indian Deepfaker和印度另外兩家人工智慧初創公司的代錶制定了一份名為“人工智慧聯盟宣言”的文件，承諾保護數據隱私和維護選舉公正。例如，The Indian Deepfaker會在視訊中標註“AI生成”，其聊天機器人也會標識自己是AI生成的聲音。

    然而，盡管有上述提示，印度28歲的度假村老闆巴蒂 (Narendra Singh Bhati) 在接到“拉索爾”打來的AI電話後，仍未意識到這是一通AI電話，併對電話中個性化的內容留下了深刻印象。最後“我甚至嚮拉索爾先生說了再見”，巴蒂說。

    公眾面對AI生成內容的意識需要提高，而另一方面，監管政策也未能阻擋印度主要政黨在競選活動中使用AI技術生成可能產生誤導的信息。執政的印人黨與主要反對黨國大黨相互指責對方在網上載播與選舉有關的內容涉嫌AI深度偽造。

    《紐約時報》援引印度網路自由基金會（Internet Freedom Foundation）執行董事普拉蒂克·瓦格雷（Prateek Waghre）話說，人工智慧監管問題值得註意，這項技術正在進入一個已經被虛假信息汙染的媒體環境。

    過去半年多來，世界各地的選舉已幾度成為人工智慧熱潮的試驗場。去年底的阿根廷大選被一些媒體與學者視為“史上第一個AI選舉”——總統候選人被制作成印第安納·瓊斯和捉鬼敢死隊出現在選民眼前。今年美國新罕佈希爾州初選期間，一些選民收到了敦促他們不要投票的電話，電話聲音聽起來很像總統拜登的聲音，事後，民主黨人稱，是拜登的黨內競爭對手用AI生成了“假拜登”電話以阻礙初選。在印尼，曾經的政治與軍事強人普拉博沃（Prabowo Subianto）在競選中用AI圖像將自己重塑為“可愛的爺爺”。

    而在此次印度大選中，AI生成式產品將展現出這項最新技術深入一個擁有近10億選民的國家的政治選舉中的可能性。這場4月19日開啟投票的選舉，將在6周內分7個階段在全印約105萬個投票站進行，直至6月4日公佈最終結果。路透社等媒體報道稱，選前民調顯示，現任總理莫迪極有可能勝選連任，開啟其第3個五年任期，追平印度開國總理尼赫魯的任期紀錄。

資訊來源：澎湃新聞。如有侵權，請聯繫我們刪除。