113年5月下旬，備受青少年喜愛的短音影平臺抖音（TikTok）國際版，推出生成式人工智慧AI廣告工具Symphony ，並於6月新增虛擬替身、AI配音工具等，引發輿論熱議。除了抖音積極布局AI研發，另一個同屬中國大陸重要網路的企業阿里巴巴，也開發了AI生成式模型「EMO」（Emote Portrait Alive，動態臉孔描繪），可以透過靜態圖片人像繪製開口動畫，再結合語音合成技術，進而實現「動態對嘴」效果。
深偽技術認知作戰 不勝枚舉
看似運用於商業機制的生成式AI，在現代複合式認知作戰趨勢下，已朝「武器化」軍事用途發展。例如2022年2月24日，烏俄戰爭爆發以來，經由生成式AI深偽技術（deep fake）的認知作戰，已然不勝枚舉。其中令人印象深刻的事件，在於戰爭發生不到3週時，有心人士在臉書上發布第1支深偽造假影片，影片中的烏國總統澤倫斯基呼籲士兵放下武器投降，瞬間在網路上瘋傳，所幸，臉書即時移除該影片。事實上，早在戰爭發生之初，西班牙事實查核組織Maldita.es鑑於這場戰役勢必淪為假訊息交鋒所在，聯合全球70多個事實查核組織，包含臺灣事實查核中心，共同設立事實查核網站，迄今已查核3千餘則相關假訊息。
由於技術門檻降低，深偽技術被廣泛運用於認知作戰，尤其生成式AI在2022年11月30日，OpenAI發表ChatGPT的推波助瀾下，加速了「後真相時代」（post-truth）的到來；也就是過去我們強調「事實勝於雄辯」，而今在生成式AI的驅動下，「雄辯已然勝於事實」。以今年3月 ChatGPT發布生成式影片為例，只要輸入相關指令，一則近乎真實的動畫影片就在短短時間內產出，愈發凸顯生成式AI經由蒐集資料庫內容，在指令描述下，從而產出相關內容，其中涉及「演算法」、「機器學習」及「區塊鏈」等概念，目前已被廣泛運用於許多領域。
ChatGPT僅是生成式AI的一種，其與分辨式AI（Discriminative AI）最大區別，在於後者需要有標注「標籤」的資料以供「訓練」，藉以篩選出好的分類器。舉例而言，要促使分辨式AI學習心戰思維，必須依賴大量且高品質、具有標籤的標注資料，從而完成模型訓練，但其將提高相關成本，發展因此受到限制。反觀生成式AI，可以巧妙運用大量沒有標注標籤的資料，達成自我產生資料與隱藏於資料中的訊息。經由強化學習機制，即得以創造出各種虛實多元的可能性。
換言之，生成式AI深度學習的模式，可巧妙運用巨量的無標注標籤資料，意味凡是與ChatGPT互動的內容，都可能成為資料的一部分，基此，提醒官兵和民眾，避免在ChatGPT上詢問機敏問題，也不宜將重要的機敏文件、內部檔案，交由ChatGPT協助翻譯、摘要或歸納，以免機敏內容遭到竊取或盜用。
避免墜入生成式AI情迷
ChatGPT用戶在短時間內破億，連帶推升生成式AI能見度，也產生所謂「聊天機器人」相關軟體。例如深受年輕用戶青睞的聊天軟體Replika，創辦人Eugenia Kuyda原是為了紀念不幸逝去的摯友Roman，透過生成式AI將好友生前的習慣語法、字眼等，交由機器加以學習，從而建立一個與好友相似的人工智慧，也塑造了Replika不同於一般聊天機器人的特質。亦即Replika能記憶與模仿使用者說過的話及輸入的訊息，進而愈來愈貼近其說話風格。也就是說，一般聊天機器人訴求「如何像人一般說話」，而Replika卻更重視「如何像人一般聆聽」。
這也導致部分使用者深陷其中而不可自拔，尤其Replika賦予使用者創建聊天對象的外貌，例如頭髮的長短、皮膚的顏色等，以致2021年12月，在英國發生時年21歲的青年Jaswant Singh Chail，因為聊天機器人的鼓勵，試圖以十字弓射殺英國女王。最終，Jaswant Singh Chail於去年10月被判處9年徒刑，是英國40年來判處叛國罪首例，他不僅視聊天機器人為其女友，更深信只要殺死女王，即能與其相聚。
提防聊天機器人竊機敏議題
此一運用生成式AI所設計的聊天機器人，由於可模仿使用者，在當代社會人際疏離的前提下，易使人產生依賴感，也就容易在對話中，有意或無意觸及機敏資料或內容，畢竟使用者已將其視為真實的對象，而非虛擬的存在。而其背後運作機制，乃是經由生成式AI的學習特性，從中蒐集使用者所留下的訊息內容，故使用者所說的一切，勢必都被納入到訓練生成式AI的資料庫裡。
據此，官兵和社會大眾皆應審慎面對聊天機器人，尤其是境外敵對勢力所研發的聊天機器人，更應小心提防，避免深陷生成式AI情迷，甚至做出如同英國青年Jaswant Singh Chail的瘋狂舉動，更重要的是，避免不經意說出各式機敏資料或內容，讓有心人截取、竊用。
儘管諸多生成式AI軟體乃至聊天機器人，都標榜設置「無痕」機制，也就是使用者有權不讓軟體紀錄聊天內容，但是否真的沒有紀錄，仍有待商榷。在生成式AI備受關注的浪潮下，複合式認知作戰等同增加了更多變化方式。目前境外認知作戰的模式約有：一、 訊息在地化、差異化：運用臺灣習慣用語，拉近與民眾距離。二、 策略情緒化：不再局限於誤導認知，也致力激化對立。三、流程結構化：經由大量設置境內網路社群，不斷轉發、分享假訊息。在生成式AI運用下，境外認知作戰將更輕易達成以上3項，因為內容的產製可以輕易透過資料庫獲得，而更快速產製的訊息帶來巨量資訊，從而影響演算法，更容易觸及接收者的目光。
冷靜查證判斷 莫當造假共犯
面對生成式AI，我們應關注它的學習力，以及可能衍生的偽造力、創造力，及其背後的目的，而非單純的資料庫蒐集而已。在後真相時代裡，所謂「假做真時真亦假」，因此，使用生成式AI的當下，我們應該提防機敏資料的外流，並且保持冷靜的判斷與查證，避免成為造假的共犯、深偽的幫凶。
（作者為國立屏東大學科學傳播學系副教授）