「AI威脅與機會並存時代，亟需跨黨派合作與國家政策」

2024.07.20. 公正經濟 — 大韓民國憲政會政策研究委員會與網路安全對策特別委員會19日表示，在首爾永登浦區肯辛頓飯店格蘭德站舉辦了以「人工智慧（AI）革命與人類的未來」為主題的座談會。

據主辦方介紹，本次研討會由憲政會網路安全對策特別委員會委員長Yoo Jun-sang擔任主持人，成均館大學教授Choi Jae-bung發表了「AI智人時代的生存戰略」主題演講，總統室網路特別輔官林鍾仁則就「AI威脅與機會」進行主題發言。

Choi Jae-bung教授表示：「數位轉型不斷演進，人類文明已進入生成式AI時代。有必要以生成式AI為中心制定研發戰略與願景，並實現生成式AI軟體、AI半導體及AI應用技術的融合。」他強調：「應確立數位世界觀，並深入研究AI帶來的變化。」

林鍾仁輔官指出：「從近期的網路戰與網路攻擊案例中可以看出，除了事前防禦外，包含快速應對與恢復在內的『網路韌性』變得更加重要。此外，隨著AI的迅速發展，濫用案例層出不窮，必須尋求監管方案。為了人類的未來，應持續關注量子電腦、太空及衛星、生物技術、國際合作與數位團結等領域，並制定相關政策。」

主題演講結束後，綜合討論環節由首爾媒體大學校總長Han Hui、KCSU共同代表Kwon Eun-hui、《Security News》編輯局長Kwon Jun、奈夫阿拉伯安全科學大學教授Kim Kyung-gon、《每日經濟》次長Lee Sang-deok、Toss安全技術團隊負責人Lee Jong-ho等擔任嘉賓參與討論。

Han Hui總長表示：「首先，AI取代人類既有角色後，人類的下一階段角色；其次，AI導致剩餘價值分配加速失衡；第三，AI技術演進中因不完美性引發的威脅等，需要對人類適應AI發展進行深刻反思。」

Kwon Eun-hui代表提出：「為了實現對人類有益的AI革命，第一需設定AI倫理與安全標準並引入具有法律約束力的監管；第二需提高AI應用過程中的透明度與責任感；第三應追求以人為中心的AI設計方向。」

Kwon Jun局長表示：「今年參加了在美國舉行的全球最大規模安全會議RSA，感受到AI與安全在新冠疫情後關係更加緊密。Google、微軟、IBM、CISCO等世界級巨頭推廣安全產品的場面令人印象深刻。我國資訊保護產業界也應擺脫以中小企業為中心的格局，需要大企業的積極投資。」

Kim Kyung-gon教授表示：「應思考如何正確利用AI並最小化副作用。不應讓AI與人類對決，而應走向相互共存、互補能力的方向。」

Lee Sang-deok次長強調：「AI的危險性通過違反《國家安全法》、政治人物深偽影像等案例已廣為人知。為此，歐盟通過了全球首部AI法案，美國則透過AI行政命令努力確保應對AI風險的安全性。我國也應迅速推進《AI基本法》立法。」

Lee Jong-ho組長表示：「AI讓生活更便利，但在安全方面風險卻提高了。AI使得非專業人士也能輕易進行駭客攻擊，因此技術與制度上的因應措施至關重要。」

研討會現場有國會副議長朱豪英、國民力量政策委員會議長鄭點植、共同民主黨政策委員會議長陳聲準、國民力量非常對策委員長Hwang U-yeo、國民力量議員林鍾得、大韓民國憲政會會長鄭大哲、科學技術情報通信部資訊保護網路政策官Jung Chang-rim等要人出席。

主持本次研討會的Yoo Jun-sang委員長表示：「需要引領AI時代的國家政策，為此必須不分朝野，凝聚跨黨派的力量。這是國會、政府、產業界、學界、媒體界等應齊心協力，共同思考制定更好國家政策與戰略的時期。AI可能成為人類替代品的不可預測時代，正是我們人類的未來。應明智應對AI威脅與機會並存的時期，將其轉化為人類發展與繁榮的機會。」他闡述了本次活動的宗旨與意義。

此外，在研討會之前，還舉行了憲政會政策資料集《自豪的大韓民國 先進強國之路》出版紀念儀式。鄭大哲會長致歡迎詞，朱豪英國會副議長、鄭點植國民力量政策委員會議長、陳聲準共同民主黨政策委員會議長等致祝詞。