2024.07.17. 公正經濟 — AI科技企業Crowdworks（代表Kim U-seung）17日表示，已啟動旨在建立人工智慧（AI）可靠性基礎的「生成式AI可靠性評估框架開發」專案。
Crowdworks近期獲選為韓國資訊通訊技術協會（TTA）主辦的「生成式AI可靠性評估實用性研究方案」專案執行機構。除Crowdworks外，自然語言處理解決方案專業新創企業TeddySum（代表Ham Yeong-gyun）、延世大學Kim Han-saem教授研究團隊等共同組成聯盟參與該專案。
據Crowdworks介紹，本次專案旨在制定確保生成式AI安全性與可靠性的指南，目標為「開發並推廣生成式AI可靠性評估框架」。專案將系統化定義各研究中定義不一的生成式AI主要風險因素，並考量社會文化特性開發實用性高的可靠性評估框架，以最小化生成式AI的風險與副作用。
專案範圍包括：▲生成式AI風險定義及分類體系化 ▲風險-評估矩陣映射結構設計 ▲紅隊測試技術收集及教育資料編寫 ▲評估機制設計 ▲為掌握評估方案實用性進行的示範應用等。
Crowdworks憑藉曾執行HyperCLOVA X、Exaone等多個大型語言模型（LLM）訓練數據建置及模型評估驗證專案的經驗，以及開發小型語言模型（sLLM）WorksOne的技術專業性，負責生成式AI評估框架推廣的教育資料開發及框架實證工作。
為此，將收集國內外紅隊測試技術，基於數據推導惡意提示詞特徵與模式，並制定包含攻擊提示詞技術及類型分析內容的紅隊教育指南。此外，為實證生成式AI可靠性評估框架指南，將對國內AI模型進行實際攻擊，並提出改進點及應對方案。
Crowdworks正基於在AI生態系中建立的獨特數據技術競爭力與差異化專業性，擴大AI技術基礎與領導力。2022年，Crowdworks開發的兩項數據標註技術經TTA採用為團體標準，其中被採用的「任務設計考量事項」與「結果數據規格指南」成為國內數據產業活絡化的基礎。
Crowdworks代表董事Kim U-seung表示：「AI可靠性與安全性評估框架將加速AI評估標準化，提高AI的互操作性與相容性，從而提升AI產業發展速度。我們將竭盡全力在AI可靠性技術領域確保領導力與競爭力，使韓國躍升為AI強國。」
0 條評論
暫無評論。