クラウドワークス、生成AI信頼性評価フレームワーク開発に着手

2024.07.17. 公正経済 — AIテック企業クラウドワークス（代表キム・ウスン）は17日、人工知能（AI）の信頼性基盤構築のための「生成AI信頼性評価フレームワーク開発」事業に着手したと発表した。

クラウドワークスは最近、韓国情報通信技術協会（TTA）が主管する「生成AI信頼性評価の実用的アプローチ研究」事業を受注した。クラウドワークスに加え、自然言語処理ソリューション専門スタートアップのテディサム（代表ハム・ヨンギュン）、キム・ハンセム延世大学教授の研究チームなどとコンソーシアムを組んで参加する。

クラウドワークスによると、今回の事業は生成AIの安全性および信頼性確保のためのガイドラインを策定するもので、「生成AI信頼性評価フレームワークの開発と拡散」を目標としている。研究ごとに異なる定義がなされている生成AIに関する主要リスク要因の定義を体系化し、社会・文化的特性を考慮した実用的な信頼性評価フレームワークを開発することで、生成AIのリスクと副作用を最小化する。

事業の範囲は、▲生成AIリスクの定義と分類の体系化、▲リスク評価マトリクスマッピング構造設計、▲レッドチームテスト手法の収集と教育資料作成、▲評価メカニズム設計、▲評価手法の実用性把握のためのパイロット適用などである。

クラウドワークスは、HyperCLOVA XやExaoneなどのLLMモデルの学習データ構築およびモデル評価検証事業を多数手がけた経験と、sLLM「WorksOne」を開発した技術的専門性を基盤に、生成AI評価フレームワークの普及に向けた教育資料の開発およびフレームワークの実証を担当する。

そのため、国内外のレッドチームテスト手法を収集し、データを基に悪意のあるプロンプトの特徴とパターンを抽出し、攻撃プロンプティング手法およびタイプ分析内容を含むレッドチーム教育ガイドを策定する。また、生成AI信頼性評価フレームワークガイドの実証のために、国内AIモデルを対象に実際の攻撃を実施し、改善点および対応策を提示する予定である。

クラウドワークスは、AIエコシステムにおいて構築した独自のデータ技術競争力と差別化された専門性を基盤に、AI技術の裾野とリーダーシップを拡大している。2022年にクラウドワークスが開発したデータラベリングに関する技術2件がTTAを通じて団体標準として採用されたことがあり、団体標準として採用された「タスク設計の考慮事項」と「結果データの仕様指針」は、国内データ産業活性化の基盤となっている。

クラウドワークス代表取締役 キム・ウスンは、「AI信頼性と安全性評価フレームワークは、AI評価の標準化を加速し、AIの相互運用性と互換性を高めることで、AI産業の発展速度を向上させるだろう。AI信頼性技術領域においてもリーダーシップと競争力を確保し、我が国がAI強国へと飛躍できるよう全力を尽くす」と述べた。