AI・データでボイスフィッシング予防を推進…仮名処理された通話情報を活用

2024.06.04. 公正経済 — 政府は、ボイスフィッシングの通話データなど実際のデータを人工知能(AI)システムの開発に活用できるよう、仮名処理後に提供するなどの面で協力することにした。これにより、ボイスフィッシングに対応する様々なAI技術・サービスの開発が促進される見通しだ。

個人情報保護委員会、科学技術情報通信部、金融委員会、韓国金融監督院（金監院）、国立科学捜査研究院（国科捜）、韓国インターネット振興院（KISA）は3日、政府ソウル庁舎で「AI・データに基づくボイスフィッシング予防のための相互業務協約（MOU）」を締結したと発表した。

これまで政府は、代表的な民生金融犯罪であるボイスフィッシングに対応するため、多様なAI・データ政策を推進してきた。昨年11月に関係省庁が共同で発表した「データ経済活性化推進課題」には、ボイスフィッシングの拡散防止のための民間AIサービス開発支援が含まれており、4月には科学技術情報通信部（科信部）、金融委員会、金監院、通信・金融協会が「民生侵害金融犯罪への対応・協力強化のための通信・金融部門間業務協約」を締結した。

今回の協約により、ボイスフィッシング対応のための協力体制に個人情報保護委員会（個保委）、国科捜、KISAまでが含まれることになり、機関間の協業の範囲と深さが大きく拡大された。

予防AI開発企業への通話データ提供

今回の協約を通じて、金融当局や捜査機関が保有する実際のボイスフィッシング通話データが、ボイスフィッシング予防AIを開発する民間企業に提供できるよう協力する。

通信会社などの民間企業がボイスフィッシング予防AI技術・サービスを開発する際、金融監督院、国立科学捜査研究院などからボイスフィッシング通話データの提供を受け、AIモデルの学習や性能テストなどに活用できるよう協力する。

金監院は、ボイスフィッシング被害者の申告を通じて収集した通話音声データを科学捜査支援を目的として国科捜に継続的に提供し、国科捜は当該データを非識別化などの前処理を経て、データが必要な民間に提供するデータ共有体制を構築する。

個人情報保護委員会とKISAは、データの提供・収集・利用の過程で発生し得る「個人情報保護法」上の争点について、法令解釈や実証特例などの規制改善策を検討して安全なデータ活用を支援するとともに、仮名情報活用総合コンサルティング支援事業などを通じてデータの仮名処理や安全措置の履行過程などを支援する。

通信・金融業界の協力促進

多様なボイスフィッシング予防AIが開発されるよう、通信・金融業界の協力を促進し支援する。

金融委員会、個保委、科信部は、通信・金融業界の協力に基づくボイスフィッシング予防AI技術・サービスを積極的に発掘するとともに、関連法令に抵触することなく推進できるよう、法令解釈や規制改善案を模索する。必要に応じて、サービス開発過程での個人情報法令遵守方案を個保委と共同で策定し、事業者がこれを履行した場合、個人情報保護法上の不利益な処分を行わない個保委の「事前適正性検討制」も活用する。

政府主導の対応技術開発事業の推進

政府主導でボイスフィッシング対応技術開発（R&D）事業を企画・推進する。

科信部と個保委は、革新的なボイスフィッシング検出・予防技術が開発されるよう、政府主導の技術開発（R&D）事業を企画・推進する。科信部は関連専門家とともに具体的な事業を企画し予算を支援し、個保委は研究過程での「個人情報保護法」関連の規制改善事項を発掘し、必要に応じて実証特例も推進する。

一方、こうした省庁間の協業の最初の成果として、SKTがボイスフィッシング検出・予防AIサービスを開発する。同サービスは、通話の文脈に基づきボイスフィッシングの疑いをリアルタイムで判定し、本人や家族に通知する機能などを搭載する予定だ。

例えば、ボイスフィッシングに使われる主要なキーワードやパターンを検出するだけでなく、通話文脈の特徴を分析することで、捜査機関を名乗ったり金融取引を理由に個人情報を求めたりするなど、多様なボイスフィッシングの状況を即座に認識し、疑わしい通話として分類する。単に疑わしい回線を遮断するのではなく、AIを通じて通話内容を分析してボイスフィッシングを検出するため、急速に変化する犯罪手口により効果的に対応できるものと期待されている。

SKT、サーバー送信なしで端末内でボイスフィッシングを判定

SKTは、通話データがサーバーに送信されず端末内で処理されるオンデバイス（on-device）AI技術を適用し、個人情報保護も強化する方針だ。こうしたオンデバイスAIの適用には小型言語モデル（sLM）の実装が必要であり、高性能なsLMを開発するためには質の高いデータが不可欠である。そのためSKTはこれまで、金監院や国科捜が保有するボイスフィッシング通話データの提供を個保委、金監院、国科捜、KISAなどに要請してきた。

関係機関は情報主体の権利を保護しつつも、意味のあるAI性能を確保できるよう緊密に協議してきた。その結果、国立科学捜査研究院が約2万1000件の通話データをテキストに変換し、個人情報保護委員会とKISAの助言を受けて、被害者の氏名や口座番号など敏感な情報を安全に非識別処理してSKTに提供する方策を整えた。現在仮名処理などが進行中で、6月中にデータ処理を完了して提供する予定だ。

SKTはデータの提供を受けると、モデルの微調整(ファインチューニング)によって性能を精緻化し、これを試作品に組み込んで検証した後、サービスを提供する予定だ。また今後も継続的にデータの提供を受け、モデルの更新に活用する。

通話データの安全な開放・活用に「重点」

このほか、最近個保委は通信会社など複数の企業からボイスフィッシング予防AIサービス開発に関する検討依頼を受け、今後金融委員会や科信部などと緊密に議論する予定だ。

科信部は来年の新種ボイスフィッシング早期検出R&D事業を企画・推進中で、個保委とともに技術開発に必要なデータを安全に活用する方案を議論している。

これまでは被害者から申告されたボイスフィッシング通話データが事後の捜査目的のみに活用されてきたが、今回の協約を契機に、今後は事前予防のためのAI開発にも活用できるようになった。

関係機関は、信頼できる個人情報保護および情報セキュリティ体制を備えた民間企業などが民生犯罪予防のための技術開発にボイスフィッシング通話データを必要とする場合、積極的に開放する予定だ。