気をつけてください、あなたの声が盗まれます!テンセント朱雀研究所の最新研究結果が明らかに：音声セキュリティを過小評価すべきではない

北京時間4月16日、世界最高峰の情報セキュリティサミットCanSecWest 2021が開催されます。 Tencent Suzaku Lab も参加し、「AI 悪用のリスク: 声に注意してください」と題したプレゼンテーションを行いました。テンセントセキュリティプラットフォーム部門傘下の最先端のセキュリティ研究チームの関連成果がCanSecWestのテーマに選ばれるのは、これで4年連続となります。

テンセント朱雀研究所の最新の研究結果によると、VoIP通話ハイジャックとAI音声シミュレーション技術の組み合わせは、大きな潜在的リスクをもたらすことが示されています。共有の中で、研究室はAIを使って音声を複製し、通話を乗っ取る攻撃シナリオを独創的に実演しました。これまでのスクリプトベースの通信詐欺とは異なり、この新しい技術は電話番号から声の音色まで完全なリンク偽造を実現できます。攻撃者は脆弱性を悪用して VoIP 電話を乗っ取り、偽の電話をかけ、ディープフェイク AI 音声変換技術に基づいて特定の人物の音声を生成して詐欺を働く可能性があります。

ここで言う VoIP とは、IP を使用して音声通話をしたり、マルチメディア会議に参加したりする音声通話テクノロジーです。 VoIP は使いやすさと低コストのため、世界中のオフィスの電話のシナリオで広く使用されています。 VoIP 通話ハイジャックは、VoIP の初期バージョンではネットワークによって盗聴され、中間者攻撃を受ける危険性があるために発生します。攻撃者は脆弱性を悪用して発信者の名前と電話番号を改ざんし、受信者の通話に事前に設定されたコンテンツを表示させることができます。

Tencent Suzaku Lab の研究では、ディープラーニング技術を通じて音声シミュレーションを実現できることが示されています。ソース人物の発話内容に基づいて対象人物の音色特性を持つ音声を合成し、特定人物の声を偽造することができます。実際、この技術は新しいものではなく、多くのシナリオに適用されてきました。例えば、マップソフトのカスタマイズ音声放送では、自分の声を少しだけ使用して、自分の声色に極めて近い再生音をカスタマイズすることができます。

そのため、VoIP 電話のハイジャックでは、被害者の音声を少し使用して、被害者の音声に類似した任意のコンテンツの音声クリップを合成し、偽の音声を電話に注入して偽の本物の効果を実現し、完全な電話欺瞞リンクを実現できます。攻撃者は簡単に偽の電話をかけ、被害者を装って標的の人物と話すことができます。

この潜在的なリスクに対応するため、テンセント朱雀ラボの研究者は、「AIを使ってAIと戦う」という考えに基づき、AI技術を使用して実際の音声と偽の音声の特徴を抽出し、特徴の違いに基づいて実際の音声と生成された音声を区別するという提案を出しました。同時に、企業や個人は、電話の乗っ取りのリスクを軽減するために、SIP、SRTP などの VoIP プロトコル電話の新しいバージョンを使用するように努める必要があります。

実際、音声を介した攻撃の手法はますます多様化しています。テンセントの研究者は、音声に小さな乱れを加えたり、スペクトル情報の一部を変更したりすることで、音声認識システムを騙すことができると述べた。さらに、微妙な音楽の中にウェイクアップコマンドを隠すことで、スマートデバイスを起動し、対応する操作を実行することも可能になります。

テンセントクラウドの副社長でテンセントセキュリティプラットフォーム部門の責任者であるヤン・ヨン氏は、AI技術と従来のセキュリティ攻撃技術の組み合わせにより、新たな応用シナリオとそれに伴う悪用リスクが生まれたと語った。データ、アルゴリズム、モデル、基本コンポーネントなどの AI の中核要素には、さらなるセキュリティ サポートが必要です。テンセント朱雀ラボは、実用レベルのAPT攻撃とAIセキュリティ研究に注力しており、現実世界のネットワークセキュリティを継続的に深め、AI技術の積極的かつ安全な使用を保護しています。

CanSecWest は、世界トップクラスの情報セキュリティ サミットとして、その権威、人気、最先端性により、常に業界で大きな注目を集めています。今年のCanSecWest2021は4月30日まで開催されます。Tencent Suzaku Labのほか、Baidu、Adobe、Macfee、IOActive、カリフォルニア大学リバーサイド校など世界各国のトップセキュリティ専門家も参加し、AI、クラウドネイティブ、IoT、トラステッドコンピューティングなど最先端のセキュリティ技術分野について議論します。