北朝鮮のハッカー、韓国軍を狙ったフィッシング攻撃にAIを利用

おなじみのキムスキーの手口にAIのひねり

韓国のサイバーセキュリティー企業による詳細な分析によると、北朝鮮のキムスキー・グループは人工知能を使い、韓国軍職員の身分証明書を本物らしく見せた画像でフィッシング攻撃を仕立てた。標的には、民間職員向けの身分証デザイン案を確認するよう求めていた。国防機関の内部では日常的に見える依頼だ。添付画像は正規の身分証のように見えたが、調査担当者によると、生成AIモデルで作成された画像に、被害者のコンピューターを乗っ取るマルウェアが仕込まれていた。

メールは、身分証の発行を担当する国防関連機関になりすましていた。攻撃者は、身分証デザイン案に見えるPNG画像を添付し、受信者を安心させようとした。同じ配信経路には、標的がコンテンツに反応するとバックドアを起動するファイルが隠されていた。画像は、実際の身分証ではなくテスト用のモックアップを作るよう商用AIシステムに指示して生成された可能性が高い。この手法は、自動化された安全対策をすり抜けることがある。

送信元アドレスも、信頼されている軍のドメインを模倣していた。調査担当者は、韓国の公式な国防関連ドメイン末尾「.mil.kr」に似た「.mli.kr」などの偽ドメインを確認した。受信者が見慣れた手掛かりを探す際にだますためだ。このような小さな変更は、ソーシャルエンジニアリングでよく使われる手口で、受信箱に大量のメールが並ぶ中では気づきにくい。

7月中旬に初めて検知されたこの攻撃は、同じグループが以前、ClickFix型の誘い文句を使い、同じマルウェア系列を配布した活動に続くものだった。前回の攻撃で得た知見を再利用し、今回はAI生成画像を組み合わせて話の信ぴょう性を高めたとみられる。標的には軍関連組織のほか、北朝鮮を専門とする研究者、ジャーナリスト、活動家が含まれていた。

フィッシングの手口

誘い文句は単純だった。受信者には、身分証のデザイン案を手短に確認してほしいというメッセージが届いた。ZIPアーカイブまたはダウンロードリンクから、画像と1つ以上のスクリプトが配布された。開くと一連の処理が実行され、コンピューターが攻撃者のインフラに接続し、追加のコンポーネントを取得して遠隔操作が可能になった。画像は、無害なデザイン確認依頼だと思わせる役割を果たした。

プロンプトインジェクションでAIの安全対策を回避

主流のAIツールの多くは、政府発行の身分証の作成を拒否する。こうした文書の複製は違法であり、詐欺に悪用されるためだ。今回、攻撃者はプロンプトを社内モックアップ用のデザイン案として提示したとみられる。この方法では、モデルが依頼を無害なものと解釈することがある。意図を言い換える表現でユーザーがモデルを誘導し、ルールを回避させるプロンプトインジェクション、またはジェイルブレイクの一種だ。

偽画像の1つを調べたアナリストによると、ディープフェイク検出器は、AI生成である確率を98％と判定した。少なくとも1つのサンプルでは、画像のメタデータにGPT-4oとChatGPTへの言及があり、テストまたは制作にOpenAIの画像生成基盤が使われたことを示唆している。画像が日常的な身分証のデザイン案に見えるほど、忙しい職員が依頼を正当なものと受け止める可能性は高まる。

マルウェアの配布と侵入の流れ

配布パッケージは複数の形を取った。確認された事例の1つでは、ZIPファイルに通常の文書に見せかけたショートカットが含まれていた。起動するとPowerShellコマンドが実行され、リモートサーバーに接続してバックドアを取得し、おとりの身分証PNG画像をダウンロードした。別の事例では、「LhUdPC3G.bat」という名前のバッチファイルが画像とともに実行され、永続化の確立、データ窃取、遠隔操作を可能にするなどの悪意ある活動を始めた。

これらは標的型フィッシングメールで、攻撃者は細部にも気を配っていた。一部のアーカイブには、受信者の実名の一部を伏せた形で入れ、信頼感を高めて添付ファイルを開かせようとしていた。偽の身分証画像、見慣れた種類の依頼、送信元ドメインとの酷似が組み合わさり、受信者の警戒心を弱めた。

キムスキーの標的と狙い

キムスキーは、北朝鮮の情報収集部隊として、政府機関や民間の研究者に長年追跡されてきた。このグループは、国家の優先課題に沿った政策、軍事、技術情報を収集していると評価されている。標的には、政府機関、国防関連機関、シンクタンク、学術研究者、ジャーナリスト、北朝鮮を専門とする人権団体が含まれることが多い。

研究者らは6月、ユーザーにボタンを押して想定上の問題を解決するよう促す、ClickFixをテーマにしたメールを記録した。7月の攻撃では同じマルウェアと多くの同じ手口を再利用し、さらにAI生成のデザイン案を加えて誘い文句を強化した。これは不特定多数への一斉攻撃ではない。特定のネットワークやメール受信箱へのアクセスを狙う、周到な作戦だった。

攻撃者の特定は、マルウェアのコード共有、インフラの再利用、言語表現、標的の選び方など、技術面と状況面の証拠を組み合わせて行われた。これらの指標は、以前からキムスキーに結び付けられている活動と一致する。政策関係者のネットワークに侵入し、情報を収集し、北朝鮮を注視する機関に足場を維持するという長期的な任務にも合致する。

身分証を発行する部署になりすますのは、よく知られた業務プロセスを悪用する手口だ。身分証などの書類では関係者による確認が行われることが多く、フォント、写真、レイアウトについて何度もやりとりする場合がある。また、権威を感じさせる性質もある。そのため、見本の確認依頼はごく普通のものに感じられる。

北朝鮮の工作員によるAI悪用の拡大

今回のフィッシング作戦は、より広い傾向の一部だ。8月には大手AI開発企業が、同社のモデルを使って偽の身元を作成し、米国のテクノロジー企業のリモート職に応募し、採用後には技術業務までこなしていた北朝鮮の工作員を排除したと発表した。同社の報告書は、この活動に関係するアカウントを停止したことや、悪用を検知するシステムを更新したことも説明している。

韓国と米国のセキュリティー関連の説明では、北朝鮮の工作員がAIツールを使い、流ちょうなメールを書き、履歴書やカバーレターを作成し、コードを下書きし、職業用のプロフィール写真を備えた人物像を作り上げていると警告している。こうした能力により、少人数の工作員でも、はるかに大きなチームのような仕上がりで活動できる。参入のハードルは下がった。技術力がそれほど高くない人物でも、AIの助言を得て、マルウェアのモジュールをより速く作成し、韓国語や英語に自然な品質で翻訳し、一目見ただけでは見抜きにくい画像素材を生成できる。

朝鮮半島のデジタル紛争を分析する専門家は、韓国の機関を狙う攻撃の急増を指摘している。2023年の公開情報は、政府システムに対する攻撃が1日当たり数百万件に上り、その多くが北朝鮮の活動に起因すると伝えた。別の国連報告書や業界調査は、戦略計画の資金源となる大規模な暗号資産窃取に北朝鮮の部隊が関与していると結論付けている。標的型フィッシング、AIを使った採用詐欺、資金窃取は、制裁下で情報を集め、資金を得るという同じ戦略の一部だ。

中国を拠点とする工作員や、国家とつながりのある他の勢力も生成AIを試しているが、ここで注目されるのは、北朝鮮の部隊がスパイ活動と不正な資金獲得の両方で急速に導入している点だ。フィッシング用ツールキットとAIを活用したコンテンツ制作の境界は曖昧になっている。かつてはデザイナー、翻訳者、開発者のチームが必要だった作業も、今ではプロンプトと少数のオープンソースツールで組み立てられる。

AIがソーシャルエンジニアリングの説得力を高める理由

生成AIは、洗練されたコンテンツを必要に応じて作り出すことに長けている。フィッシングでは、画像、文章、コードをほとんど手間をかけずに標的に合わせられる。説得力のある身分証のモックアップや、組織のロゴを入れたレターヘッドは、読み手の警戒心を弱める。公的な韓国語を書き、適切な略語を織り込み、敬意ある口調を保てるモデルなら、本物らしく見え、聞こえるメッセージを生成できる。

言語モデルは、疲れを知らないライティングアシスタントとしても機能する。文法を直し、機関の文体に合わせ、複数のメールで一貫した口調を保つ。攻撃者は同じメッセージの別パターンを職種ごとに求められる。モデルは、人事担当者向けの日常的な通知に見える草案も、IT責任者向けの技術メモに見える草案も作成できる。

技術面では、コーディング支援ツールが経験の浅い攻撃者によるスクリプトやペイロードの組み立てを助ける。モデルはエラーを説明し、修正案を提案し、実行可能な例を作る。不適切に使われれば、マルウェア開発の速度を上げ、学習のハードルを下げる。文章生成や翻訳を組み合わせれば、1人の工作員が、以前ならチームが必要だった多言語の攻撃を実行できる。

もう1つの柱は、身元の作成だ。モデルは職歴を考案し、書式を整えた履歴書を作成し、求人内容に合うカバーレターを書く手助けができる。画像ツールは、ざっと見ただけでは見抜きにくいプロフィール写真を作る。これらの能力がそろうことで、人間と技術による防御が追いつくまでは、ビジネスメール詐欺や長期的な侵入が容易になる。

防御、検知、政策対応

韓国は、国際協力、先端技術の導入、防御強化を重視して国家サイバーセキュリティ戦略を改定した。計画では、リアルタイム監視にAIを活用した検知を導入すること、パートナーとの情報共有を深めること、重要インフラのレジリエンスを高めることを掲げている。ソウルは米国や日本との連携強化も進め、政策の足並みをそろえ、インシデント対応に焦点を当てた合同演習を実施している。

組織は、手順、訓練、技術を組み合わせることで、類似ドメインやディープフェイク画像を使った攻撃の効果を弱められる。まず必要なのは確認手順だ。認証情報や身分証などの書類に関する依頼は、既知の担当者に別の連絡手段で確認することを含め、文書化された手順に従うべきだ。職員には、ドメインを一文字ずつ確認し、リンクをクリックする前にカーソルを重ねて確認する方法を周知する必要がある。

技術的な対策は、不正な実行を防ぐのに役立つ。メールゲートウェイでは、入れ子になったアーカイブを含むメールを隔離し、ショートカットファイル、ISOイメージ、スクリプトなど危険な添付ファイルの種類をブロックすべきだ。可能な場合はPowerShellを無効化または制限し、許可されていない実行ファイルを防ぐため、アプリケーションの許可リストを利用する。エンドポイントの検知・対応ツールは、悪意あるPowerShellの実行や不審な外部接続を検出できる。ネットワーク監視では、メールへの反応後まもなく、未確認のドメインへの新たな接続があれば警告を出せる。

採用や取引先の審査も、サイバー防御で重要性を増している。リモート採用の手順には、ライブビデオによる厳格な本人確認、信頼できる第三者機関による確認、独立した推薦者の照会を含めるべきだ。機密データを扱うシステムでは、最小権限のアクセスと継続的な検証を徹底する必要がある。定期監査により、通常と異なるログイン場所や想定時間外の活動といった異常を発見できる。

AIをめぐる法的・倫理的な防護策

今回の事案は、AI導入をめぐる緊張関係を浮き彫りにしている。企業は、従業員がAIを使って文書を作成し、コードを書き、画像を処理できれば恩恵を受ける。同じ使いやすさが敵対者に悪用されることもある。AI開発企業は、有害なコンテンツを拒否し、悪用を監視する安全機能を導入してきたが、攻撃者は巧妙なプロンプトでこうした対策を回避しようとする。防御側は、悪用の兆候を共有し、問題のあるアカウントを停止し、操作に強いモデルとなるよう挙動を改善して対応している。

政策や調達に関する選択も重要だ。政府機関や請負業者は、AIシステムの供給業者に監査ログ、悪用の報告窓口、モデルの防御を強化する更新を求めるべきだ。AI利用に関する明確な社内規則は、危険なコンテンツを誤って作成するのを防げる。セキュリティーチームは、一般的なジェイルブレイク用プロンプトに対するモデルの耐性を試し、文書デザインやコードレビューなど業務上の用途に向けて、安全な代替手段や事前承認済みの手順を提供する必要がある。

要点

• キムスキーは7月の標的型フィッシング攻撃で、韓国軍の身分証を描いたAI生成画像を誘い文句に使った。
• メールは身分証のデザイン案を確認するよう求め、公式の「.mil.kr」に似た「.mli.kr」ドメインから送信された。
• 調査担当者は、少なくとも1つの画像にGPT-4oとChatGPTへの言及があるメタデータを発見した。検出器は偽画像がAI生成である確率を98％と判定した。
• 配布経路には、ZIPアーカイブとスクリプトが含まれ、PowerShellコマンドを実行してバックドアをインストールし、おとりのPNG画像をダウンロードした。
• 標的には軍関連組織、研究者、ジャーナリスト、北朝鮮を専門とする人権活動家が含まれていた。
• この攻撃では、同じグループによるとされた6月のClickFix型攻撃で確認されたマルウェアが再利用された。
• 大手AI事業者の最近の報告によると、北朝鮮の工作員はAIツールを使って偽の身元を作り、リモート職を得たこともある。
• 防御策には、身分証などに関する依頼の厳格な確認、危険なファイル形式やスクリプトをブロックするメール・エンドポイント対策、リモート採用時の厳格な本人確認がある。