Google Threat Intelligence Groupは、2025年末におけるAIの悪用事例についての四半期レポートを2月13日に公開しました。このレポートでは、攻撃者がAI技術、特に大規模言語モデル（LLM）をどのように攻撃活動に利用しているかが分析されています。

具体的な懸念として、AIモデルの知的財産を狙った「モデル抽出攻撃」が挙げられます。特にGeminiなどのAIサービスAPIを通じて、モデルの内部論理や推論過程の模倣が観測されています。2025年には政府系の高度持続的脅威（APT）による直接攻撃は確認されていませんが、民間企業や研究者などが標的とされた抽出攻撃が頻発しています。これに対し、Googleは資産やアカウントの無効化などの対策を講じています。

さらに、中国、イラン、北朝鮮、ロシアに関連するAPTグループがAIを活用したフィッシングやマルウェア開発を進化させています。北朝鮮のグループは防衛企業への偵察やフィッシング活動を行い、イランのAPT42はAIを用いた情報収集活動に取り組んでいます。AI生成によるコンテンツの存在は、本物に近いメールや多言語対応を可能にしています。

マルウェアの分野でも、GeminiのAPIを利用してコード生成や実行を行う「HONESTCUE」などの新たな攻撃手法が登場し、従来の防御をすり抜ける新たな脅威となっています。AIの活用は、攻撃者による技術の進化と多様化を促進しています。

企業のロゴや幹部の名前を騙る偽アカウントやフィッシングサイト、詐欺アプリが増えています。AIの進化により、これらのサイバー攻撃はより巧妙になっていますが、セキュリティスタートアップのOuttakeは、AIエージェントを利用して自動的にこれらを検出・排除する仕組みを提供しています。

Outtakeは4,000万ドルの資金を調達し、複数の著名投資家が支援しています。このスタートアップのプラットフォームは、三つのAIエージェントから成り立っており、リアルタイムでウェブやSNSをスキャンする「Search Agent」、多様なメディアを解析する「Classification Agent」、および脅威の削除を自動で行う「Remediation Agent」が連携しています。

従来、セキュリティチームは偽アカウントを手作業で一つ一つ見つけて報告し、削除までに約60日かかるところ、Outtakeはこのプロセスを数時間（中央値は18〜36時間）に短縮しました。これにより、企業はサイバー攻撃の影響を迅速に抑え、顧客を保護することが可能になります。たとえば、2024年には認証情報の窃盗が703%、アカウント乗っ取りが250%増加すると予測されています。

急成長を遂げるOuttakeは、2025年には2,000万件以上の潜在的な攻撃をスキャンし、1,700万件のアラートを処理する計画です。顧客にはOpenAIや米国連邦機関が含まれています。AIを用いることで、セキュリティの課題を効率良く解決する新たな時代が到来しています。

(VOVWORLD) - ベトナムは、サイバー空間の安全確保を持続可能な発展の基本条件と位置づけており、2月10日の「セーファーインターネットデー」に際して、AIの活用を通じた透明性と公平性の維持を強調しています。AIは国家の競争力を左右する要因となり、ベトナムではその導入が経済や日常生活の様々な面で重要な役割を果たしています。

特に、AIはデジタルトランスフォーメーションの中心に置かれ、生産性向上や管理効率化を促進し、新しい成長の源泉となっています。Googleのレポートによれば、2025年にはベトナムのデジタル経済が約390億ドルに達し、電子商取引は急速に成長しています。モバイルインターネットの速度やサイバーセキュリティ指数も向上し、デジタル強国としての地位を確立しています。

また、AIは税務や医療、教育などの行政管理にも活用され、透明性向上や政策立案において正確な予測を可能にしています。新たに制定される「AI法」は、その発展を支える重要なステップとなり、安全で責任あるAIの成長を目指す姿勢を示しています。

情報セキュリティの確保が成長の基盤であり、国民が安心してデジタルサービスを利用できる環境を整えることが目標です。安全性や人権を重視することで、AIは経済成長や社会の進歩、持続可能なデジタル社会の実現に貢献することが期待されています。

AIを悪用したサイバー犯罪が急増しており、特にディープフェイク技術の進化が懸念されています。最近の事例として、ビデオ通話で話した上司の指示に従い、取引先の口座に数億円を振り込んだところ、実はその上司の姿を模したAIによるディープフェイクだったという状況が考えられます。これは非情にリスキーな状況を示しており、企業や個人に深刻な影響を及ぼす恐れがあります。

このような新しいサイバー攻撃に対抗するためには、自社の防御策を強化することが必要です。AIの利用により、リアルタイムでの異常検知や、セキュリティ強化が可能です。例えば、AIを利用した監視システムは、通常とは異なるユーザーの行動を特定し、即座に警告を発することで、未然に犯罪を防ぐ手段となります。また、ディープフェイク技術を見破るAIツールが開発されつつあり、これにより詐欺被害を大幅に減少させることが期待されています。

企業の責任としては、従業員に対するセキュリティ教育と、AIを駆使した新たな対策を講じることが求められます。このように、AIはサイバー犯罪のリスクを高める一方で、その技術を利用して防止策を講じることで、企業や社会全体が得られるメリットも存在します。