【速報】AI悪用によるフィッシング攻撃がChatGPTのリリース以降1,265%増加

フィッシング攻撃の急増

セキュリティ企業のSlashNextによると、ChatGPTのリリース以降、フィッシングメールが1,265%急増したという報告がある。これにより、マルウェア生成AIツールのWormGPTやDark Bart、FraudGPTなどがダークウェブ上で広まっているだけでなく、サイバー犯罪者はOpenAIのAIチャットボットをジェイルブレイクする新たな手法も見つけているようだ。

フィッシング攻撃の手法

フィッシング攻撃とは、信頼のある情報源からのように見える電子メール、テキストメッセージ、またはソーシャルメディア上のメッセージを通じたサイバー攻撃のことを指す。フィッシング攻撃は、被害者をクリプトウォレットに署名させて資金を抜き取るような悪意のあるウェブサイトに誘導することもある。

フィッシング攻撃の増加

SlashNextのレポートによれば、2022年第4四半期には1日に31,000件のフィッシング攻撃が送信され、資格情報を狙ったフィッシング攻撃は967%増加している。そのうち68%がテキストベースのビジネスメール妥協(BEC)であり、39%がSMSフィッシング攻撃(smishing)だという。

AIによる対策

SlashNextのCEOであるPatrick Harrは、AIを使ったフィッシング攻撃に対抗するために、セキュリティプログラムにAIを組み込む必要があると主張している。彼ら自身もAIを利用して脅威を検出するだけでなく、次の攻撃方法を予測するためにも使っている。

しかし、HarrはAIによる対策だけでは不十分であり、セキュリティチームには危険な脅威を検知するためのAIに留まらず、それを阻止できる大規模な言語モデルアプリケーションも必要だと指摘している。

セキュリティの再考と進歩

AI開発者たちは、OpenAIやAnthropic、Midjourneyなど、フィッシング攻撃やデマの拡散などの悪用を防ぐために努力してきた。しかし、熟練したユーザーはそれを迂回しようと努力している。

セキュリティ企業のRAND Corporationは、先週、ジェイルブレイキングのプロンプトを使用してバイオ攻撃の手法を説明することができるAIチャットボットがテロリストに利用される可能性があるとする報告を発表した。

セキュリティ企業は、フィッシング攻撃を検出し対応するためにAIベースのツールを使用する必要があるとHarrは結論付けており、行動を起こす前に検出、ブロック、停止することが重要であると主張している。