2023年のAIに関する話題は、生成AIに始まり生成AIに終わった感がありますが、2024年は生成AIを使った金融不正やサイバー攻撃からの防衛と、自社内でAI全般の活用を進めるための体制整備の年になると想定されます。Datos Insightsが2024年初に発刊した2冊のレポートをベースにまとめてみました。
・The Double-Edged Sword of Generative AI: Fraud Perpetration and Detection
・Generative AI for the CISO: A Proactive Approach for a Reactive Season
■ 生成AI/AI全般の活用
2022年末にリリースされたChatGPTの爆発的な広まりを背景に、2023年は世界中で生成AIの活用に関する論議が進展した。多くの企業では様々なトライアル/パイロットが実施され、生成AIの能力や限界、課題に対する認識も進んだ。
企業内での生成AI活用は、様々な試行が行われた結果、成果を上げているケースもあるが、社外サービスへの応用（顧客サポートなど）は、テクノロジーの限界が把握できない事やAI利用に関したレギュレーションが未整備なこともあり、今後の課題となっている。金融不正の分野では、AIを活用した不正検知の精度向上が期待されるが、犯罪者が不正攻撃のツールとして生成AIを活用することへの懸念が現実のものとなっている。
■ 犯罪者のAI活用と防衛手段としてのAI活用
サイバー犯罪者の情報共有環境であるダークウェブでは、FraudGPTやWormGPTと呼ばれる不正ツールが登場している。これらは、ChatGPTでは制限されている「不適切な質問」にも回答する生成AIだ。フィッシング・メールやSNSへの不正投稿原稿を簡単に作成できるだけでなく、ニセのWebサイト作成もサポートしてくれる。またプログラミングに対する深い知識がなくともMalwareを簡単に作成できる。その他キャプチャ認証に自動回答する画像認識ツールや、音声やイメージのサンプルからフェイク・イメージ/フェイク・メッセージを作成するツールも流通している。
一方、不正対策へのAI活用は生成AI登場前から始まっており、技術の進展とともに不正検知の精度向上や新しい不正パターンの早期検知、不正対策のソースコード自動作成、更には、今後登場するであろう不正の予想への応用が期待されている。また、正規の銀行口座やカード所持者が騙されて送金してしまう詐欺（オレオレ詐欺やロマンス詐欺など）の検知にも、AIの応用が始まっている。
■ 生成AI/AI全般の本格活用への準備
2024年、AIに関連した課題として以下3点を認識して能動的な準備を進めるとともに、経営陣がAI活用に関して適切な判断をできるよう継続的なインプットやトレーニングを進める必要があると考えるがどうだろう。
（1）金融不正/サイバー攻撃の手口の進化/変化のスピードアップ
（2）AIに関するレギュレーション動向
（3）生成AIの利用を前提とし、社内のガバナンス・ルールやプライバシー・ポリシーなどの見直し
