Blog

BLOG

2026.05.22

AI活用時代に私たちが直面する新たなリスクと向き合う【第15回 情報セキュリティブログ】

このエントリーをはてなブックマークに追加

こんにちは
サンビット情報セキュリティ委員会の吉岡です。

昨今、ChatGPTをはじめとする生成AIの普及により、私たちの業務効率は飛躍的に向上しました。しかし、その利便性の裏側には、常にリスクが潜んでいます。

IPA(情報処理推進機構)が発表した「情報セキュリティ10大脅威 2026」において、新たに「AIの利用をめぐるサイバーリスク」がランクインしました。

出典:トレンドマイクロ「情報セキュリティ10大脅威 2026[組織]」

今回は、AIがもたらす利便性の裏側に潜むリスクと、私たちがとるべき「正しく恐れ、賢く使う」ための対策についてお伝えします。

1.なぜ今、AIのリスクが注目されているのか

これまでのサイバー攻撃は、高度な知識を持つハッカーによるものが中心でした。しかし、AIの登場によって環境が大きく変化しました。悪意のある攻撃者が生成AIを悪用することで、以下のような事象が発生しています。

  • 完璧なフィッシングメール:不自然な日本語が修正され、一見して偽物と判断できないビジネスメールが瞬時に作成される。
  • マルウェア作成の高速化:プログラミング知識が乏しくても、AIの補助により攻撃用プログラムが作成される。
  • ディープフェイクの悪用:経営者の声を模倣した音声や映像を作成し、偽の送金指示を出すといった詐欺(ビジネスメール詐欺)の高度化。

2.業務利用における3つの大きな落とし穴

私たちが日常業務で生成AIを利用する際、特に注意すべきは「攻撃を受けること」だけではありません。「自らがリスクの源泉になってしまうこと」への警戒が必要です。

① 機密情報・個人情報の流出
  • 生成AIに入力(プロンプト)したデータは、AIモデルの学習に再利用される可能性があります。
② ハルシネーション(幻覚)による誤情報の拡散
  • AIは時として、もっともらしい嘘をつきます。AIが生成した情報をそのまま信じ込み、事実確認を怠ると、誤った情報を顧客に提供したり、法的根拠のない資料を作成したりするリスクがあります。
③ 著作権侵害のリスク
  • AIが生成した画像や文章が、既存の著作物と酷似している場合があります。意図せず商用利用してしまうと、他者の権利を侵害し、企業の社会的信頼を損なう恐れがあります。

3.私たちが実践すべき「AI安全利用のガイドライン」

私たちは、AIを業務に安全に活用するために、利用者が必ず実践すべき三つの原則をご紹介します。

【重要】入力データの厳選
  • 「公開してはいけない情報」は絶対に入力しない。
  • 顧客名、個人名、独自の技術ノウハウ、ID・パスワード、未発表の経営情報などは厳禁です。AIを利用する際は、個人アカウントではなく、企業が認めた「学習に利用されない設定」済みの環境を利用してください。
【重要】出力結果は必ず検証
  • AIの回答は「下書き」や「アイデア出し」として捉えてください。
  • 最終的な成果物は、必ず人間が内容の正確性を確認し、責任を持って仕上げる必要があります。
【重要】不審な連絡への警戒
  • AIによる「完璧な日本語」のメールや、知人の声を装った電話が来る可能性があることを意識してください。「至急、指定の口座に振り込んでほしい」「パスワードを教えてほしい」といった要求には、必ず別の連絡手段(直接電話、対面)で本人確認を行ってください。

AIは、正しく使えば強力な武器になります。私たちはAIを遠ざけるのではなく、その特性とリスクを正しく理解した上で、業務の質を高めてまいります。
「この情報をAIに入力しても大丈夫だろうか?」と迷ったときは、必ず組織内のガイドラインや責任者に確認を取ることを強く推奨します。

カレンダー

«5月»
日 月 火 水 木 金 土
     1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31       

最近のエントリー

相次ぐ個人情報流出から「組織と自己」を守るために【第18回 情報セキュリティブログ】

2026.11.18

個人情報の漏えいや不正アクセスによる二次被害を防ぐため、日頃から備えておきたいセキュリティ対策を解説。パスワードの使い回し防止や不審なメールへの対処、業務と私用の分離など、個人と組織の情報を守るための基本を紹介しています。

複数ツールへの二重入力を削減!API連携を駆使して「時短・日報アプリ」を自作した話

2026.11.16

複数のツールに同じ内容を入力する手間を減らすため、API連携を活用した「時短・日報アプリ」を自作しました。1つの画面からRedmineへの工数登録とSlackへの日報送信を一括で行い、毎日約20分かかっていた入力作業を数分程度に短縮しています。Gemini APIによるチケット作成や、進捗を可視化する機能も搭載しました。開発の背景から操作性・安全性への工夫、勤怠連携などの今後の展望までご紹介します。

夜行フェリーから始まった島時間。3度目の五島列島・福江島へ!

2026.11.09

3度訪れても、また行きたくなる五島列島・福江島。初めて訪れたときは、夜行フェリーの窓から夜の海や島々の港を眺め、到着まで胸を弾ませていました。透き通る海と白い砂浜、断崖に立つ灯台、祈りの歴史を伝える教会など、旅の思い出とともに、私がひかれた島の魅力をご紹介します。

日本の生産性を阻む「当たり前」を見直す

2026.11.02

長年続いてきた商習慣や人事制度を、「当たり前」と受け入れていないでしょうか。今回は、IT業界の多重下請け構造と役職定年制度について考えます。技術者を育て、顧客に提供する価値を高めること。当社の取り組みも交えながら、中小企業が生産性向上と賃上げを両立するために、見直すべき課題をお伝えします。

アーカイブ

ブログ内検索

  1. TOP
  2. BLOG
  3. AI活用時代に私たちが直面する新たなリスクと向き合う【第15回 情報セキュリティブログ】