release：
update：
「ChatGPTにあなたの秘密をペラペラ話さない方が良い」
これは、ChatGPTを開発したOpenAIのCEOであるサム・アルトマン氏が自ら発したメッセージです。多くの方が仕事やプライベートでAIチャットボットを活用するようになった今、この言葉は私たちに何を伝えているのでしょうか。
今回は、サム・アルトマン氏の警鐘から見えてくる、ChatGPT利用におけるプライバシーの危険性と、企業が今後システム開発を進めていく上で考慮すべきポイントについて、わかりやすく解説します。
目次
サム・アルトマン氏がAIに「秘密を明かすな」と警鐘を鳴らす理由
OpenAIのCEOであるアルトマン氏は、ポッドキャストの中で、AIとのやり取りの際にも、高度な守秘義務が課されている医師や弁護士との会話と同じレベルのプライバシー保護が必要だと強調しました。それは、次のような理由によるものです。
法的守秘義務の欠如
医師や弁護士には、患者や依頼人との会話内容を秘密にする「守秘義務」が法律で定められています。しかし、AIとの会話には、このような法的保護が一切ありません。法律によりプライバシーが保護されているからこそ、患者や依頼人は他の人には知られなくない秘密も含めて、専門家に相談することができるのです。
アルトマン氏が懸念しているのは、現在の法律では、AIがユーザーのチャット情報を通じて得たプライバシ－情報が十分に守られていないということにあります。つまり、法的な手続きに基づいて情報開示を求められた場合、OpenAIはユーザーの情報を提供せざるを得ない可能性があると認めているのです。
実際に、米国ではある訴訟に関連して裁判所命令が出され、OpenAIに対し、削除されたものも含めユーザーのチャットログを無期限に保管することが義務付けられた事例があります。この事例は、法律関連の情報サイト「Hodder Law」などでも報じられていますが、AIとの会話が法的な手続きによって保存・公開される可能性があることを示しています。
AIモデルによる「情報の再吐き出し」リスク
AIは、入力されたデータを学習に利用することがあります。カーネギーメロン大学の研究者ウィリアム・アグニュー氏は、AIモデルが学習した情報を「再吐き出し」するリスクについて警鐘を鳴らしています。
例えば、あなたがChatGPTに健康の悩みや個人的な情報を打ち明けたとします。その内容をAIが学習データとして使う可能性があるのです。もし、保険会社などあなたの健康情報を知りたい第三者が、同じツールにあなたのことを質問したら、予期せぬ「再吐き出し」によってあなたの秘密が漏洩してしまうかもしれません。
ChatGPTの初期設定では、入力した内容がAIの訓練データとして活用される場合があることを理解しておく必要があります。
企業におけるChatGPT利用の危険性：情報漏洩と信頼性の低下
企業が業務でChatGPTを利用する際にも、同様の、あるいはさらに深刻な危険性が潜んでいます。
この章では、企業が業務でChatGPTを利用する際に直面する、情報漏洩と信頼性の低下という2つの深刻な危険性について、具体的な事例を交えて解説します。これらの事例から、安易なツールの利用が顧客や取引先の信頼失墜、ビジネス上の損失、法的リスクといった取り返しのつかない事態に発展する可能性があることを学べます。
韓国サムスンの機密情報漏洩事例
ブルームバーグによると、韓国のサムスンでは、エンジニアが機密性の高いソースコードをChatGPTに入力したことで情報が漏洩したことをきっかけに、社内での利用が全面的に禁止されました（参考：サムスン、機密コード漏洩を受け従業員のChatGPT使用を禁止／Forbes）。これは、社員の不注意が情報漏洩に直結する典型的な事例です。この事例は、従業員一人ひとりのセキュリティ意識が、企業全体の情報リスクに直結していることを示しています。
大規模な個人情報流出事件
2023年5月には、ChatGPT内部で使用されていたライブラリの脆弱性を突かれ、約10万人分の個人情報が盗まれる事件が発生（参考：Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces; Asia-Pacific region tops the list／Group-IB）しています。この事例は、外部からのサイバー攻撃によっても情報が流出するリスクがあることを示しています。AIツールの利用は、自社だけではなく、ツールを提供する側のセキュリティ体制にも依存するという点を学ぶことができます。
企業が取るべき対策：システム開発の視点から
「じゃあ、ChatGPTのような便利なツールは使わない方がいいの？」
そう思われた方もいらっしゃるかもしれません。しかし、AIの進化は止まりませんし、その利便性を無視することはできません。リスクを恐れるあまり、新しい技術を遠ざけていては現代ビジネスの流れから取り残されてしまうのもまた事実です。重要なのは、危険性を正しく理解し、適切な対策を講じることです。本章では、システム開発の観点から、企業が取り組むべき対策をいくつかご紹介します。
プライバシー保護に特化したシステムの構築
外部のAIサービスをそのまま利用するのではなく、自社の業務に特化したAIシステムを開発するという選択肢があります。これは、いわば自社専用の「AIルーム」を作るようなイメージです。
クローズドな環境で運用することで、情報漏洩のリスクを最小限に抑えられます。例えば、顧客情報や機密性の高い社内データを学習させる場合でも、外部に情報が漏れる心配を著しく体じゃさせることができます。営業担当者が顧客情報について質問しても、そのデータが外部のAIサービスの学習に利用されることはないため、安心して利用できます。
さらに、セキュリティ対策として、データの暗号化やアクセス制御、ログ管理など、企業のセキュリティポリシーに沿った厳格な対策を講じることが可能です。これにより、誰がいつ、どんな情報を利用したかを把握でき、万が一の際も原因を特定しやすくなります。
利用ルールの徹底と社員教育
AIツールを業務で利用する際の明確なルールを策定し、全社員に周知徹底することが不可欠です。どんなに優れたツールでも、使う人次第で危険なものになり得ます。例として、次のような施策が有効だと考えられます。
機密情報の入力禁止
顧客情報や社内データなど、外部に漏れてはならない情報をAIに入力しないルールを徹底します。これを「会社の秘密をAIに話さない」というシンプルな言葉で全社員に浸透させることが大切です。
匿名化・仮名化の推奨
どうしてもAIを利用したい場合は、個人が特定できないように情報を匿名化したり、仮名化したりするよう促します。例えば、社員Aさんの業務内容をAIに相談したい場合、「社員Aさん」という具体名ではなく、「営業部の担当者」といった形で抽象化するよう指導します。また、企業名は入力しないといった配慮も必要となるでしょう。
セキュリティ教育
AIの危険性や正しい使い方について、定期的な研修や教育を実施します。最新の事例を共有し、なぜルールが必要なのかを理解してもらうことで、従業員のセキュリティ意識を高めることができます。
AI利活用ガイドラインの策定
日本ディープラーニング協会（JDLA）がまとめた「生成AIの利用ガイドライン」には、AIを利用する上で留意すべき原則が示されています。
- プライバシーの原則
- セキュリティの原則
- 公平性の原則（バイアスへの留意）
- 尊厳・自律の原則（人間の意思決定・感情操作への留意）
これらの原則を参考に、企業独自のガイドラインを策定し、AIの便益を享受しつつリスクを抑制する仕組みを構築することが重要です。社員が「この情報ならAIに入力しても大丈夫かな？」と判断に迷ったときに立ち戻れる、明確な基準を設けることが、リスク管理の第一歩となります。
>>生成AIの利用ガイドライン／一般社団法人日本ディープラーニング協会
企業向けパーソナルAI「NotebookLM」という選択肢
「プライバシー保護に特化したシステムを自社で開発するのはハードルが高いのでは？」
そう思われる方もいらっしゃるかもしれません。しかし、一から開発するだけでなく、既存のサービスを活用するという選択肢もあります。
その一つが、Googleが提供するNotebookLMです。NotebookLMは、アップロードされたドキュメントに基づいて回答を生成するパーソナルAIツールです。ChatGPTのようにWEB上の不特定多数のデータを学習するのではなく、指定されたデータ（入力・添付したデータ）のみを情報源として使用します。
これにより、以下のようなメリットが得られます。
- 機密情報の管理：社内の機密情報や顧客情報をアップロードしても、外部に情報が漏れるリスクは最小限に抑えられる
- 正確性の向上：インターネット上の不確かな情報をもとにAIが事実とは異なる情報を生成してしまう「ハルシネーション」のリスクを抑え、自社の資料やデータに基づいた正確な回答を得られるようになる
- 利用者の権限管理：企業向けのNotebookLM Enterpriseでは、Google Cloudの強固なセキュリティ基盤上で提供されており、利用者の権限を細かく設定できる。誰がどの情報にアクセスし、どのように利用したかを厳格に管理できるため、内部からの情報漏洩リスクにも対応できる
このように、NotebookLMのようなクローズドな環境で利用できるAIツールは、情報漏洩のリスクを抑えながらAIの恩恵を享受したい企業にとって、非常に有効なソリューションと言えるでしょう。
まとめ：AIの利便性と危険性を理解し、未来へ備える
サム・アルトマン氏の警鐘は、私たちにAIの利便性だけでなく、それに伴う危険性にも目を向けるよう促しています。特に企業においては、情報漏洩のリスクが企業の存続に関わる重大な問題にも繋がりかねません。
ChatGPTなどのAIツールは、業務効率化や新しい価値創造の強力な武器となり得ます。しかし、その力を最大限に活かすためには、AIの特性を理解し、プライバシー保護とセキュリティ対策を徹底することが不可欠です。
株式会社MUでは、お客様の業務内容やセキュリティポリシーに合わせて、最適なAIシステムの開発・導入を支援しています。社内向けのAIツール開発や、既存システムへのAI機能組み込みなど、お気軽にご相談ください。貴社のシステム開発やDX推進に関してお悩みの場合は、ぜひ一度MUにご相談ください。お客様の課題を丁寧にヒアリングし、最適なソリューションをご提案いたします。
