ChatGPTに潜むセキュリティリスクとは？情報漏洩・誤情報・著作権侵害への対策を紹介

ChatGPTのセキュリティリスクで代表的なものといえば「情報漏洩」が挙げられます。ChatGPTの利用規約には以下の文言が記載されています。

❝本コンテンツの使用　

当社は、本サービスの提供、維持、開発、改善、適用法の遵守、当社の規約及びポリシー等の履行請求、及び本サービスの安全性の維持のために、本コンテンツを使用する場合があります。❞

これは、ChatGPTに入力された情報を、OpenAIのサービスの開発や改善のために使用する可能性がある、ということを示しています。

ChatGPTに入力された情報は、OpenAIの生成AIモデルのトレーニングに利用されることで、他のユーザーへの回答を生成する際に、情報が二次利用される可能性があります。つまり、ChatGPTに入力した機密情報や個人情報が、OpenAIや他のユーザーに流出するリスクが存在するということです。

ChatGPTは、過去の限られた期間のデータしか学習していないため、最新の事柄に関する質問には回答できず、誤情報を生成する可能性があります。また、英語圏以外の学習データが比較的少なく、例えば日本の事柄に対する質問をした場合、間違った回答を生成するケースもあります。

ChatGPTはあらゆる場所に蓄積された大量のデータを学習しているのが特徴です。もし学習データの中に差別的な内容や偏った意見にもとづいた情報などが含まれていた場合は、差別的な内容や倫理的に不適切な内容を含んだ回答を生成する可能性も考えられるでしょう。

もし、ChatGPTが生成した間違った情報や不適切な情報を含んだ回答をそのまま使用して、企業が顧客に対して情報発信をした場合、トラブルに発展する可能性があります。

生成AIに関して問題として指摘されることが多いものの1つが、著作権違反です。ChatGPTは、Web上に公開されている著作物を元にコンテンツを生成する可能性があるため、知らないうちに著作権を侵害してしまうケースもゼロではありません。

ChatGPTが生成したコンテンツの公開や販売をする際にも、著作権侵害の有無が問われます。もし生成されたコンテンツに、既存のコンテンツとの類似性や依拠性が認められれば、著作権を侵害したとして著作権者に訴えられる可能性があります。

韓国のテクノロジー企業であるサムスン電子で、機密情報の流出が発生したと報じられました。社内のエンジニアが社内機密のソースコードをChatGPTにアップロードし、解決策を問い合わせたことが原因です。

ChatGPTはデフォルトでユーザーのチャット履歴を保存し、生成AIモデルの学習に使用しています。サムスン電子は、ChatGPTに入力した機密データが学習され、他のユーザーに情報を提供してしまう可能性を懸念しているということです。

実際にサムスン電子が入力した機密データが第三者に漏洩したという報告は出ていませんが、この件を受けて、サムスン電子は従業員によるChatGPTをはじめとする生成AIの使用を禁止しました。

参考：サムスン、ChatGPTの社内使用禁止 機密コードの流出受け | Forbes JAPAN 公式サイト（フォーブス ジャパン）

米国の弁護士が、審理中の民事訴訟の資料作成をChatGPTに依頼し、存在しない判例を引用してしまったことが問題となりました。

当弁護士から提出された資料に記載されている判例が見つからず、ニューヨーク州連邦裁判所の裁判官が確認したところ、弁護士は資料にデルタ航空やユナイテッド航空などが関連しているとされた6件の実在しない判例を引用していました。

これは、資料作成にChatGPTを使っており、ChatGPTの誤った回答をそのまま使用してしまったことが原因だったとのことです。

参考：ChatGPTで資料作成、実在しない判例引用 米国の弁護士 – 日本経済新聞

Webブラウジング機能とは、ChatGPTがインターネット上の最新情報を取得し、回答に反映する機能です。ChatGPTは学習データが限られているため最新の情報を参照することはできませんが、Webブラウジング機能を活用することで、最新情報にもアクセスが可能になります。

ChatGPTは学習範囲外の質問には正確に答えることができませんが、Webブラウジング機能によって、誤情報の生成を減らすことができます。

『スパイダーマン2』の脚本の草稿を手がけた著名なSF作家マイケル・シェイボンをはじめとする作家たちが、OpenAIを提訴しました。2023年9月8日に、サンフランシスコの連邦裁判所で集団訴訟を起こしています。作家たちは、ChatGPTが自身らの作品から二次的著作物を作り、著作権を侵害したと主張しています。

同年7月にもコメディアンで女優のサラ・シルバーマンが、生成AIが自身の著作を無断で使用しているとして訴訟を起こしており、このような著作権侵害問題は度々話題となっています。

参考：著名SF作家らがまたもOpenAIを提訴、ChatGPTの著作権侵害で | Forbes JAPAN 公式サイト（フォーブス ジャパン）

まずは情報漏洩への対策を紹介します。少し工夫するだけで情報漏洩リスクを避けながら、安全な活用が可能です。

ChatGPTは、ユーザーによって入力された情報を学習に利用し、その情報をもとに第三者に対して回答を生成する可能性があります。これが、間接的な情報漏洩が発生する原因です。

そのため、ChatGPTを利用するユーザー自身が、機密情報や個人情報などの入力を避けるのがいちばんの情報漏洩への対策となります。

ChatGPTには、入力したデータを学習させない「オプトアウト」という機能が存在します。デフォルト設定のまま使用すると、入力内容が流出してしまう恐れがあるため、このオプトアウト機能を利用して学習をオフにできるよう変更してから使用すると良いでしょう。

（※ChatGPTの画面左上にある「Chat GPT」をクリックし、一時チャットを「ON」にします。）

機能の詳細や設定方法に関しては、以下の記事をご覧ください。

ChatGPTの情報漏洩対策。履歴を残さず学習させない設定は？セキュリティの注意点 – チャットボットのhitobo（ヒトボ）

OpenAIは、APIから受け取ったコンテンツのデータは生成AIの改善には使用しないと、利用規約に明記しています。

現在、多くの企業から、ChatGPT API連携がされたサービスが提供されています。このようなAPI連携されたサービスを活用することで、入力された情報を生成AIモデルが学習することによって発生する情報漏洩リスクを防止しながら使用可能となります。

最後に、著作権侵害のリスクを抑えてChatGPTを利用する方法を紹介します。

ChatGPTに入力する際に他者の著作物に関する内容を入力した場合に、複製されたコンテンツもしくは酷似するコンテンツを生成してしまうことで、著作権侵害に該当してしまう可能性が高まります。そのため、基本的に他者の著作物の入力は避けましょう。

例えば、インターネット上に公開されている小説、ニュース記事、ブログ記事、SNSの投稿文、広告の文言、雑誌・書籍の文章などは全て他社の著作物に該当します。

ChatGPTに著作物を入力しなかったとしても、生成AIモデルがすでに学習済みの著作物のデータを参照して回答する可能性も考えられます。そのため、ChatGPTが生成したコンテンツは、他者の著作物と類似している点がないか、利用前に必ず確認するようにしましょう。

続いて、ChatGPTが生成した誤情報や不適切な内容を含んだ回答を使用することで、誤情報を発信してしまうという問題への対策を紹介します。

ChatGPTを利用する際には、「誤情報を生成する可能性がある」と念頭に置き、目視でのChatGPTの回答のチェックを欠かさず行いましょう。回答を鵜呑みにしてそのまま使用するのは危険です。ChatGPTの回答は、参考程度にとどめて使用しましょう。

Webブラウジング機能とは、ChatGPTがWeb検索を行い、検索結果にもとづいて回答できる機能です。ChatGPTは学習データが限られているが故に、誤情報を含む回答を生成してしまうことが問題でしたが、Webブラウジング機能をオンにすることで、リアルタイムの情報にアクセスでき、誤情報の生成リスクを抑えることができます。

ChatGPTは、学習データにない情報に関しては、回答に誤情報が含まれる可能性が高くなります。そこで、質問したい情報に関する資料やデータを読み込ませることで、生成AIモデルが学習していない内容に関しての応答の生成も可能となります。

例えば、資料のテキストをコピーペーストして読み込ませる、参考となるURLを送る、PDFファイルを参照データとして読み込ませる、といった方法があります。ChatGPTにWebページやPDFデータを読み込ませて回答を得る方法は以下の記事で解説しています。

ChatGPTでPDFファイルやWebページを読み込みFAQ作成するには？ – チャットボットのhitobo（ヒトボ）

プロンプトとは、ChatGPTに送る質問文や指示文のことです。ChatGPTは、プロンプトの精度が高ければ高いほど、精度の高い回答を得られるという特徴があります。そのため、的確な回答を得たいなら、ユーザー側もプロンプトを工夫する必要があります。

例えば、効果のあった生成AIのプロンプトは今ではインターネット上で多く公開されています。生成AIの有識者が発信しているプロンプトの情報も存在します。そのような精度の高いプロンプトを参考にすることで、ChatGPTが誤情報を含む回答をする確率を下げることができるでしょう。