ChatGPTの課題とは？業務活用時の6つの問題点とその解決策を紹介

ChatGPTを使用する際は情報漏洩のリスクが考えられます。OpenAIは、一般利用者向けのChatGPTでは、ユーザーが入力した情報をOpenAIのサービスの開発や改善のために使用することがある、と利用規約に明記しています。

つまり、一般利用者向けのChatGPTに入力されたデータがOpenAIの生成AIモデルの学習に使用されることで、間接的に他ユーザーへの回答に表示される可能性があるということです。このような形で、入力した機密情報や個人情報が、間接的に他のユーザーに漏洩するリスクがあります。

ChatGPTによって生成されたコンテンツの公開や販売をする際には、通常の著作権が適用されます。生成されたコンテンツに、既存のコンテンツとの類似性や依拠性が認められれば、著作権を侵害したとして著作権者に訴えられる可能性があるということです。

ChatGPTは、Web上に公開されている著作物を元にコンテンツを生成するケースがあるため、著作権を侵害していないかどうか注意しないといけません。

ChatGPTは誤情報を生成するケースがあります。例えば、次のような場合です。

• ChatGPTの学習データの範囲外の情報に関する質問
• 最新の事柄に関する質問
• 日本の事柄など英語圏以外の情報に関する質問　など

上記のケースの誤情報生成は、ChatGPTは学習データの期間が限られていること、また英語圏以外の学習データが比較的少ないことが原因です。例えば、企業がChatGPTが生成した誤情報を含む回答をそのまま使用して情報発信をした場合、トラブルに発展する可能性があります。

ChatGPTは、基本的には倫理に反する質問には答えないような設定がされています。しかし、ChatGPTの学習データの中に、差別的もしくは偏った意見に基づく情報が含まれている場合があり、そのような情報を参照して回答を生成する可能性はゼロではありません。

ChatGPTが生成した、倫理的に不適切な内容や差別的な内容を含んだ回答をそのまま企業が使用し、発信した場合、大きな問題になる可能性があります。

ChatGPTは同じ内容の質問をしたとしても、質問するたびに返答が異なる場合があります。これはChatGPTは質問の内容を人間とまったく同じように理解しているのではなく、単語の出現数や関連性によって回答を生成していることが原因です。同じ質問をしても回答が違う場合、ユーザーが混乱してしまうケースがあります。

ChaGPTに限らず生成AIは、回答を生成するまでのプロセスが不明です。これを「ブラックボックス問題」と言います。生成AIの回答に深刻な誤りがあったとしても、理由がわからないため気づかない、改善できない、といった問題が発生します。

一般利用者向けのChatGPTの情報漏洩への一番の対策は「機密情報の入力を避ける」ことです。会社の重要情報や、個人情報はChatGPTに入力しないようにしましょう。

ChatGPTには、入力したデータを学習させない「オプトアウト」という機能があります。デフォルトでは学習設定がオンになっているため、生成AIに学習をさせたくない情報の入力が必要な場合は、学習設定をオフにしてから使用しましょう。

機能の詳細や設定方法に関しては、以下の記事をご覧ください。

ChatGPTの情報漏洩対策。履歴を残さず学習させない設定は？セキュリティの注意点 – チャットボットのhitobo（ヒトボ）

ChatGPTが生成した回答のチェックを、人の目によって必ず行いましょう。ChatGPTが誤情報を生成する可能性があることを考慮し、しっかりと内容を確認してから、回答を使用するのが重要です。また、ChatGPTの回答はそのまま使うのではなく、草案や参考とする程度での活用をおすすめします。

Webブラウジング機能とは、ChatGPTがインターネット上の最新情報を取得し、回答に反映する機能です。ChatGPTは学習データが限られているため最新の情報を参照することはできませんが、Webブラウジング機能を活用することで、最新情報にもアクセスが可能になります。

ChatGPTは学習範囲外の質問には正確に答えることができませんが、Webブラウジング機能によって、誤情報の生成を減らすことができます。

欲しい回答がChatGPTの学習データにない場合は、間違った回答をする可能性が上がります。例えば、特定の商品やサービスの情報などには答えられない可能性が高いです。

不足する知識を補うために、関連資料をテキストで入力したり、参考URLを打ち込んだり、ファイルを参照データとして読み込ませたりすることで、学習していない内容でも回答を生成することが可能になります。

ChatGPTにWebページやPDFデータを読み込ませて回答を得る方法は以下の記事で解説しています。

ChatGPTでPDFファイルやWebページを読み込みFAQ作成するには？ – チャットボットのhitobo（ヒトボ）

OpenAIは、APIで提供するコンテンツや受領したコンテンツをサービスの開発などに利用しないことを利用規約に明記しています。そのため、API連携されたサービスを活用することで、生成AIモデルのトレーニングに二次利用されることによる情報漏洩リスクは防止しつつ、ChatGPTの技術を使用できるようになります。

現在、さまざまな企業からChatGPT API連携がされたサービスが多く提供されています。特定の業務や作業に活用できるサービスが多いので、自社の用途に合わせて導入すると効果的です。

ChatGPTの活用にはいくつかのリスクが伴うため、社内で活用時のルールを策定しておくことが重要です。例えば、「機密情報を入力しない」「回答の正誤確認をする」「回答をそのまま使用しない」といった項目はルールに入れておきたいものです。

ルールを破って使用した場合にどのようなトラブルに発展する可能性があるのかまで説明することで、従業員への意識付けが可能になります。ルールは策定して終わりではなく、しっかりと従業員に守ってもらえるように周知を行いましょう。

ルールブックにまとめてアクセスしやすい場所に置いておく、ルールに関するテストを定期的に行う、といった策が効果的です。