ChatGPTを活用しよう（前編）

指示（Instruction）を活用する

プロンプトデザインのもっとも基本となるのは「指示（Instruction）」と「プライマリコンテンツ（Primary Content）」です。「指示」とは、AIに実行させる内容を記述したものであり、プライマリコンテンツはその対象となるコンテンツを示します。例えば、こんなプロンプトを考えてみましょう。

これを実行すると、2行目のテキストが英訳されて出力されます。１行目に書かれたものが「指示」であり、２行目がプライマリコンテンツです。１行目の指示に従い、２行目のテキストを英訳していたのですね。

この「指示」を正しく指定することで、AIの応答をかなり正確に制御できるようになります。例えば、以下のようなプロンプトを実行させたとしましょう。

これで、１～100の数字を合計するPythonのコードが生成されました。こうした「プログラムのコード生成に関しては、ChatGPTはかなり強力です。最新のフレームワークなどへの対応はできないことが多いですが、基本的な言語のコード生成はかなり正確に行えます。

これは、先に述べた「文の続きを生成する」というAIの仕組みを考えればよくわかるでしょう。世界中の開発系サイトでは無数の質問がされており、多くはその回答として正しいコードが提示されています。「〇〇のコードを教えて下さい」「それは✕✕のように書きます」といったやり取りをAIモデルは無数に学習しているのです。これにより、AIはプログラミング系の質問には「ほぼ正しい回答」を生成できるようになっているのです。

この指示は、応用次第で様々な用途に用いることができます。例えば、自社製品名を指定して「当社の製品〇〇の使い方について以下の質問に答えなさい。」と指示を用意してプライマリコンテンツを入力させれば、簡単なQ&Aのチャットができてしまいます。

プロンプトデザインについては、さまざまなテクニックが考え出されています。まずは、基本である「指示」の使い方をしっかりと理解して下さい。そして的確な応答が得られるようプロンプトを作る作業に慣れておきましょう。

AIが得意なこと・不得意なこと

この「指示」を使ったプロンプトは、AIに対し「特定の役割を与える」というものです。こうした特定の役割に限定して質問をする場合、AIからの応答はかなり正確なものになります。もちろん、完全ではありませんが、例えば先ほどのPythonのコードを生成される例などは実際にコードを実行すれば正しく生成できているかどうかわかります。「役割を限定し、結果を自分で検証できる」のであれば、AIは非常に便利な相棒となってくれるのです。

では、不得意なことは何でしょうか。それは「正確さが要求される作業」です。プログラムのコードは、もちろん正確さが要求されますが、多少不正確であっても（実際に動かせばすぐに間違いが分かるので）十分に役に立ちます。しかし、場合によっては「不正確だと大きな問題が発生する」というケースもあります。

米国では、弁護士が資料作成にAIを利用したところ、存在しない判例を引用したコンテンツを作成してしまい大きな問題となりました。米国連邦地方裁判所はこの弁護士に対し、非実在の判例を引用したとして5000ドルの罰金を課しています。業務に関係することで、事実誤認によって損害が発生するような場合、AIをそのまま使うのはかなり問題でしょう。

例えばマーケッティングのレポートにAIの応答を利用した場合、架空の統計データを元に説明を行うかも知れません。カスタマーサービスで利用した場合、製品にない機能を説明してしまう可能性もあります。

先に説明したように、AIは結果が正しいかどうかを検証しません。業務に関する応答は、常に「応答の真偽を確認した上で利用する」ということを徹底する必要があります。

AIに行ってはいけないこと

では、応答の真偽確認さえすれば、AIはどのように利用しても問題ないでしょうか。いいえ、そうではありません。特に業務に関することでAIを利用する場合、注意すべき点があります。

何よりも重要なのは、「機密情報を決して入力してはいけない」という点です。AIは、多量のデータを学習して動いています。プロンプトから生成される応答は、こうした学習データを元に生成されます。いわば、「どこかで誰かが書いたテキストをツギハギして応答を作っている」といってもいいでしょう。機密情報をAIにプロンプトとして送ってしまった場合、その情報が他の何処かで使われ応答として表示されないとも限りません。

ChatGPTの開発元であるOpenAIは、ユーザーの個人情報や機密情報がそのままAIからの返答として表示されることはない、といっています。しかし特定の状況や要求によっては、プロンプトの一部が応答に含まれる可能性があることも認めています。次回説明する予定ですが、現在「プロンプトインジェクション」と呼ばれるAIモデルへの攻撃も多数確認されています。こうした攻撃により、AIに入力した社外秘の情報が流出されてしまう可能性がないとは言い切れないでしょう。

同じ理由で、社員や取引先などの個人情報についても決して入力しないように注意して下さい。基本的に「AIに入力した情報は外部に漏れる可能性がある」と考えて利用する、と考えましょう。