AI副業入門

AIプロンプトのA/Bテスト手法|最適な指示文を見つける方法

「なんとなく使えてる」から抜け出せなかった私が、A/Bテストで変わった話

正直に言うと、半年前の私はプロンプトを「雰囲気で」書いていた。毎回なんとなく試して、なんとなく使えるものを採用する——それの繰り返し。

ある日、同じ案件を受けていたフリーランス仲間が「プロンプトを体系的にテストしてる」と言っていて、初めて自分のやり方がいかに非効率か気づいた。彼女のプロンプトライブラリを見せてもらったとき、正直ちょっと焦った。

そこから試したのが、プロンプトのA/Bテストだ。マーケティングの世界では当たり前の手法なのに、AIに応用している人はまだ少ない。これを習慣にするだけで、再現性のある「自分だけの最強プロンプト」が作れるようになる。

プロンプト構造テンプレート
プロンプト構造テンプレート

プロンプトA/Bテストって何?私が「必要だ」と確信した瞬間

A/Bテストとは、2つのバリエーションを比較して、より優れた方を特定する手法だ。Webマーケティングではボタンの色や文言を変えてクリック率を比較するために使われる。それをプロンプトに応用する。

💡 Claudeを試してみる

長文の分析・自然な文体の生成に強い。私のメインツールです。


→ 無料プランで試す

たとえば、ブログの導入文を書かせるとき、こんな2パターンを比べるとする。

「Bの方が良さそう」と直感でわかる。でも、どの要素が効いているのかを把握していないと、次のプロンプトで同じ改善を再現できない。

私が確信したのは、2023年10月に受けたライティング案件でのこと。同じテーマで5本の記事を書く仕事だったが、1本目と5本目でプロンプトの品質が全然違っていた。なぜ改善されたのかを説明できなかった。「なんとなく上手くなった」では、再現性がゼロだと痛感した。

📸 [画像の説明:パターンAとパターンBの出力を横並びで比較したスクリーンショット]

私が実際に踏んだ5ステップ——失敗ポイントも全部書く

ステップ1:「目的」と「評価指標」を先に決める

「出力の品質を上げたい」は目標として曖昧すぎる。何をもって「良い出力」とするかを数値化しないと、テストが主観の殴り合いになる。

💡 Notion AIを試してみる

ドキュメント管理とAI要約が一体化。チーム利用にも最適。


→ 無料で始める

私が最初に失敗したのはここだ。「なんとなく良い方」で判断していたら、3回目に「あれ、どっちが良かったっけ」となった。評価基準は必ず先に決める。

ステップ2:変数は必ず「1つだけ」変える

A/Bテストの鉄則は、一度に変更する要素を1つに絞ることだ。複数変えると、何が効いたかわからなくなる。

プロンプトで変えられる主な変数はこのあたり。

ステップ3:各パターンを最低3〜5回実行する

ChatGPTもClaudeも、同じプロンプトで毎回微妙に違う出力をする。1回の結果だけで判断するのは危険だ。最低3回、できれば5回回して平均を見る。

あと、テスト中はモデルを絶対に固定すること。GPT-4oで始めたテストをGPT-4o miniで続けたら比較が無意味になる。私は一度これをやらかして、1週間分のデータをボツにした。

ステップ4:スコアリング基準を作って採点する

「読者の共感度」を評価するなら、こんな基準を事前に作っておく。

複数回の出力の平均スコアでパターンを比較する。感覚ではなく数字で判断できるのが気持ちいい。

ステップ5:結果を記録して「プロンプトライブラリ」を育てる

これが一番大事なステップだと思っている。「役割指定あり:平均4.2点、なし:平均2.8点」というデータが積み重なると、自分だけのプロンプト最適化の法則集が完成する。

この資産は、AI副業において本当に大きな差になる。同じ案件を受けても、プロンプトの精度が違えばアウトプットの質も速度も変わってくる。

📸 [画像の説明:Googleスプレッドシートで作ったプロンプトテスト管理表の実例]

私が実際に使っているツール3つ——正直な使い分けも教える

1. Googleスプレッドシート(無料)

最初はこれで十分だ。列に「プロンプトパターン」「実行回数」「出力内容」「スコア」「平均点」を作るだけで、立派なテスト管理表になる。

私も最初の2ヶ月はスプレッドシートだけでやっていた。チームで共有もできるし、コストゼロで始められる。まず動くことが大事なので、初心者には迷わずこれをすすめる。

Googleスプレッドシートを無料で使う【公式】

2. Notion(無料〜有料)

プロンプトの数が50を超えてきたあたりで、スプレッドシートの限界を感じた。Notionに移行したのは副業を始めて3ヶ月目のこと。

データベース機能でタグ分類(ライティング用・コーディング用・SNS用など)ができて、フィルタリングで必要なプロンプトをすぐ呼び出せる。プロンプト資産が増えてきた人向けのツールだ。

Notionを無料プランで試してみる【公式】

3. PromptLayer(有料、月額約〜)

API経由でAIを使い始めたときに導入した。OpenAI APIと連携して、プロンプトのバージョン管理・出力ログ・コスト分析まで一元管理できる。

スプレッドシートやNotionでは手動でやっていたことが自動化されるのが最高だ。本格的にAPI活用をしているエンジニアやAI副業者向けのツール。無料トライアルがあるので、API使いなら一度触ってみてほしい。

PromptLayerを無料トライアルで試す【公式】

ツール 料金 向いている人 強み
Googleスプレッドシート 無料 初心者・始めたばかりの人 コストゼロ、共有が簡単
Notion 無料〜$16/月 プロンプトが増えてきた中級者 タグ管理・フィルタリングが強力
PromptLayer $20/月〜 API活用者・本格AI副業者 ログ自動記録・コスト分析

迷ったらまずGoogleスプレッドシートで始めること。ツール選びに時間をかけるより、1回でもテストを回す方がずっと価値がある。

PromptLayerの料金プランを公式サイトで確認する

実際にやってみた:ブログタイトル生成プロンプトのA/Bテスト全記録

去年の11月、SEOブログ案件でタイトル生成のプロンプトを最適化したときの記録を公開する。使ったのはChatGPT(GPT-4o)、各パターン5回実行、評価指標は「クリックしたくなる度(5段階)」だ。

📸 [画像の説明:パターンAとパターンBのChatGPT出力結果を並べたスクリーンショット]

パターンA(ベースライン):
「AIを使った副業についてのブログ記事タイトルを10個考えてください」

パターンB(役割+ターゲット+出力条件を追加):
「あなたはSEOの専門家です。月5万円の副業収入を目指す30代会社員をターゲットに、AIを活用した副業をテーマにしたブログ記事タイトルを10個考えてください。数字を入れ、読者の悩みを解決することを強調してください」

パターン 平均スコア 特徴
パターンA 2.6点 汎用的なタイトルが多く、差別化が弱い
パターンB 4.4点 具体的な数字・悩み解決フレーズが含まれ、クリックしたくなる

スコア差は1.8点。これはかなり大きい。「役割指定+ターゲット詳細化+出力条件の明示」という組み合わせが、タイトル生成において特に効果的だとわかった。

次のテストでは「数字の入れ方(具体的な金額 vs パーセンテージ)」という変数を1

📚 もっと詳しく知りたい方へ

AI副業で月10万円を目指す完全ロードマップ

ツール選びから案件獲得、収益安定化まで。
実際に稼いだ手順をステップバイステップで解説しています。


→ ロードマップを読む(無料)