ほぼテク7月2日ChatGPT・GoogleBardを活用したコンテンツモデレーション（投稿監視）！コミュニティの健全性と品質をChatGPT、GoogleBardで保てるか？
ほぼテク読者の皆様、いつも大変ありがとうございます！
我妻裕太です。
本日もよろしくお願いいたします。
GPTに関する連続投稿約67日目です！
最近ChatGPTに関するSNSのグループに参加させていただくことが増えてきました。（色々な方の考えを学ばせていただきたく！）
オンラインコミュニティは、情報交換、ディスカッション、または共同作業の場として非常に価値があります。
しかし、これらのプラットフォームを健全で有益なものに保つためには、適切なモデレーションが必要です。
コミュニティの管理者の方は常に適切な投稿や営業目的のコメントがないかなど運営がとても大変なのではないかと思い、以下のようなテーマにしてみました。
コンテンツモデレーション（投稿監視）
今回は、ChatGPTでコンテンツモデレーションできるか実験してみました。
何かの参考になりましたら幸いです。
ChatGPTの概要
もう説明不要かと思いますが、ChatGPTは、OpenAIによって開発された会話型のAIです。
ChatGPTは、大量のテキストデータを学習し、人間のような自然な対話を生成することができます。
その多様性と高度な言語処理能力から、ChatGPTはさまざまなアプリケーションで利用されています。
コンテンツモデレーションの重要性
コンテンツモデレーションは、コミュニティ内のコンテンツを監視し、不適切な投稿やスパムを管理するプロセスです。
これにより、コミュニティの品質が保たれ、ユーザーが安心して参加できる環境が維持されます。
コンテンツモデレーションには、スケーラビリティ、リアルタイムの対応、人間のモデレーターの偏見、そしてコストなど、多くの課題があります。
これらの課題は、オンラインコミュニティが積極的で健康な環境を維持する上で重要です。
なぜChatGPTなのか？
ChatGPTは、その高度な自然言語処理能力とカスタマイズのしやすさから、コンテンツモデレーションに非常に適しています。
また、人間のモデレーターと比べて、ChatGPTは24時間働くことができて、大量のコンテンツを迅速に処理することができます。
これにより、コスト削減や効率の向上が期待されます。
ChatGPT・GoogleBardを活用したコンテンツモデレーションの手順
content moderation
コンテンツモデレーションと一言で言っても実はたくさんの手順があり、すごく大変な作業です。
以下がコンテンツモデレーションの手順の例です。
【コンテンツモデレーションの手順の例】
1.ガイドラインの作成
コミュニティのルールやガイドラインを明確にし、これを公開して参加者に知らせます。
営業目的の投稿や不適切な内容が禁止されていることを随時発信します。
2.モデレーターの配置
コミュニティ内の投稿を監視し、ルールに従っていないものを削除するためのモデレーターを任命または雇用します。
3.自動フィルタリング
不適切な言葉やフレーズ、または営業関連のキーワードを自動的に検出してフィルタリングするためのソフトウェアやツールを使用します。
4.報告機能の利用
メンバーが不適切なコンテンツやスパムを報告できる機能を提供し、コミュニティ全体が監視役として機能するようにします。
5.教育と啓発
コミュニティメンバーに、不適切なコンテンツやスパムの悪影響について教育し、互いに尊重し合うコミュニティ文化を育むことが重要です。
6.違反者への対応
ルールを破る行為をしたメンバーに対しては、警告、一時的な投稿制限、またはコミュニティからの追放などの措置を取ることが必要です。
一例としていくつか記載しましたが、これだけでも非常に労力のかかる業務です。
この一部分だけでも効率化できれば、管理者の方の負担が軽減され、良質なコミュニティ運営ができるのではないでしょうか。
では早速ChatGPT、GoogleBardで支援ができるかためしてみました。
コンテンツモデレーションの実験方法！
今回の実験ルールは以下の通りです。
営業目的に関するサンプルテキストをChatGPTに投入して異常かどうかをチェックする。
メッセージは通常の投稿サンプル５件と営業目的風の５件を用意。
プロンプトは以下で実行。
【プロンプト】
あなたは弊社の優秀なSNSコンテンツモデレーターです。
以下の作業をお願いします。
## 作業依頼
以下のメッセージが適切なものか不適切なものか仕分けしてください。
## 条件
– 不適切なものの定義は営業目的に関する投稿を指します。
– 回答は表形式で表示してください。
– 仕分けした結果のサマリーも書いてください。
投稿１：ChatGPTと競合する驚異的な新しい会話AIを試してみませんか？💥 今なら最初の3か月間が無料！🎉 これを逃す手はない！今すぐサインアップ ➡️ [リンク] 🤖 #無料トライアル #AI
投稿２：顧客サービスが革命を遂げます！当社のAIチャットエージェントは、24/7で顧客の質問に答えます。🤩 今日から10%オフで開始！💼 詳細はこちら ➡️ [リンク] #Chatbot #CustomerService
投稿３：会話AIのエキスパートになりたいですか？私たちのオンラインコースは、あなたを次のレベルへと導きます！👨💻 今週末限定で50％オフ！🔥 今すぐ登録 ➡️ [リンク] #AI教育 #割引
投稿４：GoogleBARDに匹敵するパワフルな会話AIを使用してリードを増やしませんか？🔥 当社のツールは、売上を最大化します！💰 無料デモはこちら ➡️ [リンク] #LeadGeneration #Chatbot
投稿５：あなたのビジネスにカスタム会話AIソリューションが必要ですか？🤔 私たちの専門家チームがあなたをサポートします！👥 特別オファー: 初回コンサルティング無料！🎁 今すぐ問い合わせる ➡️ [リンク] #AIConsulting #SpecialOffer
投稿６：皆さん、こんにちは！最近、ChatGPTを使って教育分野でのサポートについて考えています。たとえば、学生の質問に対して迅速に回答するといった使い方です。他にも、このアイデアを拡張するための提案はありますか？🤔📚
投稿７：今日は技術的な質問です！GoogleBARDのカスタムモデルをトレーニングする際に、データセットの最適なサイズはどのくらいだと思いますか？ また、これに関するベストプラクティスやリソースがあれば教えてください！🛠️💡
投稿８：画像処理に関心がある方、こんにちは！「Midjourney & Stable Diffusionユーザー研究会」で、AIを使った画像処理技術についてディスカッションしています。興味がある方は、ぜひこちらのリンクから参加してください！📸🔗https://www.facebook.com/groups/1621256615050546
投稿９：みなさん、ChatGPTやGoogleBARDの限界についてどのように考えますか？これらのAIがうまく機能しないシナリオや、改善が必要だと感じる点は何ですか？意見を共有しましょう！🤖❌
投稿１０：先日、ChatGPTを使って、カスタマーサポートの効率を向上させるプロジェクトを進めました！顧客の問い合わせに迅速かつ的確に対応できるようになり、非常にポジティブなフィードバックを受けています。皆さんも成功事例や経験をシェアしませんか？💼🌟
上記投稿の1～5までは営業目的をイメージした投稿です。
それ以外は正常投稿のイメージです。
今回はGPT-3.5、GPT-4、GoogleBardで実験してみましたよ。
※以下の回答は実際は表形式で表示されていますが、エディターの都合上箇条書き風に変えていますので、ご了承ください。
GPT-3.5で不適切なコンテンツは見つけられるか？
投稿適切/不適切
投稿１不適切
投稿２適切
投稿３適切
投稿４不適切
投稿５適切
投稿６適切
投稿７適切
投稿８適切
投稿９適切
投稿１０適切
サマリー:
不適切な投稿: 2件
適切な投稿: 8件
投稿１と投稿４は営業目的に関する投稿であり、不適切です。他の投稿は適切な内容であり、SNS上で公開しても問題ありません。
———————————————————————————————————————————————
採点結果：70点！！約６秒！
んーんーーーーちょっと思ってたのとちゃう！投稿の2，3，5は不適切なコンテンツ想定なのですが、適切と回答してくれました(汗)
でも、あっという間にチェック結果を出してくれるのはうれしいですね。
GPT-4で不適切なコンテンツは見つけられるか？
以下は、投稿が適切か不適切かを表形式で表示したものです。不適切なものの定義は営業目的に関する投稿としています。
投稿番号 内容 適切/不適切
投稿１ ChatGPTと競合する驚異的な新しい会話AIを試してみませんか？💥 今なら最初の3か月間が無料！🎉 これを逃す手はない！今すぐサインアップ ➡️ [リンク] 🤖 #無料トライアル #AI（不適切）
投稿２ 顧客サービスが革命を遂げます！当社のAIチャットエージェントは、24/7で顧客の質問に答えます。🤩 今日から10%オフで開始！💼 詳細はこちら ➡️ [リンク] #Chatbot #CustomerService（不適切）
投稿３ 会話AIのエキスパートになりたいですか？私たちのオンラインコースは、あなたを次のレベルへと導きます！👨💻 今週末限定で50％オフ！🔥 今すぐ登録 ➡️ [リンク] #AI教育 #割引（不適切）
投稿４ GoogleBARDに匹敵するパワフルな会話AIを使用してリードを増やしませんか？🔥 当社のツールは、売上を最大化します！💰 無料デモはこちら ➡️ [リンク] #LeadGeneration #Chatbot（不適切）
投稿５ あなたのビジネスにカスタム会話AIソリューションが必要ですか？🤔 私たちの専門家チームがあなたをサポートします！👥 特別オファー: 初回コンサルティング無料！🎁 今すぐ問い合わせる ➡️ [リンク] #AIConsulting #SpecialOffer（不適切）
投稿６ 皆さん、こんにちは！最近、ChatGPTを使って教育分野でのサポートについて考えています。たとえば、学生の質問に対して迅速に回答するといった使い方です。他にも、このアイデアを拡張するための提案はありますか？🤔📚（適切）
投稿７ 今日は技術的な質問です！GoogleBARDのカスタムモデルをトレーニングする際に、データセットの最適なサイズはどのくらいだと思いますか？ また、これに関するベストプラクティスやリソースがあれば教えてください！🛠️💡（適切）
投稿８ 画像処理に関心がある方、こんにちは！「Midjourney & Stable Diffusionユーザー研究会」で、AIを使った画像処理技術についてディスカッションしています。興味がある方は、ぜひこちらのリンクから参加してください！📸🔗https://www.facebook.com/groups/1621256615050546（適切）
投稿９ みなさん、ChatGPTやGoogleBARDの限界についてどのように考えますか？これらのAIがうまく機能しないシナリオや、改善が必要だと感じる点は何ですか？意見を共有しましょう！🤖❌（適切）
投稿１０ 先日、ChatGPTを使って、カスタマーサポートの効率を向上させるプロジェクトを進めました！顧客の問い合わせに迅速かつ的確に対応できるようになり、非常にポジティブなフィードバックを受けています。皆さんも成功事例や経験をシェアしませんか？💼🌟（適切）
サマリー
不適切な投稿は5件です（投稿1, 投稿2, 投稿3, 投稿4, 投稿5）。
適切な投稿は5件です（投稿6, 投稿7, 投稿8, 投稿9, 投稿10）。
———————————————————————————————————————————————
採点結果：100点！！約１分！
おーーーーー、素晴らしいです。GPT-3.5が少し駄目だったので、GPT-4も危ういかと思ったのですが、さすがLLM界のインテリ！
すごいなしかし。
いやーいいな、これはいいな。大分効率化できそうな気がします。
では最後はこちら
GoogleBardで不適切なコンテンツは見つけられるか？
投稿番号 投稿内容 適切か不適切か
ChatGPTと競合する驚異的な新しい会話AIを試してみませんか？💥 今なら最初の3か月間が無料！🎉 これを逃す手はない！今すぐサインアップ ➡️ [リンク] 🤖 #無料トライアル #AI（不適切）
顧客サービスが革命を遂げます！当社のAIチャットエージェントは、24/7で顧客の質問に答えます。🤩 今日から10%オフで開始！💼 詳細はこちら ➡️ [リンク] #Chatbot #CustomerService（不適切）
会話AIのエキスパートになりたいですか？私たちのオンラインコースは、あなたを次のレベルへと導きます！👨💻 今週末限定で50％オフ！🔥 今すぐ登録 ➡️ [リンク] #AI教育 #割引（不適切）
GoogleBARDに匹敵するパワフルな会話AIを使用してリードを増やしませんか？🔥 当社のツールは、売上を最大化します！💰 無料デモはこちら ➡️ [リンク] #LeadGeneration #Chatbot（不適切）
あなたのビジネスにカスタム会話AIソリューションが必要ですか？🤔 私たちの専門家チームがあなたをサポートします！👥 特別オファー: 初回コンサルティング無料！🎁 今すぐ問い合わせる ➡️ [リンク] #AIConsulting #SpecialOffer（不適切）
皆さん、こんにちは！最近、ChatGPTを使って教育分野でのサポートについて考えています。たとえば、学生の質問に対して迅速に回答するといった使い方です。他にも、このアイデアを拡張するための提案はありますか？🤔📚（適切）
今日は技術的な質問です！GoogleBARDのカスタムモデルをトレーニングする際に、データセットの最適なサイズはどのくらいだと思いますか？ また、これに関するベストプラクティスやリソースがあれば教えてください！🛠️💡（適切）
画像処理に関心がある方、こんにちは！「Midjourney & Stable Diffusionユーザー研究会」で、AIを使った画像処理技術についてディスカッションしています。興味がある方は、ぜひこちらのリンクから参加してください！📸🔗https://www.facebook.com/groups/1621256615050546（適切）
みなさん、ChatGPTやGoogleBARDの限界についてどのように考えますか？これらのAIがうまく機能しないシナリオや、改善が必要だと感じる点は何ですか？意見を共有しましょう！🤖❌（適切）
先日、ChatGPTを使って、カスタマーサポートの効率を向上させるプロジェクトを進めました！顧客の問い合わせに迅速かつ的確に対応できるようになり、非常にポジティブなフィードバックを受けています。皆さんも成功事例や経験をシェアしませんか？💼🌟（適切）
スプレッドシートにエクスポート
適切と判断した投稿は、会話AIやAI技術に関する一般的な話題について意見やアイデアを共有しているものです。
一方、不適切と判断した投稿は、会話AIやAI技術を販売したり宣伝したりしているものです。
———————————————————————————————————————————————
採点結果：100点！！約９秒！
おーーーーー、おーーーーーーーー、こちらも凄い全問正解！GoogleBardはGPT-4に負けるかと思ったのですが、同点です。
素晴らしいですね。
で、今日一番すごいなと思ったのが、「 スプレッドシートにエクスポート」です。
結果をそのままダイレクトにエクスポートしてくるので、すぐにデータの利活用できますね。
注意事項はタイトルが長くなってしまうとこんな見た目になるので、このような見た目になった方は怪しいウィルスか？と思わずにタイトルのセルを見て適時修正してください。
まとめ
っということでいかがでしたでしょうか。
今回は3大LLMでコンテンツモデレーション（投稿監視）をイメージした実験を試してみました。
結果は以下の通りでした。
GPT-3.5：75点、回答表示まで約６秒
GPT-4 ：100点、回答表示まで約１分
Bard ：100点、回答表示まで約9秒
GPT-4、GoogleBardが全問正解でGPT-3.5がちょっと間違える結果となりました。
間違えるといっても数個間違えただけでしたので、十分活用できるのはないでしょうか。
GPT-4は安定の全問正解でした。
Bardも全問正解で、凄かったのがスプレッドシートとそのまま連携してくれるところです。
色々なサービスに連携し始めるとさらに価値が高まる予感です。
時間で見ていきますとGPT-3.5が一番早く、ちょっと後ろにGoogleBardで、じっくり丁寧なGPT-4でしょうか。
総合的に見ていきますと今回の例ではGoogleBardが一番良かったような気がします。
今回はブラウザベースでしたが、システム的な観点で見ていくと以下のような構成でシステムが実現できると思います。
【注意点事項】
ChatGPTは非常に強力ですが、完璧ではありません。
時折誤検出が発生することがあり、また、新しいスラングや悪意のあるコンテンツを理解するのに苦労することがあります。
これらの問題を考慮して、ChatGPTと人間のモデレーターを併用するのが最良のアプローチとされています。
コンテンツモデレーションは、コミュニティの健全性と安全性を維持するために不可欠です。
ChatGPTはその高度な能力で、この分野に革命をもたらしています。
しかし、その制限を理解し、適切に対策を講じることが重要です。
ChatGPTと人間のモデレーターを組み合わせることで、効率的かつ効果的なオンラインモデレーションが実現されます。
今日も大分面白かったので、あっという間に時間が過ぎてしまった・・・
用事があることを忘れていた・・・
急ぎましょう(汗)
これからも最新情報を発信しながらみなさんに新しい価値をお届けできればと思います。
今回も最後までお読みいただきありがとうございました。
また次回お会いしましょう。
弊社はChatGPTに関しての開発ノウハウがあるので、ぜひ、お気軽にお問い合わせください。
原稿執筆
株式会社GROWTH JAPAN TECHNOLOGIES 我妻裕太
バックナンバー
ほぼテク7月1日ChatGPTを活用してオンラインショッピングサイトのカスタマーサポートを効率化しよう？
ほぼテク6月28日AIと一緒にダイエット？ChatGPT、GoogleBardに体重データを分析してもらった！なかなか面白いよ(笑)
ほぼテク6月25日GPTの最新機能！「Azure OpenAI Service on your data」を試してみました！
ほぼテク6月24日GPTの活用事例！チャットボット用のQAデータをGPTで作成してみた！
ほぼテク6月21日GPT4の活用事例！生成AI達でAIの教師データを生成してみよう。
ほぼテク6月17日ChatGPTの活用ガイド！AIをあなたのプロジェクトに取り入れる方法徹底解説？
ほぼテク6月14日！ChatGPTを活用するために重要な留意事項１３選！ AIとのスムーズな対話を実現！
ほぼテク6月11日！ChatGPTでSNSマーケティングを攻略しよう！
ほぼテク6月10日！ChatGPTで情報の抽出をマスターしよう！
ほぼテク6月7日！ChatGPTを使って業務効率化！ - データ解析とレポート作成の新たな方法？
ほぼテク6月4日！ChatGPTでマスタ情報を活用した間違い探し！
ほぼテク5月31日！ChatGPTでファンタジーは創造できるか？
ほぼテク5月28日！ChatGPTで地元仙台市を分析してみました！
ほぼテク5月27日！ChatGPTでWebサイトから重要な情報を取得できるか試してみました！
ほぼテク5月24日！ChatGPTプラグイン実践編！画像生成のためのプロンプト生成プラグイン！
ほぼテク5月21日！ChatGPTプラグイン実践編！食べログプラグイン！
ほぼテク5月20日！とても面白いChatGPTのプラグイン使ってみました！
ほぼテク5月17日！GPTとの冒険！ファインチューニングで試行錯誤、そして成功へ！
ほぼテク5月14日！ChatGPT Webブラウジング機能がリリースされました！
ほぼテク5月13日！ChatGPTを活用した創作活動の一例！物語のプロットを創ってみた。
ほぼテク5月12日！Bard – Googleの新しい会話型AIが世界デビュー！
ほぼテク5月10日！今、私たちは新たなフロンティア、つまり宇宙へと視野を広げています！
ほぼテク5月7日！Chat GPTの正しい使い方基本プロンプトで会話してみました④
ほぼテク5月6日！Chat GPTの正しい使い方基本プロンプトで会話してみました③
ほぼテク5月5日！Chat GPTの正しい使い方基本プロンプトで会話してみました②
ほぼテク5月4日！Chat GPTの正しい使い方基本プロンプトで会話してみました①
ほぼテク5月3日ImageCreatorで生成した画像で展示会？
今更聞ける！ほぼ毎日テック日報(おとなの週末) 4月30日(マイクロソフト画像生成AI「Bing Image Crator」とは？) – テクノロジーが日常にもたらすイノベーション？
今更聞ける！ほぼ毎日テック日報(おとなの週末) 4月29日(完全自動実行AI AutoGPTとは？) – テクノロジーが日常にもたらすイノベーション？
