wheatandcat https://blog.hatena.ne.jp/wheatandcat/ wheatandcatの開発ブログ https://www.wheatandcat.me/ 概要 趣味で作成しているサービスでレビュー機能を実装する機会があった。 その際に初めて OpenAI の Moderation API を使ってみたが、思いのほか使い勝手が良いと感じたので紹介。 Moderation APIとは？ developers.openai.com OpenAI が提供する APIで、テキストまたは画像に対して危険・不適切な内容が含まれていないかを判定できる。 判定したい情報を渡すと、以下のようなレスポンスが返ってくる。 カテゴリーごとにフラグが立ち、どの分類で問題があるかが分かる。 ※以下の例では violence = true となっており、暴力的な内容が含まれて… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fwww.wheatandcat.me%2Fentry%2F2026%2F02%2F28%2F224221" title="OpenAIのModeration APIは雑にレビューの書き込みのチェックが出来て良い - wheatandcatの開発ブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2026-02-28 22:42:21 rich https://www.wheatandcat.me/entry/2026/02/28/224221 1.0 100%