Open API中文文档
  • 介绍
  • Quick Start
  • Reference
    • OpenAI API 参考文档
      • ChatGpt注册方法
      • 介绍
      • 认证
      • 请求组织
      • 发出请求
      • 模型
      • 问答
      • 对话
      • 编辑
      • 图片
      • 嵌入向量
      • 音频
      • 文件
      • 优化模型
      • 内容审核
      • 引擎
      • 参数详情
  • ChatGpt插件开发
  • ChatGpt注册方法
由 GitBook 提供支持
在本页

这有帮助吗?

  1. Reference
  2. OpenAI API 参考文档

内容审核

根据输入的文本,输出模型是否将其分类为违反OpenAI内容政策。 相关指南:Moderations

创建内容审核

POST https://api.openai.com/v1/moderations

判断文本是否违反OpenAI的内容政策

请求体

  • input 字符串或数组 必填项 需要分类的输入文本

  • model 字符串 可选的 默认为text-moderation-latest 有两个内容审核模型可用:text-moderation-stable和text-moderation-latest。默认设置为text-moderation-latest,这将随着时间的推移自动升级。这确保您始终使用我们最准确的模型。如果您使用text-moderation-stable,我们将提前通知您更新模型。text-moderation-stable的准确性可能略低于text-moderation-latest。

请求示例

curl https://api.openai.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d '{
    "input": "I want to kill them."
  }'
import os
import openai
openai.api_key = os.getenv("OPENAI_API_KEY")
openai.Moderation.create(
  input="I want to kill them.",
)
const { Configuration, OpenAIApi } = require("openai");
const configuration = new Configuration({
  apiKey: process.env.OPENAI_API_KEY,
});
const openai = new OpenAIApi(configuration);
const response = await openai.createModeration({
  input: "I want to kill them.",
});
请求参数
{
  "input": "I want to kill them."
}
返回结果
{
  "id": "modr-5MWoLO",
  "model": "text-moderation-001",
  "results": [
    {
      "categories": {
        "hate": false,
        "hate/threatening": true,
        "self-harm": false,
        "sexual": false,
        "sexual/minors": false,
        "violence": true,
        "violence/graphic": false
      },
      "category_scores": {
        "hate": 0.22714105248451233,
        "hate/threatening": 0.4132447838783264,
        "self-harm": 0.005232391878962517,
        "sexual": 0.01407341007143259,
        "sexual/minors": 0.0038522258400917053,
        "violence": 0.9223177433013916,
        "violence/graphic": 0.036865197122097015
      },
      "flagged": true
    }
  ]
}
上一页优化模型下一页引擎

最后更新于2年前

这有帮助吗?