• GEMELDET
  • OK
  • PRÜFUNG
  • PROTOKOLL

Content-Moderation mit OpenAI und Ihrer KI automatisieren

Verbinden Sie OpenAI mit Ihrem Agenten, um Richtlinienverstöße sofort zu erkennen. Sobald die Verbindung steht, übernimmt Ihre KI das Scannen für Sie.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Kann meine KI Inhalte für mich moderieren?

Ja. Ihre KI nutzt den OpenAI-Connector, um Texte gegen Sicherheitsrichtlinien zu prüfen und Verstöße zu markieren. Sie sehen genau, was markiert wurde und warum.

Die Ergebnisse.

So werden Verstöße eingestuft.

Die KI sortiert jede Nachricht basierend auf Ihren Sicherheitsregeln in spezifische Kategorien.

GEMELDET

Richtlinienverstöße

Die KI erkennt Texte, die gegen Ihre Regeln verstoßen. Sie erhalten eine direkte Meldung, wenn eine Nachricht unsicher ist.

OK

Sichere Nachrichten

Nachrichten, die den Check bestehen, werden ohne Probleme weitergeleitet. Die KI bestätigt, dass sie Ihren Standards entsprechen.

PRÜFUNG

Menschliche Kontrolle

Grenzfälle werden zur Überprüfung markiert. Sie entscheiden, ob die KI zu streng oder zu nachgiebig war.

PROTOKOLL

Audit-Verlauf

Jeder Scan wird aufgezeichnet. Sie können den Verlauf einsehen, um nachzuvollziehen, warum Inhalte markiert wurden.

Der Ablauf

Was Ihre KI tut, wenn Text eingeht.

Ihr Agent fungiert als Filter und verarbeitet eingehende Texte durch einen Sicherheitscheck.

  1. Text erfassen

    Ihr Agent ruft Nachrichten aus Ihren verbundenen Kanälen oder Datenbanken ab.

    moderate_content

  2. Auf Verstöße prüfen

    Die KI gleicht den Inhalt mit Sicherheitskategorien ab, um problematische Texte zu finden.

    moderate_content

  3. Inhalt klassifizieren

    Die KI weist der Nachricht eine Kategorie zu, wie etwa Hassrede oder Belästigung.

    moderate_content

  4. Ergebnisse melden

    Die KI teilt Ihnen genau mit, welche Richtlinie verletzt wurde, damit Sie handeln können.

    moderate_content

Probieren Sie es

Kopieren Sie diese Befehle zum Start.

Nutzen Sie diese Prompts, um die Moderation auszulösen.

Startpunkte

Ersetzen Sie den Text in Klammern durch Ihre spezifischen Kanalnamen oder Richtlinien.

OpenAI Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — OpenAI capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "openai-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp"
    }
  }
}
In den Chat kopieren04

  • Moderiere die letzten zehn Nachrichten in meinem Slack-Kanal #general.

  • Prüfe diesen Nutzerkommentar auf Verstöße gegen Richtlinien zu Hassrede.

  • Scanne die eingehenden Nachrichten aus meinem Support-Queue gegen meine Sicherheitsrichtlinie.

  • Überprüfe den Text in diesem Google Sheet und markiere alles, was gegen unsere Community-Richtlinien verstößt.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal OpenAI verbinden, dann fragen.

Verbinden Sie Ihr Konto einmalig. Ihre Zugangsdaten bleiben verschlüsselt, und Sie können die Tools in jedem MCP-kompatiblen Client nutzen.

OpenAI mit Ihrer KI verbinden

FAQ

Verhalten der Moderation

  • 01

    Kann die KI Nachrichten automatisch löschen?

    Nein. Die KI markiert und kategorisiert Inhalte nur. Das Löschen oder Entfernen von Nachrichten müssen Sie manuell vornehmen.

  • 02

    Verändert die KI den Originaltext?

    Nein. Die KI liest und analysiert den Text nur. Sie bearbeitet oder schreibt die gescannten Nachrichten nicht um.

  • 03

    Markiert sie auch Nachrichten, die eigentlich in Ordnung sind?

    Ja. Die KI kann überempfindlich reagieren. Sie sollten markierte Inhalte daher prüfen, um die Genauigkeit sicherzustellen.

  • 04

    Kann ich das für private Direktnachrichten nutzen?

    Ja, vorausgesetzt Ihr KI-Client hat über die Verbindung Zugriff auf diese Nachrichten.

  • 05

    Funktioniert das mit jeder Textquelle?

    Es funktioniert mit jedem Text, den Sie in Ihren KI-Client einspeisen können, sobald die Verbindung aktiv ist.

  • Weitere Fragen zu OpenAI? Die Connector-Seite liefert Antworten. Alle Funktionen des OpenAI Connectors ansehen

Verbinde OpenAI mit Claude, Cursor, ChatGPT & mehr