CodeForPhilly / CodeForPhilly/balancer-main

Research Agent Guardrails

Offen
#522 1 Kommentar 0 Reaktionen 1 zugewiesene Person Beansprucht von @snaeem3 Auf GitHub ansehen
Bug
Vorherrschende Sprache
TypeScript
Sterne
21
Forks
19
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

## Title

Research Agent Guardrails

## Background

Keep the agent safe in production

## Existing Behavior

server/api/views/assistant/sanitizer.py:

https://github.com/CodeForPhilly/balancer-main/blob/develop/server/api/views/assistant/sanitizer.py

[437 Build an input sanitizer](https://github.com/CodeForPhilly/balancer-main/issues/437)

## Acceptance Criteria
- []

## Approach

## References

OpenAI Cookbook Guardrails:
https://developers.openai.com/cookbook/topic/guardrails

OpenAI Developer Documentation Safety:
https://developers.openai.com/api/docs/guides/safety-best-practices

OpenAI Moderation API:
https://developers.openai.com/api/docs/guides/moderation

Open AI Privacy Filter Model:
https://openai.com/index/introducing-openai-privacy-filter/

Open AI Guardrails Python Package:
https://github.com/openai/openai-guardrails-python

## Risks and Rollback

## Screenshots / Recordings

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.