Azure / Azure/azure-sdk-for-python

AI foundry - New built-in role to peform "human-in-the-loop" review of evals outcome so that security evals outcome/data is protected using least privilegeby

Offen
#41,141 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
AI bug customer-reported needs-team-attention Service Attention
Vorherrschende Sprache
Python
Sterne
5.6k
Forks
3.4k
Ø Merge
2 T. 2 Std.
Gemergte PRs (30 T.)
213

Beschreibung

**Is your feature request related to a problem? Please describe.**
Currently anyone having access to AI Foundry priject can view security evals outcome. howver, these might be sensitive so as to restrict only few people in an org to view and analyse it. There is "BLUR" button but looks like anyone with access to AI Foundry project can toggle it to see the evals outcome.

This is an issue because if evals are run for prompt injection attacks or code vulnerabilties then anyone who is having access to AI Foundry project can view the "bad prompts" and might use it to harm organisation (insider threat).

Ideally, access to evals results has to be controlled via separate role.

**Describe the solution you'd like**
New built in role to allow view of evals results

**Describe alternatives you've considered**
No alternative currently

**Additional context**

Image

Image

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Im Issue werden keine Repository-Dateien, Tests oder Einstiegspunkte identifiziert. Beginne damit, den Zugriff auf Azure AI Foundry-Evaluierungsergebnisse und die Rollendefinitionen zu finden, und ermittle dann, wie eine separate integrierte Rolle die Anzeige und Analyse einschränken würde. Als erledigt gilt die Aufgabe, wenn autorisierte Benutzer Evaluierungsergebnisse anzeigen können, andere Projektbenutzer jedoch nicht.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
azure, python
Bereich
ai, security
Issue-Typ
Feature
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
22/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.