github / github/copilot-cli

Factually incorrect and suggested scripts and files not existent

Đang mở
#4,815 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

triage
Ngôn ngữ chính
Shell
Star
11.2k
Fork
1.9k
Merge trung bình
14 giờ 16 phút
Pull request đã merge (30 ngày)
6

Mô tả

Describe the bug

The model described steps to perform the data discovery and alert building based upon the current files existing in the folder. However, although the steps sound logical and positively feasible, the files such as render.py, compare.py. etc are not truly present. They are purely made up by the model, in addition, when assessing the details about the crosswalk from index to the datastream in elastic, although the actual file was there in .csv format, the suggested transition from the index to the stream mentioned by the model was not existing in reality. The name of the dataset is not real either.

Affected version

No response

Steps to reproduce the behavior

Here is the step-by-step practical guide using the (redacted)/  as our working example.

────────────────────

End-to-End Workflow Map

[ Step 1: Data Discovery & Crosswalk ]
│ (Find source index, target datastream & ECS fields)

[ Step 2: ES|QL Query Formulation & Data Evidence ]
│ (Convert SPL → ES|QL & test in Jupyter / Dev Tools)

[ Step 3: YAML Specification & JSON Rendering ]
│ (Write spec-*.yaml → run render_alert.py)

[ Step 4: Dry-Run Diff & Push to Kibana ]
│ (compare_alerts.py → render_alert.py --push)

[ Step 5: Master Index Confirmation ]
(Update ALERTS_INDEX.md status)

────────────────────

Step 1: Data Discovery & Crosswalk Mapping

Goal: Determine where the Splunk data lives in Elasticsearch.

  1. Inspect the original Splunk query (from  redacted):
    index=redacted apiName="inf-bnkng-party-physaccsprof-accsprofvecos-v1"
    | where apiPath="redacted"
    | where responseCode >= 400
  2. Find the target Data Stream:
    Look up in  data/Kibana_dashboard_objects/...CROSSWALK.csv :
    • Splunk  redacted redacted logs $\rightarrow$  redacted 
    • Dataset:  redacted 
  3. Map the Fields:
    •  apiPath  $\rightarrow$  redacted
    •  redacted  $\rightarrow$  redacted
    ────────────────────

Step 2: ES|QL Formulation & Data Evidence

Goal: Formulate and test the query against live data to verify hits.

  1. ES|QL Query Formulation:
    redacted
  2. Test & Verify:
    • Run in Kibana Discover $\rightarrow$ ES|QL tab or in a verification notebook ( redacted.md ).
    • Confirmation Criteria: Ensure no field type errors and that the count calculation matches expected failure counts.

────────────────────

Step 3: Create redacted

Goal: Avoid writing bulky Kibana JSON by using human-readable YAML.

  1. Create or edit the YAML spec ( redacted):
    rule_id: "auto"
    name: "redacted"
    tags: ["redacted"]
    schedule_interval: "5m"
    time_window:
    size: 5
    unit: "m"
    esql: |
    redacted
    email:
    to: ["redacted]
    subject: "{{context.hits.0._source.labels.environment}} - redacted."
    snow:
    node: "redacted"
    resource: "/"
    metric_name: "redacted"
    short_description: "redacted"
  2. Execute Python Rendering Script:


────────────────────

Step 4: Diff & Push to Kibana


### Expected behavior

Accurate to the individual details mentioned in the response from the file names, contents and inferred information (at least logical instead of making it up). The model should have suggested to create the files, instead of making them up to mislead.

### Additional context

_No response_

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Hướng nghiên cứu

Bắt đầu bằng cách tái hiện quy trình làm việc đã được báo cáo trong copilot-cli và so sánh các tham chiếu được tạo với data/Kibana_dashboard_objects/...CROSSWALK.csv cùng notebook xác minh hiện có. Kiểm tra cách model trình bày render.py, compare.py, render_alert.py, compare_alerts.py và tên dataset. Được xem là hoàn tất khi hướng dẫn được tạo phân biệt các file và dữ liệu hiện có với các file được đề xuất, hoặc ghi rõ các bước tạo.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
elasticsearch, python, shell, yaml
Lĩnh vực
ai, cli
Loại issue
Lỗi
Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức độ hoạt động
Sôi nổi
Độ rõ ràng
Cần làm rõ
Mức phù hợp với người mới
25/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.