aboutcode-org / aboutcode-org/vulnerablecode

Scrape Github security advisories using HTML scraping

オープン
#297 コメント 3 件 リアクション 0 件 担当者 0 名 GitHub で見る
Data collection
主要言語
Python
スター
702
フォーク
328
平均マージ
3日 8時間
マージ済み PR(30日)
3

説明

The GitHub advisories are somewhat weird:
1. the graphql API data require auth and are incomplete (they do not contain external references)
2. the HTML data at https://github.com/advisories contains more data, BUT this is limited to 40 pages of 25 advisories, meaning only 1000 can be scraped from the browse page when there are about 3019 advisories. The reference are there including quite often the fixing commit

Therefore I think we should use either:
1. a hybrid model where we get the list of advisories from the Graphql API calls and then scrape individual pages
2. a pure HTML model where we issue several searches to browse subset of the data that are less than 40 pages each and hope to hone on the full 3000+ advisories.

Some scraper exists at https://github.com/yusufsn/local-repo/blob/87054815200d3add63f201d9feb1e2bedd18d0d6/code/urls_crawlers.ipynb#L177

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。