hasadna / hasadna/standalone-tasks

״מי זה - מי זו״ - ריכוז נתונים על מינויים ובעלי תפקידים במשק ובממשל

Open
#2 5 comments 0 reactions 0 assignees View on GitHub
מעצבים מפתח התקציב מתכנתים back מתכנתים front
Dominant language
No language data
Stars
11
Forks
2
PR merge metrics
No merged PRs in 30d

Description

## מטרה

מערכת שמאפשרת חיפוש של בעלי תפקידים במשק ובממשלה.
למה צריך את זה? למשל: עיתונאי מוצא תרומה גדולה של אדם למועמד פוליטי. אפשר לחפש את השם שלו ולראות אם אותו אדם הוא חבר דירקטוריון בחברה שקשורה לאותו המועמד.
בנוסף, ניתן לעקוב אחר הדלת המסתובבת של פקידי ממשל ופוליטיקאים לשעבר שנכנסים לתפקידים בכירים במשק וגם לקבל במהירות רשימה של בעלי תפקידים בחברה כלשהי.
## מה צריך לעשות?

בפרויקט הזה נעשה שימוש במקורות מידע שונים וננסה לרכז אותם למסד נתונים פשוט, שכולל את השדות:
- שם
- תפקיד
- חברה / ארגון
- תאריך תחילת המינוי
- תאריך סיום

לא תמיד נדע את כל הפרטים, זה לא נורא.

את המידע המתקבל נרכז במסד נתונים שמאפשר חיפוש.
על מסד הנתונים הזה נריץ שרת עם ממשק נתונים.
לסיכום נבנה אתר אינטרנט פשוט שמשתמש בממשק נתונים זה בשביל לבצע חיפושים.
## הוראות מפורטות
- [ ] כתיבת סקריפט פייתון לסריקת מקורות מידע שונים ושליפת הנתונים
לדוגמא :
- הודעות מינויים מהעיתונים הכלכליים
- מידע על חברות ציבוריות מאתר הבורסה:

אפשר להשתמש בספריות סטנדרטיות, כגון:
scrapy, selenium, pyquery, beautifulsoup
ובדוגמאות של סקרייפרים שכבר נכתבו
https://github.com/hasadna/who-is-who-scrapers

על הסקריפט לקבל כפרטמר כמה זמן אחורה לסרוק במאגרים (כשזה רלוונטי), על מנת שנוכל להריץ אותו על בסיס תקופתי.
- [ ] שמירות כל הנתונים בקובץ יחיד בפורמט סטנדרטי
רצוי ndjson: http://ndjson.org/
- [ ] טעינת כל הנתונים למסד נתונים שמאפשר חיפוש
לא להסתבך עם שרת, אפשר לעבוד מקומית אם זה מקל
- [ ] בניית ממשק נתונים לצורך ביצוע חיפוש במסד הנתונים
aka API
רצוי לכתוב בפייתון, אפשר להשתמש בפלאסק או משהו בסגנון
- [ ] בניית אפליקציית ווב פשוטה שמשתמשת בממשק הנתונים לצורך ביצוע חיפוש
## איך להתחיל

לבחור מקור נתונים מתוך הטבלה
https://docs.google.com/spreadsheets/d/1xfoKiU4M18FIYc2mRM2wdKKzTcKVlghuf1r_IVjdPok/edit#gid=1432691248

ולדחוף את הקוד שלכם לכאן
https://github.com/hasadna/who-is-who-scrapers

זו משימת פיתוח מאפס, אז יש הרבה גמישות.
הדגש העיקרי הוא לא לבחור בטכנולוגיות איזוטריות מדי או בכאלו שדורשות חתונה עם ספק ספציפי.

Contributor guide

No contributing guide indexed for this repository

Assessment

This issue has not been assessed yet.

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.