awslabs / awslabs/python-deequ

spark_version not capturing from OS environ in Azure databricks cluster

Aperta
#143 3 commenti 0 reazioni 0 assegnatari Vedi su GitHub
bug enhancement
Lingua principale
Jupyter Notebook
Stelle
826
Fork
158
Merge medio
9g 22h
PR unite (30g)
3

Descrizione

**Describe the bug**
spark_version not capturing from OS environ in Azure databricks cluster.
**To Reproduce**
Steps to reproduce the behavior:
1. Go to 'Azure databricks workspace'
2. Click on 'notebook'
3. Scroll down to 'try to run the pydeequ as a job'
4. See error

![image](https://github.com/awslabs/python-deequ/assets/36189591/c40900fd-49b6-4620-83cb-af2b0433c163)

**Expected behavior**
We can use spark session to retrieve spark version.
![image](https://github.com/awslabs/python-deequ/assets/36189591/4ce0087a-bdb0-4688-8c51-974b9cd71adc)

**Screenshots**

**Desktop (please complete the following information):**
- OS: [e.g. iOS]
- Browser [e.g. chrome, safari]
- Version [e.g. 22]

**Smartphone (please complete the following information):**
- Device: [e.g. iPhone6]
- OS: [e.g. iOS8.1]
- Browser [e.g. stock browser, safari]
- Version [e.g. 22]

**Additional context**
Add any other context about the problem here.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Inizia riproducendo il problema in un notebook Azure Databricks eseguendo pydeequ come job. Esamina come pydeequ ottiene spark_version e confronta questo percorso con il recupero della versione dalla sessione Spark. Il lavoro è completato quando la versione di Spark è disponibile in questo ambiente e la regressione è coperta da un test appropriato.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
azure, python, spark
Ambito
cloud, data-engineering
Tipo di issue
Bug
Difficoltà
3/5
Tempo stimato
1-2 giorni
Stato di attività
Tranquilla
Chiarezza
Abbastanza chiara
Idoneità per principianti
45/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.