localstack / localstack/localstack-python-client
when using S3fs with localstack error is thrown about keys
オープン
まだ誰も着手していません。
- 主要言語
- Python
- スター
- 191
- フォーク
- 31
- PR マージ指標
- 30日以内にマージされた PR はありません
説明
using enable_local_endpoints()
the following error is thrown when uploading to s3 with pandas and S3FS
024-03-06 11:28:48.862 | ERROR | tests.integration.test_pipelines:test_analytics:124 - An error has been caught in function 'test_analytics', process 'MainProcess' (9286), thread 'MainThread' (7997807680):
Traceback (most recent call last):
File "/Users/johnharrison/git/database_flattening/venv/lib/python3.10/site-packages/s3fs/core.py", line 113, in _error_wrapper
return await func(*args, **kwargs)
│ │ └ {'Key': 'main/monitoring/analytics/mongo_query_date=2024-03-05 00:00:00/2024-03-05 00:00:00.csv', 'Bucket': 'ds-spectrum-tabl...
│ └ ()
└ <bound method ClientCreator._create_api_method.<locals>._api_call of <aiobotocore.client.S3 object at 0x14fe17280>>
File "/Users/johnharrison/git/database_flattening/venv/lib/python3.10/site-packages/aiobotocore/client.py", line 408, in _make_api_call
raise error_class(parsed_response, operation_name)
│ │ └ 'PutObject'
│ └ {'Error': {'Code': 'InvalidAccessKeyId', 'Message': 'The AWS Access Key Id you provided does not exist in our records.', 'AWS...
└ <class 'botocore.exceptions.ClientError'>
botocore.exceptions.ClientError: An error occurred (InvalidAccessKeyId) when calling the PutObject operation: The AWS Access Key Id you provided does not exist in our records.
The above exception was the direct cause of the following exception:
sample code to test this
isna__sum.to_csv( f's3://tables/main/monitoring/analytics/{start_date}.csv')
error seems to be coming from aiobotocore
コントリビューションガイド
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
調査の方向性
まず、enable_local_endpoints() を呼び出した後に報告された pandas to_csv のアップロードを、LocalStack S3 のセットアップと aiobotocore の InvalidAccessKeyId traceback を起点として再現します。プロジェクトのファイルやテストは指定されていません。完了条件は、認証情報エラーなしで LocalStack に対するアップロードが成功することです。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- aws, pandas, python
- 領域
- cloud
- issue の種類
- バグ
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 25/100