localstack / localstack/localstack-python-client

when using S3fs with localstack error is thrown about keys

未关闭
#51 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看

还没有人认领这个 Issue。

主要语言
Python
星标
191
派生
31
PR 合并指标
30 天内没有已合并 PR

描述

using enable_local_endpoints()

the following error is thrown when uploading to s3 with pandas and S3FS

```
024-03-06 11:28:48.862 | ERROR | tests.integration.test_pipelines:test_analytics:124 - An error has been caught in function 'test_analytics', process 'MainProcess' (9286), thread 'MainThread' (7997807680):
Traceback (most recent call last):

File "/Users/johnharrison/git/database_flattening/venv/lib/python3.10/site-packages/s3fs/core.py", line 113, in _error_wrapper
return await func(*args, **kwargs)
│ │ └ {'Key': 'main/monitoring/analytics/mongo_query_date=2024-03-05 00:00:00/2024-03-05 00:00:00.csv', 'Bucket': 'ds-spectrum-tabl...
│ └ ()
└ ._api_call of >
File "/Users/johnharrison/git/database_flattening/venv/lib/python3.10/site-packages/aiobotocore/client.py", line 408, in _make_api_call
raise error_class(parsed_response, operation_name)
│ │ └ 'PutObject'
│ └ {'Error': {'Code': 'InvalidAccessKeyId', 'Message': 'The AWS Access Key Id you provided does not exist in our records.', 'AWS...

botocore.exceptions.ClientError: An error occurred (InvalidAccessKeyId) when calling the PutObject operation: The AWS Access Key Id you provided does not exist in our records.

The above exception was the direct cause of the following exception:

```

sample code to test this

```
isna__sum.to_csv( f's3://tables/main/monitoring/analytics/{start_date}.csv')
```

error seems to be coming from **aiobotocore**

贡献指南

打开贡献指南

从这里开始

  1. 先读完整个 Issue,再读项目的贡献指南。
  2. 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
  3. Fork 仓库,在一个分支上完成修改。
  4. 提交 Pull Request,并在描述里引用这个 Issue 编号。

调研方向

首先,使用 LocalStack S3 设置和 aiobotocore 的 InvalidAccessKeyId traceback 作为切入点,复现调用 enable_local_endpoints() 后报告的 pandas to_csv 上传问题。未指定项目文件或测试;完成的标准是上传到 LocalStack 成功且不出现凭据错误。

由索引模型根据 Issue 内容生成。

评估

技术栈
aws, pandas, python
领域
cloud
Issue 类型
缺陷
难度
4/5
预计耗时
3-5 天
活跃度
停滞
描述清晰度
需要澄清
新手友好度
25/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。