openzim / openzim/python-scraperlib

Integrate KiwixStorage

未关闭
#223 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看

还没有人认领这个 Issue。

enhancement question
主要语言
Python
星标
31
派生
27
平均合并
3 天 7 小时
30 天内合并 PR
2

描述

Ours scrapers all depend on S3 and use KiwixStorage for it. That wrapper and repo are mostly untouched (yet working) and would great benefit from being integrated into scraperlib: tests, usage, dependencies update, better API, etc.

Now that we had experience using it, it probably make sense to reduce its API to what's actually used.

It's true that some non-scraper projects are using it (cardshop and zimfarm to upload to S3), but those are also using scraperlib and we've discussed making scraperlib's dependencies more modular via extras anyway.

贡献指南

这个仓库没有索引到贡献指南

从这里开始

  1. 先读完整个 Issue,再读项目的贡献指南。
  2. 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
  3. Fork 仓库,在一个分支上完成修改。
  4. 提交 Pull Request,并在描述里引用这个 Issue 编号。

调研方向

首先检查 scraperlib 及其 scrapers 当前如何使用 S3 和 KiwixStorage,然后将这种用法与 python-storagelib API 进行比较。完成的标准是添加所要求的测试和集成、更新依赖项,并定义 issue 中描述的更小 API 和模块化依赖结构。

由索引模型根据 Issue 内容生成。

评估

技术栈
aws, python
领域
backend-api-design, cloud
Issue 类型
功能
难度
5/5
预计耗时
一周以上
活跃度
停滞
描述清晰度
需要澄清
新手友好度
25/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。