TCP LLM 🦙
未关闭
- 主要语言
- Jupyter Notebook
- 星标
- 0
- 派生
- 0
- PR 合并指标
- 30 天内没有已合并 PR
描述
Build a TCP endpoint to communicate with LLama
贡献指南
这个仓库没有索引到贡献指南
调研方向
该 issue 是为了构建用于 LLM 通信的 TCP 端点，但缺少关于实现、现有 codebase 结构或如何与 LLama 集成的具体信息。首先检查仓库当前用于网络或 API 处理的模块，并查找任何现有的 ML 推理代码。确定预期的协议、数据格式，以及如何与 LLama 模型进行接口对接。'Done' 意味着一个可用的 TCP 服务器，可以接收请求并返回 LLM 响应。
由索引模型根据 Issue 内容生成。
评估
- 领域
- api, backend
- Issue 类型
- 功能
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 活跃度
- 停滞
- 描述清晰度
- 需要澄清
- 新手友好度
- 30/100