acmpesuecc / acmpesuecc/ConCore

Migrate from Gemini to Gemma 3 (4B Parameters)

Đang mở
#4 37 bình luận 0 reaction 0 người được giao Xem trên GitHub
BOUNTY:25 hacknight-2025 hacktoberfest
Ngôn ngữ chính
Python
Star
0
Fork
11
Chỉ số merge pull request
Không có pull request nào được merge trong 30 ngày

Mô tả

# Bounty Points: 25

## PR Instructions
Commits should be pushed to the **'local-model'** branch only. 📥

---

## **Status: Local LLM Integration Complete** 🚀

### **Summary of Change: Integrating Existing Solution to Main Codebase**

The architectural shift to support local inference via **Gemma 3 (4B parameters)** has been successfully implemented and tested in a separate branch/environment. This pull request integrates the completed solution into the main codebase.

This migration replaces the external **Gemini API** dependency, providing significant benefits:
* **Privacy:** Data processing is now **privacy-first** (data stays on the local machine).
* **Cost & Latency:** **Zero ongoing API cost** and significantly **lower latency** with full **offline capability**.
* **Autonomy:** Freedom from external API rate limits and dependencies.

The core backend flow remains unchanged; only the LLM interface layer has been modified to support a seamless switch between backends.

---

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.