Question: Feasibility of using more modern small language models

Đang mở
#4 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
25/100
Loại issue
Tính năng
Độ rõ ràng
Cần làm rõ
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
ai, machine-learning

Hướng nghiên cứu

The issue names no files, tests, or entry points. Start by reviewing the repository's compilation and runtime entry points, then determine whether model selection, Cactus runtime support, server-side compilation, or RAG integration is in scope and what concrete outcome would define completion.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Hi I saw the reddit blog post on claudish and thought this is a very interesting thing. I was thinking if using a newer model like LFM2.5-230M or LFM2.5-350M might help to drastically improve the model's capabilities? I understand that changing models would require recompilation of the .paw file. I also saw some things about Cactus' runtime being made for edge and browser use, not sure if its is a promising alternative to what is used now. Also I would like to know more about the compilation process on the server as I dont think the source is published? It would help with experimentation greatly. Im also thinking about the possibility to use this as part of a RAG? What do you think? Thank you, just wanted to share some thoughts I had on this.

Ngôn ngữ chính
Python
Star
332
Fork
31
Merge trung bình
2 ngày 3 giờ
Pull request đã merge (30 ngày)
1

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của programasweights/programasweights-python

Tất cả issue của programasweights/programasweights-python

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.