Is it possible to use Falcon3 or LLaMA,which are already supported by the CPU,in GPU mode?

Đang mở
#321 1 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
18/100
Loại issue
Tính năng
Độ rõ ràng
Cần làm rõ
Mức độ hoạt động
Đình trệ
Công nghệ
cpp
Lĩnh vực
backend, machine-learning

Hướng nghiên cứu

Nội dung issue không nêu tệp, test hoặc entry point nào. Hãy bắt đầu bằng cách xác định phần hỗ trợ CPU hiện có cho Falcon3 và LLaMA, cùng với đường dẫn thực thi GPU, sau đó xác định xem các model đó có thể dùng chung chế độ GPU hay không. Được xem là hoàn thành khi có câu trả lời được ghi chép và kiểm thử, hoặc một đường dẫn GPU đã được triển khai và xác minh.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Issue này không có mô tả.

Ngôn ngữ chính
C++
Star
40.3k
Fork
3.7k
Không có pull request nào được merge trong 30 ngày

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của microsoft/BitNet

Tất cả issue của microsoft/BitNet

Issue tương tự

Thêm issue về C++

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.