abetlen / abetlen/llama-cpp-python

Feat: Add support for Llama 3.1 function calling

Đang mở
#1,618 3 bình luận 21 reaction 0 người được giao Xem trên GitHub
enhancement
Ngôn ngữ chính
Python
Star
10.6k
Fork
1.4k
Chỉ số merge pull request
Chỉ số pull request đang chờ

Mô tả

Llama 3.1 models now officially supports function calling. So I think it would be nice to have function calling support for Llama 3.1 alongside existing functionary models.

Looks like we have more roles now!

[system, user, assistant, ipython] ; the last one being used to mark messages with the output of a tool's call!

The model calls its `built in` tools with the token `<|python_tag|>` and user defined tools as instructed in system prompt ends its turn with either the `<|eot_id|>` token for user defined tools or the `<|eom_id|>` token for built in tools.

The built in tools are "brave search, wolfram_alpha and code interpreter.

More information can be found here: https://llama.meta.com/docs/model-cards-and-prompt-formats/llama3_1/

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.