Function Calling
LLM native “function calling” | lets a large language | model decide when to
Tính năng “function calling” gốc của LLM | cho phép một mô hình | ngôn ngữ lớn quyết định khi nào
run a piece of | code and which inputs | to pass to it.
cần chạy một đoạn | code và những đầu vào nào | cần truyền cho nó.
You first tell the | model what functions are | available. For each one,
Bạn trước tiên cho mô hình | biết những hàm nào | khả dụng. Đối với mỗi hàm,
you give a short | name, a short description, | and a list of arguments
bạn cung cấp một cái tên | ngắn gọn, một mô tả ngắn, | và một danh sách các đối số
with their types. During | a chat, the model | can answer in JSON
với các kiểu dữ liệu của chúng. | Trong một cuộc trò chuyện, | mô hình có thể trả lời bằng JSON
that matches this schema | instead of plain text. | Your wrapper program reads
khớp với schema này | thay vì văn bản thuần túy. | Chương trình bao bọc của bạn đọc
the JSON, calls the | real function, and then | feeds the result back
JSON, gọi hàm | thực tế, và sau đó | truyền kết quả ngược lại
to the model so | it can keep going. | This loop helps an
cho mô hình để | nó có thể tiếp tục. | Vòng lặp này giúp một
agent search the web, | look up data, send | an email, or do any
agent tìm kiếm trên web, | tra cứu dữ liệu, gửi | một email, hoặc thực hiện bất kỳ
other task you expose. | Because the output is | structured, you get fewer
tác vụ nào khác mà bạn cung cấp. | Vì đầu ra được | cấu trúc, bạn nhận được ít
mistakes than when the | model tries to write | raw code or natural-language
sai lầm hơn so với khi | mô hình cố gắng viết | code thô hoặc các lệnh
commands.
ngôn ngữ tự nhiên.
Resources
- A Comprehensive Guide to Function Calling in LLMs (article)
- Function Calling with LLMs | Prompt Engineering Guide (article)
- Function Calling with Open-Source LLMs (article)
- LLM Function Calling - AI Tools Deep Dive (video)