Trích Xuất Tham Số

1. Định Nghĩa

Sử dụng Mô Hình Ngôn Ngữ Lớn (LLM) để suy luận và trích xuất các tham số có cấu trúc từ ngôn ngữ tự nhiên nhằm phục vụ cho việc gọi công cụ hoặc yêu cầu HTTP tiếp theo.

Các workflow của Dify cung cấp một loạt các công cụ phong phú, hầu hết trong số đó yêu cầu các tham số có cấu trúc làm đầu vào. Nút trích xuất tham số có thể chuyển đổi ngôn ngữ tự nhiên của người dùng thành các tham số mà những công cụ này có thể nhận diện, dễ dàng thực hiện gọi công cụ.

Một số nút trong workflow yêu cầu các định dạng dữ liệu cụ thể làm đầu vào, chẳng hạn như nút lặp lại, yêu cầu định dạng mảng. Nút trích xuất tham số có thể dễ dàng thực hiện việc chuyển đổi tham số có cấu trúc.

2. Kịch Bản

Trích xuất các tham số chính cần thiết cho các công cụ từ ngôn ngữ tự nhiên, chẳng hạn như xây dựng một ứng dụng đơn giản để truy xuất tài liệu Arxiv.

Ví dụ: Công cụ truy xuất tài liệu Arxiv yêu cầu tác giả tài liệu hoặc ID tài liệu làm tham số đầu vào. Nút trích xuất tham số sẽ trích xuất ID tài liệu 2405.10739 từ truy vấn "Nội dung của tài liệu này là gì: 2405.10739" và sử dụng nó làm tham số cho công cụ để truy vấn chính xác.

Công Cụ Truy Xuất Tài Liệu Arxiv

Chuyển đổi văn bản thành dữ liệu có cấu trúc, chẳng hạn như trong ứng dụng tạo ra các câu chuyện dài, nơi nó phục vụ như một bước trước cho nút lặp lại, chuyển đổi nội dung chương ở định dạng văn bản thành định dạng mảng, thuận tiện cho việc xử lý tạo ra nhiều vòng lặp bởi nút lặp lại.

Trích Xuất Dữ Liệu Có Cấu Trúc và Sử Dụng Yêu Cầu HTTP

Có thể yêu cầu bất kỳ URL nào có sẵn, phù hợp để thu thập kết quả truy xuất bên ngoài, webhook, tạo hình ảnh, và các kịch bản khác.

3. Cách Cấu Hình

Các Bước Cấu Hình

1. Chọn Biến Đầu Vào: Thông thường, đây là biến đầu vào cho việc trích xuất tham số.

2. Chọn Mô Hình: Bởi vì nút trích xuất tham số dựa vào khả năng suy luận và tạo ra cấu trúc của LLM.

3. Định Nghĩa Các Tham Số Cần Trích Xuất: Có thể được thêm thủ công hoặc nhanh chóng nhập từ các công cụ hiện có.

4. Viết Hướng Dẫn: Cung cấp ví dụ có thể giúp LLM cải thiện hiệu quả và độ ổn định của việc trích xuất các tham số phức tạp.

Cài Đặt Nâng Cao

• Chế Độ Suy Luận: Một số mô hình hỗ trợ hai chế độ suy luận, đạt được trích xuất tham số thông qua việc gọi hàm/công cụ hoặc phương pháp gợi ý thuần, với các khác biệt trong việc tuân thủ hướng dẫn. Ví dụ, một số mô hình có thể hoạt động tốt hơn trong suy luận gợi ý nếu việc gọi hàm ít hiệu quả hơn.

• Gọi Hàm/Gọi Công Cụ

• Gợi Ý

• Bộ Nhớ: Khi bộ nhớ được bật, mỗi đầu vào cho bộ phân loại câu hỏi sẽ bao gồm lịch sử trò chuyện trong cuộc hội thoại để giúp LLM hiểu ngữ cảnh và cải thiện khả năng hiểu câu hỏi trong các đối thoại tương tác.

Biến Đầu Ra

• Các biến đã được trích xuất.

• Biến tích hợp sẵn của nút.

  • __is_success: Trạng thái thành công của việc trích xuất, với giá trị là 1 nếu thành công và 0 nếu thất bại.

  • __reason: Lý do lỗi trích xuất.