Thư viện Quản lý Công cụ Toàn diện cho LLMs
ToolRegistry là một thư viện mạnh mẽ, không phụ thuộc vào giao thức, được thiết kế để quản lý các công cụ được sử dụng trong các mô hình ngôn ngữ lớn (LLMs) gọi hàm. Nó cho phép người dùng đăng ký các công cụ từ nhiều nguồn khác nhau như các hàm Python gốc, máy chủ MCP và các thông số kỹ thuật OpenAPI. Thư viện có các sơ đồ đa nhà cung cấp hỗ trợ OpenAI, Anthropic và Gemini, tạo điều kiện tích hợp liền mạch trên các nền tảng khác nhau. Ngoài ra, nó còn cung cấp một bảng điều khiển quản trị tích hợp để theo dõi các công cụ và quyền hạn, nâng cao quyền kiểm soát của người dùng đối với việc thực thi và quản lý công cụ.
Thư viện hỗ trợ thực thi đồng thời với các giới hạn thời gian có thể cấu hình và kiểm soát đồng thời, đảm bảo hiệu suất hiệu quả. Với sự chú trọng vào bảo mật, nó thực hiện một hệ thống quyền với các chính sách dựa trên thẻ. Các tính năng siêu dữ liệu và phân loại công cụ cho phép tổ chức công cụ một cách hiệu quả. Core không có phụ thuộc đơn giản hóa việc cài đặt trong khi vẫn cung cấp các chức năng cần thiết thông qua các phụ thuộc thời gian chạy như 'pydantic'. Tổng thể, ToolRegistry là một nguồn tài nguyên thiết yếu cho các nhà phát triển làm việc với LLMs, đơn giản hóa việc đăng ký và thực thi công cụ.
