Vaara: Khung quản trị dựa trên bằng chứng cho các tác nhân AI tự trị có trách nhiệm
Vaara, bởi Vaaraio, cung cấp sự tự chủ có trách nhiệm cho các tác nhân AI được triển khai bằng cách tạo ra các bản ghi có thể xác minh về hành động của tác nhân. Nó hoạt động như một máy chủ hoặc proxy Giao thức Ngữ cảnh Mô hình, chặn các tương tác từ mô hình đến công cụ và phát hành biên lai để làm cho hành vi của tác nhân có thể kiểm toán cho các nhóm tuân thủ. Công cụ này nhấn mạnh việc thực thi chính sách và các bản ghi có dấu hiệu bị giả mạo như là các cơ chế bảo vệ cốt lõi của nó. Người dùng mục tiêu bao gồm các nhà phát triển AI, nhân viên tuân thủ và kiểm toán viên cần bằng chứng có thể chứng minh cho các quy trình làm việc của tác nhân được quản lý.
Bạn có thể sử dụng nó cho những nhiệm vụ nào?
Vaara nhắm đến việc thực thi và tạo ra bằng chứng trong các quy trình tác nhân tự động, cho phép các nhóm kiểm soát các hoạt động rủi ro và đính kèm bằng chứng có thể đọc được bởi máy móc cho các hành động. Các trường hợp sử dụng bao gồm việc tạo ra hồ sơ kiểm toán cho việc xem xét quy định, áp dụng điểm rủi ro cho các lệnh gọi công cụ bên ngoài, và chuyển tiếp các cuộc gọi bị đánh dấu đến các dịch vụ bảo vệ hiện có. Các tích hợp được liệt kê bao gồm Azure Content Safety, GCP Model Armor, NeMo Guardrails, và LLM Guard, giúp nhúng Vaara vào các quy trình làm việc tập trung vào nội dung hoặc an toàn.
Các đầu ra có thể xác minh và chứng minh không bị giả mạo đến mức nào?
Công cụ tạo ra các biên lai được thiết kế cho việc xác minh ngoại tuyến và bằng chứng lâu dài. Các yếu tố xác minh chính bao gồm một sổ cái chuỗi băm và neo thời gian bên ngoài, cộng với việc tuân thủ đã nêu với SEP-2828 cho các biên lai có thể tính lại. Kho lưu trữ kiểm toán có tên audit.db được xây dựng để hiển thị bằng chứng giả mạo, và các biên lai có thể được tính lại để xác nhận một quyết định hoặc hành động đã ghi mà không cần dựa vào các dịch vụ trực tiếp.
Nó có phù hợp với quy trình làm việc của nhà phát triển và yêu cầu triển khai không?
Vaara cung cấp một CLI, một ứng dụng thanh menu macOS, và một client TypeScript cho tích hợp HTTP API, và chạy ở nơi có Python 3.10 trở lên. Nó hoạt động như một máy chủ MCP hoặc proxy để ngồi giữa các mô hình và công cụ, điều này yêu cầu nỗ lực triển khai và cấu hình. Dự án cốt lõi là mã nguồn mở theo AGPL-3.0-or-later, và dự án đã được công nhận trong các khuôn khổ quản trị như Khuôn khổ Quản trị AI Mô hình IMDA.
Vaara là một lựa chọn thực tiễn khi bằng chứng có thể chứng minh là yêu cầu tuân thủ
Vaara phù hợp với các nhóm phải chứng minh hành vi đại diện có trách nhiệm với các kiểm toán viên hoặc cơ quan quản lý và có thể tiếp nhận công việc tích hợp và quản trị. Hãy kỳ vọng vào một khoản đầu tư cho việc triển khai, định nghĩa chính sách và thay đổi quy trình để làm cho các biên lai có ý nghĩa trong các cuộc kiểm toán. Sử dụng Vaara ở những nơi cần dấu vết có thể chứng minh, và kết hợp các đầu ra của nó với sự giám sát của con người cho các quyết định có tính rủi ro cao.
