Nguồn: Kimi Blog
Tóm tắt
Kimi (Moonshot AI) giới thiệu Kimi Vendor Verifier — tool mã nguồn mở cho phép kiểm tra xem các inference provider có thực sự chạy đúng model được quảng cáo hay không. Công cụ này giải quyết vấn đề niềm tin trong chuỗi cung cấp AI inference: khi sử dụng API từ third-party provider, làm sao biết họ đang chạy model gốc thay vì một phiên bản rẻ hơn hoặc bị fine-tune lại?
Phương pháp sử dụng là statistical fingerprinting: Kimi Vendor Verifier gửi các test prompt được thiết kế đặc biệt và phân tích phân phối xác suất của các token trong response. Mỗi model có “fingerprint” đặc trưng trong phân phối logit mà rất khó giả mạo nếu không có quyền truy cập vào trọng số gốc.
Công cụ được mã nguồn mở trên GitHub, cho phép cộng đồng kiểm tra bất kỳ provider nào đang phục vụ Kimi model. Đây là nỗ lực xây dựng “chain of trust” trong hệ sinh thái AI inference, đặc biệt quan trọng khi ngày càng nhiều provider bán API cho các model nổi tiếng.