Chúng tôi bảo vệ key nhà cung cấp của bạn thế nào

Key nhà cung cấp bạn thêm được mã hóa trước khi ghi vào cơ sở dữ liệu. Dashboard và API chỉ hiện bản xem trước đã che, không bao giờ hiện chính key. Key chỉ được giải mã trong bộ nhớ khi cần gửi yêu cầu tới nhà cung cấp mà bạn thêm key cho, và nó chỉ đi tới địa chỉ của nhà cung cấp đó.

AnyRouter phải dùng key của bạn để gửi yêu cầu thay bạn, nên máy chủ của chúng tôi giải mã được nó vào lúc đó. Bài này nêu những giới hạn áp dụng và những điều chúng tôi không cam kết.

• Mỗi key được mã hóa bằng AES-256-GCM. Mỗi key có salt ngẫu nhiên và nonce ngẫu nhiên riêng.
• Khóa mã hóa được suy ra từ một master secret bằng HKDF-SHA-256 và salt đó. Master secret không nằm trong cơ sở dữ liệu. Nó nằm trong Cloudflare Secrets Store và do các dịch vụ backend cần nó đọc.
• Key ghi theo định dạng hiện tại có bản mã gắn với workspace của bạn. Bản mã sao chép từ hàng của workspace này không giải mã được như key của workspace khác.
• Các hàng ghi trước khi chúng tôi thêm cách suy khóa mạnh hơn vẫn giải mã được, nhưng chưa gắn với workspace cho tới khi được mã hóa lại. Một script bảo trì có thể mã hóa lại mọi key đã lưu theo định dạng hiện tại hoặc theo master secret mới.

Vì master secret tách khỏi cơ sở dữ liệu, chỉ có bản sao cơ sở dữ liệu thì chỉ thu được bản mã.

• Bạn thấy bản xem trước đã che: bốn ký tự đầu và ba ký tự cuối. Sau khi lưu key, không có màn hình hay lệnh gọi API nào trả về giá trị đầy đủ.
• Công cụ quản trị hiện cùng bản xem trước đó. Chúng không trả về bản mã đã lưu hay key.
• Thành viên khác không bao giờ nhận được key. Yêu cầu dùng key được góp do gateway của chúng tôi gửi, và người gọi chỉ nhận câu trả lời của model.

Key chỉ được gửi tới nhà cung cấp mà nó thuộc về. Phần lớn nhà cung cấp được gọi qua một địa chỉ cố định do chúng tôi đăng ký, và với họ, base URL tùy chỉnh bị từ chối khi bạn thêm key.

Với nhà cung cấp mà bạn tự cung cấp endpoint, như máy chủ tự dựng, URL phải dùng HTTPS, không được là địa chỉ IP hay địa chỉ nội bộ, và phải nằm trên host đã đăng ký của nhà cung cấp khi có. Endpoint Azure AI Foundry phải nằm trên host Azure, và key Claude trên Bedrock và Vertex được kiểm tra host và vùng mong đợi. Các kiểm tra này chạy lại ở mỗi yêu cầu, không chỉ lúc bạn lưu key.

Yêu cầu Pool bỏ qua mọi base URL tùy chỉnh trên key của người góp. Key được góp chỉ được gửi tới địa chỉ đã đăng ký của nhà cung cấp.

Chúng tôi không ghi key vào log. Chỗ duy nhất key có thể quay lại chúng tôi là thông báo lỗi của chính nhà cung cấp, vì một số nhà cung cấp lặp lại key bạn gửi khi từ chối yêu cầu. Trước khi lưu, ghi log hoặc chuyển tiếp nội dung lỗi từ upstream, chúng tôi xóa đúng key mà yêu cầu đó đã dùng, ở dạng nguyên bản, mã hóa URL và thoát JSON. Cách này áp dụng cho mọi định dạng key, không chỉ những định dạng chúng tôi nhận ra qua tiền tố.

• Xóa key trong dashboard hoặc API. Hàng đã mã hóa bị xóa, và mọi khoản góp vào Pool dựa trên key đó kết thúc cùng nó.
• Nếu key đã được góp, bộ nhớ đệm chọn key của Pool được làm mới ngay trong cùng yêu cầu, nên key đã xóa ngừng phục vụ thành viên khác ngay lập tức.
• Thay key tại chỗ thay vì xóa. Key mới được kiểm tra với nhà cung cấp trước, và key cũ bị loại khỏi bộ nhớ đệm của Pool ngay khi được thay.

Xóa key ở đây không hủy nó tại nhà cung cấp. Nếu bạn nghĩ key đã lộ, hãy thu hồi nó cả trong bảng điều khiển của nhà cung cấp.

Key được góp chính là hàng đã mã hóa bạn thêm ở BYOK. Chúng tôi không tạo bản sao thứ hai. Bạn vẫn kiểm soát nó:

• Tạm dừng, tiếp tục hoặc rút lại bất cứ lúc nào.
• Giới hạn số yêu cầu mỗi phút.
• Chọn phạm vi chỉ miễn phí, hoặc phạm vi trả phí với giá riêng cho từng model.
• Key liên tục lỗi hoặc chạm giới hạn của nhà cung cấp sẽ tự động bị tạm dừng.

Lượng dùng từ Pool hiện trên tài khoản nhà cung cấp của bạn, và bạn đồng ý với điều khoản của nhà cung cấp. Key mở được cả tài khoản cloud, như Claude trên Bedrock, Vertex hay Foundry, không thể góp.

Chúng tôi giữ master secret, nên nếu backend bị xâm nhập khi đang chạy thì key đang dùng có thể bị lộ. Vì vậy chúng tôi giữ số dịch vụ nắm nó ở mức nhỏ và giữ sẵn công cụ mã hóa lại cho việc xoay khóa.

Hãy dùng key có hạn mức chi tiêu khi nhà cung cấp hỗ trợ, chỉ cấp quyền cần thiết, và thu hồi nó tại nhà cung cấp khi bạn không dùng nữa.