Một hệ thống giao dịch AI có thể hình thành một ý tưởng. Điều đó không có nghĩa là hệ thống ấy nên được quyền truy cập không giới hạn vào tài sản đứng sau nó.
AI đang giúp việc phân tích thông tin, so sánh các kịch bản và chuyển hóa một luận điểm giao dịch thành một hành động đề xuất trở nên dễ dàng hơn. Nhưng câu hỏi quan trọng nhất có thể không phải là một hệ thống AI làm được bao nhiêu, mà là nó được phép làm bao nhiêu.
Một khuyến nghị thuyết phục và quyền được giao dịch là hai thứ khác nhau. Quyền đặt lệnh và quyền di chuyển tài sản cũng vậy. Gộp chúng thành một phạm vi truy cập rộng rãi sẽ đặt quá nhiều kỳ vọng vào khả năng AI đưa ra đúng mọi quyết định.
Một nguyên tắc khởi đầu hợp lý hơn là kiểm soát trước khi giải ngân: xác định ranh giới thẩm quyền của agent trước khi quyết định nó nên được sử dụng nguồn vốn nào, nếu có.
Tách biệt ý tưởng khỏi thẩm quyền
Hãy xem xét ba vai trò có thể có của một agent giao dịch AI.
Nó có thể quan sát, đọc thông tin và giải thích một cấu hình giao dịch tiềm năng. Nó có thể đề xuất, chuẩn bị một hành động để con người xem xét. Hoặc nó có thể thực thi, đặt lệnh trong khuôn khổ các quy tắc được thiết lập trước.
Mỗi vai trò mang một mức rủi ro khác nhau. Một agent không cần quyền giao dịch để giải thích một luận điểm. Nó không cần quyền truy cập vào toàn bộ tài khoản để kiểm thử một chiến lược giới hạn. Và khả năng đặt lệnh, tự thân nó, không biện minh cho khả năng chuyển hoặc rút tài sản.
Những phân biệt này nghe có vẻ cơ bản, nhưng rất dễ bị lu mờ khi cuộc thảo luận tập trung vào điều AI có thể làm thay vì điều nó nên được ủy quyền làm.
Tại sao nên cân nhắc một tài khoản Agent riêng?
Với tư cách một khái niệm thiết kế, một tài khoản agent riêng có thể tạo ra ranh giới giữa hoạt động do AI chỉ dẫn và danh mục nắm giữ rộng hơn của người dùng. Thay vì giả định rằng agent hoạt động trên mọi thứ người dùng sở hữu, hệ thống sẽ bắt đầu từ một câu hỏi hẹp hơn: tác vụ cụ thể này cần những nguồn lực và quyền hạn nào?
Ranh giới đó chỉ có ý nghĩa nếu nó được thực thi trên thực tế. Một nhãn tách biệt trên giao diện là chưa đủ. Những câu hỏi quan trọng thuộc về mặt vận hành:
- Người dùng có thể giới hạn số vốn cấp cho agent không?
- Hành động của agent có thể bị giới hạn ở các tác vụ cụ thể không?
- Những hành động nào cần con người phê duyệt?
- Quyền truy cập có thể tạm dừng hoặc thu hồi không?
- Người dùng có thể xem agent đã đề xuất, thử và hoàn tất những gì không?
Đây là những câu hỏi mà thiết kế sản phẩm cần trả lời, không phải tuyên bố về một tính năng hiện có của Phemex.
Kiểm soát tốt không nên phụ thuộc vào một mô hình hoàn hảo
Một agent AI có thể hành động dựa trên thông tin lỗi thời, hiểu sai một chỉ dẫn, hoặc gặp phải các điều kiện nằm ngoài phạm vi nó được thiết kế để xử lý. Ngay cả một luận điểm giao dịch vững chắc cũng có thể mất hiệu lực khi các giả định của nó thay đổi.
Đó là lý do vì sao việc giải thích về rủi ro không thể thay thế cho một ranh giới rõ ràng về thẩm quyền. "Agent biết giới hạn của mình" là một khẳng định yếu hơn so với một hệ thống trong đó các giới hạn được nêu tường minh và có thể thực thi.
Sự giám sát của con người cũng quan trọng vì cùng lý do. Một agent có thể giúp con người đánh giá một cơ hội, nhưng người dùng cần hiểu rõ quyền hạn nào đã được cấp và khi nào cần can thiệp. Đôi khi kết quả đúng là khuyến nghị chờ đợi. Đôi khi đó là yêu cầu phê duyệt. Đôi khi đó là không hành động gì cả.
Nguyên tắc đi trước sản phẩm
Một tài khoản agent riêng là một cách tiếp cận khả dĩ để hướng tới giao dịch có trợ giúp AI an toàn hơn. Giá trị của nó phụ thuộc hoàn toàn vào các chi tiết: cơ chế tách biệt hoạt động ra sao, những quyền hạn nào tồn tại, giới hạn được thực thi như thế nào, và điều gì xảy ra khi có sự cố.
Những chi tiết đó cần được kiểm chứng trước khi bất kỳ ai trình bày khái niệm này như một năng lực sản phẩm.
Hiện tại, lập luận này rộng hơn bất kỳ thông báo tính năng nào: năng lực của AI không đồng nghĩa với thẩm quyền không giới hạn đối với tài sản. Agent càng mạnh, phạm vi kiểm soát của nó càng cần được xác định rõ ràng.
