Bài tập Tổng hợp: Lắp ráp một bản triển khai AI có trách nhiệm

Hãy thử ngay. Bạn được giao một bản mô tả ngắn (brief) độc lập, và bạn sẽ đưa ra 5 quyết định nối tiếp nhau để xây dựng một bản triển khai có trách nhiệm. Các quyết định này chạy theo đúng thứ tự vì mỗi quyết định sẽ thiết lập điều kiện cho quyết định tiếp theo. Một lựa chọn yếu ở giai đoạn đầu sẽ thu hẹp những gì các giai đoạn sau có thể làm. Nếu bạn phó mặc một quy tắc miền (domain rule) cho hành vi được huấn luyện (trained behavior) ở quyết định 1, sẽ không có tầng hạ nguồn nào có thể sửa chữa lại được.

Bạn đã tự tay xây dựng từng tầng riêng lẻ xuyên suốt học phần. Dưới đây là lớp chồng an toàn (stack) mà bạn đang lắp ráp, theo đúng thứ tự:

1. Hành vi được huấn luyện (Trained behavior) định hình an toàn nền tảng; Chính sách ứng dụng của bạn (Application policy) định nghĩa các quy tắc đặc thù của miền; các Cơ chế kiểm soát runtime (Runtime controls) bên dưới thực thi các quy tắc đó trong quá trình vận hành.

2. Sàng lọc Runtime và Phân quyền (Runtime screening & Authorization) nằm trên đường đi của yêu cầu và ngăn chặn nội dung không được phép cũng như các hành động chưa được cấp phép.

3. Các cơ chế kiểm soát Tính công bằng & Minh bạch (Fairness & Transparency controls) giải quyết các kết quả bất bình đẳng ngay tại nguồn và đảm bảo mỗi quyết định đều có thể được tái tạo lại (reconstructed). Chúng phụ thuộc vào hệ thống ghi log hiệu quả.

4. Định tuyến rà soát của con người (Human-review routing) chuyển các quyết định mà mô hình không nên tự mình hoàn tất sang cho con người, dựa trên mức độ rủi ro (stakes). Nó phụ thuộc vào cùng một hệ thống ghi log.

5. Sổ đăng ký kiểm soát (Control register) gắn mỗi nghĩa vụ tuân thủ với một cơ chế kiểm soát, một người sở hữu và một tài sản minh chứng.

Bản mô tả ngắn (The Brief)

Một trợ lý trợ cấp thuộc khu vực công (public-sector benefits assistant) hỗ trợ một cơ quan nhà nước xác định điều kiện thụ hưởng chương trình, đưa ra khuyến nghị phê duyệt (approve), từ chối (deny), hoặc chuyển tiếp (refer). Bản mô tả cung cấp đúng những gì các quyết định cần:

• Khung pháp lý (Framework): Đạt tiêu chuẩn FedRAMP ở cấp độ tác động yêu cầu của cơ quan, cộng với quy tắc của cơ quan là người nộp đơn bị từ chối phải nhận được lý do cụ thể.

• Trường hợp Rủi ro cao, Độ tin cậy thấp (High-stakes, low-confidence case): Người nộp đơn nằm sát ngưỡng điều kiện thụ hưởng với hồ sơ tài liệu chưa hoàn chỉnh — nơi một quyết định từ chối sai sẽ tước đi trợ cấp của ai đó.

• Đầu ra dễ bị thiên vị/lệch dữ liệu (Skew-prone output): Khuyến nghị và lý do đi kèm với một quyết định từ chối.

• Dữ liệu (Data): Các trường thông tin do người nộp đơn gửi, bản ghi của cơ quan được truy xuất tại thời điểm đưa ra quyết định, và bất kỳ đặc trưng phái sinh nào (derived features).

Các nhiệm vụ bạn cần thực thi:

1. Thiết lập ranh giới giữa Hành vi được huấn luyện (Trained behavior) và Tầng ứng dụng của bạn (Application layer).

2. Đặt các cơ chế kiểm soát Runtime (Runtime controls).

3. Chỉ định các cơ chế kiểm soát Tính công bằng và Minh bạch (Fairness & Transparency controls).

4. Định nghĩa quy trình Định tuyến rà soát của con người (Human-review routing).

5. Xây dựng Sổ đăng ký kiểm soát (Control register).