Luôn cập nhật về con người: AI an toàn cho các quyết định kinh doanh

Câu hỏi mà hầu hết các chủ doanh nghiệp đặt ra về tự động hóa AI là: điều gì xảy ra khi nó gặp sự cố? Câu trả lời hoàn toàn phụ thuộc vào việc liệu có tồn tại bước đánh giá của con người giữa đầu ra AI và bất kỳ hành động nào được thực hiện hay không.

Thiết kế con người trong vòng lặp (HITL) có nghĩa là AI thực hiện công việc cơ học - trích xuất, phân loại, tóm tắt, định tuyến - và nhân viên xác nhận trước khi bất kỳ điều gì xảy ra. Đó không phải là giới hạn về những gì AI có thể làm. Chính nguyên tắc thiết kế làm cho tự động hóa trở nên đáng tin cậy trong bối cảnh kinh doanh.

# Ý nghĩa của "Hệ quả" trong thực tế

Không phải mọi đầu ra AI đều cần sự đánh giá của con người. Việc AI gắn thẻ chính xác cho bài đánh giá là "tích cực" hay không thì tỷ lệ cược thấp — việc gắn thẻ sai sẽ không gây lãng phí tiền bạc và không gây hại cho mối quan hệ nào. Nhưng:

• Đăng số tiền hóa đơn không chính xác vào hệ thống kế toán của bạn
• Gửi lời nhắc thanh toán cho khách hàng đã thanh toán
• Phát hành đơn đặt hàng không đúng giá
• Tạo báo cáo quản lý với số liệu không chính xác

Đây là những hậu quả. Một lỗi duy nhất trong bất kỳ lỗi nào trong số này có thể tạo ra các vấn đề về tài chính, quan hệ hoặc tuân thủ. Đánh giá của con người trước khi hành động là biện pháp kiểm soát giúp ngăn ngừa lỗi xử lý trở thành vấn đề kinh doanh.

# Cổng đánh giá nên ngồi ở đâu

Vị trí cổng xem xét phụ thuộc vào quy trình làm việc. Các vị trí chung:

Cổng không cần phải là mẫu phê duyệt thủ công. Đó có thể là một hàng đợi đơn giản trong đó nhân viên cuộn qua các đầu ra AI, sửa bất kỳ trường nào bị gắn cờ và xác nhận bằng một cú nhấp chuột. Việc tiết kiệm thời gian vẫn còn đáng kể; rủi ro được ngăn chặn.

# Sự tham gia của nhân viên thực sự trông như thế nào

Jacob Ng, người đứng đầu bộ phận phát triển dựa trên AI của chúng tôi, thiết kế giao diện với nhân viên tuyến đầu với tư cách là người dùng chính — không phải người quản lý. Điều này có nghĩa là hàng đợi đánh giá chỉ hiển thị thông tin cần thiết để xác nhận hoặc sửa, với các trường hợp ngoại lệ được đánh dấu rõ ràng. Nhân viên sẽ có thể xử lý 50 hóa đơn được trích xuất bằng AI trong 20 phút chứ không phải 20 phút mỗi hóa đơn.

Điều này cũng có nghĩa là nhân viên luôn tham gia vào quy trình làm việc thay vì bị thay thế bởi nó. Công việc chuyển từ nhập dữ liệu sang xử lý ngoại lệ - có giá trị cao hơn và hấp dẫn hơn.

# Cấp độ tự động hóa

Con người trong vòng lặp không phải là nhị phân. Có một quang phổ:

1. Hoàn toàn thủ công — không tự động hóa
2. Được hỗ trợ bởi AI — AI hiển thị thông tin, quyết định và hành động của con người
3. AI-with-review — Hoạt động của AI, đánh giá của con người trước khi sử dụng đầu ra
4. AI-với-đánh giá ngoại lệ — AI xử lý các trường hợp tiêu chuẩn, đánh giá của con người chỉ gắn cờ các trường hợp ngoại lệ
5. Hoàn toàn tự động — không có sự đánh giá của con người

Hầu hết các quy trình công việc kinh doanh đều thuộc cấp độ 3 hoặc 4 đối với các kết quả đầu ra mang tính hệ quả. Cấp độ 5 chỉ thích hợp cho các quy trình thực sự có mức độ rủi ro thấp, độ tin cậy cao trong đó chi phí sai sót là không đáng kể.

# Quá trình kiểm toán và trách nhiệm giải trình

Hệ thống con người trong vòng lặp luôn tạo ra một bản ghi: AI trích xuất hoặc quyết định những gì, ai xem xét nó, những gì đã thay đổi và khi nào nó được xác nhận. Quá trình kiểm tra này rất quan trọng đối với trách nhiệm giải trình nội bộ và đối với bất kỳ cuộc kiểm toán bên ngoài hoặc giải quyết tranh chấp nào. Hệ thống tự động hóa quy trình làm việc của chúng tôi ghi lại mọi hành động đánh giá như một phần của bản dựng tiêu chuẩn.

Câu hỏi thường gặp

# Đánh giá của con người có làm mọi thứ chậm lại quá nhiều không?

Chỉ khi giao diện đánh giá được thiết kế kém. Hàng đợi đánh giá được xây dựng tốt để trích xuất hóa đơn mất 15–20 giây cho mỗi tài liệu đối với tài liệu sạch và 2–3 phút đối với ngoại lệ được gắn cờ. Tiết kiệm thời gian so với việc nhập thủ công hoàn toàn vẫn là 80–90%.

# Chúng tôi có thể giảm yêu cầu xem xét theo thời gian không?

Đúng. Vì độ chính xác của AI được xác minh theo thời gian trên các loại tài liệu và quy trình công việc cụ thể của bạn nên việc xem xét chỉ có ngoại lệ sẽ trở nên phù hợp. Quá trình chuyển đổi phải dựa trên dữ liệu đo được về độ chính xác chứ không phải dựa trên giả định.

# Điều gì sẽ xảy ra nếu nhân viên phê duyệt lỗi AI mà không nhận ra?

Đây là lý do tại sao việc gắn cờ ngoại lệ lại quan trọng - các trích xuất có độ tin cậy thấp được đánh dấu để nhân viên hướng sự chú ý vào đó. Đối với các quy trình công việc mang tính hệ quả, chúng tôi cũng xây dựng quy trình kiểm tra thứ cấp cho các giao dịch có giá trị cao. Không có hệ thống nào loại bỏ hoàn toàn lỗi của con người, nhưng nó có thể được thiết kế để khiến cho lỗi khó bỏ sót hơn.

• Đặt lịch kiểm tra hệ thống*