Mô hình AI của ngân hàng học từ dữ liệu quá khứ, nên có thể lặp lại những bất lợi sẵn có trong dữ liệu đó: người làm nghề tự do, người nhận thu nhập bằng tiền mặt, người trẻ mới đi làm, người ở vùng ít dịch vụ ngân hàng dễ bị đánh giá thấp hơn mức rủi ro thật của họ. Đó gọi là thiên lệch thuật toán. Nó thường không đến từ ý định phân biệt đối xử của ai, mà từ dữ liệu thiếu, dữ liệu lệch và những biến số vô tình đại diện cho hoàn cảnh sống.
Hiểu cơ chế này giúp bạn làm hai việc: bổ sung đúng loại thông tin còn thiếu về mình, và đặt câu hỏi khi thấy kết quả không công bằng. Trên thế giới, chấm điểm tín dụng bằng AI đã được nhiều cơ quan quản lý xếp vào nhóm ứng dụng cần giám sát chặt. Bài này không nhằm khuyên bạn vay, mà để bạn hiểu và bảo vệ quyền của mình khi bị máy đánh giá.
Thiên lệch thuật toán đến từ đâu
Nguồn thứ nhất là dữ liệu lịch sử. Nếu trong quá khứ một nhóm người ít được cho vay, mô hình có ít ví dụ về việc nhóm đó trả nợ tốt, nên khó đánh giá cao họ. Vòng lặp tự nuôi: ít được vay thì ít dữ liệu, ít dữ liệu thì tiếp tục ít được vay. Người làm nông, người buôn bán nhỏ thu tiền mặt, người chưa từng có thẻ là những nhóm dễ rơi vào vòng này.
Nguồn thứ hai là biến đại diện. Ngay cả khi mô hình không dùng trực tiếp giới tính, tuổi hay quê quán, các biến khác vẫn có thể "mang hộ" thông tin đó. Nơi ở có thể phản ánh mức sống của cả khu vực; loại điện thoại có thể phản ánh thu nhập; giờ giấc giao dịch có thể phản ánh loại công việc. Mô hình dùng các biến ấy vì chúng có tương quan với rủi ro trong dữ liệu cũ, nhưng kết quả là người tốt trong một nhóm bị kéo điểm theo cả nhóm.
Nguồn thứ ba là dữ liệu thiếu hoặc sai. Một người có thu nhập ổn định nhưng không đi qua tài khoản sẽ trông giống người không có thu nhập. Một khoản nợ đã trả nhưng chưa cập nhật sẽ trông như khoản nợ còn treo. Mô hình không phân biệt được "không có" với "không được ghi nhận", và nhóm người ít giao dịch qua ngân hàng chịu thiệt nhiều nhất vì điều này.
Những nhóm dễ bị đánh giá thấp hơn thực tế
Bảng dưới không khẳng định ngân hàng nào đối xử bất công; nó chỉ ra những nhóm mà dữ liệu thường không phản ánh đúng, kèm loại thông tin có thể bù vào.
| Nhóm người | Vì sao dữ liệu dễ bất lợi | Thông tin có thể bổ sung |
|---|---|---|
| Người làm nghề tự do, làm theo dự án | Thu nhập không đều theo tháng, không có hợp đồng lao động dài hạn | Hợp đồng dịch vụ, lịch sử nhận tiền theo năm, tờ khai thuế thu nhập |
| Hộ buôn bán thu tiền mặt | Dòng tiền không đi qua tài khoản | Sổ sách bán hàng, hoá đơn nhập hàng, thông tin nộp thuế khoán |
| Người trẻ mới đi làm | Lịch sử tín dụng ngắn hoặc chưa có | Hợp đồng lao động, lương về tài khoản đều vài tháng |
| Người ở vùng ít điểm giao dịch ngân hàng | Ít tương tác với dịch vụ ngân hàng, ít dữ liệu | Giấy tờ đất sản xuất, hợp đồng bao tiêu nông sản nếu có |
| Người nội trợ, người chăm sóc gia đình | Không có thu nhập đứng tên dù gia đình có thu nhập | Hồ sơ đồng vay, giấy tờ thu nhập của người cùng trả nợ |
| Người từng gặp biến cố | Một giai đoạn trễ hạn vì ốm đau, thiên tai | Giấy tờ chứng minh biến cố và lịch sử trả nợ tốt sau đó |
Điều chung của cả bảng: thông tin bù vào phải đến tay một người đọc được. Vì vậy, với nhóm dễ bị thiệt, nộp hồ sơ có cán bộ tiếp nhận thường hợp lý hơn đi đường hoàn toàn tự động.
Ngân hàng phải làm gì với mô hình của mình
Quản trị mô hình. Theo thông lệ quản trị rủi ro trong ngành, mô hình dùng để ra quyết định tín dụng phải được kiểm định trước khi dùng, theo dõi khi vận hành và đánh giá lại định kỳ. Kiểm định tốt bao gồm cả việc xem mô hình có cho kết quả lệch bất thường giữa các nhóm khách hay không.
Giải thích được. Ngân hàng cần nói được những yếu tố chính dẫn tới một quyết định, ít nhất ở mức đủ để khách hiểu và bổ sung thông tin. Mô hình phức tạp đến đâu cũng cần lớp giải thích này.
Có người trong vòng quyết định. Với quyết định ảnh hưởng lớn tới khách, nên có đường cho con người xem xét lại, đặc biệt khi khách cung cấp thông tin mới mà mô hình không có.
Dùng dữ liệu đúng mục đích. Việc dùng dữ liệu cá nhân để chấm điểm phải tuân theo quy định về bảo vệ dữ liệu cá nhân hiện hành, có căn cứ và được thông báo.
Theo kịp khung pháp lý. Ở Liên minh châu Âu, Đạo luật AI xếp hệ thống đánh giá tín nhiệm của cá nhân vào nhóm rủi ro cao, kèm nghĩa vụ về dữ liệu, minh bạch và giám sát của con người. Ở Việt Nam, các quy định về AI đang được hình thành; ngân hàng nào đi trước trong quản trị mô hình sẽ ít rủi ro hơn khi quy định đầy đủ ra đời.
Một ví dụ từ nước ngoài và bài học về minh bạch
Năm 2019, một thẻ tín dụng gắn với một hãng công nghệ lớn ở Mỹ bị phản ánh trên mạng xã hội rằng cấp hạn mức cho vợ thấp hơn nhiều so với chồng, dù hai người chung tài sản. Cơ quan quản lý tài chính bang New York đã điều tra. Năm 2021, cơ quan này kết luận không tìm thấy vi phạm luật cho vay công bằng, nhưng vụ việc cho thấy một vấn đề khác: khách hàng và cả nhân viên chăm sóc khách hàng không giải thích được vì sao hạn mức lại khác nhau.
Bài học không nằm ở chỗ ai đúng ai sai, mà ở chỗ thiếu giải thích tự nó làm mất niềm tin. Một quyết định có thể hoàn toàn hợp lý về mặt dữ liệu, chẳng hạn do lịch sử tín dụng riêng của mỗi người khác nhau, nhưng nếu không ai nói được điều đó thì khách hàng chỉ thấy một cỗ máy bất công.
Với bạn, điều rút ra là quyền đặt câu hỏi. Khi hai người trong cùng hoàn cảnh nhận kết quả khác nhau, câu hỏi "những yếu tố nào dẫn tới khác biệt này" là câu hỏi chính đáng, và một ngân hàng quản trị mô hình tốt phải trả lời được ở mức chung.
Mặt còn lại: khi dữ liệu mới giúp người bị bỏ sót
Thiên lệch là rủi ro thật, nhưng không phải toàn bộ câu chuyện. Cũng chính kỹ thuật học máy, khi được dùng cẩn thận, có thể giúp những người trước đây bị bảng điểm truyền thống bỏ qua. Một người chưa từng vay nhưng nhiều năm trả tiền điện, tiền nước, cước điện thoại đều đặn có thể được nhìn thấy nhờ dữ liệu thay thế. Một hộ kinh doanh nhận tiền qua mã QR đều mỗi ngày để lại dòng tiền rõ ràng hơn nhiều so với thời chỉ thu tiền mặt.
Mục tiêu tài chính toàn diện, tức đưa dịch vụ tài chính tới những người còn ở ngoài hệ thống, là lý do nhiều nơi khuyến khích ngân hàng thử những nguồn dữ liệu mới. Nhưng cùng một nguồn dữ liệu có thể giúp người này và gây bất lợi cho người kia, tuỳ cách mô hình dùng nó. Đây là lý do việc kiểm định và giải thích quan trọng không kém việc có thêm dữ liệu.
Với bạn, điều thực tế là cân nhắc từng lần đồng ý chia sẻ dữ liệu: chia sẻ cho mục đích gì, với ai, trong bao lâu, và có rút lại được không. Đồng ý có hiểu biết thì dữ liệu làm việc cho bạn; đồng ý cho xong thì dữ liệu có thể làm việc ngược lại.
Khi bạn nghĩ mình bị máy đánh giá không công bằng
Cảm giác bị đối xử bất công là có thật, nhưng để được xem xét lại, bạn cần chuyển cảm giác đó thành thông tin cụ thể.
- Ghi lại kết quả: sản phẩm, ngày, kết quả nhận được, thông báo của ngân hàng.
- Tự đối chiếu: thông tin nào về bạn có thể đã thiếu hoặc sai trong mắt ngân hàng. Tra báo cáo tín dụng của chính mình để loại trừ dữ liệu sai.
- Hỏi ngân hàng qua kênh chính thức: những yếu tố chính nào dẫn tới kết quả, hồ sơ đã có người xem chưa, bổ sung thông tin gì thì được xem xét lại.
- Nộp thông tin bù: giấy tờ thu nhập, hồ sơ đồng vay, giấy tờ chứng minh biến cố. Đề nghị cán bộ xem xét thay vì chỉ nộp lại qua ứng dụng.
- Nếu bạn có căn cứ cho rằng mình bị đối xử khác vì giới tính, tuổi, quê quán, dân tộc, khuyết tật hay đặc điểm cá nhân khác không liên quan tới khả năng trả nợ, nêu rõ trong khiếu nại gửi ngân hàng.
- Ngân hàng không giải quyết thoả đáng thì phản ánh tới cơ quan quản lý theo quy định. Khi chuyện đã thành tranh chấp, hỏi luật sư trên AI Cố Vấn.
Chuẩn bị tâm lý rằng không phải mọi kết quả thấp đều là thiên lệch; nhiều khi mô hình phản ánh đúng một khoản nợ đang nặng hoặc thu nhập chưa ổn định. Các bước trên giúp tách hai trường hợp này.
Tám câu nên hỏi ngân hàng về việc dùng AI
Bạn không cần hiểu kỹ thuật để hỏi những câu dưới đây. Câu trả lời cho bạn biết ngân hàng có nghiêm túc với việc dùng AI hay không. Có thể nhờ trợ lý AI sắp xếp lại cho hợp với tình huống của bạn, nhưng không dán thông tin tài khoản vào đó.
- Quyết định với hồ sơ của mình được đưa ra tự động hay có người xem?
- Những nhóm thông tin chính nào được dùng để đánh giá?
- Ngân hàng có dùng dữ liệu từ bên ngoài, ngoài báo cáo tín dụng, không? Mình đã đồng ý cho việc đó ở đâu?
- Nếu mình bổ sung thông tin, hồ sơ có được người xem xét lại không?
- Mình có thể yêu cầu sửa dữ liệu sai bằng cách nào và mất bao lâu?
- Có kênh nào để khiếu nại riêng về quyết định tự động không?
- Dữ liệu của mình có được dùng để huấn luyện mô hình không, và có thể từ chối không?
- Ngân hàng có văn bản công khai nào về nguyên tắc sử dụng AI không?
Không phải câu nào cũng có câu trả lời đầy đủ, và một số chi tiết là bí mật kinh doanh chính đáng. Nhưng một ngân hàng không trả lời được cả những câu chung nhất là tín hiệu đáng để bạn cân nhắc.
Câu hỏi thường gặp
Thiên lệch thuật toán có phải là ngân hàng cố tình phân biệt đối xử không?
Thường không. Phần lớn thiên lệch đến từ dữ liệu quá khứ, dữ liệu thiếu và biến đại diện, không phải từ ý định của ai. Nhưng không cố ý không có nghĩa là không có trách nhiệm; ngân hàng vẫn phải kiểm định và điều chỉnh mô hình của mình.
Mô hình không dùng giới tính, tuổi thì có còn thiên lệch không?
Vẫn có thể. Các biến khác như nơi ở, loại nghề, loại thiết bị có thể mang thông tin tương tự. Vì vậy kiểm định công bằng phải nhìn vào kết quả giữa các nhóm, không chỉ nhìn vào danh sách biến được dùng.
Người làm nghề tự do nên chuẩn bị gì khi nộp hồ sơ?
Gom bằng chứng thu nhập theo năm thay vì theo tháng: hợp đồng dịch vụ, lịch sử nhận tiền, tờ khai thuế nếu có. Viết một đoạn ngắn giải thích tính chất công việc và nộp qua kênh có cán bộ đọc.
Dữ liệu thay thế như hoá đơn điện nước có giúp người chưa từng vay không?
Ở một số nơi, dữ liệu thanh toán định kỳ được dùng để đánh giá người chưa có lịch sử tín dụng khi khách đồng ý. Nó có thể giúp, nhưng cũng đặt ra câu hỏi về quyền riêng tư; đọc kỹ điều khoản trước khi đồng ý chia sẻ.
Có thể yêu cầu ngân hàng không dùng AI cho hồ sơ của mình không?
Bạn có thể đề nghị hồ sơ được người xem xét, nhất là khi bổ sung thông tin mới. Việc ngân hàng có quy trình hoàn toàn không dùng mô hình hay không tuỳ chính sách. Quy định về dữ liệu cá nhân có nội dung liên quan tới xử lý tự động, chi tiết nên hỏi luật sư.
Làm sao biết mình bị đánh giá thấp vì thiên lệch hay vì hồ sơ thật sự yếu?
Rất khó biết chắc từ bên ngoài. Cách thực tế là loại trừ dần: kiểm dữ liệu tín dụng có sai không, bổ sung thông tin còn thiếu, đề nghị xem xét lại. Nếu đã làm đủ mà kết quả không đổi và không được giải thích, khi đó mới cân nhắc khiếu nại.