Tại sao giải quyết sự thiên vị trong học máy là chìa khóa để mở khóa bao gồm tài chính lớn hơn

Bao gồm tài chính có nghĩa là các cá nhân và doanh nghiệp có quyền truy cập vào các sản phẩm và dịch vụ tài chính hữu ích và giá cả phải chăng đáp ứng nhu cầu của họ - giao dịch, thanh toán, tiết kiệm, tín dụng và bảo hiểm - được cung cấp một cách có trách nhiệm và bền vững.

Tại JUMO, nhiệm vụ của chúng tôi là thúc đẩy triệt để sự bao gồm tài chính bằng cách thu hẹp khoảng cách giữa các dịch vụ tài chính quan trọng và những dịch vụ cần chúng nhất. Khách hàng của chúng tôi là doanh nhân, doanh nghiệp nhỏ và thương nhân tại các thị trường mới nổi không có lịch sử tài chính truyền thống và do đó bị loại khỏi hệ sinh thái ngân hàng chính thống.

Nhưng với hàng tỷ người ở các thị trường mới nổi lần đầu tiên xuất hiện trực tuyến, hầu hết trong số họ thông qua điện thoại di động, giờ đây chúng tôi có cơ hội xây dựng các hình thức nhận dạng tài chính và kỹ thuật số mới tạo ra sự lựa chọn tài chính mới.

Làm điều này là khó khăn. Nó đòi hỏi phải có ý nghĩa về dữ liệu phi cấu trúc theo cách đơn giản là con người không thể làm thủ công. Thay vào đó, JUMO sử dụng các phương pháp học máy (ML) và trí tuệ nhân tạo (AI) có thể mô hình chính xác hơn rủi ro của khách hàng và kết nối chúng với các lựa chọn tài chính phù hợp. Với phương pháp này, chúng tôi có thể tiếp cận hàng triệu người bị loại trừ trước đây, nhưng nó sẽ đòi hỏi nhiều công việc hơn.

Loại trừ tài chính không đơn giản. Các sắc thái văn hóa, giới tính và xã hội áp dụng trên các thị trường và quốc gia, thêm một lớp phức tạp vào bất kỳ nỗ lực toàn cầu nào để giảm nghèo. Điều đó có nghĩa là bất kỳ cách tiếp cận đơn lẻ, thuật toán nào cho vấn đề có thể dễ bị thiên vị không chủ ý. Để giảm thiểu điều này, điều quan trọng là bao gồm các yếu tố văn hóa xã hội không trực quan duy nhất cho nhóm người có dữ liệu chúng tôi đang truy cập.

Hãy xem xét một nông dân trong lĩnh vực nông nghiệp ngay trước khi hạn hán dự kiến. Trên mô hình tín dụng truyền thống, hồ sơ rủi ro của họ - và do đó giá cho vay - tăng lên khi kinh phí và năng suất cây trồng giảm. Nếu người nông dân tiếp cận khoản vay thông qua mô hình rủi ro tín dụng truyền thống, họ sẽ mang gánh nặng trả nợ nặng hơn, khiến họ có khả năng vỡ nợ nhiều hơn, do đó mô hình được chứng minh là đúng. Đây là một lời nhắc nhở nghiêm túc về tác động trong thế giới thực của việc ra quyết định thuật toán.

Nói một cách đơn giản: có một cách tốt hơn để quản lý tình huống này.

Điều gì sẽ xảy ra nếu chúng ta dự đoán chính xác hạn hán, giảm giá cho khoản vay và giúp người nông dân vượt qua giai đoạn khó khăn này? Điều này sẽ làm tăng khả năng người nông dân đủ điều kiện cho một khoản vay với lãi suất có thể được hoàn trả hợp lý, làm giảm nguy cơ vỡ nợ.

Sau đó, điều cần thiết là trong khi chúng tôi nỗ lực mở rộng quyền truy cập tài chính, chúng tôi cũng tiếp tục phản ánh về dữ liệu chúng tôi sử dụng, quy trình học máy mà chúng tôi áp dụng và tác động của nó đến các thị trường này. Gần đây chúng tôi tập trung vào việc tối ưu hóa phương pháp tiếp cận thiên vị trong các quy trình mô hình hóa và quyết định của chúng tôi. Thông qua công việc này, chúng tôi đã phát triển một khuôn khổ mà chúng tôi sẽ liên tục áp dụng cho những gì chúng tôi làm. Khung này có thể hữu ích cho những người khác hy vọng giảm thiểu sự thiên vị không chủ ý trong các mô hình khác.

Đo lường tác động và cận biên

Thách thức của loại trừ tài chính là rất lớn, đó là lý do tại sao các tổ chức toàn cầu như Liên Hợp Quốc đang hợp tác với các công ty để giải quyết vấn đề. Đương nhiên, để giải quyết vấn đề trước tiên bạn cần hiểu độ lớn của nó.

Sự bao gồm hoàn hảo có nghĩa là chúng tôi mở rộng các lựa chọn tài chính cho 100% khách hàng của khách hàng tốt - nói cách khác, những khách hàng có ý định và có khả năng trả nợ. Tại JUMO, chúng tôi tự đánh giá bản thân dựa trên mức độ mà những khách hàng tốt về mặt lý thuyết này có thể truy cập các sản phẩm tài chính từ các ngân hàng địa phương thông qua nền tảng của chúng tôi. Để kiểm tra tác động của chúng tôi, chúng tôi nhắm mục tiêu một mẫu đại diện của các khách hàng bị từ chối, thường được gọi là lấy mẫu từ chối, để định lượng ngưỡng trên của sự bao gồm tài chính hoàn hảo sẽ như thế nào.

Việc liên tục thẩm vấn dữ liệu người dùng cho phép chúng tôi truy cập vào một luồng thông tin không thiên vị mà chúng tôi có thể sử dụng để giảm thiểu sai lệch lịch sử (phát sinh từ quyết định lịch sử) và tránh những hậu quả không lường trước của việc loại trừ người không chính xác. Tuy nhiên, điều quan trọng là quá trình đo lường này diễn ra thường xuyên và liên tục. Nó đảm bảo hoạt động kinh doanh của chúng tôi vẫn phù hợp với sứ mệnh chung của chúng tôi và tránh đánh giá khách hàng trên cơ sở sự thiên vị ngoài ý muốn đã xâm nhập vào hệ thống.

Dữ liệu tốt hơn có nghĩa là dự đoán tốt hơn

Điều quan trọng cần nhớ là kết quả của bất kỳ mô hình học máy nào cũng tốt như dữ liệu được đưa vào. Ví dụ: chúng tôi biết rằng tỷ lệ phần trăm không cân xứng của người dùng nền tảng của chúng tôi là nam giới (70% so với 30% khách hàng nữ). Nhưng khi chúng tôi kết hợp dữ liệu của mình với các nghiên cứu khác, chúng tôi thấy rằng phụ nữ chỉ có ít hơn 10% so với nam giới sở hữu điện thoại di động và giới tính đóng vai trò ít quan trọng hơn trong việc thu hút và sử dụng tiền kỹ thuật số.

Vậy tại sao phụ nữ vô tình bị thiệt thòi?

Để hiểu vấn đề này, chúng tôi cần phải hỏi: chúng tôi có thể sử dụng thông tin nào khác để bổ sung các bộ dữ liệu hiện tại giúp chúng tôi phân biệt giữa các cá nhân trong một nhóm rõ ràng đồng nhất?

Trong trường hợp này, đó là sự hiểu biết rằng ở một số thị trường, phụ nữ sử dụng điện thoại di động và ví di động ít thường xuyên hơn nam giới. Điều đó phần lớn thuộc về các yếu tố văn hóa xã hội, bao gồm thiếu niềm tin vào ngân hàng di động hoặc phí giao dịch cấm. Bằng cách lấy cái nhìn sâu sắc từ những dữ liệu này và áp dụng nó một cách khác biệt cho phụ nữ, chúng ta có thể phát triển các tiêu chí rủi ro phù hợp hơn có thể làm tăng sự bình đẳng về cơ hội.

ML và trực giác cho các ứng dụng trong thế giới thực

Trong ngành công nghệ, chúng ta thường nhìn thế giới thông qua dữ liệu - 1 và 0. Chúng tôi bỏ qua tác động của con người trong công việc của chúng tôi. Để đạt được tiến bộ thực sự trong việc thúc đẩy các phương pháp dự đoán, chúng ta cần các thuật toán và trực giác; chúng ta cần nhìn xa hơn, đánh đổi những mặt tích cực và tiêu cực giả, và xây dựng các sản phẩm phù hợp với mọi người.

Không một mô hình nào có thể giải quyết hàng thập kỷ phức tạp hoặc sự phong phú của các mạng xã hội loài người và sự khác biệt tinh tế tiềm ẩn của chúng. Để tiến lên, chúng ta cần liên tục thử thách tư duy truyền thống, và suy nghĩ của chính chúng ta.

Trong tín dụng, vốn hầu như không thay đổi trong nhiều thập kỷ, cách chúng ta nhìn nhận và đánh giá rủi ro có tiềm năng rất lớn để tiến bộ. Học máy có thể và sẽ đóng một vai trò biến đổi trong nỗ lực của chúng tôi, vì vậy chúng tôi có xu hướng nghĩ về những mặt trái. Đồng thời, chúng tôi nhận ra những rủi ro. Đây là lý do tại sao chúng tôi tập trung vào việc sử dụng AI để giảm sự thiên vị trong quá trình ra quyết định tài chính trong khi biết rằng nếu áp dụng kém, nó có thể có tác động ngược lại chính xác.

Một cách tiếp cận từ bi để bao gồm tài chính?

Bằng cách áp dụng phương pháp này, chúng tôi nhận thấy sự cần thiết của một bộ tiêu chí đang phát triển nhằm tối đa hóa khả năng của cá nhân để thể hiện tiềm năng của họ. Bằng cách này, cuối cùng chúng ta có thể phá vỡ liên kết trực tiếp giữa điểm tín dụng và sự giàu có bằng cách sử dụng cách tiếp cận đơn phương để đánh giá rủi ro. Điều này có nghĩa là một thương gia ở Kampala lấy 100 đô la vốn lưu động và một thương gia vay 10.000 đô la ở Sacramento được đánh giá dựa trên các tiêu chí đánh giá rủi ro thích hợp nhất cho mỗi cá nhân, mở ra một thế giới lựa chọn tài chính.

Các hậu quả và sai lệch không lường trước phát sinh do quyết định, thường liên quan đến ML, không chỉ là kết quả của thuật toán hoặc quá trình mô hình hóa, mà còn liên quan đến tất cả các điểm tiếp xúc tích lũy dẫn đến kết quả cuối cùng. Để giải quyết sự thiên vị, bạn có thể chỉ cần quan sát và sửa chữa các triệu chứng. Bạn phải hiểu quy trình từ đầu đến cuối và mổ xẻ toàn bộ hệ thống để có được nguyên nhân gốc rễ. Khi bạn đã thực hiện việc này, bạn cần tiếp tục thực hiện - liên tục thử nghiệm, học hỏi và tối ưu hóa để loại bỏ sự thiên vị khỏi các mô hình của bạn.

Cuối cùng, đây có thể là công cụ để sử dụng công nghệ đồng cảm để mở rộng và tăng cường bao gồm tài chính.

Andrew Watkins-Ball là người sáng lập và CEO của JUMO, nền tảng công nghệ phát triển nhanh nhất và lớn nhất để vận hành các thị trường dịch vụ tài chính di động bao gồm tại các thị trường mới nổi. Các đối tác của JUMO với các ngân hàng tư duy tiến bộ và các nhà khai thác mạng di động để kết nối người tiêu dùng và doanh nghiệp nhỏ với cơ hội tài chính. JUMO kết hợp dữ liệu và công nghệ để cung cấp các sản phẩm được thiết kế để tiếp cận và phù hợp với 80% dân số thế giới chưa được phục vụ bởi các dịch vụ tài chính truyền thống.

Một số thành viên của nhóm JUMO đã đóng góp cho công việc này, bao gồm Ricki Davimes, Anthony la Grange, Clarissa Johnston, Ben Gidlow, Natu Lau Vende, Niklas von Maltzahn và Paul Whelpton.