AI ĐANG DỰ ĐOÁN TƯƠNG LAI CỦA BẠN – NHƯNG AI CÓ QUYỀN QUYẾT ĐỊNH TƯƠNG LAI ĐÓ?

 AI ĐANG DỰ ĐOÁN TƯƠNG LAI CỦA BẠN – NHƯNG AI CÓ QUYỀN QUYẾT ĐỊNH TƯƠNG LAI ĐÓ?

AI ngày càng có khả năng dự đoán hành vi, đánh giá rủi ro và đề xuất quyết định liên quan đến cuộc sống con người. Nhưng khi một dự đoán được dùng để xét tuyển, cấp tín dụng, tuyển dụng hay đánh giá nguy cơ phạm tội, chúng ta cần đặt câu hỏi: ai chịu trách nhiệm nếu dự đoán sai, và người bị đánh giá có quyền tự bảo vệ mình đến đâu?

1. Công nghệ luôn mang theo những lựa chọn của người thiết kế

Chúng ta thường hình dung công nghệ như một công cụ trung lập. Một hệ thống AI nhận dữ liệu, phân tích thông tin rồi đưa ra kết quả. Nếu kết quả chính xác, hệ thống được xem là hữu ích; nếu sai, người ta tìm cách cải thiện thuật toán.

Nhưng cách nhìn đó chưa đủ.

Trước khi một hệ thống AI đưa ra dự đoán, con người đã quyết định nó cần giải quyết vấn đề gì, được phép sử dụng những dữ liệu nào, tiêu chí nào được xem là quan trọng và sai số nào có thể chấp nhận. Những lựa chọn ban đầu định hình cách hệ thống nhìn nhận thế giới.

Một công cụ tuyển dụng có thể ưu tiên ứng viên từng làm việc tại doanh nghiệp lớn. Hệ thống chấm điểm tín dụng có thể đánh giá cao những người có lịch sử tài chính ổn định. Công cụ hỗ trợ quản lý nhân sự có thể xem thời gian hoạt động trực tuyến là dấu hiệu của năng suất.

Các tiêu chí đó có thể hữu ích trong một số hoàn cảnh. Tuy nhiên, chúng cũng có giới hạn. Một người chưa từng làm việc tại doanh nghiệp lớn vẫn có thể có năng lực tốt. Một người từng gặp khó khăn tài chính có thể đã thay đổi hoàn toàn. Thời gian trực tuyến nhiều cũng chưa chắc đồng nghĩa với hiệu quả công việc cao.

Vấn đề nằm ở chỗ: khi những tiêu chí được lựa chọn trở thành nền tảng cho quyết định tự động, quan niệm của người thiết kế có thể được chuyển thành quy tắc chi phối cơ hội của người khác.

AI không tự tạo ra toàn bộ những định kiến và bất bình đẳng trong xã hội. Nó có thể tiếp nhận chúng từ dữ liệu, củng cố chúng qua cách phân loại hoặc làm chúng khó nhận biết hơn vì kết quả được trình bày dưới dạng con số.

Bởi vậy, muốn đánh giá một hệ thống AI, chúng ta cần nhìn xa hơn câu hỏi nó dự đoán chính xác đến đâu. Cần biết nó đang phục vụ mục tiêu nào, dựa trên những giả định gì và ai sẽ chịu hậu quả khi nó vận hành sai.

2. Dữ liệu có thể nói nhiều về bạn, nhưng không thể thay bạn trở thành chính mình

Mỗi ngày, chúng ta để lại những dấu vết số qua hoạt động tìm kiếm, mua sắm, di chuyển, giao tiếp và sử dụng các nền tảng trực tuyến. Khi được tập hợp và phân tích, những dấu vết rời rạc có thể hình thành một hồ sơ về sở thích, thói quen, khả năng chi tiêu và một số khuynh hướng hành vi.

Nghiên cứu Data, Privacy and the Individual do Carissa Véliz dẫn dắt tại Center for the Governance of Change năm 2020 đã bàn về nền kinh tế dữ liệu, hoạt động thu thập thông tin cá nhân và những thách thức đối với quyền riêng tư. Đây là một vấn đề quan trọng trong xã hội số: dữ liệu về con người ngày càng có giá trị đối với các tổ chức muốn hiểu, phân loại và dự đoán hành vi của họ.

Tuy nhiên, dữ liệu chỉ ghi lại một phần đời sống.

Một người thường xuyên tìm kiếm việc làm có thể đang muốn chuyển nghề, nhưng cũng có thể chỉ đang khảo sát thị trường. Người mua hàng tiết kiệm có thể đang tích lũy tiền, đang gặp khó khăn hoặc đơn giản là không muốn chi tiêu cho một món đồ cụ thể. Những hành vi giống nhau đôi khi xuất phát từ những hoàn cảnh rất khác nhau.

AI có thể tìm ra mối liên hệ giữa dữ liệu và kết quả đã xảy ra. Từ đó, nó ước tính khả năng một sự kiện sẽ xuất hiện trong tương lai. Nhưng mối liên hệ thống kê không tự động giải thích đầy đủ nguyên nhân, càng không thể mô tả toàn bộ con người đứng sau dữ liệu.

Hồ sơ số cũng có tính chọn lọc. Hệ thống chỉ phân tích được những gì đã được thu thập và đưa vào mô hình. Những biến cố chưa từng xuất hiện trong dữ liệu, những thay đổi trong hoàn cảnh sống hay những quyết định mới của một cá nhân có thể khiến dự đoán mất đi độ tin cậy.

Con người có thể học thêm, đổi nghề, vượt qua khủng hoảng, thay đổi thói quen hoặc lựa chọn một con đường hoàn toàn khác. Quá khứ giúp chúng ta hiểu hiện tại, nhưng không thể bao quát mọi khả năng của tương lai.

Điều đáng quan tâm là khi hồ sơ dữ liệu được xem như một bức chân dung hoàn chỉnh, một mô hình dự đoán có thể vô tình thu hẹp cách xã hội nhìn nhận con người. Một người từng bị đánh giá có rủi ro cao có thể tiếp tục bị đối xử như thể họ sẽ luôn giữ nguyên đặc điểm đó.

Dự đoán về một con người chỉ có giá trị trong phạm vi bằng chứng và giới hạn của nó. Không thể lấy một xác suất làm bản mô tả đầy đủ về cuộc đời một người.

3. Quyền lực hiện đại còn nằm ở việc sắp xếp những gì chúng ta nhìn thấy

Quyền lực thường được nhận ra qua những mệnh lệnh trực tiếp: ai được phép làm việc gì, ai bị từ chối và ai có quyền quyết định. Trong môi trường số, quyền lực còn có thể vận hành âm thầm hơn, thông qua việc lựa chọn thông tin nào xuất hiện trước mắt chúng ta, cơ hội nào được giới thiệu và lựa chọn nào bị đẩy xuống phía sau.

Một nền tảng có thể đề xuất video dựa trên lịch sử xem. Một công cụ tìm kiếm có thể sắp xếp kết quả theo mức độ liên quan dự kiến. Một hệ thống tuyển dụng có thể ưu tiên hồ sơ được cho là phù hợp. Một doanh nghiệp có thể dùng mô hình dự đoán để quyết định nhóm khách hàng nào cần được tiếp cận trước.

Những cơ chế đó có thể tiết kiệm thời gian và giúp con người xử lý lượng thông tin quá lớn. Nhưng cách sắp xếp cũng ảnh hưởng đến những gì chúng ta biết, nhìn thấy và có cơ hội lựa chọn.

Nếu một người liên tục được giới thiệu những nội dung tương tự sở thích cũ, họ có thể ít tiếp xúc hơn với những quan điểm khác biệt. Nếu một ứng viên ít được hệ thống ưu tiên, họ có thể giảm cơ hội được nhà tuyển dụng chú ý. Nếu một khách hàng bị xếp vào nhóm có khả năng chi trả thấp, doanh nghiệp có thể ít đưa ra những lựa chọn phù hợp với nhu cầu của họ.

Đây không nhất thiết là kết quả của một âm mưu có chủ đích. Nhiều hệ thống được thiết kế để tối ưu hóa mục tiêu kinh doanh hoặc nâng cao hiệu suất. Tuy nhiên, mục tiêu tối ưu hóa luôn có giới hạn: thứ được đo lường và ưu tiên chưa chắc bao quát toàn bộ lợi ích của con người.

Khi một hệ thống ảnh hưởng đến cơ hội tiếp cận thông tin, việc làm, dịch vụ hoặc nguồn lực, nó đã tham gia vào quá trình phân phối cơ hội trong xã hội. Lúc đó, vấn đề không còn thuần túy kỹ thuật.

Chúng ta cần biết ai đặt ra tiêu chí, ai có quyền thay đổi chúng và liệu người chịu tác động có thể nhận ra cơ chế đang ảnh hưởng đến mình hay không.

Một quyết định được thực hiện bằng thuật toán vẫn là một quyết định có hệ quả xã hội. Việc máy móc tham gia vào quá trình đó không làm mất đi trách nhiệm của tổ chức sử dụng nó.

4. Khi dự đoán bắt đầu tạo ra chính tương lai mà nó dự đoán

Một trong những rủi ro đáng chú ý nhất xuất hiện khi con người hành động dựa trên dự đoán của hệ thống. Khi đó, kết quả dự đoán có thể ảnh hưởng ngược trở lại thực tế, khiến con đường phát triển của một người bị thay đổi bởi chính nhãn đánh giá ban đầu.

Hãy hình dung một ứng viên bị hệ thống đánh giá là có khả năng nghỉ việc sớm. Nhà tuyển dụng vì thế không chọn người đó. Ứng viên mất cơ hội làm việc, không thể chứng minh năng lực trong môi trường mới và tiếp tục gặp khó khăn khi tìm việc. Dự đoán ban đầu có thể không chính xác, nhưng quyết định dựa trên dự đoán đã tạo ra hậu quả thực tế.

Một ví dụ khác là hệ thống đánh giá nguy cơ tái phạm trong lĩnh vực tư pháp. Điểm số có thể cung cấp thông tin hỗ trợ người ra quyết định, nhưng cách sử dụng điểm số cũng có thể ảnh hưởng đến mức độ giám sát, điều kiện được hưởng các biện pháp hỗ trợ hoặc cách một cá nhân được đối xử.

Nghiên cứu của Megan T. Stevenson và Jennifer L. Doleac, công bố trên American Economic Journal: Economic Policy năm 2024, phân tích tác động của công cụ đánh giá rủi ro bằng thuật toán đối với quyết định tuyên án. Các tác giả nhận thấy thẩm phán có thay đổi cách ra quyết định khi tiếp cận điểm đánh giá, nhưng quyền tùy nghi của con người vẫn đóng vai trò lớn. Nghiên cứu không tìm thấy bằng chứng rõ ràng về việc áp dụng công cụ này giúp tăng an toàn công cộng hoặc giảm tỷ lệ giam giữ. Mô phỏng của nghiên cứu cũng cho thấy việc tuân thủ nghiêm ngặt các khuyến nghị có thể đem lại lợi ích ở một số khía cạnh, đồng thời gây ra những chi phí khác.

Kết quả đó nhắc chúng ta rằng hiệu quả của một hệ thống không thể được đánh giá chỉ bằng độ chính xác dự đoán. Cần xem xét cách con người sử dụng kết quả, mục tiêu mà quyết định hướng tới và hậu quả thực tế đối với những người liên quan.

Một mô hình có thể dự đoán tương đối tốt trong điều kiện thử nghiệm nhưng vẫn gây ra quyết định bất lợi khi được áp dụng trong đời sống. Ngược lại, người sử dụng có thể bỏ qua một kết quả hữu ích vì thành kiến hoặc vì mục tiêu riêng.

Vì vậy, cần phân biệt ba việc: dự đoán một khả năng, đưa ra quyết định và tạo ra hậu quả. Chúng có liên quan với nhau, nhưng không đồng nhất.

Khi dự đoán bắt đầu ảnh hưởng đến cơ hội sống của con người, chúng ta phải đánh giá cả những gì hệ thống dự đoán lẫn những gì xã hội làm sau khi nhận được dự đoán đó.

5. Công bằng đòi hỏi quyền được chất vấn và sửa sai

Giả sử một người bị từ chối khoản vay, không được tuyển dụng hoặc bị đưa vào nhóm rủi ro cao. Nếu quyết định có sự tham gia của AI, người đó có thể làm gì?

Một lời giải thích chung chung rằng hệ thống đã phân tích hàng nghìn yếu tố không đủ để giải quyết vấn đề. Người bị ảnh hưởng cần biết những căn cứ quan trọng dẫn đến quyết định, dữ liệu nào có thể sai và liệu có con đường thực tế để yêu cầu xem xét lại hay không.

Điều này đặc biệt quan trọng khi quyết định ảnh hưởng đến những lợi ích thiết yếu. Một lỗi dữ liệu về thu nhập, lịch sử làm việc hoặc danh tính có thể khiến một người bị đánh giá sai. Nếu không có cơ chế sửa chữa, sai sót ban đầu có thể tiếp tục xuất hiện trong nhiều lần đánh giá sau.

Tại đây, cần phân biệt giữa tính minh bạch kỹ thuật và khả năng giải trình trong thực tế. Một hệ thống có thể rất phức tạp, nhưng tổ chức sử dụng nó vẫn cần giải thích được vai trò của kết quả thuật toán trong quyết định cuối cùng, chịu trách nhiệm về quy trình và tạo điều kiện để người bị ảnh hưởng phản hồi.

Khung quản lý rủi ro AI của Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) nhấn mạnh việc nhận diện, đánh giá và quản lý rủi ro trong quá trình thiết kế, phát triển, triển khai và sử dụng hệ thống AI. Đây là khung hướng dẫn tự nguyện, không tự nó thay thế các nghĩa vụ pháp lý, nhưng cung cấp một cách tiếp cận có hệ thống để xem xét độ tin cậy và các tác động của công nghệ.

Đạo luật AI của Liên minh châu Âu cũng quy định về giám sát của con người đối với các hệ thống AI rủi ro cao. Điều 14 đặt ra yêu cầu để người được giao giám sát có khả năng hiểu giới hạn của hệ thống, diễn giải kết quả và, trong những trường hợp thích hợp, bỏ qua hoặc đảo ngược đầu ra của hệ thống.

Những quy định và khung hướng dẫn như vậy cho thấy một nguyên tắc quan trọng: kết quả của AI cần được đặt trong một quy trình có trách nhiệm, thay vì được tiếp nhận như kết luận không thể tranh luận.

Dĩ nhiên, quyền khiếu nại chỉ có ý nghĩa khi người dân biết mình có quyền đó, có đủ thông tin để sử dụng và có cơ quan hoặc cá nhân thực sự xem xét yêu cầu. Một thủ tục tồn tại trên giấy nhưng quá phức tạp, tốn kém hoặc không thể tiếp cận sẽ khó bảo vệ được người chịu thiệt hại.

Công bằng không đòi hỏi mọi dự đoán đều chính xác tuyệt đối. Điều cần thiết là sai sót có thể được phát hiện, quyết định có thể được chất vấn và trách nhiệm không bị đẩy hết cho một hệ thống mà người bị ảnh hưởng không thể đối thoại.

6. Tự do còn là quyền được thay đổi

Các hệ thống dự đoán thường dựa vào dữ liệu quá khứ để ước tính tương lai. Đây là cách tiếp cận có cơ sở về mặt thống kê, nhưng đời sống con người luôn chứa đựng những thay đổi mà dữ liệu cũ chưa thể phản ánh đầy đủ.

Một người từng học kém có thể trở thành người học tốt. Một nhân viên từng làm việc không hiệu quả có thể tiến bộ sau khi được đào tạo. Một người từng mắc sai lầm có thể thay đổi cách sống. Một người chưa có kinh nghiệm trong lĩnh vực mới vẫn có thể phát triển năng lực nếu được trao cơ hội.

Nếu các quyết định quan trọng liên tục dựa vào hồ sơ cũ, con người có nguy cơ bị giữ lại trong hình ảnh của chính mình ở một thời điểm đã qua. Những nỗ lực thay đổi sẽ khó tạo ra tác động nếu hệ thống không cập nhật thông tin hoặc nếu người ra quyết định quá tin vào kết quả được tạo ra trước đó.

Đó là lý do cần xem xét lại dữ liệu theo thời gian, cho phép sửa thông tin sai và tránh sử dụng những đánh giá cũ ngoài phạm vi mà chúng còn đáng tin cậy. Trong nhiều tình huống, một quyết định phù hợp hôm nay có thể trở nên không phù hợp sau vài tháng hoặc vài năm.

Tuy vậy, không nên vì thế mà phủ nhận toàn bộ giá trị của dự đoán. Trong y tế, giao thông, phòng chống thiên tai hoặc quản lý nguồn lực, dự đoán có thể giúp con người chuẩn bị sớm và giảm thiểu thiệt hại. Vấn đề nằm ở mục đích sử dụng, mức độ rủi ro và khả năng điều chỉnh khi hoàn cảnh thay đổi.

Một dự báo thời tiết có thể giúp chúng ta chuẩn bị trước cơn bão. Một ước tính nguy cơ sức khỏe có thể giúp bác sĩ lựa chọn biện pháp theo dõi phù hợp. Nhưng khi dự đoán được dùng để giới hạn cơ hội của một cá nhân, yêu cầu về bằng chứng và cơ chế xem xét cần nghiêm ngặt hơn.

Con người có quyền được đánh giá dựa trên những thông tin phù hợp với hoàn cảnh hiện tại, thay vì bị ràng buộc vô thời hạn bởi một hồ sơ trong quá khứ.

Tự do không có nghĩa là mọi người đều có thể trở thành bất cứ ai chỉ bằng ý chí. Hoàn cảnh kinh tế, giáo dục, sức khỏe và các quan hệ xã hội vẫn tạo ra những giới hạn thực tế. Nhưng tự do đòi hỏi xã hội không đóng sẵn cánh cửa chỉ vì một mô hình cho rằng cơ hội thành công của một người thấp hơn mức trung bình.

7. Dân chủ không thể giao phó tương lai cho những người có nhiều dữ liệu nhất

AI có thể giúp xử lý những vấn đề mà con người khó giải quyết bằng phương pháp thủ công. Nhưng năng lực phân tích lớn không tự động tạo ra quyền quyết định lớn hơn.

Một doanh nghiệp có thể sở hữu lượng dữ liệu khổng lồ về khách hàng. Một cơ quan quản lý có thể sử dụng hệ thống dự báo để phân bổ nguồn lực. Một nền tảng số có thể hiểu khá rõ những nội dung khiến người dùng chú ý. Tuy nhiên, việc nắm giữ nhiều thông tin không đồng nghĩa với việc luôn hiểu đầy đủ lợi ích của những người bị tác động.

Dữ liệu cho biết những khuynh hướng có thể quan sát và đo lường. Nó không tự xác định xã hội nên ưu tiên điều gì, mức bất bình đẳng nào có thể chấp nhận hoặc quyền nào cần được bảo vệ ngay cả khi việc bảo vệ quyền đó làm giảm hiệu suất.

Đó là những lựa chọn mang tính đạo đức và chính trị. Chúng cần được thảo luận công khai, đặt trong khuôn khổ pháp luật và chịu sự giám sát phù hợp.

Trong một xã hội dân chủ, người dân cần có khả năng biết những hệ thống tự động nào đang tham gia vào các quyết định quan trọng, tổ chức nào chịu trách nhiệm và cơ chế giám sát hoạt động ra sao. Đối với những lĩnh vực có nguy cơ ảnh hưởng sâu sắc đến quyền con người, cần đặc biệt chú ý đến tính minh bạch, sự công bằng và khả năng yêu cầu xem xét lại.

Điều này không có nghĩa mọi thuật toán đều phải công khai toàn bộ mã nguồn trong mọi hoàn cảnh. Một số hệ thống có thể liên quan đến an ninh, quyền riêng tư hoặc bí mật kinh doanh. Tuy nhiên, những lý do đó không nên trở thành tấm bình phong để né tránh trách nhiệm. Có thể xây dựng cơ chế kiểm toán độc lập, kiểm tra dữ liệu, đánh giá sai lệch và giám sát quyết định mà không nhất thiết công bố mọi chi tiết kỹ thuật cho tất cả mọi người.

Điều quan trọng là quyền lực được tạo ra hoặc tăng cường bởi công nghệ vẫn cần có giới hạn. Một quyết định ảnh hưởng đến quyền lợi của công dân không thể được miễn trách nhiệm chỉ vì nó có sự tham gia của máy móc.

Câu hỏi cuối cùng không đơn thuần là ai có khả năng dự đoán chính xác hơn. Đó còn là ai được phép sử dụng dự đoán, vì mục đích gì, dưới sự giám sát nào và với cơ chế bảo vệ nào dành cho những người phải sống cùng hậu quả của quyết định.

8. Đừng để lời tiên tri trở thành bản án

Chúng ta đang bước vào một giai đoạn mà ngày càng nhiều quyết định có thể được hỗ trợ bởi những mô hình dự đoán. AI có thể giúp nhận diện rủi ro, phát hiện quy luật và xử lý thông tin với tốc độ vượt xa khả năng thủ công của con người.

Nhưng năng lực đó cần đi cùng sự thận trọng.

Một dự đoán có thể hữu ích mà vẫn sai. Một mô hình có thể hoạt động tốt trên nhóm dữ liệu này nhưng kém hiệu quả trong hoàn cảnh khác. Một hệ thống có thể giúp tiết kiệm thời gian nhưng cũng tạo ra những bất lợi khó nhìn thấy đối với một số nhóm người.

Vì vậy, cần tránh hai thái cực: xem AI như một cỗ máy biết trước tương lai, hoặc phủ nhận mọi giá trị của dự đoán chỉ vì nó có giới hạn. Cách tiếp cận hợp lý hơn là xác định rõ mục đích, đánh giá bằng chứng, theo dõi hậu quả và duy trì khả năng sửa đổi quyết định.

AI có thể giúp chúng ta nhận ra một khả năng đang hình thành. Nhưng khả năng đó còn phụ thuộc vào hoàn cảnh, lựa chọn của con người và những điều chưa thể biết trước.

Một người có nguy cơ thất bại vẫn có thể thành công. Một người được đánh giá cao vẫn có thể mắc sai lầm. Một dự báo hữu ích cần mở rộng khả năng chuẩn bị và lựa chọn, chứ không nên biến xác suất thành số phận đã được định đoạt.

Công nghệ có thể hỗ trợ con người nhìn xa hơn. Nhưng việc quyết định xã hội sẽ đối xử với con người ra sao vẫn cần dựa trên trách nhiệm, bằng chứng, quyền được chất vấn và sự tôn trọng phẩm giá.

Tương lai có thể được dự đoán một phần, nhưng không nên bị đóng khung bởi dự đoán. AI có thể đưa ra một kết quả; quyền quyết định và trách nhiệm đối với hậu quả vẫn cần được đặt trong tay con người, dưới những giới hạn đạo đức và pháp lý rõ ràng.

Ảnh: Con người đứng trước hệ thống AI phân tích dữ liệu và dự đoán hành vi, gợi lên câu hỏi về quyền lực của thuật toán và quyền tự quyết định tương lai của mỗi cá nhân.

Tư liệu tham khảo

1. Carissa Véliz (chủ biên dự án). Dữ liệu, quyền riêng tư và cá nhân (Data, Privacy and the Individual). Center for the Governance of Change, IE University, 2020. Báo cáo nghiên cứu về dữ liệu cá nhân, quyền riêng tư và những vấn đề đạo đức nảy sinh khi dữ liệu được sử dụng để phân tích, phân loại và đưa ra quyết định liên quan đến con người.

Đọc tại IE University: https://www.ie.edu/cgc/research/data-privacy-individual/

2. James C. Scott. Nhìn xã hội qua lăng kính của nhà nước: Vì sao một số kế hoạch cải thiện đời sống con người thất bại (Seeing Like a State: How Certain Schemes to Improve the Human Condition Have Failed). Yale University Press, 1998. Cuốn sách phân tích cách các cơ quan quyền lực đơn giản hóa thực tại phức tạp thành những hệ thống dễ đo lường và quản lý, đồng thời chỉ ra rủi ro khi các mô hình trừu tượng được áp dụng mà không tính đến tri thức và hoàn cảnh cụ thể của con người.

Đọc tại Yale University Press: https://yalebooks.yale.edu/book/9780300078152/seeing-like-a-state/

3. Megan T. Stevenson và Jennifer L. Doleac. Đánh giá rủi ro bằng thuật toán trong tay con người (Algorithmic Risk Assessment in the Hands of Humans). American Economic Journal: Economic Policy, tập 16, số 4, tháng 11 năm 2024, tr. 382–414. Nghiên cứu xem xét cách con người sử dụng các công cụ đánh giá rủi ro bằng thuật toán trong thực tế. Tài liệu hữu ích để tìm hiểu khoảng cách giữa kết quả do hệ thống đưa ra và quyết định cuối cùng của người sử dụng hệ thống.

Đọc tại American Economic Association: https://doi.org/10.1257/pol.20220620

4. National Institute of Standards and Technology (NIST). Khung quản lý rủi ro trí tuệ nhân tạo (Artificial Intelligence Risk Management Framework – AI RMF 1.0). Bộ Thương mại Hoa Kỳ, 2023. Khung hướng dẫn nhận diện, đánh giá và quản lý rủi ro của hệ thống AI trong suốt vòng đời phát triển và sử dụng, nhấn mạnh tính đáng tin cậy, khả năng giám sát và trách nhiệm của tổ chức triển khai.

Đọc tại National Institute of Standards and Technology: https://www.nist.gov/itl/ai-risk-management-framework

5. Liên minh châu Âu. Đạo luật Trí tuệ nhân tạo, Điều 14: Giám sát của con người (Artificial Intelligence Act, Article 14: Human Oversight). Quy định về AI của Liên minh châu Âu. Điều khoản này đặt ra yêu cầu giám sát của con người đối với các hệ thống AI rủi ro cao, nhằm giúp người giám sát hiểu được giới hạn của hệ thống, nhận diện kết quả bất thường và can thiệp khi cần thiết.

Đọc tại European Commission – AI Act Service Desk: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14