Bên trong Hộp đen: Vấn đề ngày càng lớn của trí tuệ nhân tạo không thể giải thích

Về cốt lõi, vấn đề này không phải là lỗi mà là một đặc tính trong cách AI tiên tiến học hỏi. Khác với phần mềm truyền thống được lập trình bằng các lệnh `if-then` (nếu-thì) rõ ràng, các mô hình học sâu (deep learning) – động cơ đằng sau AI tạo sinh và tự động hóa phức tạp ngày nay – được lấy cảm hứng từ bộ não con người. Chúng bao gồm các mạng lưới khổng lồ, nhiều lớp gồm các “neuron” nhân tạo. Các neuron này học bằng cách phân tích những bộ dữ liệu cực lớn, tự điều chỉnh các kết nối giữa chúng cho đến khi có thể nhận ra các quy luật. Một hệ thống có thể được huấn luyện trên hàng triệu bản quét y tế để xác định khối u, hoặc trên dữ liệu tài chính hàng thập kỷ để đánh giá rủi ro tín dụng. Kết quả là một cỗ máy có thể thực hiện nhiệm vụ với độ chính xác đáng kinh ngạc, nhưng logic bên trong của nó là một mạng lưới gồm hàng tỷ trọng số và độ lệch toán học – một bức tranh gồm các mối tương quan thống kê quá phức tạp để bộ óc con người có thể diễn giải.

Sự thiếu minh bạch này gây ra những hậu quả sâu sắc trong thế giới thực. Hãy xem xét lĩnh vực tài chính, nơi các mô hình AI ngày càng được sử dụng để duyệt hoặc từ chối các khoản vay và thẻ tín dụng. Một người bị từ chối cho vay có quyền được biết lý do. Nhưng một ngân hàng sử dụng mô hình hộp đen có thể không cung cấp được một lý do cụ thể, dễ hiểu cho con người ngoài câu trả lời “thuật toán xác định bạn là người có rủi ro cao.” Nghiên cứu từ các tổ chức như Viện AI Lấy con người làm trung tâm của Đại học Stanford (Stanford's Institute for Human-Centered AI) đã nhiều lần nhấn mạnh rằng sự phức tạp của các mô hình này khiến các kiểm toán viên bên ngoài gần như không thể phát hiện các thành kiến ẩn. Nếu một mô hình được huấn luyện trên dữ liệu có thành kiến trong quá khứ, nó có thể học cách trừng phạt bất công những người nộp đơn từ một số khu vực hoặc nhóm nhân khẩu học nhất định mà không cần bất kỳ chỉ dẫn rõ ràng nào, qua đó duy trì sự bất bình đẳng dưới vỏ bọc của một công nghệ khách quan.

Mức độ rủi ro thậm chí còn cao hơn trong các tình huống sinh tử. Khi một chiếc xe tự hành đưa ra quyết định đánh lái hoặc phanh trong tích tắc, việc hiểu được lý do của nó là rất quan trọng đối với sự an toàn và trách nhiệm giải trình. Nếu tai nạn xảy ra, việc xác định lỗi sẽ trở nên vô cùng khó khăn. Đó là do lỗi cảm biến, một sai sót trong mã lệnh, hay một lựa chọn hợp lý nhưng có vấn đề về đạo đức của mô hình dựa trên các quy luật nó đã học được trong quá trình huấn luyện? Nếu không có lời giải thích rõ ràng, việc cải thiện hệ thống và ngăn chặn các sự cố trong tương lai sẽ chỉ là phỏng đoán. Thách thức tương tự cũng tồn tại trong y học, nơi AI có thể đánh dấu một bản quét của bệnh nhân là có tế bào ung thư. Mặc dù đây có thể là một công cụ cứu người, các bác sĩ cần hiểu cơ sở của khuyến nghị đó để tin tưởng và đưa ra chẩn đoán cuối cùng một cách có trách nhiệm.

Để đối phó với tình thế tiến thoái lưỡng nan ngày càng tăng này, một lĩnh vực chuyên biệt có tên là AI có thể giải thích (Explainable AI, hay XAI) đã ra đời. Các nhà nghiên cứu đang phát triển các kỹ thuật mới để “nhìn trộm” vào bên trong hộp đen. Một số phương pháp hoạt động bằng cách tạo ra các mô hình đơn giản hơn, gần đúng để bắt chước hành vi của AI phức tạp, từ đó đưa ra lời giải thích dễ hiểu hơn cho một kết quả cụ thể. Các phương pháp khác cố gắng tạo ra “bản đồ nhiệt” (heat maps) để cho thấy phần nào của dữ liệu đầu vào – chẳng hạn như các từ cụ thể trong văn bản hoặc các điểm ảnh trong hình ảnh – có ảnh hưởng lớn nhất đến quyết định cuối cùng của AI. Những công cụ này là một bước đi đầu tiên quan trọng, nhưng chúng thường chỉ cung cấp các mối tương quan chứ không phải sự hiểu biết thực sự về lý luận nhân quả của AI.

Các nhà hoạch định chính sách cũng đang bắt đầu chú ý. Ví dụ, Đạo luật AI mang tính bước ngoặt của Liên minh châu Âu (European Union’s AI Act) đề xuất các yêu cầu minh bạch nghiêm ngặt đối với các hệ thống được coi là “rủi ro cao”. Đạo luật này đề nghị rằng các nhà cung cấp AI được sử dụng trong các lĩnh vực như việc làm, thực thi pháp luật và cơ sở hạ tầng quan trọng có thể sẽ phải cung cấp tài liệu rõ ràng về cách hệ thống của họ hoạt động và logic đằng sau các quyết định của chúng. Mục tiêu là để thực thi một mức độ trách nhiệm giải trình, buộc các nhà phát triển phải ưu tiên khả năng diễn giải song song với hiệu suất. Tuy nhiên, việc lập pháp về tính minh bạch cho một công nghệ vốn đã không rõ ràng là một thách thức khổng lồ.

Cuối cùng, vấn đề hộp đen buộc chúng ta phải đối mặt với một sự đánh đổi cơ bản. Trong quá trình theo đuổi AI ngày càng mạnh mẽ và chính xác hơn, chúng ta đã tạo ra những công cụ vượt quá khả năng hiểu của chính mình. Điều này đòi hỏi một sự thay đổi trong cách chúng ta triển khai các hệ thống này. Đối với các quyết định có rủi ro cao ảnh hưởng đến quyền lợi, tài chính và sự an toàn của con người, phương pháp “con người trong cuộc” (human-in-the-loop) có thể là thiết yếu. Trong mô hình này, AI đóng vai trò như một cố vấn đắc lực, phát hiện các quy luật và đưa ra khuyến nghị, nhưng phán quyết cuối cùng và có trách nhiệm thuộc về một chuyên gia con người, người có thể áp dụng bối cảnh, đạo đức và sự thông thường.

Giải quyết vấn đề này không chỉ đơn thuần là một bài toán kỹ thuật cho các nhà khoa học máy tính; đó là một yêu cầu cấp thiết của xã hội. Khi AI ngày càng hòa nhập sâu hơn vào cuộc sống của chúng ta, khả năng tin tưởng vào nó sẽ phụ thuộc vào khả năng chúng ta hiểu nó. Hành trình mở hộp đen không chỉ là việc gỡ lỗi một thuật toán. Đó là việc đảm bảo rằng thế giới tự động mà chúng ta đang xây dựng vẫn phù hợp với các giá trị của con người, và các quyết định của nó, dù thông minh đến đâu, vẫn phải chịu trách nhiệm trước chúng ta.