Vấn đề Niềm tin đối với AI

Mười hai rủi ro dai dẳng của AI đang thúc đẩy sự hoài nghi.

Bhaskar Chakravorti. Harvard Business Review. Ngày 03 tháng 5. 2024. Phần 2 của 3. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

3 - Sự cố hộp đen

Tính minh bạch là điều cần thiết để xây dựng lòng tin. Với AI, điều đó có thể bao gồm thông báo cho người dùng khi họ tương tác với mô hình AI, có thể giải thích cách nó tạo một đầu ra cụ thể và chú ý đến những thông tin mà các bên liên quan cần và cung cấp thông tin đó theo cách họ có thể hiểu. Các quy định chính, như Đạo luật AI của EU sẽ thực thi các tiêu chuẩn minh bạch nhất định, nhưng thách thức luôn có mặt là các ưu đãi cho các công ty AI khuyến khích họ giảm thiểu tính minh bạch - để bảo vệ lợi thế cạnh tranh và sở hữu trí tuệ, và để ngăn chặn các vụ hack độc hại và giảm tiếp xúc với các vụ kiện về bản quyền. Như vậy, AI thường là một hộp đen - không rõ tại sao nó tạo đầu ra như vậy.

Một cách tiếp cận dẫn đầu ngành công nghiệp để minh bạch là một phần của sự hấp dẫn của phát triển AI nguồn mở. Nhưng điều này cũng có những hạn chế. Có quá nhiều đầu vào cho các mô hình AI - từ dữ liệu đào tạo đến mã được sử dụng để tiền xử lý và chi phối quá trình đào tạo, kiến trúc mô hình của mô hình, v.v. - nhiều đến mức các chuyên gia không thể đồng ý về những gì thực sự cấu thành "nguồn mở". Các công ty sử dụng sự mơ hồ này làm vỏ bọc để tạo các định nghĩa của riêng họ và che giấu thành phần chính - dữ liệu đào tạo, gồm cả dữ liệu "tổng hợp" - khỏi tầm nhìn của công chúng. Ngay cả các công ty, như Meta, đang vô địch các mô hình nguồn mở, đang trở nên ít "mở" hơn theo thời gian: mô hình Llama 2 của họ kém minh bạch hơn nhiều so với Llama 1. Ngay cả Llama 2, một tiêu chuẩn công nghiệp về tính minh bạch, chỉ xếp hạng 54 trên 100 trong điểm minh bạch của Trung tâm Nghiên cứu Mô hình Nền tảng Stanford. Các công ty, như IBM, đã tình nguyện cung cấp "tờ thông tin" cho các cơ chế theo dõi và minh bạch, nhưng việc tự tiết lộ không được kiểm toán không phải là cơ chế lý tưởng để xây dựng lòng tin.

Một lần nữa, các quy định dự kiến sẽ đóng một vai trò trong việc giảm thiểu rủi ro của các hệ thống hộp đen. Quy định có thể buộc các công ty phải đệ trình kiểm toán bên ngoài các mô hình AI và công bố kết quả, nhưng điều đó sẽ đòi hỏi các tiêu chí, tiêu chuẩn kiểm toán, kiểm toán viên đáng tin cậy và khả năng thực thi quy định thực sự. Viện Tiêu chuẩn và Công nghệ Quốc gia có Khung quản lý rủi ro AI, nhưng không có chứng nhận, tiêu chuẩn hoặc phương pháp kiểm toán, nó vẫn chưa hiệu quả.

Bài học ở đây là trong khi sẽ có tiến bộ về tính minh bạch, vấn đề hộp đen của AI sẽ vẫn còn. Mỗi lĩnh vực ứng dụng sẽ cần phát triển các sáng kiến hướng tới việc xây dựng tính minh bạch, điều này sẽ giúp giảm bớt quá trình áp dụng. Ví dụ, để giúp xây dựng niềm tin giữa các bác sĩ X quang đã lưu ý trước đây, "khả năng diễn giải" của AI - nghĩa là có thể hiểu nguyên nhân của quyết định được đưa ra bởi thuật toán - với các ứng dụng X quang là một lĩnh vực nghiên cứu quan trọng và đang phát triển để hỗ trợ

4 - Mối quan tâm về đạo đức

Hầu hết người dùng đồng ý rằng điều quan trọng là phải đảm bảo rằng các thuật toán vượt ra ngoài toán học và dữ liệu và được kết hợp với các hướng dẫn đảm bảo các nguyên tắc đạo đức - ví dụ: chúng tôn trọng quyền và giá trị của con người, bất kể toán học gợi ý gì. Đã có một số nỗ lực để khiến các nhà phát triển AI kết hợp các tiêu chí đạo đức được chấp nhận rộng rãi: ví dụ, các nguyên tắc AI Asilomar bao gồm "giá trị con người", "tự do và quyền riêng tư", "lợi ích chung" trong số các lý tưởng khác trong việc phát triển và sử dụng các mô hình AI. Nhưng có ba trở ngại cho những nỗ lực như vậy.

Trước tiên, lý tưởng đạo đức không phải là phổ quát. Hai quốc gia AI chiếm ưu thế, Hoa Kỳ và Trung Quốc, giải thích "tự do và quyền riêng tư" khác nhau: tự do ngôn luận là tối quan trọng ở Mỹ, trong khi ở Trung Quốc, ngôn luận không được kiểm duyệt xung đột với "lợi ích chung". Ngay cả ở Hoa Kỳ, với các

Episode 3134 - October 26 - Phần 2 của 3 - Vấn đề Niềm tin đối với AI - Vina Technology at AI time

Vina Technology at AI time - Công nghệ Việt Nam thời AI

Episode 3134 - October 26 - Phần 2 của 3 - Vấn đề Niềm tin đối với AI - Vina Technology at AI time