Các nhà nghiên cứu gióng lên hồi chuông cảnh báo về AI lưỡng dụng để phòng thủ

Defense One. Ngày 22 tháng 10 năm 2024. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Ngày càng có nhiều công ty AI ở Thung lũng Silicon muốn làm ăn với quân đội, khiến thời gian và nỗ lực họ bỏ ra để đào tạo các mạng thần kinh lớn trên lượng dữ liệu khổng lồ có thể cung cấp cho quân đội những khả năng mới. Nhưng một nghiên cứu ngày hôm nay từ một nhóm các học giả AI nổi tiếng lập luận rằng các công cụ AI sử dụng kép sẽ làm tăng tỷ lệ thường dân vô tội trở thành mục tiêu do dữ liệu xấu và các công cụ này có thể dễ dàng bị kẻ thù thao túng hoặc khai thác các công cụ AI để có lợi cho riêng họ, thường theo cách không được các nhà thiết kế công cụ dự định.

Trong bài báo, được xuất bản bởi Viện AI Now, các tác giả Heidy Khlaaf, Sarah Myers West và Meredith Whittaker chỉ ra sự quan tâm ngày càng tăng đối với các mô hình AI thương mại - đôi khi được gọi là mô hình nền tảng - cho mục đích quân sự, đặc biệt là cho tình báo, giám sát, thu thập mục tiêu và trinh sát. Họ lập luận rằng trong khi những lo ngại xung quanh tiềm năng của AI đối với vũ khí hóa học, sinh học, phóng xạ và hạt nhân chiếm ưu thế trong cuộc trò chuyện, các mô hình nền tảng thương mại lớn đã gây ra những rủi ro bị đánh giá thấp cho dân thường.

Một số công ty giới thiệu AI dựa trên mô hình nền tảng cho quân đội đang "đề xuất các mô hình thương mại đã được đào tạo trước trên một bộ dữ liệu thương mại. Họ không nói về các mô hình thương mại độc quyền quân sự hoàn toàn được đào tạo dựa trên dữ liệu quân sự", Khlaaf nói với Defense One.

Vấn đề nằm ở cách các mô hình nền tảng này được đào tạo: trên một lượng lớn dữ liệu có sẵn công khai, thường bao gồm dữ liệu cá nhân đã được đưa lên web thông qua các nhà môi giới dữ liệu hoặc các trang web và dịch vụ thông thường. "Dữ liệu là vấn đề cơ bản ở đây. Nó gây ra một số lượng lớn các mối quan tâm và lỗ hổng, và nó không được tính đến khi chúng ta nói về những thứ như truy xuất nguồn gốc rộng rãi, "Whittaker, người hiện đang là chủ tịch của Signal Foundation cho biết.

Những mạng lưới thần kinh này không sử dụng lý luận như con người. Các nghiên cứu khác đã chỉ ra rằng về cơ bản họ đang thực hiện kết hợp mẫu trên quy mô lớn, tìm kiếm sự kết hợp của các từ để tạo ra các phép ngoại suy hợp lý về mặt thống kê về những từ nào có thể xuất hiện tiếp theo hoặc lấy các điểm dữ liệu trên hàng triệu cá nhân và vẽ các kết nối tương quan giữa chúng (trái ngược với các kết nối nguyên nhân.) Các mô hình nền tảng hoạt động tốt trong các tình huống mà chi phí dương tính giả thấp, chẳng hạn như cố gắng đưa ra những điểm thú vị cho một bài báo nghiên cứu hoặc danh sách những người để tiếp thị sản phẩm.

Áp dụng cho bối cảnh quân sự - đặc biệt là nhiệm vụ giám sát dân số cho các mục tiêu tiềm năng - cái giá của một kết quả dương tính giả có thể là một sinh mạng vô tội.

Một số quân đội, chẳng hạn như Israel, thông qua các chương trình Where's Daddy và Lavender, đã sử dụng các mô hình nền tảng ngoại suy để tập hợp các danh sách mục tiêu. Điều đó góp phần bình thường hóa các công cụ này để nhắm mục tiêu trong chiến tranh, các tác giả cho biết.

Một báo cáo từ ấn phẩm +972 có trụ sở tại Israel cho thấy tỷ lệ lỗi cho riêng Lavender là gần 10%.

Nói về việc Israel sử dụng AI trong các hoạt động ở Gaza (và hơn thế nữa), Khlaaf nói: "Chúng tôi đang thấy... dữ liệu được lấy từ WhatsApp, siêu dữ liệu, phải không? Tất nhiên, chúng tôi đang thấy dữ liệu được lấy từ Google Photos và các nguồn khác mà chúng tôi không biết và chưa thực sự được bảo vệ. Vì vậy, dữ liệu không chính xác và [các mô hình] cố gắng tìm các mẫu có thể không tồn tại, như ở trong một nhóm WhatsApp với... Thành viên Hamas không đủ điều kiện cho bạn nhận án tử hình. Nhưng trong trường hợp này, đó là những gì chúng tôi đang quan sát".

Whittaker nói, những công cụ này của Israel hoạt động dựa trên "giám sát một dân số nhất định, phải không? Một trong những lý do Ukraine không thể triển khai các hệ thống

Episode 3119 - October 24 - Các nhà nghiên cứu gióng lên hồi chuông cảnh báo - Vina Technology at AI time

Vina Technology at AI time - Công nghệ Việt Nam thời AI

Episode 3119 - October 24 - Các nhà nghiên cứu gióng lên hồi chuông cảnh báo - Vina Technology at AI time