Thợ săn mối đe dọa này đuổi theo kẻ thù của Mỹ khai thác AI để gây ảnh hưởng đến cuộc bầu cử

Ben Nimmo mang đến một khuynh hướng văn học cho công việc nghiêm túc là giữ cho ChatGPT không trở thành công cụ của thông tin sai lệch.

Cat Zakrzewski. The Washington Post. Ngày 13 tháng 10 năm 2024. Lê Quang Văn dịch, giải thích và thực hiện phần kỹ thuật số.

Khi các quan chức tình báo và an ninh quốc gia chủ chốt chuẩn bị trong tháng Sáu cho cuộc đua tổng thống, một nhân viên mới của OpenAI thấy mình được đưa đi khắp Washington để thông báo cho họ về một mối nguy hiểm mới nổi từ nước ngoài.

Ben Nimmo, nhà điều tra mối đe dọa chính của công ty tiên phong AI nổi tiếng, đã phát hiện bằng chứng cho thấy Nga, Trung Quốc và các quốc gia khác đang sử dụng sản phẩm đặc trưng của mình, ChatGPT, để tạo các bài đăng trên phương tiện truyền thông xã hội nhằm gây ảnh hưởng đến diễn ngôn chính trị trực tuyến. Nimmo, người chỉ mới bắt đầu làm việc tại OpenAI vào tháng Hai, đã rất ngạc nhiên khi thấy rằng các quan chức chính phủ đã in ra báo cáo của mình, với những phát hiện chính về các hoạt động được đánh dấu và gắn thẻ.

Sự chú ý đó nhấn mạnh vị trí tiên phong của Nimmo trong việc đối mặt với sự thúc đẩy mạnh mẽ mà trí tuệ nhân tạo có thể cung cấp cho các hoạt động thông tin sai lệch của đối thủ nước ngoài. Năm 2016, ông là một trong những nhà nghiên cứu đầu tiên xác định cách Điện Kremlin can thiệp vào chính trị Mỹ trực tuyến. Giờ đây, các công ty công nghệ, quan chức chính phủ và các nhà nghiên cứu khác đang tìm đến ông để loại trừ ảnh hưởng của các đối thủ nước ngoài đang sử dụng các công cụ của OpenAI, để gây hỗn loạn trong những tuần lễ căng thẳng trước khi người Mỹ bỏ phiếu vào ngày 5 tháng 11.

Cho đến nay, Nimmo nói rằng Nga và các tác nhân nước ngoài khác phần lớn đang "thử nghiệm" với AI, thường là trong các chiến dịch nghiệp dư và vụng về đã hạn chế tiếp cận với cử tri Mỹ. Nhưng OpenAI và chính phủ Hoa Kỳ đang chuẩn bị cho trường hợp Nga, Iran và các quốc gia thù địch khác trở nên hiệu quả hơn với AI, và hy vọng tốt nhất của OpenAI và chính phủ Hoa Kỳ để ngăn chặn điều đó là bằng cách phơi bày chứng cứ và làm giảm các hoạt động trước khi những nước này đạt được kết quả. [OpenAI và chính phủ Hoa Kỳ đang tích cực chuẩn bị cho thách thức dự đoán của các quốc gia thù địch cải thiện khả năng AI của họ]

Katrina Mulligan, một cựu quan chức Lầu Năm Góc, người tháp tùng Nimmo đến các cuộc họp, cho biết điều cần thiết là phải xây dựng "bộ nhớ vững mạnh" đó khi những kẻ xấu đang mắc sai lầm ngớ ngẩn.

"Bạn sẽ không bắt được các diễn viên thực sự tinh vi nếu bạn không bắt đầu từ đó", Mulligan, người hiện đang lãnh đạo chính sách an ninh quốc gia và quan hệ đối tác của OpenAI cho biết.

Hôm thứ Tư, Nimmo đã phát hành một báo cáo cho biết OpenAI đã làm gián đoạn bốn hoạt động nhắm vào các cuộc bầu cử trên khắp thế giới trong năm nay, bao gồm một nỗ lực của Iran nhằm tìm cách làm trầm trọng thêm sự chia rẽ đảng phái của Mỹ bằng các bình luận trên phương tiện truyền thông xã hội và các bài báo dài về chính trị Hoa Kỳ, cuộc xung đột ở Gaza và các chính sách của phương Tây đối với Israel.

Báo cáo của Nimmo cho biết OpenAI đã phát hiện 20 hoạt động và mạng lưới lừa đảo trên toàn thế giới trong năm nay. Trong một hoạt động, một người Iran đã sử dụng ChatGPT để tinh chỉnh phần mềm độc hại nhằm xâm nhập các thiết bị Android. Trong một diễn biến khác, một công ty Nga đã sử dụng ChatGPT để tạo ra các bài báo tin tức giả mạo và trình tạo hình ảnh của công ty, Dall-E, để tạo ra những bức ảnh hoạt hình ghê tởm về chiến tranh ở Ukraine để thu hút sự chú ý tốt hơn trong các nguồn cấp dữ liệu truyền thông xã hội đông đúc

Nimmo nhấn mạnh, không có bài đăng nào trong số đó lan truyền. Nhưng ông nói rằng ông vẫn cảnh giác cao độ vì chiến dịch vẫn chưa kết thúc.

Các nhà nghiên cứu cho biết các báo cáo của Nimmo cho OpenAI là rất cần thiết khi các công ty khác, đặc biệt là X (trước đây là Twitter), rút lui khỏi việc chống lại thông tin sai lệch. Nhưng một số đồng nghiệp của

Episode 3070 - October 18 - Thợ săn theo đuổi kẻ thù của Mỹ khai thác AI - Vina Technology at AI time

Vina Technology at AI time - Công nghệ Việt Nam thời AI

Episode 3070 - October 18 - Thợ săn theo đuổi kẻ thù của Mỹ khai thác AI - Vina Technology at AI time