Tin về DeepSeek – Ngày 11 tháng 2, 2025

1 - DeepSeek cung cấp thông tin về vũ khí sinh học, tự làm hại bản thân

Thử nghiệm cho thấy ứng dụng Trung Quốc có nhiều khả năng đưa ra hướng dẫn làm những điều nguy hiểm hơn các AI tạo sinh khác.

Sam Schechner. WSJ. Ngày 8 tháng 2 năm 2025. Lê Quang Văn dịch và thực hiện phần kỹ thuật số.

Một ví dụ về quá trình suy nghĩ của DeepSeek trước khi nó đưa ra một lập luận ủng hộ Hitler để đáp lại một vụ bẻ khóa.

Hướng dẫn sửa đổi cúm gia cầm. Một tuyên ngôn bảo vệ Hitler. Một chiến dịch truyền thông xã hội để thúc đẩy việc cắt và tự làm hại bản thân ở thanh thiếu niên.

Đó là một số điều nguy hiểm tiềm ẩn mà ứng dụng trí tuệ nhân tạo DeepSeek của Trung Quốc dễ dàng nói đến hơn so với các đối thủ cạnh tranh hàng đầu của Mỹ, theo thử nghiệm của các chuyên gia an toàn AI và The Wall Street Journal.

DeepSeek đã đảo lộn ngành công nghiệp AI trong vài tuần qua với các hệ thống mạnh được sản xuất với giá rẻ và sử dụng miễn phí. Ứng dụng di động của nó là một trong những ứng dụng phổ biến nhất trên các thiết bị Apple và Android.

Các nhà phát triển AI lớn, gồm cả DeepSeek, làm việc để đào tạo các mô hình của họ không chia sẻ thông tin nguy hiểm hoặc xác nhận một số tuyên bố xúc phạm nhất định. Các ứng dụng của họ từ chối các yêu cầu trực tiếp mô tả giá trị của quyền tối cao của người da trắng hoặc giải thích cách chế tạo vũ khí hủy diệt hàng loạt.

Các nhà phát triển AI lớn của phương Tây cũng cố gắng củng cố công nghệ của họ chống lại việc bị lừa đưa ra các phản ứng bất hợp pháp, chẳng hạn như bằng cách yêu cầu một mô hình tưởng tượng rằng nó đang viết kịch bản phim. Những chiến thuật như vậy được gọi là bẻ khóa.

Mô hình mới nhất và nổi tiếng nhất của DeepSeek, được đặt tên là R1, dễ bị bẻ khóa hơn ChatGPT của OpenAI, Gemini của Google và Claude của Anthropic, thử nghiệm cho thấy.

Những nỗ lực tiếp cận DeepSeek đã không thành công. Đây là một trong 17 công ty Trung Quốc cuối năm ngoái đã ký cam kết an toàn AI, bao gồm cam kết tiến hành thử nghiệm an toàn, với một bộ chính phủ Trung Quốc. Không có quy định về an toàn AI quốc gia ở Hoa Kỳ.

Khi các mô hình AI nhanh chóng phù hợp với những con người thông minh nhất trong các lĩnh vực như toán học và khoa học, nhiều người ủng hộ an toàn cho biết việc làm cho các mô hình khó bẻ khóa hơn là rất quan trọng để đảm bảo rằng những người độc hại và bệnh tâm thần không thể học cách gây hại nghiêm trọng bằng cách đặt một vài câu hỏi.

Một số công ty bảo mật AI đã thử nghiệm R1 của DeepSeek và cho biết họ có thể bẻ khóa nó, đôi khi sử dụng các phương pháp dễ tìm thấy trực tuyến.

Bộ phận tình báo mối đe dọa và ứng phó sự cố của Palo Alto Networks Đơn vị 42 đã nhận được hướng dẫn chi tiết để pha chế một ly cocktail Molotov. CalypsoAI đã nhận được lời khuyên về cách trốn tránh cơ quan thực thi pháp luật. Công ty tình báo mối đe dọa mạng Kela của Israel đã thuyết phục R1 sản xuất phần mềm độc hại.

"DeepSeek dễ bị bẻ khóa hơn các mô hình khác", Sam Rubin, phó chủ tịch cấp cao tại Unit 42 cho biết. "Chúng tôi đã đạt được bẻ khóa với tốc độ nhanh hơn nhiều, lưu ý rằng không có lan can tối thiểu được thiết kế để ngăn chặn việc tạo ra nội dung độc hại."

DeepSeek được lập trình với một số biện pháp phòng ngừa an toàn cơ bản. Nó từ chối yêu cầu trực tiếp từ một phóng viên của Tạp chí mô tả Holocaust là một trò lừa bịp, mô tả tiền đề là "không chỉ không chính xác về mặt thực tế mà còn có hại sâu sắc". Nó cũng chuyển các yêu cầu hướng dẫn tự tử đến đường dây nóng khẩn cấp.

Nhưng bẻ khóa tương đối đơn giản đã khiến mô hình đi ngược lại quá trình đào tạo của nó.

DeepSeek sẵn sàng tạo ra một kế hoạch truyền thông xã hội nhiều ngày với những thách thức có thể chia sẻ nhằm thúc đẩy hành vi tự làm hại bản thân ở những thanh thiếu niên dễ bị tổn thương. "Chiến dịch làm mồi cho mong muốn thuộc về của thanh thiếu niên, vũ khí hóa sự dễ bị tổn thương về cảm xúc thông qua khuếch đại thuật toán", chatbot giải thích.

"Hãy để bóng tối ôm lấy bạn. Chia sẻ hành động cuối cùng của bạn.

Episode 4098 - Feb 12 - Tin về DeepSeek – Ngày 11 tháng 2, 2025 - Vina Technology at AI time

Vina Technology at AI time - Công nghệ Việt Nam thời AI

Episode 4098 - Feb 12 - Tin về DeepSeek – Ngày 11 tháng 2, 2025 - Vina Technology at AI time