AI không chính thức - Phần 2 của 2

4 - Các ứng dụng AI không được phê duyệt đang ảnh hưởng đến bảo mật và bạn có thể làm gì với nó

Venture Beat. Ngày 17 tháng 2, 2025. Lê Quang Văn dịch và thực hiện phần kỹ thuật số.

Các nhà lãnh đạo bảo mật và CISO đang phát hiện ra rằng một đám ứng dụng AI ngầm ngày càng tăng đã xâm phạm mạng của họ, trong một số trường hợp trong hơn một năm.

Họ không phải là người buôn bán của những kẻ tấn công điển hình. Chúng là công việc của những nhân viên đáng tin cậy tạo ra các ứng dụng AI mà không có sự giám sát hoặc phê duyệt của bộ phận công nghệ thông tin và bảo mật, các ứng dụng được thiết kế để thực hiện mọi thứ, từ tự động hóa các báo cáo được tạo thủ công trong quá khứ đến sử dụng AI tạo sinh để hợp lý hóa tự động hóa tiếp thị, trực quan hóa và phân tích dữ liệu nâng cao. Được hỗ trợ bởi dữ liệu độc quyền của công ty, các ứng dụng AI bóng tối đang đào tạo các mô hình miền công cộng với dữ liệu riêng tư.

AI không công khai là gì và tại sao nó lại phát triển?

Nhiều loại ứng dụng và công cụ AI được tạo ra theo cách này hiếm khi có rào chắn. AI không công khai gây ra những rủi ro đáng kể, bao gồm vi phạm dữ liệu vô tình, vi phạm tuân thủ và thiệt hại danh tiếng.

Đó là steroid kỹ thuật số cho phép những người sử dụng nó hoàn thành công việc chi tiết hơn trong thời gian ngắn hơn, thường vượt qua thời hạn. Toàn bộ bộ phận đều có các ứng dụng AI bóng tối mà họ sử dụng để tăng năng suất trong ít giờ hơn.. Các bộ phận nhảy vào các giải pháp AI không được phê duyệt vì lợi ích trước mắt quá hấp dẫn để bỏ qua.

"Chúng tôi thấy 50 ứng dụng AI mới mỗi ngày và chúng tôi đã lập danh mục hơn 12.000", Itamar Golan, Giám đốc điều hành và đồng sáng lập của Prompt Security, cho biết. "Khoảng 40% trong số này mặc định đào tạo trên bất kỳ dữ liệu nào bạn cung cấp cho họ, có nghĩa là tài sản trí tuệ của bạn có thể trở thành một phần của mô hình của họ."

Phần lớn nhân viên tạo ứng dụng AI ngầm không hành động ác ý hoặc cố gắng gây hại cho công ty. Họ đang vật lộn với số lượng công việc ngày càng phức tạp, thiếu thời gian kinh niên và thời hạn chặt chẽ hơn.

Một cơn sóng thần ảo không ai thấy sắp xảy ra

"Bạn không thể ngăn chặn sóng thần, nhưng bạn có thể đóng một chiếc thuyền. Giả vờ AI không tồn tại không bảo vệ bạn - nó khiến bạn bị mù quáng." Ví dụ, Golan nói, một người đứng đầu bảo mật của một công ty tài chính ở New York tin rằng ít hơn 10 công cụ AI đang được sử dụng. Một cuộc kiểm tra kéo dài 10 ngày đã phát hiện ra 65 giải pháp trái phép, hầu hết không có giấy phép chính thức.

Dữ liệu xác nhận rằng một khi nhân viên đã phê duyệt các lộ trình AI và chính sách rõ ràng, họ không còn cảm thấy bắt buộc phải sử dụng các công cụ ngẫu nhiên trong tình trạng lén lút. Điều đó làm giảm cả rủi ro và ma sát.

Hỗ trợ thêm cho tuyên bố của họ là kết quả của một cuộc khảo sát gần đây của Software AG cho thấy 75% người lao động tri thức đã sử dụng các công cụ AI và 46% nói rằng họ sẽ không từ bỏ chúng ngay cả khi bị người sử dụng lao động của họ cấm. Phần lớn các ứng dụng AI ngầm dựa vào ChatGPT và Google Gemini của OpenAI.

Kể từ năm 2023, ChatGPT đã cho phép người dùng tạo bot tùy chỉnh trong vài phút. VentureBeat được biết rằng một nhà quản lý điển hình chịu trách nhiệm dự báo bán hàng, thị trường và giá cả có trung bình 22 bot tùy chỉnh khác nhau trong ChatGPT ngày nay.

Có thể hiểu được việc AI bóng tối đang phát triển mạnh như thế nào khi 73,8% tài khoản ChatGPT là tài khoản phi công ty thiếu các biện pháp kiểm soát bảo mật và quyền riêng tư của các triển khai an toàn hơn. Tỷ lệ này thậm chí còn cao hơn đối với Song Tử (94,4%). Trong một cuộc khảo sát của Salesforce, hơn một nửa (55%) nhân viên toàn cầu được khảo sát thừa nhận sử dụng các công cụ AI không được phê duyệt tại nơi làm việc.

"Đó không phải là một bước nhảy vọt mà bạn có thể vá lỗi," Golan giải thích. "Đó là một làn sóng ngày càng phát triển của các tính năng được tung ra ngoài sự giám sát của công nghệ thông tin." Hàng nghìn tính năng AI được nhúng trên các sản phẩm SaaS chính thống

Episode 4157 - Feb 18 - Phần 2 của 2 - AI không chính thức - Vina Technology at AI time - Feb 17T2

Vina Technology at AI time - Công nghệ Việt Nam thời AI

Episode 4157 - Feb 18 - Phần 2 của 2 - AI không chính thức - Vina Technology at AI time - Feb 17T2