Cảnh báo rủi ro khi “đu trend” AI tạo sticker từ ảnh trẻ em

Công an tỉnh Ninh Bình vừa phát đi cảnh báo về trào lưu sử dụng AI biến ảnh trẻ em thành sticker đang lan rộng trên mạng xã hội, tiềm ẩn nhiều rủi ro khó lường.

Thông tin từ Cổng thông tin điện tử Công an tỉnh Ninh Bình, thời gian gần đây, mạng xã hội rộ lên trào lưu sử dụng trí tuệ nhân tạo (AI) để biến hình ảnh thật thành các nhãn dán (sticker) ngộ nghĩnh. Nhiều phụ huynh đã nhanh chóng "bắt trend", sử dụng hình ảnh của con em mình để tạo ảnh. Tuy nhiên, đằng sau những bức hình đáng yêu này là những nguy cơ tiềm ẩn về bảo mật thông tin và an toàn cho trẻ nhỏ. 

Theo khuyến cáo mới nhất từ Cơ quan Công an, các bậc phụ huynh cần hết sức tỉnh táo và cẩn trọng khi tải hình ảnh của trẻ em lên các ứng dụng, phần mềm chỉnh sửa ảnh không rõ nguồn gốc bởi điều này có thể gây ra nhiều hệ lụy.

Trước hết, nhiều người dùng lầm tưởng rằng sau khi tạo xong sticker và lưu về máy, bức ảnh gốc sẽ không còn tồn tại. Tuy nhiên, thực tế là khi bạn tải ảnh lên các ứng dụng AI, dữ liệu hình ảnh đó có thể đã được sao lưu trên hệ thống máy chủ của bên thứ ba.

z7783813218756-15c5273020ba1bba4f5e9ed3fa44e851-1777902394.jpg
Nguồn: Công an tỉnh Ninh Bình

Người dùng hoàn toàn mất quyền kiểm soát đối với việc hình ảnh của con mình đang được lưu trữ ở đâu, do tổ chức nào quản lý và sẽ bị sử dụng vào mục đích gì trong tương lai. Đáng nói, những rủi ro này thường đã được các nhà phát triển cài cắm khéo léo trong mục "Điều khoản sử dụng" - thứ mà hầu hết người dùng đều vội vã bấm "Đồng ý" mà không hề đọc kỹ.

Nguy hiểm hơn, rủi ro lớn nhất của việc rò rỉ dữ liệu hình ảnh không nằm ở hiện tại mà ở tương lai. Những bức hình ngộ nghĩnh của trẻ hoàn toàn có thể trở thành công cụ trục lợi của tội phạm mạng.

Với công nghệ (Deepfake), từ những bức ảnh rõ mặt, kẻ xấu có thể thu thập và sử dụng công nghệ AI để chỉnh sửa, cắt ghép khuôn mặt của trẻ vào những hình ảnh, video giả mạo mang nội dung xấu độc, nhạy cảm. Thực tế thời gian qua đã ghi nhận không ít vụ việc trẻ em trở thành nạn nhân bị bôi nhọ, tống tiền từ công nghệ này.

Bên cạnh đó, vấn nạn "Bắt cóc trực tuyến" (Digital Kidnapping) cũng đang ngày càng phổ biến. Kẻ gian có thể đánh cắp hình ảnh của trẻ em, đăng tải lại trên các tài khoản mạo danh, nhận là con mình để xây dựng một "gia đình ảo". Thậm chí, những hình ảnh này có thể bị lợi dụng để dựng lên các câu chuyện thương tâm nhằm lừa đảo, kêu gọi quyên góp từ thiện, hoặc làm mồi nhử để tiếp cận những trẻ em khác với mục đích xấu.

Một vấn đề khác không thể bỏ qua là quyền riêng tư của trẻ em. Trong khi người trưởng thành có quyền tự quyết định chia sẻ hình ảnh cá nhân và chịu trách nhiệm với những rủi ro đi kèm, thì trẻ em lại không có khả năng đó. Các em chưa đủ nhận thức để hiểu về "dấu chân kỹ thuật số" cũng như cách tự bảo vệ mình trên không gian mạng. Việc người lớn vô tư chia sẻ hình ảnh đã vô tình tước đi quyền riêng tư và đặt các em vào vòng nguy hiểm.

Trước thực trạng nêu trên, Cơ quan Công an khuyến cáo các bậc phụ huynh và người chăm sóc trẻ nên hạn chế đăng tải, chia sẻ hình ảnh, thông tin cá nhân của con em mình lên các ứng dụng, nền tảng không đáng tin cậy; thiết lập chặt chẽ các quyền riêng tư trên tài khoản mạng xã hội, chỉ chia sẻ hình ảnh của gia đình với những người thực sự quen biết và tin tưởng.

Đồng thời, luôn giữ thái độ cẩn trọng trước mọi "trend" mới trên Internet, đặc biệt là những ứng dụng yêu cầu cung cấp hình ảnh rõ mặt, dữ liệu sinh trắc học hoặc thông tin cá nhân của trẻ.

Quỳnh Anh (t/h)