Chatbot AI của Snapchat có thể gây ra rủi ro đối với trẻ em

Hôm 6/10, Văn phòng Ủy ban Thông tin (ICO) - cơ quan giám sát dữ liệu của Anh đã tiến hành điều tra cách thức tính năng My AI trên Snapchat xử lý dữ liệu cá nhân của khoảng 21 triệu người dùng.

Theo The Guardian, Snapchat có thể đã không đánh giá đầy đủ các rủi ro mà tính năng chatbot sử dụng trí tuệ nhân tạo (AI) của nền tảng này có thể đe dọa quyền riêng tư của trẻ em.

Cho nên, Văn phòng Ủy ban Thông tin của Anh đã mở một cuộc điều tra về cách thức xử lý dữ liệu cá nhân của khoảng 21 triệu người dùng ở Anh, trong đó có cả trẻ em từ 13-17 tuổi của nền tảng này.

Sau quá trình kiểm tra, Cơ quan giám sát dữ liệu của Anh cho rằng, Snap chưa đánh giá đầy đủ những rủi ro đe dọa quyền riêng tư của trẻ em và những người dùng khác trước khi ra mắt tính năng My AI.

My AI có thể bị cấm tại Anh nếu công ty công nghệ Snap không giải quyết mối quan ngại này.

Hồi tháng 4, công ty Snap chủ quản nền tảng nhắn tin với hình ảnh hoặc video Snapchat đã mở quyền truy cập chatbot tùy biến mang tên “My AI” cho tất cả người dùng.

Tính năng này được xây dựng dựa trên AI và nền tảng ngôn ngữ ChatGPT, trước đây chỉ khả dụng cho những tài khoản đăng ký Snapchat+ có trả phí.

Chatbot AI do Snap phát triển có thể đưa ra đề xuất, trả lời các câu hỏi, giúp người dùng lập kế hoạch hay thậm chí có thể sáng tác một bài thơ haiku trong vòng vài giây không hề thua kém ChatGPT của OpenAI.

Phía đại diện Snap cho biết thêm, tất cả các cuộc trò chuyện với My AI sẽ được Snapchat lưu trữ và có thể phân tích để cải thiện tính năng sản phẩm.

Snap cũng lưu ý người dùng không nên chia sẻ thông tin bí mật với My AI.