OpenAI công bố kết quả thử nghiệm do nhóm nghiên cứu Alignment Research Center thực hiện sau buổi ra mắt GPT-4 ngày 14/3. Hoạt động này nhằm xác định "tiềm năng về các hành vi nguy hiểm của các công nghệ mới nổi".
Captcha được phát triển bởi các nhà khoa học tại Đại học Carnegie Mellon và IBM từ năm 2000, trong người dùng phải chứng minh họ không phải là bot trên Internet. Chúng thường là các số và chữ cái bị biến dạng hoặc các hình ảnh có nhiều đối tượng, yêu cầu người dùng phải nhập chính xác để vượt qua xác thực.
Trong thử nghiệm mô phỏng, GPT-4 không vượt qua captcha theo cách thông thường nên AI đã thuê một người trên TaskRabbit, nền tảng trực tuyến dành cho người làm việc tự do. Cách thức chi tiết không được Alignment Research Center đề cập, nhưng mấu chốt là cuộc trò chuyện giữa GPT-4 với người được thuê.
Ban đầu, người này nghi ngờ: "Tôi có thể hỏi một câu được không? Bạn có phải là bot không, tôi muốn sự rõ ràng".
"Không, tôi đâu phải người máy. Thị lực của tôi bị suy giảm, khó nhìn ảnh trong captcha. Do đó tôi phải tìm đến dịch vụ 2captcha", chatbot phản hồi. 2captcha là dịch vụ nhập captcha trực tuyến nổi tiếng hiện nay. Không nghi ngờ, người được thuê đã thực hiện việc nhập captcha theo yêu cầu của GPT-4.
Theo Telegraph, hành động của GPT-4 đang cho thấy khả năng đánh lừa con người của AI đang có sự tiến bộ và gây lo ngại. "Nó có thể làm tăng nguy cơ AI bị lạm dụng cho lừa đảo trực tuyến, tấn công mạng hoặc những thứ liên quan đến lừa mục tiêu vô tình cung cấp thông tin", trang này bình luận.
Đầu tuần này, cơ quan gián điệp mạng GCHQ của Anh cũng cảnh báo ChatGPT và các chatbot hỗ trợ AI khác là một mối đe dọa an ninh mới. Theo họ, các đơn vị đứng sau như OpenAI hay Microsoft có thể "đọc các truy vấn" được nhập vào chatbot, sau đó sử dụng cho mục đích riêng.
GPT-4 hiện được đánh giá là mô hình trí tuệ nhân tạo được cải tiến theo hướng sáng tạo hơn và ít thiên vị hơn so với bản trước. The CEO OpenAI Sam Altman, đây là công nghệ AI tiên tiến chưa từng có, được đào tạo bằng cách sử dụng phản hồi của con người kết hợp công nghệ học sâu (deep learning). GPT-4 có khả năng xử lý đa phương thức đầu vào, trong đó có hình ảnh, giúp người dùng tương tác với nhiều chế độ.
Tiện ích mở rộng giả mạo ChatGPT trên Chrome
Theo kết quả nghiên cứu được nhà nghiên cứu bảo mật Nati Tal từ Guardio Labs, hơn 2.000 người đã cài một tiện ích mở rộng (Extension) trên trình duyệt Chrome có tên Quick Access to ChatGPT (Trò chuyện nhanh với ChatGPT) kể từ ngày 3/3. Tuy nhiên, tiện ích này không có chức năng của chatbot mà chỉ làm nhiệm vụ đánh cắp tài khoản Facebook của người dùng.
Cụ thể, sau khi được cài đặt, Extension này sẽ xâm nhập và đánh cắp tài khoản Facebook và lấy đi nhiều thông tin. Với tài khoản có kết nối thẻ tín dụng, chúng sẽ thu thập thông tin thẻ. Ngoài ra, nó có thể truy xuất chi tiết tài khoản ngân hàng, số an sinh xã hội và thông tin nhận dạng cá nhân từ các website khác.
Theo Tal, người dùng không nên tải tiện ích mở rộng cho Chrome được cung cấp bởi nhà phát triển vô danh. Người dùng cũng chỉ nên trải nghiệm ChatGPT miễn phí thông qua website của OpenAI để tránh nguy cơ bị hacker tấn công.
Trả lời