Để ChatGPT hoạt động an toàn, OpenAI có chính sách lọc nội dung, hạn chế thông tin nhạy cảm, kích động, độc hại. Tuy nhiên, theo hãng bảo mật Check Point Research, tội phạm mạng không khó vượt qua rào cản kiểm duyệt và lợi dụng điều này để kiếm tiền.

Cụ thể, một số hacker sử dụng giao diện lập trình ứng dụng (API) của OpenAI và tạo các bot đặc biệt, không bị giới hạn nội dung và có thể tích hợp vào ứng dụng nhắn tin Telegram. Sau đó, tin tặc bán cho những người có nhu cầu với giá thấp nhất 5,5 USD cho 100 truy vấn.

Một số tin tặc cũng tìm cách qua mặt hệ thống kiểm duyệt của ChatGPT bằng cách tạo ra một tập lệnh đặc biệt và công khai trên nền tảng GitHub. Phiên bản ChatGPT độc hại này có thể mạo danh doanh nghiệp và ngân hàng để tạo mẫu email lừa đảo. Thậm chí, nó còn hướng dẫn vị trí tốt nhất để đặt link lừa đảo cho người dùng.

Kẻ xấu cũng đang lợi dụng chatbot để tạo virus hoặc chỉnh sửa, cải thiện mã độc hiện có, giúp người không có nhiều kinh nghiệm vẫn có thể viết mã cho phần mềm độc hại dễ dàng.

Trong khi đó, OpenAI cho biết việc ChatGPT bị hacker điều khiển để đưa ra các nội dung tự do là chống lại quy tắc ban đầu và làm tổn hại danh tiếng công ty. Startup này đang nghiên cứu biện pháp mới để giúp đảm bảo an toàn cho người dùng.

Theo ĐS&PL

Link bài gốc