Thông tin được Reuters trích dẫn cho biết, OpenAI đã sử dụng các công cụ trí tuệ nhân tạo (AI) để phát hiện những hoạt động gian lận, độc hại từ phía người dùng. Những tài khoản bị xóa được cho là đã lợi dụng công nghệ của công ty (cụ thể là ChatGPT) để thực hiện những hoạt động ảnh hưởng tới nước Mỹ cũng như người Mỹ.
Công ty không thông tin về số lượng tài khoản bị cấm cũng như hành động cấm đã diễn ra trong bao lâu. Họ đã đưa ra một số ví dụ để cho thấy vì sao các tài khoản bị cấm. Trường hợp đầu tiên, một người dùng đã yêu cầu ChatGPT tạo ra các bài báo tiếng Tây Ban Nha, có nội dung hạ thấp Mỹ, sau đó được các hãng thông tấn chính thống ở Mỹ Latinh đăng tải dưới tên một công ty Trung Quốc.
Trường hợp thứ hai được đề cập là người dùng (có khả năng đến từ Triều Tiên – theo thông cáo của công ty), đã sử dụng AI để tạo sơ yếu lý lịch và hồ sơ trực tuyến cho những người nộp đơn xin việc giả mạo, với mục đích gian lận để xin việc tại các công ty phương tây.
Các nhà nghiên cứu của OpenAI cũng đã xác định được một chiến dịch mà những kẻ đứng sau được cho là có trụ sở tại Campuchia, sử dụng công nghệ ChatGPT để tạo và dịch các bình luận trên mạng xã hội giúp thúc đẩy một vụ lừa đảo được gọi là " mổ lợn". Các bình luận do AI tạo ra được sử dụng để dụ dỗ đàn ông trên internet và lôi kéo họ vào một kế hoạch đầu tư không có thật.
Liên quan tới các hoạt động độc hại lợi dụng ChatGPT, tờ NYT mới đây cũng đưa tin, trích dẫn việc ngày càng có nhiều lo ngại rằng AI có thể được sử dụng để giám sát, tấn công máy tính, thực hiện các chiến dịch phát tán thông tin sai lệch và các mục đích xấu khác. Ben Nimmo, nhà nghiên cứu chính của OpenAI, cho biết đây là lần đầu tiên công ty phát hiện ra các công cụ gian lận lợi dụng ChatGPT để thực hiện các mục đích như kể trên.
Ông Nimmo cho biết, các công cụ trí tuệ nhân tạo có thể bị lợi dụng cho các mục đích độc hại, tuy nhiên AI cũng có thể giúp xác định và ngăn chặn chúng: “Những kẻ tấn công đôi khi cho chúng ta biết chúng đang làm gì ở những nơi khác trên Internet thông qua cách chúng sử dụng mô hình AI của chúng tôi”.
ChatGPT của OpenAI hiện là chatbot AI phổ biến nhất và số lượng người dùng hoạt động hàng tuần của công ty đã vượt quá 400 triệu. Công ty trí tuệ nhân tạo này đang đàm phán để huy động tới 40 tỷ USD với mức định giá 300 tỷ USD, đây có thể là vòng gọi vốn kỷ lục đối với một công ty tư nhân.