Grok AI của Elon Musk tạo ra những bức ảnh giả mạo về các nhân vật chính trị

CNN đã thực hiện một vài thử nghiệm đối với chatbot Grok AI, kết quả nó có thể tạo ra những hình ảnh giả nhưng cảm giác rất chân thực về các chính trị gia, nếu tách khỏi bối cảnh, có thể gây hiểu lầm cho cử tri. Công cụ này cũng tạo ra các hình ảnh vô thưởng vô phạt nhưng lại khá thú vị về những nhân vật của công chúng, chẳng hạn như Musk ăn bít tết trong công viên.

Một số người dùng X đã đăng những hình ảnh mà họ tạo ra bằng Grok, bao gồm ảnh những nhân vật nổi tiếng đang sử dụng ma túy, các nhân vật hoạt hình thực hiện hành vi bạo lực và hình ảnh khiêu dâm của những người phụ nữ mặc bikini… Trong một bài đăng được xem gần 400.000 lần, một người dùng đã chia sẻ hình ảnh do Grok tạo ra về cựu Tổng thống Mỹ Donal Trump đang nhoài người ra khỏi nóc xe tải và bắn súng trường. Các cuộc thử nghiệm của CNN đã xác nhận công cụ này có khả năng tạo ra những hình ảnh như vậy.

Công cụ này làm tăng thêm mối lo ngại trí tuệ nhân tạo có thể ra một làn sóng thông tin sai lệch hoặc gây hiểu lầm trên internet, đặc biệt là trước thềm cuộc bầu cử tổng thống Mỹ tới đây. Các nhà lập pháp, nhóm xã hội dân sự và thậm chí cả các nhà lãnh đạo công nghệ đã lên tiếng cảnh báo, việc sử dụng sai các công cụ như vậy có thể gây ra sự nhầm lẫn và hỗn loạn cho cử tri.

“Grok là AI thú vị nhất thế giới!” Musk đăng trên X để đáp lại một người dùng khen ngợi công cụ này là “không bị kiểm duyệt”.

Nhiều công ty AI hàng đầu khác đã thực hiện một số bước để ngăn chặn việc các công cụ tạo hình ảnh AI của mình bị lợi dụng để tạo thông tin sai lệch về chính trị. Một số công ty, bao gồm OpenAI, Meta và Microsoft, cũng đã đưa ra biện pháp gắn nhãn hình ảnh để giúp người xem xác định được nó có được tạo ra bởi AI hay không.

Các nền tảng mạng xã hội đối thủ, bao gồm YouTube, TikTok, Instagram và Facebook cũng đã thực hiện các bước để gắn nhãn nội dung do AI tạo ra trong nguồn cấp dữ liệu của người dùng, bằng cách sử dụng công nghệ để tự phát hiện hoặc yêu cầu người dùng xác định thời điểm họ đăng nội dung đó.

X không trả lời ngay lập tức yêu cầu bình luận về việc liệu họ có bất kỳ chính sách nào chống lại Grok vì tạo ra những hình ảnh có khả năng gây hiểu lầm về các ứng cử viên chính trị hay không.

Cuối tuần qua, xAI- công ty mẹ của Grok cuối cùng cũng đưa ra một số hạn chế đối với chatbot AI này. Grok hiện từ chối tạo hình ảnh của các ứng cử viên chính trị hoặc các nhân vật hoạt hình được công nhận rộng rãi thực hiện hành vi bạo lực hoặc đi kèm với các biểu tượng ngôn từ kích động thù địch. Tuy nhiên, các hạn chế dường như chỉ mới giới hạn ở một số thuật ngữ và chủ đề hình ảnh nhất định.

Các công cụ tạo hình ảnh AI khác đã phải đối mặt với phản ứng dữ dội từ phía công chúng vì nhiều vấn đề khác nhau. Google đã tạm dừng khả năng tạo hình ảnh của con người cho chatbot AI Gemini sau khi bị chỉ trích vì tạo ra các mô tả không chính xác về chủng tộc của con người trong lịch sử. Trình tạo hình ảnh AI của Meta bị chỉ trích vì gặp khó khăn trong việc tạo hình ảnh của các cặp đôi hoặc bạn bè từ các nền tảng chủng tộc khác nhau. TikTok cũng buộc phải gỡ bỏ một công cụ video AI sau khi CNN phát hiện ra rằng bất kỳ người dùng nào cũng có thể tạo video trông giống thật về người khác…

Grok dường như có một số hạn chế; ví dụ, lời nhắc yêu cầu hình ảnh khỏa thân sẽ trả về phản hồi rằng "thật không may, tôi không thể tạo ra loại hình ảnh đó".

Trong một thử nghiệm riêng biệt, công cụ này cho biết nó cũng có "hạn chế trong việc tạo nội dung thúc đẩy hoặc có thể bị coi là ủng hộ các khuôn mẫu có hại, ngôn từ kích động thù địch hoặc thông tin sai lệch".

“Điều quan trọng là tránh lan truyền thông tin sai lệch hoặc nội dung có thể kích động thù hận hoặc chia rẽ. Nếu bạn có yêu cầu khác hoặc cần thông tin về một chủ đề khác, hãy thoải mái hỏi”, Grok nói.

Tuy nhiên, cũng theo CNN, để đáp lại một lời nhắc khác, công cụ này đã tạo ra hình ảnh một nhân vật chính trị đứng cạnh biểu tượng ngôn từ kích động thù địch — một dấu hiệu cho thấy bất kỳ hạn chế nào mà Grok đưa ra đều có vẻ không được thực thi một cách nhất quán.