Cụ thể, đoạn quảng cáo với nội dung “AI cho mọi doanh nghiệp”, giới thiệu khả năng của Gemini bằng cách mô tả công cụ này giúp một người bán phô mai ở Wisconsin viết mô tả sản phẩm của mình.
"Gouda là một loại phô mai của Hà Lan được đặt theo tên thành phố Gouda ở nước này. Đây là một trong những loại phô mai phổ biến nhất trên thế giới, chiếm 50 đến 60% lượng phô mai tiêu thụ trên thế giới. Gouda hun khói là một biến thể của loại phô mai nổi tiếng này, được hun khói trong lò gạch trên than hồng. Loại sữa đông ngọt này tương tự như Edam ngoại trừ việc nó chứa nhiều chất béo từ sữa hơn, tạo cho nó kết cấu kem hơn và trở nên béo hơn theo thời gian. Thật tuyệt vời khi dùng với bia, loại phô mai sữa bò này có lớp vỏ màu nâu khói ăn được và phần bên trong màu vàng kem", phần nội dung được cho là do Gemini AI viết ra nêu rõ.
Phần quảng cáo gây tranh cãi của Google Gemini AI cho sản phẩm phô mai của Hà Lan với những nội dung không chính xác.
Phát hiện của những người am hiểu lĩnh vực sau đó cho thấy số liệu do Gemini đưa ra là “ảo giác AI” và “hoàn toàn sai”, vì dữ liệu đáng tin cậy hơn cho thấy phô mai Hà Lan có thể ít phổ biến hơn.
Không chỉ vậy, nội dung mà Gemini trả lời cũng được cho là có vấn đề. Nhiều người chỉ ra rằng, phần mô tả về sản phẩm và lịch sử thương hiệu thực chất đã được viết từ cách đây nhiều năm, trước cả khi Google Gemini ra mắt công chúng. Phần duy nhất mà Gemini tự đóng góp (cho biết phô mai gouda chiếm 50-60% lượng tiêu thụ toàn cầu) lại là một thông tin không đúng với sự thật.
Về vấn đề này, Giám đốc điều hành của Google là Jerry Dischker cho biết, đây không phải là “ảo giác” (thuật ngữ chỉ các thông tin do AI tạo ra không đúng sự thật). Nguyên nhân bắt nguồn từ việc các trang web mà Gemini đã thu thập dữ liệu có chứa thông tin sai lệch.
Ông viết: “Gemini được xây dựng dựa trên web – và người dùng luôn có thể kiểm tra kết quả và tài liệu tham khảo. Trong trường hợp này, nhiều trang web đang chứa số liệu thống kê 50-60%” và Gemini đã tin vào điều đó.
Trong một tuyên bố, Google cho biết, họ đã làm lại quảng cáo để xóa lỗi sau khi nói chuyện với người bán phô mai xuất hiện trong clip và hỏi người này sẽ làm gì nếu gặp phải lỗi này. “Sau khi nghe đề xuất của ông ấy về việc yêu cầu Gemini viết lại mô tả sản phẩm mà không có số liệu thống kê, chúng tôi đã cập nhật giao diện người dùng để phản ánh những gì doanh nghiệp sẽ làm”, thông báo mới của Google về vụ việc cho biết.
Các công cụ AI của Google trước đây đã bị chỉ trích vì chứa lỗi hoặc lời khuyên không hữu ích. Vào tháng 5 năm ngoái, tính năng tìm kiếm tổng quan về AI của công ty đã bị chỉ trích sau khi nó gợi ý cho người dùng sử dụng “keo không độc hại” khi họ muốn tìm kiếm phương pháp để “làm phô mai dính vào pizza tốt hơn”. Trong một dẫn chứng khác về “ảo giác AI” của Gemini được đưa ra, chatbot trí tuệ nhân tạo của Google lại hướng dẫn con người nên ăn một viên đá mỗi ngày.
Google Gemini AI nhiều lần bị chỉ trích vì "ảo giác" trước đó.
Năm ngoái, Gemini đã bị "tạm dừng" sau khi Google thừa nhận rằng công cụ này "chắc chắn đã gặp trục trặc" sau khi một loạt bài đăng trên mạng xã hội tiết lộ cách công cụ tạo hình ảnh của Gemini mô tả nhiều nhân vật lịch sử - bao gồm giáo hoàng, những người sáng lập nước Mỹ và những người lính Đức trong Thế chiến thứ hai lại là là người da màu.
Cũng trong năm ngoái, Google đã phải đối diện với những phản đối khi đoạn clip quảng cáo Olympic của họ được phát sóng với nội dung để một bé gái sử dụng AI để viết thư hâm mộ. Đoạn quảng cáo dài 60 giây, bị chỉ trích mạnh mẽ với hững lo ngại có thể dẫn đến một “tương lai đơn văn hóa, nơi những suy nghĩ nguyên bản của con người ngày càng trở nên hiếm hoi” cũng như những lo ngại về tác động của quảng cáo đối với việc nuôi dạy con cái và giáo dục.
