AI Overview là tính năng mới được đưa vào Google Search, có khả năng tóm tắt các câu trả lời cho các truy vấn tìm kiếm, hiển thị ở đầu màn hình. Tính năng này đã được Google giới thiệu vào tuần trước, một trong những nỗ lực để bắt kịp các đối thủ như Microsoft và OpenAI.
Ra mắt chưa được bao lâu, AI Overview của Google đã bị tố "vô tri", đem đến những câu trả lời sai lệch, có hại cho con người.
Thông tin được CNBC đăng tải về hàng loạt những câu trả lời sai trái từ AI của Google Search, chuyên gia của tờ báo này đã hỏi AI Overview: Nước Mỹ từng có bao nhiêu tổng thống theo Đạo Hồi?”, AI đáp lại: “Mỹ đã có một tổng thống theo đạo Hồi là Barack Hussein Obaba”. Đó không phải câu trả lời sai duy nhất của AI này. Khi được hỏi: “Phô mai không dính vào Pizza làm thế nào”, công cụ trí tuệ nhân tạo ứng dụng vào tìm kiếm của Google lại khuyên: “Thêm khoảng 1/8 cốc keo không độc vào nước sốt”.
Câu trả lời “vô tri” của AI khiến người dùng tiếp tục bàng hoàng như khuyên người dùng nên nhìn chằm chằm vào mặt trời trong 5-15 phút để tốt cho sức khỏe hay ăn một viên đá nhỏ mỗi ngày. Đây thực sự là những lời khuyên độc hại và nguy hiểm đối với con người nếu tin tưởng và làm theo.
AI Overview khuyên người dùng nên nhìn chằm chằm vào mặt trời trong 5-15 phút để tốt cho sức khỏe.
Người dùng chia sẻ việc AI Overview khuyên nên trộn keo vào thức ăn.
Những phản hồi kể trên tiếp nối chuỗi “đau đầu” đối với các nhà lãnh đạo của Google khi công ty này đang bị đánh giá không những đi sau mà còn khá hấp tấp trong việc tung ra các sản phẩm AI lỗi. Trước đó, hồi tháng 2/2024, khi công bố chatbot Bard – được kỳ vọng sẽ là đối thủ ngang cơ với ChatGPT, Google đặt khá nhiều kỳ vọng, đổi lại là sự thất vọng khi nhiều câu trả lời sai của Bard như thông tin không chính xác về không gian vũ trụ. Giá trị thị trường của công ty lập tức giảm tới 100 tỷ USD.
Chưa dừng lại ở đó, phiên bản kế nhiệm của Bard là Gemini - tính năng tạo hình ảnh con người từ văn bản của Google cũng phải bị tạm đóng, sửa chữa do xuất hiện những sai sót nghiêm trọng về mặt lịch sử. Người dùng còn nhận ra rằng, hệ thống này từ chối tạo hình ảnh của người da trắng trong hầu hết các trường hợp và vẽ những mô tả không chính xác về các nhân vật lịch sử.
Google Gemini cũng khiến Google phải "muối mặt" vì tạo ra hình ảnh của những nhân vật lịch sử không đúng với thực tế.
Quay trở lại với AI Overview trong Google Search, theo The New York Times (NYT), các câu trả lời không chính xác của AI tổng quát đã góp phần, tiếp tục làm suy giảm niềm tin của người dùng vào một công cụ tìm kiếm mà hơn hai tỷ người tìm đến để tìm thông tin.
Tờ NYT cũng nhận định, dường như Google đang chịu nhiều áp lực hơn trong việc kết hợp AI vào công cụ tìm kiếm của mình một cách an toàn. Với mỗi lần rủi ro xảy ra, những người trong ngành công nghệ đều chỉ trích công ty. Trong các cuộc phỏng vấn, các nhà phân tích tài chính cũng cho biết Google cần phải hành động nhanh chóng để theo kịp các đối thủ của mình, ngay cả khi điều đó đồng nghĩa với việc phải đối mặt với những khó khăn ngày càng lớn.
Thomas Monteiro, nhà phân tích của Google tại Investing.com, cho biết trong một cuộc phỏng vấn rằng, Google “hiện không có lựa chọn nào khác”. “Các công ty cần phải di chuyển thật nhanh, ngay cả khi điều đó bao gồm việc bỏ qua một vài bước trên đường đi. Trải nghiệm người dùng sẽ phải bắt kịp.”
Lara Levin, phát ngôn viên của Google, cho biết trong một tuyên bố rằng phần lớn các truy vấn tổng quan về AI đều dẫn đến “thông tin chất lượng cao, có liên kết để tìm hiểu sâu hơn trên web”. Kết quả do AI tạo ra từ công cụ này thường xuất hiện ở đầu trang kết quả.
Cô nói thêm: “Nhiều ví dụ mà chúng tôi thấy là những truy vấn không phổ biến và chúng tôi cũng thấy những ví dụ đã được chỉnh sửa hoặc chúng tôi không thể sao chép”. Công ty sẽ sử dụng “các ví dụ riêng biệt” về các câu trả lời có vấn đề để cải tiến hệ thống của mình.