Trong một phỏng vấn Podcast gần đây, Cựu CEO Google là Eric Schimidt đã chia sẻ cảm nhận rằng, cả phụ huynh và các thanh thiếu niên, người trẻ tuổi đều không có đủ khả năng để xử lý cái mà ông gọi là “vấn đề bất ngờ của công nghệ hiện tại”, hàm ý nói về những rủi ro từ mối quan hệ tình cảm giữa con người với AI.
Theo ông, những “người bạn đồng hành AI” này đã "hoàn hảo" đến mức chúng có thể mê hoặc những người trẻ tuổi và khiến họ xa rời thế giới thực. "Sự ám ảnh như vậy là hoàn toàn có thể xảy ra, đặc biệt là đối với những người chưa trưởng thành hoàn thiện", ông nói với giáo sư Scott Galloway của trường NYU Stern.
Eric Schimidt cho rằng, trong khi những người phụ nữ đang mơ mộng về người bạn đời lãng mạn AI thì những người đàn ông trẻ tuổi đặc biệt dễ bị tổn thương vì họ "hướng đến thế giới trực tuyến để tận hưởng và duy trì cuộc sống". Do các thuật toán đẩy nội dung có vấn đề, những chàng trai trẻ tuổi này thường tình cờ gặp phải nội dung nguy hiểm như ảnh hưởng cực đoan hoặc bị các chatbot thao túng.
Ông nói với Galloway: "Bạn đặt một đứa trẻ 12 hoặc 13 tuổi trước những thứ này, chúng sẽ tiếp cận được mọi điều xấu xa cũng như điều tốt đẹp trên thế giới”.
Sự lo ngại của cựu CEO Google không phải không có căn cứ khi gần đây, thế giới đã chứng kiến những trường hợp đau lòng khi con người quá mê đắm vào thế giới của AI. Đơn cử, trường hợp một cậu bé 14 tuổi ở Florida đã tự tử vào đầu năm sau khi một chatbot theo chủ đề "Game of Thrones" trên Character.AI khuyến khích cậu bé làm như vậy. Mặc dù trường hợp này khá cực đoan nhưng nó nói lên ít nhiều về những rủi ro của con người khi tham gia vào một mối quan hệ ảo với AI như vậy. Một mối quan hệ thông thường, sẽ có con người ở phía đối diện và sẽ có những trách nhiệm ràng buộc, nhưng với máy móc thì không.
Các chuyên gia cho rằng, nếu không có một quy định phù hợp, cả về mặt pháp lý sẽ có thể sẽ diễn ra những thảm kịch tương tự trong tương lai.
Gần đây nhất, chúng ta cũng đã ghi nhận nhiều trường hợp AI “xúi dại” con người thực hiện những hành vi độc hại, bao gồm khuyến khích chứng rối loạn ăn uống và có hành vi dụ dỗ tình dục đối với người dùng chưa đủ tuổi.
Schmidt một lần nữa lưu ý người dùng về những quy định luật pháp hiện nay đang bảo vệ toàn diện các công ty công nghệ khỏi phải chịu trách nhiệm về tác hại do sản phẩm của họ gây ra. Các “lỗ hổng” luật pháp, trong trường hợp như vậy sẽ không thể bảo vệ cho các nạn nhân và chúng ta sẽ không thể quy tội cho một “cỗ máy”, dù nó có thông minh đến đâu.
Cựu giám đốc Google cho biết, vì những công nghệ này rất có giá trị nên "có thể phải đến khi xảy ra một thảm họa nào đó mới đủ sức nặng để buộc luật thay đổi — mặc dù khó có thể tưởng tượng ra điều gì thảm khốc hơn một thiếu niên chết sau khi bạn gái AI của cậu ta thúc ép cậu ta tự tử".