Vụ việc diễn ra mới đây tại quận Baltimore (bang Maryland – Mỹ), cảnh sát đã phải vào cuộc sau khi có cáo buộc hiệu trưởng trường trung học Pikes Ville có hành vi phân biệt chủng tộc. Kết quả của cuộc điều tra gây bất ngờ khi cho thấy, người phụ trách thể thao tại đây là Dazhon Darien đã giả mạo giọng nói của hiệu trưởng Eric Eiswert bằng các công cụ AI mới. Đoạn ghi âm giả có chứa những bình luận phân biệt chủng tộc và chống Do Thái. Tệp âm thanh đã xuất hiện trong email gửi đến một số giáo viên trước khi được lan truyền trên mạng xã hội.
Cảnh sát cho biết, đoạn ghi âm xuất hiện sau khi Eiswert thể hiện sự e ngại về hiệu suất công việc của Darien đi cùng nghi ngờ người này đã có những hành vi lạm dụng quỹ trường học.
Ngay sau khi đoạn ghi âm được tung ra, hiệu trưởng Eiswert đã phải đối diện với làn sóng phản đối mạnh mẽ từ trong trường học lẫn cộng đồng. Ông đã phải xin nghỉ phép và nhờ tới sự hỗ trợ của cơ quan chức năng.
Cảnh sát đã cùng với các chuyên gia phân tích đoạn ghi âm, sau đó phát hiện nó “có chứa dấu vết của nội dung do AI tạo ra với sự chỉnh sửa của con người”. Hiệu trưởng Eiswert đã được minh oan và người đứng đằng sau vụ việc đang phải đối diện với bản án hình sự dành riêng cho mình.
Tuy nhiên, vụ việc cũng đã dấy lên nhiều tranh cãi xung quanh vấn đề an toàn AI. Các chuyên gia cho biết, vụ việc này là một điển hình cho thấy tất cả mọi người chứ không chỉ riêng các chính trị gia và người nổi tiếng nên lo ngại về công nghệ deepfake ngày càng tinh vi, có thể ảnh hưởng trực tiếp tới bản thân và những người xung quanh.
Hany Farid – Giáo sư tại Đại học Berkeley (California, Mỹ) là một chuyên gia về pháp y kỹ thuật số và các thông tin sai lệch cho biết, với công nghệ deepfake thế hệ mới, tất cả mọi người đều có thể trở thành nạn nhân và bất cứ ai cũng có thể thực hiện các hành vi sai trái với người khác, nhất là khi AI ngày càng dễ tiếp cận.
Theo ông, đoạn âm thanh giả mạo hiệu trưởng là một ví dụ về AI tổng quát. Nó có thể tạo ra những hình ảnh, video và âm thanh clip mới tới mức siêu thực. Nó rẻ hơn và dễ sử dụng hơn trong những năm gần đây, dễ tiếp cận hơn với những người có kết nối Internet.
Giáo sư Farid nhấn mạnh: “Đặc biệt trong năm qua, bất ký ai đều có thể truy cập một dịch vụ AI trực tuyến. Nó miễn phí hoặc chỉ phải trả vài USD mỗi tháng, có thể tạo ra một file âm thanh mới chỉ với 30 giây giọng nói của ai khác”.
Farid cho biết, những giây đó có thể được lấy từ một hộp thư thoại, bài đăng trên mạng xã hội hoặc một đoạn ghi âm lén lút. Các thuật toán sẽ nắm bắt được âm thanh này và nhân bản chúng chỉ với các từ được gõ trên bàn phím. Công nghệ này sẽ ngày càng tinh vi và dễ sử dụng hơn, bao gồm cả các thao tác video.
Với trường hợp của hiệu trưởng Eiswert, giáo sư Farid cho biết, đoạn âm thanh giả mạo có thể được tạo ra từ nhiều bản ghi âm ghép nối lại với nhau. Vẫn còn rất nhiều câu hỏi về quá trình bản ghi âm đó được tạo ra, thậm chí ông chưa xác hận rằng nó hoàn toàn do AI tạo ra. Tuy nhiên, với sự phát triển mạnh mẽ của AI thời gian qua, vụ việc vẫn là hồi chuông báo động về sự cần thiết phải có sự quản lý hiệu quả hơn cho công nghệ này.
Các chuyên gia cũng đưa ra một số điển hình về việc kẻ xấu lợi dụng công nghệ AI như giả giọng của những đứa trẻ bị bắt cóc qua điện thoại để nhận tiền chuộc từ cha mẹ hay giả làm giám đốc điều hành của một công ty đang cần huy động vốn gấp.
Hầu hết các nhà cung cấp công nghệ tạo giọng nói AI đều cấm việc sử dụng công cụ của mình vào mục đích xấu, tuy nhiên thực tế họ lại không hoàn toàn kiểm soát được cách mà người dùng sử dụng chúng.
Một số nhà cung cấp dịch vụ đã yêu cầu một loại chữ ký giọng nói riêng hoặc buộc người dùng đọc thuộc lòng một câu duy nhất trước khi có thể sao chép giọng nói.
Các công ty công nghệ lớn hơn, chẳng hạn như Meta, công ty mẹ của Facebook và OpenAI, nhà sản xuất ChatGPT, chỉ cho phép một nhóm nhỏ người dùng đáng tin cậy thử nghiệm công nghệ vì có nguy cơ lạm dụng.
Farid cho biết cần phải làm nhiều việc hơn nữa để kiểm soát AI. Ví dụ: tất cả các công ty nên yêu cầu người dùng gửi số điện thoại và thẻ tín dụng để có thể truy tìm lại các tập tin về những người sử dụng công nghệ trái với quy định.
Một ý tưởng khác là yêu cầu các bản ghi và hình ảnh phải mang hình mờ kỹ thuật số. Theo Farid, người dùng có thể sửa đổi âm thanh theo cách mà hệ thống thính giác ở con người không thể phát hiện ra, nhưng phần mềm có thể nhận biết nó là sản phẩm của AI.
Bà Alexandra Reeve Givens, Giám đốc điều hành của Trung tâm Dân chủ & Công nghệ Mỹ cho biết biện pháp can thiệp hiệu quả nhất là hành động thực thi pháp luật chống lại việc sử dụng AI để phạm tội. Bên cạnh đó, các hoạt động truyền thông, phổ biến kiến thức pháp luật cho người dùng cũng rất cần thiết.
Một trọng tâm khác là thúc đẩy hành vi có trách nhiệm giữa các công ty AI và nền tảng truyền thông xã hội. Nhưng nó không đơn giản như cấm Generative AI.
Bà Givens cho biết: “Việc bổ sung trách nhiệm pháp lý có thể phức tạp vì trong rất nhiều trường hợp, công nghệ này có thể có những ứng dụng tích cực”.
Christian Mattmann, giám đốc nhóm Khoa học Dữ liệu & Truy xuất Thông tin tại Đại học Nam California cho biết, một thách thức khác là tìm kiếm thỏa thuận quốc tế về đạo đức và hướng dẫn sử dụng AI.
Mattmann nói: “Mọi người sử dụng AI một cách khác nhau tùy thuộc vào quốc gia họ đang ở. Và không chỉ có chính phủ, mà còn có người dân. Vì vậy, văn hóa sử dụng AI rất quan trọng.”
