Chính sách mới đã được YouTube chính thức áp dụng và đã có những hướng dẫn cụ thể trên trang trợ giúp của công ty mẹ là Google. Người dùng hiện có thể yêu cầu mạng xã hội này xóa nội dung do AI tạo ra, có mô phỏng khuôn mặt, giọng nói của mình vì nhiều mục đích khác nhau.
Sự thay đổi này là một phần trong quy trình bảo vệ quyền riêng tư của mạng xã hội này khi trao nhiều quyền hơn cho người dùng để chống lại nạn giả mạo bằng AI. Theo đó, bản thân người bị giả mạo có thể khiếu nại trực tiếp hoặc khiếu nại thay thế cho người khác nếu người đó là trẻ vị thành niên, người đã chết hoặc không có khả năng truy cập vào máy tính. Tuy nhiên, yêu cầu của người dùng vẫn phải nộp theo quy trình yêu cầu quyền riêng tư của YouTube.
Các video giả mạo chính trị gia, những người có sức ảnh hưởng được tạo bởi AI có thể gây ra những ảnh hưởng tiêu cực đến xã hội, vì vậy YouTube đang siết chặt hoạt động chống lại deepfake dưới nhiều hình thức.
YouTube sẽ vẫn là bên quyết định cuối cùng về việc một video có bị coi là giả mạo và bị xóa hay không. Nền tảng video trực tuyến này sẽ quyết định dựa theo các yêu tố như nội dung đó tạo bằng AI hay tổng hợp từ các video có sẵn, nội dung đó có mang ý nghĩa châm biếm, nhại lại hay có giá trị với công chúng hay không... YouTube cũng sẽ quyết định liệu nội dung này có liên quan tới các hoạt động "nhạy cảm" bao gồm hành vi phạm tội, thực hiện hành vi bạo lực hay ủng hộ một ứng cử viên chính trị hay không.
Theo các chuyên gia, một trong các lý do khiến YouTube mạnh tay với các video giả mạo bằng AI năm nay là do sắp đến bầu cử tổng thống Mỹ. Các thống kê cho thấy video AI mô phỏng giọng nói và hình ảnh của ông Donald Trump gia tăng nhanh chóng trên các nền tảng mạng xã hội. Với trường hợp cụ thể này, cựu tổng thống Mỹ có thể yêu cầu trực tiếp YouTube xóa các video nói trên.
Nếu YouTube nhận được khiếu nại về nội dung AI mà họ được yêu cầu xóa, họ sẽ cho người đã tải nội dung đó 48 giờ để xử lý khiếu nại. Nếu nội dung bị xóa trước 48 giờ, khiếu nại sẽ được đóng lại. Nếu không xóa trong vòng hai ngày, YouTube sẽ xem xét tình hình và áp dụng các biện pháp cứng rắn.
Khi được xác định vi phạm, video đó sẽ bị xóa hoàn toàn khỏi mạng xã hội. Nhiều người nghĩ tới việc chuyển sang chế độ riêng tư, tuy nhiên điều này cũng sẽ không thoát khỏi "mắt thần" của YouTube. Theo mạng xã hội này, việc đặt video ở chế độ riêng tư không có nghĩa là video đó tuân thủ yêu cầu xóa bỏ. Video riêng tư có thể được chuyển lại thành video công khai bất cứ lúc nào.
Các công cụ AI có thể tạo ra những video deepfake vói mức độ ngày càng tinh vi.
Đầu năm 2024 là quãng thời gian bùng nổ của các mô hình AI tạo video chỉ từ nội dung văn bản. Sora của OpenAI, Lumier của Google, Emu Video của Meta gây kinh ngạc với các đoạn video như thật được tạo ra bởi hệ thống máy tính. Tuy nhiên, điều này cũng gây lo ngại khi chúng có thể được sử dụng để tạo ra các video giả mạo để tung tin giả cho các mục đích, ý đồ xấu.
