Đạo luật AI của EU có hiệu lực chính thức từ ngày 1/8/2024 và ngày 2/2/2025 là hạn chót để các công ty đáp ứng đầy đủ các yêu cầu về quản lý AI. Đạo luật này được thiết kế để bao gồm vô số quy định về việc sử dụng AI cũng như cách sử dụng, tương tác của các hệ thống này với các cá nhân.
Theo cách tiếp cận của khối này, có 4 mức rủi ro chung. Đầu tiên là mức độ rủi ro tối thiểu, ví dụ như bộ lọc thư rác email, mức độ này sẽ không phải chịu sự giám sát theo quy định. Tiếp đến là mức độ rủi ro hạn chế, bao gồm cả chatbot dịch vụ khách hàng. Ở mức độ rủi ro hạn chế, các hệ thống AI sẽ được giám sát một cách nhẹ nhàng. Thứ ba là mức độ rủi ro cao, sẽ bị giám sát chặt chẽ, bao gồm các hệ thống AI đưa ra các khuyến nghị chăm sóc sức khỏe. Cuối cùng là các ứng dụng rủi ro không thể chấp nhận được, sẽ bị cấm hoàn toàn.
Các hệ thống AI bị đánh giá có mức rủi ro cao và mức độ rủi ro không thể chấp nhận được sẽ bị giám sát chặt chẽ hoặc cấm hoàn toàn tại EU.
Một số hoạt động không được chấp nhận bao gồm: AI được sử dụng để chấm điểm xã hội (ví dụ: xây dựng hồ sơ rủi ro dựa trên hành vi của một người); AI có thể điều khiển quyết định của con người một cách tiềm thức hoặc lừa dối; AI khai thác các điểm yếu như tuổi tác, khuyết tật hoặc tình trạng kinh tế xã hội; AI cố gắng dự đoán những người phạm tội dựa trên ngoại hình của họ; AI sử dụng dữ liệu sinh trắc học để suy ra đặc điểm của một người, như khuynh hướng tình dục của họ; AI thu thập dữ liệu sinh trắc học “thời gian thực” ở nơi công cộng nhằm mục đích thực thi pháp luật; AI cố gắng suy ra cảm xúc của mọi người khi làm việc hoặc ở trường; AI tạo ra — hoặc mở rộng — cơ sở dữ liệu nhận dạng khuôn mặt bằng cách thu thập hình ảnh trực tuyến hoặc từ camera an ninh.
Các công ty bị phát hiện sử dụng bất kỳ ứng dụng AI nào nêu trên tại EU sẽ phải chịu phạt, bất kể trụ sở chính của họ ở đâu. Họ có thể phải chịu khoản tiền phạt lên tới 35 triệu euro (tương đương 36 triệu USD) hoặc 7% doanh thu hàng năm của họ từ năm tài chính trước đó, tùy theo mức nào lớn hơn.
Các quy định mới của châu Âu sẽ cấm các hệ thống AI dùng để chấm điểm xã hội, phân loại sinh trắc học và nhận dạng cảm xúc.
Rob Sumroy, giám đốc công nghệ tại công ty luật Slaughter and May của Anh cho biết trong một cuộc phỏng vấn gần đây, khoản tiền phạt này sẽ không có hiệu lực ngay.
Theo các chuyên gia, hạn chót ngày 2/2/2025 chỉ mang tính hình thức. Trước đó, hồi tháng 9 năm ngoái, hơn 100 công ty đã ký Hiệp ước AI của EU – một cam kết tự nguyện bắt đầu áp dụng các nguyên tắc của Đạo luật AI trước khi có hiệu lực. Là một phần của Hiệp ước, các bên ký kết bao gồm Amazon, Google và OpenAI – đều đã cam kết xác định các hệ thống AI có khả năng được phân loại là rủi ro theo Đạo luật AI.
Một số gã khổng lồ công nghệ khác như Meta và Apple đã bỏ qua Hiệp ước. Công ty khởi nghiệp AI của Pháp là Mistral – một trong những công ty chỉ trích Đạo luật AI gay gắt nhất cũng đã chọn không ký.
Dù không đồng ý Hiệp ước cũng không đồng nghĩa với việc các công ty sẽ không phải thực hiện các nghĩa vụ liên quan được quy định.
