OpenAI thành lập nhóm an toàn AI mới để trấn an dư luận, trong đó có tên CEO Sam Altman

OpenAI đã thành lập một Ủy ban An toàn và An ninh AI mới, chỉ 2 tuần sau khi nhóm An toàn AI cũ – vốn được lập ra với mục đích bảo vệ nhân loại khỏi những nguy cơ, rủi ro mà AI có thể mang lại. 

Theo các thông tin được công bố, Ủy ban An toàn và An ninh có kế hoạch “đánh giá và phát triển hơn nữa” các quy trình và biện pháp bảo vệ của công ty trong 90 ngày tới. Sau đó, nhóm sẽ chia sẻ các khuyến nghị của mình tới toàn thể hội đồng công ty. Tiếp sau khi được toàn bộ đội ngũ lãnh đạo xem xét kết luận, họ sẽ chia sẻ công khai thông tin cập nhật về các khuyến nghị đã được thông qua theo cách phù hợp với tiêu chuẩn an toàn và bảo mật.

OpenAI cho biết sẽ giữ lại và tham khảo ý kiến ​​của các chuyên gia kỹ thuật, bảo mật và an toàn khác để hỗ trợ công việc của nhóm mới, bao gồm các chuyên gia về an ninh mạng đã được tin dùng trước đó.

Nhóm mới sẽ chịu trách nhiệm về các biện pháp bảo vệ an toàn AI, bao gồm các thành viên hội đồng quản trị Bret Taylor (Chủ tịch), Nicole Seligman, Adam D’Angelo và Giám đốc điều hành Sam Altman. Tuy nhiên, cũng chính bởi sự có mặt của những người này đã nhanh chóng đặt ra các câu hỏi về tính hiệu quả của nhóm. Trước đó, Sam Altman và một số thành viên hội đồng quản trị của công ty bị ngầm “tố” là chỉ chạy theo những sản phẩm AI nổi bật, mang lại lợi nhuận cao mà không tập trung đầu tư cho việc kiểm soát an toàn AI.

Nhóm An toàn AI trước đó, được thành lập từ tháng 7 năm ngoái, có tên Superalignment được lãnh đạo bởi đồng sáng lập Ilya Sutskever và Jan Leike. Trước khi rời công ty, Leik echo biết, ông tin tưởng vào sứ mệnh cốt lõi của công ty, tuy nhiên điểm cân bằng giữa yếu tố phát triển sản phẩm và sự an toàn đã không thể duy trì. Ông lo ngại rằng công ty sẽ không đi theo quỹ đạo để giải quyết các vấn đề liên quan đến an toàn khi AI ngày một thông minh hơn. Thậm chí, thất vọng khi nhóm Superalignment gần đây đã “đi ngược chiều gió” và “văn hóa lẫn quy trình an toàn đã lùi bước so với các sản phẩm nổi bật”.

Sự tan rã của nhóm Superalignment đã kéo theo sự e ngại của giới quan sát lẫn người tiêu dùng toàn cầu. Bởi lẽ, với tốc độ phát triển AI hiện nay của OpenAI – đặc biệt với việc ra mắt GPT-4o gần đây cho phép AI có thể tương tác trực tiếp với con người theo thời gian thực, bằng giọng nói đầy sống động (dù đang gặp rắc rối với việc tố cáo dùng “chui” giọng nói của Scarlet Johansson). Việc nhanh chóng thành lập nhóm chuyên trách mới được xem như động thái trấn an dư luận. Còn hoạt động thực tế của nhóm như thế nào, chỉ có OpenAI mới nắm rõ.

OpenAI cũng gặp phải các chỉ trích về việc yêu cầu các thành viên cũ phải ký vào cam kết bảo mật không chia sẻ các bí mật cũng như không nói xấu về công ty sau khi nghỉ việc. Nếu không tuân thủ, các cựu nhân viên có thể sẽ bị mất hết cổ phần tích lũy được trong quá trình công tác. Điều này bị đánh giá là biện pháp “bịt miệng” những người ra đi về những bất ổn của công ty. Sam Altman sau đó cũng đã phải lên tiếng xin lỗi và hứa sẽ thay đổi các quy trình, thủ tục nghỉ việc của nhân viên.

OpenAI xác nhận rằng công ty hiện đang đào tạo mô hình GPT tiếp theo. Công ty viết: “Mặc dù chúng tôi tự hào xây dựng và cho ra mắt những mô hình dẫn đầu ngành về cả khả năng và độ an toàn, nhưng chúng tôi hoan nghênh một cuộc tranh luận gay gắt vào thời điểm quan trọng này”.