Vị chuyên gia này đã rời OpenAI, nơi ông là một trong những nhà sáng lập, vào đầu năm nay để thành lập phòng thí nghiệm AI mang tên Safe Superintelligence Inc.
"Giai đoạn huấn luyện trước (pre-training) như chúng ta từng biết chắc chắn sẽ chấm dứt", ông Sutskever tuyên bố tại Hội nghị về Hệ thống Xử lý Thông tin Thần kinh (NeurIPS) ở Vancouver ngày 13/12.
Thuật ngữ "pre-training" chỉ giai đoạn đầu trong quá trình phát triển mô hình AI, khi một mô hình ngôn ngữ lớn học các mẫu từ lượng dữ liệu chưa được gán nhãn, thường là văn bản từ Internet, sách và nhiều nguồn khác.
Cạn kiệt tài nguyên dữ liệu
Ông Sutskever nhận định rằng mặc dù dữ liệu hiện tại vẫn có thể thúc đẩy sự phát triển của AI, nhưng ngành công nghiệp này đang dần cạn kiệt nguồn tài nguyên mới để huấn luyện mô hình. Theo ông, tình trạng này sẽ buộc các nhà nghiên cứu phải thay đổi cách thức huấn luyện AI. Ông so sánh thực trạng này với nhiên liệu hóa thạch: cũng như dầu mỏ là nguồn tài nguyên hữu hạn, nội dung do con người tạo ra trên Internet cũng có giới hạn.
"Chúng ta đã đạt đỉnh dữ liệu và sẽ không còn thêm nữa trong tương lai", ông Sutskever nhấn mạnh. "Chúng ta phải làm việc với dữ liệu sẵn có, Internet chỉ có một mà thôi".
Các mô hình AI sẽ tìm ra cách tự đào tạo dựa trên lượng dữ liệu giới hạn (Ảnh: Yahoo Tech)
Ông Sutskever dự đoán rằng các mô hình AI thế hệ tiếp theo sẽ "thực sự có tính chất tự hành". Khái niệm "tác nhân tự hành" (agent) đang trở thành từ khóa phổ biến trong lĩnh vực AI, thường được hiểu là hệ thống AI tự động thực hiện nhiệm vụ, đưa ra quyết định và tương tác với phần mềm mà không cần sự can thiệp trực tiếp từ con người.
Ngoài ra, ông cho biết các hệ thống AI trong tương lai sẽ sở hữu khả năng suy luận. Đây là bước tiến vượt xa so với các mô hình hiện tại, vốn chủ yếu dựa vào việc nhận diện mẫu dựa trên dữ liệu đã học. Thay vào đó, AI mới sẽ có thể xử lý vấn đề theo từng bước, tương tự như cách con người sử dụng tư duy logic để tìm ra giải pháp.
AI có thể tự tạo ra cách huấn luyện chính nó
Ông Sutskever nhấn mạnh rằng AI càng có khả năng suy luận, "chúng càng trở nên khó đoán". Vị chuyên gia này còn liên hệ sự phát triển của AI với sinh học tiến hóa, dẫn chứng nghiên cứu về mối quan hệ giữa khối lượng não và cơ thể của các loài động vật. Chẳng hạn, trong khi hầu hết các loài động vật có vú tuân theo một tỷ lệ nhất định giữa khối lượng não và cơ thể, thì tổ tiên loài người lại có tỷ lệ khác biệt rõ rệt.
Đến một thời điểm, sự tiến hóa tìm ra tỷ lệ mới cho sự phát triển não bộ của tổ tiên loài người. AI cũng có thể làm được điều tương tự, khám phá các phương pháp mới để mở rộng quy mô, vượt qua những giới hạn của cách huấn luyện hiện nay.
