ByteDance đã đa dạng hóa các nguồn cung cấp chip của mình ngay từ thời điểm các lệnh hạn chế của Mỹ đối với các công ty công nghệ của Trung Quốc bắt đầu. Nguồn cung được ưu tiên của công ty đến từ các đối tác nội địa. Không chỉ vậy, theo các nguồn tin, công ty cũng đang đẩy nhanh quá trình phát triển chip của riêng mình để từng bước thay thế cho các nguồn cung khan hiếm như của Nvidia.
AI đang trở thành trọng tâm của ngành công nghệ khi các công ty trong nhiều lĩnh vực khác nhau như trò chơi và thương mại điện tử tạo ra các dịch vụ khác nhau thông qua việc tích hợp các mô hình AI tùy chỉnh và các ứng dụng phát triển dựa trên AI.
Theo nguồn tin của Reuters, bước tiếp theo của ByteDance trong cuộc chạy đua AI là sử dụng chip Ascend 910B của Huawei để đào tạo mô hình ngôn ngữ lớn (LLM), tuy nhiên kế hoạch này vẫn đang là tuyệt mật. Một số nguồn tin cũng cho biết, công ty đang có kế hoạch phát triển môt mô hình AI mới nhưng không thể nói liệu nó có sử dụng chip Huawei không.
Theo đó, ByteDance đang sử dụng con chip Ascend 910B chủ yếu cho các tác vụ suy luận ít tốn nhiều tính toán, bao gồm các mô hình AI được đào tạo trước để đưa ra dự đoán.
Hiện nay, việc đào tạo các mô hình AI khó khăn hơn nhiều và đòi hỏi lượng dữ liệu khổng lồ và sử dụng các chip hiệu suất cực cao như bộ xử lý đồ họa (GPU) cao cấp của Nvidia. Trước đây, các dự án AI của ByteDance đã sử dụng chip AI H20 của Nvidia – con chip được thiết kế riêng cho thị trường Trung Quốc nhằm tránh các hạn chế thương mại mà chính quyền Mỹ áp đặt vào năm 2022 với nước này. Các khách hàng tại Trung Quốc chỉ được phép đặt mua một số mẫu chip AI được chọn và không được tiếp cận các con chip mạnh nhất, mới nhất.
Trước sự quan tâm của dư luận và cộng đồng công nghệ, người phát ngôn của ByteDance là Michael Hughes đã lên tiếng phủ nhận “không có mô hình mới nào được phát triển”.
Trong bối cảnh bị chặn tiếp cận các con chip tiên tiến từ bên ngoài, ByteDance đã đặt 100.000 chip Ascend 910B của Huawei trong năm nay nhưng mới chỉ nhận được 30.000 chip, tốc độ giao hàng này được cho là quá chậm để có thể đáp ứng được nhu cầu của công ty. Nguồn cung hạn chế và sức mạnh tính toán giới hạn so với chip Nvidia đã khiến ByteDance không thể đặt ra mốc thời gian cho mô hình AI mới.
Công nghệ AI hiện tại của ByteDance được sử dụng trong mô hình ngôn ngữ lớn hàng đầu của hãng, được ra mắt vào tháng 8/2023 và đổi tên thành chatbot Doubao, được dùng trong nhiều ứng dụng khác bao gồm công cụ chuyển văn bản thành video Jimeng. Trong tháng này, hãng cũng đã giới thiệu hai mô hình Doubao tập trung vào video để cạnh tranh với OpenAI.
Việc ngày càng chú trọng vào AI đã biến ByteDance trở thành khách hàng lớn nhất mua chip AI H20 của Nvidia. Nhà sản xuất chip của Mỹ để lách các lệnh cấm đã thiết kế riêng con chip này cho thị trường Trung Quốc. Chủ sở hữu Tiktok cũng là khách hàng lớn nhất tại châu Á về chip Nvidia có thể truy cập thông qua điện toán đám mây.
Trước đó, nhiều nguồn tin cho thấy, ByteDance đã phân bổ tới 2 tỷ USD cho chip Nvidia và năm ngoái.