Sam Altman: ‘Thật tệ khi RAM nằm trong máy người dùng’

CEO OpenAI Sam Altman bày tỏ lo ngại về những người muốn AI suy luận cục bộ trên thiết bị, cho rằng RAM nên dành cho trung tâm dữ liệu.

“Rất nhiều người muốn dùng tính năng suy luận cục bộ. Họ tin vấn đề đã được giải quyết khi có các mô hình nguồn mở chạy trên máy tính cá nhân và không cần những thứ ở trung tâm dữ liệu”, Altman nói trong phỏng vấn với kênh YouTube Cheeky Pint được công bố hôm 30/10.

Suy luận cục bộ là quá trình cho mô hình AI đã được huấn luyện chạy trực tiếp trên phần cứng của thiết bị cá nhân, như CPU, GPU hoặc NPU trên máy tính, điện thoại, thay vì gửi dữ liệu lên máy chủ đám mây của các dịch vụ bên thứ ba như ChatGPT và Claude.

“Xét về quan điểm phân bổ nguồn lực toàn cầu, thật tệ khi nguồn cung RAM hạn chế lại nằm trong máy tính của mọi người và chỉ được dùng trong 5% thời gian hoạt động. Chúng ta cần tận dụng tối đa tài nguyên trên đám mây nếu muốn đối phó tình trạng nguồn cung rất giới hạn hiện nay, nhưng mọi người lại muốn đi ngược lại điều đó”, ông nói thêm.

Theo Tom’s Hardware, OpenAI từng phát hành một số mô hình nguồn mở, nhưng hoạt động kinh doanh chính vẫn dựa trên những mô hình đóng, vận hành trong các trung tâm dữ liệu.

“Thực tế Altman đang bảo vệ mô hình kinh doanh của OpenAI. Công ty không cảm thấy bị đe dọa bởi máy tính cá nhân, nhưng khả năng chạy suy luận cục bộ đồng nghĩa người dùng sẽ trả ít tiền hơn cho những mô hình như GPT-6 Luna”, Tom’s Hardware cho hay.

Phát biểu của CEO OpenAI dựa trên giả định rằng hoạt động xây dựng và mở rộng trung tâm dữ liệu sẽ không giảm tốc, trong khi RAM chạy 24/7 trong trung tâm dữ liệu sẽ mang lại nhiều lợi ích hơn vận hành trên máy tính của người dùng.

Để đảm bảo nguồn cung cho hạ tầng AI, các tập đoàn công nghệ đang tích cực ký hợp đồng cung ứng dài hạn. Micron đã ký 26 thỏa thuận chiến lược, bao phủ hơn 35% doanh thu dự kiến đến năm 2030, kèm theo 32 tỷ USD tiền đặt cọc cam kết từ khách hàng. Samsung được cho là đã chốt các hợp đồng dài hạn bao phủ 75-80% sản lượng chip nhớ dự kiến của hãng năm 2027. SK Hynix cũng đẩy mạnh thỏa thuận tương tự.

Khác với những chu kỳ trước, trong đó các hãng chip thường mở rộng nhà máy khi nhu cầu cao, khiến thị trường sau đó dư thừa và hạ nhiệt, lần này các nhà sản xuất chọn cách tăng giá nhiều lần thay vì mở rộng đáng kể công suất. Quyết định đó dẫn đến nguồn cung tiếp tục hụt hơi so với cầu và tạo áp lực giá kéo dài.

Giới phân tích dự báo tình trạng thiếu hụt chip nhớ sẽ kéo dài ít nhất đến 2028, đem lại lợi thế đàm phán cho các nhà sản xuất.

“Dù Altman đề cập tới máy tính cá nhân của người dùng, hay thiết bị của giới phát triển ứng dụng nền tảng AI, kết quả cũng đều giống nhau. Hàng tỷ USD được các hãng bỏ ra để đặt hàng RAM là lý do mà máy tính, điện thoại và nhiều công nghệ khác ngày càng trở nên đắt đỏ”, cây bút Steve Bonifiled của The Verge nhận xét.

Điệp Anh tổng hợp