Mô hình ngôn ngữ lớn tiếng Việt với 120 tỷ tham số


Ngày 4/6, Trung tâm dịch vụ dữ liệu và trí tuệ nhân tạo Viettel (Viettel AI) cho biết VT-Super-120B-A12B “do đội ngũ kỹ sư Việt trực tiếp huấn luyện, tinh chỉnh và tối ưu cho tiếng Việt”.

Mô hình được xây dựng trên kiến trúc mở Nvidia Nemotron 3 Super, với quy mô 120 tỷ tham số. Theo đại diện Trung tâm, nhờ khả năng xử lý ngữ cảnh dài của kiến trúc Nvidia Nemotron, VT-Super-120B-A12B có thể duy trì mạch thông tin xuyên suốt giữa nhiều tài liệu, quy trình và hội thoại phức tạp trong cùng một tác vụ.

Trong các mô hình ngôn ngữ lớn, “tham số” (parameter) để chỉ các giá trị mà mô hình học được trong quá trình huấn luyện nhằm nhận diện quy luật trong dữ liệu, từ đó đưa ra dự đoán hoặc phản hồi. Tham số càng cao tức quy mô của mô hình càng lớn, có khả năng biểu diễn những mối quan hệ phức tạp, nhưng đồng thời cũng đòi hỏi nhiều dữ liệu, năng lực tính toán và chi phí vận hành hơn. Mô hình của Việt Nam thường từ vài tỷ đến vài chục tỷ tham số, trong khi các mô hình tiên tiến nhất của OpenAI, Google có thể có hàng nghìn tỷ tham số.

Tuy nhiên, lượng tham số lớn không đồng nghĩa chất lượng luôn tốt hơn, bởi hiệu quả còn phụ thuộc vào dữ liệu huấn luyện, kiến trúc mô hình và cách tối ưu. Trong bảng xếp hạng đánh giá năng lực VLMU, một bản tinh chỉnh dựa trên VT-Super-120B-A12B hiện đạt điểm số trung bình 85,47, đứng thứ ba trong số các mô hình tại Việt Nam, trong đó mạnh nhất ở phần xếp hạng về STEM với hơn 89 điểm.

Viettel AI cho biết qua các bài kiểm tra, mô hình của họ đạt hiệu suất “trong nhóm dẫn đầu” về độ chính xác so với các mô hình cùng quy mô. “Đây là kết quả huấn luyện trên dữ liệu bản địa và tối ưu cho các bài toán nghiệp vụ trong nước”, đại diện Trung tâm nói.


Ảnh minh họa. Ảnh: Viettel AI

Ảnh minh họa. Ảnh: Viettel AI

Mô hình này được đánh giá đã tăng cường năng lực xử lý tiếng Việt mà không làm suy giảm hiệu năng tiếng Anh của mô hình gốc, đồng thời hạn chế hiện tượng quên kiến thức cũ, vấn đề thường gặp trong quá trình huấn luyện và tinh chỉnh. Theo nhà phát triển, việc này quan trọng với các bài toán đặc thù tại Việt Nam, nơi nhiều quy định và quy trình có thể thay đổi tùy theo loại hồ sơ, hoặc bối cảnh thực thi cụ thể.

Viettel AI cũng cho biết đang xây dựng quy trình huấn luyện LLM dựa trên các nguồn dữ liệu mang tính bản địa như dữ liệu hành chính, nghiệp vụ doanh nghiệp, hội thoại thực tế và hệ thống văn bản chuyên ngành tại Việt Nam. Quá trình này bao gồm nhiều giai đoạn, như tiếp tục tiền huấn luyện (continued pre-training) mở rộng năng lực ngôn ngữ và tri thức tiếng Việt trên kho dữ liệu quy mô lớn; tinh chỉnh có giám sát (supervised fine-tuning) nhằm cải thiện khả năng suy luận, sau đó là học tăng cường (reinforcement learning) để nâng cao độ chính xác trong phản hồi và khả năng xử lý nghiệp vụ.

“Làm chủ LLM tiếng Việt là bước đi cốt lõi để hình thành các giải pháp AI chủ quyền có khả năng đồng hành thực sự cùng các tổ chức, doanh nghiệp Việt Nam”, ông Nguyễn Mạnh Quý, Giám đốc Viettel AI, nhận định.

Bà Shilpa Kolhatkar, Giám đốc AI Nations của Nvidia, đánh giá việc phát triển mô hình ngôn ngữ lớn tiếng Việt sẽ góp phần phổ cập khả năng tiếp cận trí tuệ nhân tạo trên quy mô lớn tại Việt Nam, đồng thời chuyển hóa ngôn ngữ và dữ liệu bản địa thành những giá trị ứng dụng thực tiễn cho cơ quan chính phủ và doanh nghiệp.

Viettel AI cho biết đang phát triển nền tảng AI Agent cho người Việt với khả năng tự thực hiện chuỗi tác vụ trong cùng một không gian làm việc. Trong đó, Trợ lý AI Pháp luật là một trong những ứng dụng đầu tiên, được kỳ vọng sở hữu khả năng hỗ trợ phân tích hồ sơ, đối chiếu quy định, tổng hợp dữ liệu và đề xuất giải pháp xử lý theo bài toán cụ thể của người dùng, với chất lượng được nâng cao so với các phiên bản trước đây.

Lưu Quý

Ngày xuất bản:

5 THÁNG 06, 2026

Tin cập nhật 24H

Jensen Huang sẽ trình diện trước các ủy ban Hạ viện Mỹ

Cựu CEO Nvidia đồng ý tham gia các buổi làm việc với một số ủy ban Hạ viện Mỹ, trong đó nội dung trao đổi được ghi lại.

18 THÁNG 11, 2026

PGS Nguyễn Viết Nhung: Việt Nam cần xây dựng thế hệ không thuốc lá

Nguyên giám đốc Bệnh viện Phổi Trung ương Nguyễn Viết Nhung cho rằng đề xuất cấm bán thuốc lá vĩnh viễn cho người sinh từ năm 2010 có cơ sở khoa học, cần đánh giá kỹ tác động và khả năng thực thi.

18 THÁNG 11, 2026

PGS.TS Bùi Hoài Sơn: Đô thị đáng sống phải có nơi để người dân rèn luyện sức khỏe

Phó ban Tuyên giáo Trung ương Bùi Hoài Sơn cho rằng đô thị đáng sống không chỉ có những tòa nhà hiện đại, mà phải có sân chơi cho trẻ em, nơi đi bộ cho người cao tuổi và không gian vận động gần nhà.

18 THÁNG 11, 2026

Đề xuất cảnh cáo hoặc trừ điểm giấy phép lái xe với lỗi ít nghiêm trọng

Cục CSGT đang nghiên cứu xây dựng nghị định mới theo hướng phân hóa tính chất hành vi và số lần vi phạm, tránh phạt lỗi ít nghiêm trọng, phạm lỗi lần đầu.

18 THÁNG 11, 2026

Hà Nội chốt hạn di dời cư dân tại 12 dự án Mường Thanh

Hà Nội yêu cầu hoàn thành di dời cư dân khỏi các căn hộ phải phá dỡ hoặc hoàn trả công năng công cộng tại 12 dự án liên quan Tập đoàn Mường Thanh trước 31/12/2027.

18 THÁNG 11, 2026

Pochettino khuyên Guardiola nhận lời dẫn dắt tuyển Mỹ

HLV Mauricio Pochettino cho rằng Pep Guardiola nên nhận công việc ở tuyển Mỹ nếu được mời, bởi đội đang đi đúng hướng và sở hữu những cầu thủ phù hợp với triết lý của ông.

18 THÁNG 11, 2026

Vinicius giúp Brazil thắng đậm nhất sau 14 năm

Vinicius lập hat-trick trong 21 phút, khi Brazil hạ chủ nhà Singapore 7-0 ở trận giao hữu tối 17/11.

18 THÁNG 11, 2026

HLV Kim Sang-sik: ‘Bàn thua không chỉ là lỗi của thủ môn Trung Kiên’

Ninh BìnhHLV Kim Sang-sik bảo vệ thủ môn Trần Trung Kiên sau bàn thua quyết định 1-2 trước Kyrgyzstan, đồng thời tiếc nuối khi Việt Nam không thể kết thúc năm 2026 bằng chiến thắng.

18 THÁNG 11, 2026

Việt Nam sẵn sàng cung ứng gạo ổn định, tin cậy cho Philippines

Chủ tịch Quốc hội Trần Thanh Mẫn gặp Chủ tịch Thượng viện Philippines, đề nghị chú trọng hợp tác về thương mại, đầu tư, bảo đảm an ninh lương thực.

18 THÁNG 11, 2026

Quá trình Thâm Quyến từ làng chài tới thành phố công nghệ

Trung QuốcTừ một làng chài, Thâm Quyến lột xác, trở thành thành phố hiện đại với taxi tự lái, drone giao hàng và các tòa nhà chọc trời.

18 THÁNG 11, 2026

Bài viết liên quan

Vật liệu đặc biệt phủ quanh tàu vũ trụ của Elon Musk

Tàu vũ trụ của Elon Musk được bao phủ bởi các tấm gạch gốm hình lục giác, giúp bảo vệ phương tiện trước nhiệt độ cực cao khi trở về khí quyển.

17 THÁNG 11, 2026

TP HCM đề xuất cho doanh nghiệp dùng miễn phí dữ liệu mở để huấn luyện AI

TP HCMDự thảo Nghị quyết đề xuất doanh nghiệp, tổ chức nghiên cứu hoạt động trong khu đô thị khoa học TP HCM có thể được khai thác miễn phí dữ liệu mở để huấn luyện AI, phát triển ứng dụng số.

16 THÁNG 11, 2026

Microsoft khôi phục dịch vụ sau sự cố kéo dài hơn một ngày

Microsoft cho biết đã khôi phục trên diện rộng loạt dịch vụ Outlook, Teams, SharePoint Online… sau hơn một ngày gặp sự cố ở quy mô toàn cầu.

15 THÁNG 11, 2026

Chia sẻ dữ liệu phát hiện sớm lừa đảo trực tuyến tại Việt Nam

Theo đại diện Bộ Công an, tội phạm trực tuyến hoạt động trên nhiều nền tảng, đặt ra yêu cầu kết nối dữ liệu giữa các tổ chức để phát hiện rủi ro sớm hơn.

14 THÁNG 11, 2026

Megaspeed lên tiếng giữa bê bối ngoại tình của CEO Nvidia

Megaspeed, công ty cũ của Alice Huang, khẳng định coi trọng nghĩa vụ tuân thủ luật kiểm soát xuất khẩu của Mỹ, đồng thời sẽ tích cực hợp tác điều tra.

13 THÁNG 11, 2026