Continuous Diffusion LLM: Lối Đi Mới Phá Vỡ Autoregression

Cơ chế tự hồi quy (Autoregression) từ lâu đã thống trị thế giới mô hình ngôn ngữ lớn, nhưng Mô hình Ngôn ngữ Khuếch tán Liên tục (Continuous Diffusion Language Models - CDLM) đang tạo nên một làn sóng quay trở lại đầy ấn tượng [0]. Bằng cách xem việc tạo văn bản như một quá trình khử nhiễu lặp đi lặp lại trong không gian vector liên tục thay vì đoán từng từ rời rạc từ trái sang phải, CDLM mở ra triển vọng lớn cho việc tạo sinh song song, nắm bắt ngữ cảnh hai chiều và chỉnh sửa văn bản linh hoạt [0].

Giới hạn của cỗ máy đoán từ tiếp theo

Hầu hết các mô hình AI hiện nay—từ GPT-4, Claude cho đến Llama—đều vận hành theo một vòng lặp tự hồi quy quen thuộc: dựa vào chuỗi từ đã có, dự đoán một token tiếp theo có xác suất cao nhất, ghép nó vào chuỗi và lặp lại. Công thức này thành công rực rỡ trong giai đoạn huấn luyện nhờ khả năng xử lý song song toàn bộ chuỗi thông qua kỹ thuật teacher forcing.

Thế nhưng, ở pha suy luận (inference), mô hình buộc phải chạy tuần tự từng bước một. Nếu mô hình đưa ra một cấu trúc câu lệch hướng ngay từ đầu, nó không thể quay lại sửa đổi mà chỉ có thể tiếp tục phóng đại lỗi sai đó. Tốc độ suy luận tỷ lệ thuận với độ dài văn bản đầu ra ($O(N)$), đồng thời đòi hỏi dung lượng bộ nhớ khổng lồ cho bộ nhớ đệm Key-Value (KV Cache) để tránh việc phải tính toán lại các trạng thái cũ. Nói cách khác, tự hồi quy giống như việc lát từng viên gạch trên con đường một chiều: nhanh chóng nhưng thiếu linh hoạt.

Chuyển từ token rời rạc sang không gian liên tục

Minh họa trừu tượng về quá trình khử nhiễu vector liên tục thành các token ngôn ngữ sắc nét

Trước đây, nhiều nhóm nghiên cứu từng thử nghiệm Mô hình Khuếch tán Rời rạc (Discrete Diffusion Language Models - DDLM). Những mô hình này phá hủy văn bản bằng cách che giấu (mask) hoặc thay thế ngẫu nhiên các token rời rạc rồi huấn luyện mạng neural đoán lại từ gốc. Tuy nhiên, dữ liệu rời rạc khiến việc lan truyền gradient bị đứt gãy, làm mất đi các tín hiệu tinh tế trong quá trình tối ưu hóa.

Continuous Diffusion giải quyết triệt để nút thắt này bằng cách đảo ngược thứ tự xử lý [0]:

Nhúng liên tục (Continuous Embedding): Chuyển đổi các token rời rạc ban đầu thành các vector số thực liên tục trong không gian nhiều chiều ($R^d$) [0, 1].
Khuấy nhiễu Gaussian: Thêm nhiễu liên tục vào toàn bộ ma trận embedding cùng một lúc [0, 1].
Khử nhiễu qua Flow Matching: Huấn luyện mô hình dự đoán và loại bỏ nhiễu từng bước trong không gian vector liên tục [0].
Làm tròn về từ vựng (Un-embedding): Chiếu các vector đã được làm sạch trở lại danh mục token rời rạc ở bước cuối cùng [0, 1].

Thay vì viết từng từ một, CDLM phác thảo toàn bộ câu trả lời dưới dạng một trường vector mờ ảo, sau đó tinh chỉnh dần qua từng bước để tạo ra đoạn văn hoàn chỉnh, sắc nét [0].

Vì sao CDLM bất ngờ bùng nổ trở lại?

Trong giai đoạn 2021–2022, các mô hình khuếch tán liên tục từng bị lép vế vì chất lượng câu từ kém và độ phức tạp (perplexity) cao hơn nhiều so với Transformer tự hồi quy [0, 1]. Tuy nhiên, ba bước tiến công nghệ gần đây đã thay đổi hoàn toàn cục diện:

Flow Matching và Vận tải Tối ưu (Optimal Transport): Các phương pháp mô hình hóa dòng chảy tạo ra đường đi xác suất thẳng giữa nhiễu và dữ liệu, giúp quỹ đạo khử nhiễu ổn định và giảm mạnh số bước lấy mẫu [0].
Kỹ thuật Chưng cất Bước (Step Distillation): Vốn được chứng minh hiệu quả trong sinh ảnh và âm thanh, các kỹ thuật chưng cất hiện cho phép nén quá trình khử nhiễu từ 50–100 bước xuống chỉ còn 4 đến 8 bước song song mà vẫn giữ nguyên độ đa dạng của văn bản [0].
Cơ chế Self-Conditioning: Việc đưa kết quả dự đoán trung gian quay trở lại làm đầu vào giúp mạng neural duy trì tính mạch lạc toàn cục trên các chuỗi văn bản dài [0, 1].

Các thử nghiệm đối sánh quy mô (scaling laws) gần đây cho thấy CDLM hiện đạt hiệu năng xấp xỉ các mô hình tự hồi quy trên các tập dữ liệu chuẩn, phá bỏ định kiến rằng khuếch tán không thể xử lý tốt ngôn ngữ tự nhiên [0].

Cân nhắc thực tế: Đánh đổi cấu trúc và ứng dụng

Sự phát triển của CDLM không đồng nghĩa với việc cỗ máy tự hồi quy sẽ biến mất, mà mở ra những bài toán đánh đổi rõ ràng:

Điền khuyết và biên tập tùy ý (Infilling): CDLM vượt trội ở khả năng xử lý phi tuần tự [0]. Bạn có thể cố định câu mở đầu và câu kết luận, hoặc giữ nguyên khung logic của một đoạn mã nguồn, mô hình sẽ tự động lấp đầy phần ở giữa với sự hiểu biết ngữ cảnh hai chiều hoàn hảo.
Sai số làm tròn (Rounding Error): Việc ánh xạ từ vector liên tục về token rời rạc đôi khi gặp rủi ro nếu vector rơi vào vùng ranh giới giữa các từ trong không gian nhúng [0, 1].
Chi phí phần cứng: Tự hồi quy cần $N$ lượt chạy cho $N$ token, nhưng tận dụng được KV Cache. Ngược lại, CDLM rút ngắn số lượt chạy xuống một con số cố định, nhưng mỗi bước lại phải tính toán trên toàn bộ ngữ cảnh [0].
Hệ sinh thái Alignment: Các kỹ thuật hậu huấn luyện như RLHF hay DPO đã rất hoàn thiện trên mô hình tự hồi quy, trong khi việc tối ưu hóa sở thích trên mô hình khuếch tán vẫn là lĩnh vực đang được định hình.

Bức tranh tương lai: Băng chuyền hay Tấm toan vẽ?

Sự trỗi dậy của Continuous Diffusion nhắc nhở giới kỹ sư rằng việc sinh từ theo chuỗi tuần tự chỉ là một lựa chọn thiết kế, chứ không phải quy luật duy nhất của trí tuệ nhân tạo [0]. Tự hồi quy hoạt động như một băng chuyền nhà máy, xử lý tỉ mỉ từng chi tiết nối tiếp nhau. Trong khi đó, Continuous Diffusion giống như một người họa sĩ phác họa toàn bộ bố cục trước khi trau chuốt từng nét vẽ chi tiết [0].

Khi các bài toán AI tiến sâu vào việc tái cấu trúc mã nguồn phức tạp, dịch thuật toàn văn hay kết hợp đa phương thức mượt mà, CDLM mang lại một nền tảng toán học đầy sức mạnh [0]. Trong thời gian tới, những kiến trúc lai kết hợp giữa tư duy lập kế hoạch tự hồi quy và bộ sinh khuếch tán liên tục chắc chắn sẽ là tâm điểm đáng theo dõi.