Vì sao ChatGPT chậm hơn khi dùng tiếng Việt so với tiếng Anh?

Phần này phải bắt nguồn từ việc là ChatGPT sẽ phân loại chữ thành Token, đại loại là đánh số 1 từ thành 1 con số. 1 token tương ứng khoảng 3/4 hay 0.75 word trong tiếng Anh. Vậy nên với Số Token gấp đôi thì thời gian xử lý tiếng Việt (cả đầu vào và đầu ra) sẽ tốn ít nhất là gấp đôi so với tiếng Anh.

Ngoài ra, xử lý đống token này phải tốn tài nguyên máy nên chatGPT giới hạn lại đầu input và output (Prompt bạn nhập vào và kết quả đầu ra) để có thể có trải nghiệm tốt nhất.

Điều đó dẫn đến 3 vấn đề:

1. Dùng Tiếng Anh để chat thì LUÔN LUÔN có ưu thế hơn Tiếng Việt và các tiếng khác (vd: Tiếng Trung).

2. Số lượng Token để xử lý cùng 1 đoạn tiếng Việt > so với tiếng Anh (xem ảnh bên dưới),

3. Càng nhập nhiều thì ChatGPT sẽ không nhớ là trước đó đã nói gì (ảo tưởng hay còn gọi là hallucination) do vượt quá số lượng Token nó có thể xử lý trong 1 lần. Điều này mình thấy bạn bè mình đôi khi chỉ dùng 1 khung chat rồi cứ nói tiếp nói tiếp, dẫn đến câu trả lời phía sau không còn hiệu quả nữa.

Để cải thiện kết quả đầu ra thì nên làm gì?

1. Dùng tiếng Anh nếu bạn thành thạo, vì sẽ lợi thế hơn rất nhiều lần so với tiếng Việt.

2. Không nên chat quá nhiều vấn đề vào cùng 1 phần chat, mà nên kiểm tra và sửa lại prompt, có thể tạo khung chat mới khi cần để làm theo từng bước, giúp kết quả đầu ra đáng tin cậy hơn và ChatGPT bớt ảo tưởng hơn.

-

Bài viết này để cùng chia sẻ thêm các cách sử dụng ChatGPT hiệu quả trong công việc hàng ngày của Doanh nghiệp