66B là một mô hình ngôn ngữ lớn được thiết kế để xử lý ngôn ngữ tự nhiên với quy mô tham số lên tới 66 tỷ. Mục tiêu là cân bằng giữa hiệu suất và khả năng triển khai trên hạ tầng công cộng. Người dùng có thể sử dụng 66B cho tạo nội dung tự động, tóm tắt văn bản và trả lời câu hỏi.
66B dựa trên kiến trúc transformer, với cơ chế tự chú ý và các lớp feedforward sâu. Dữ liệu huấn luyện gồm nhiều nguồn từ web, sách và văn bản chất lượng cao. Việc tối ưu hóa và hiệu chỉnh tham số cho phép vận hành một mô hình quy mô lớn trên phần cứng phổ thông.
66B có thể được dùng cho tạo nội dung tự động, hỗ trợ mã, dịch thuật và trợ lý ảo. Với API nhanh và chi phí hiệu quả, 66B có thể được tích hợp vào các hệ thống chăm sóc khách hàng, giảng dạy, và phát triển phần mềm. Người dùng cần cân nhắc với rủi ro về định hướng, thiên vị và tính bảo mật của dữ liệu.