66b là một thuật ngữ dùng để chỉ một mô hình ngôn ngữ có quy mô khoảng 66 tỷ tham số. Những mô hình như vậy có khả năng hiểu và sinh văn bản tự nhiên ở nhiều ngữ cảnh.
Khái niệm 66b xuất hiện từ xu hướng tăng quy mô của các mô hình ngôn ngữ. Việc huấn luyện trên dữ liệu lớn và tối ưu hóa hằng tỉ tham số cho phép mô hình nắm bắt ngữ nghĩa và cú pháp một cách linh hoạt.
66b dựa trên kiến trúc transformer với nhiều lớp tự chú ý, cho phép nó tập trung vào các phần quan trọng của văn bản và xử lý mạch lệnh dài.
Trong công nghệ ngày nay, 66b được dùng cho tổng hợp văn bản, trả lời câu hỏi, dịch ngôn ngữ, tóm tắt và trợ giúp sáng tạo. Tuy nhiên cần cân nhắc vấn đề đạo đức và chi phí vận hành.
Hiệu suất trên các ngữ cảnh đa ngôn ngữ, rủi ro bias và an toàn, cùng với chi phí phát triển là các yếu tố cần quản lý khi triển khai 66b trong thực tế.