$LA Lagrange gần đây đang làm nhiều điều thú vị Bạn có thể đã biết về Gemma3 được phát hành bởi Google… Gemma3 là mô hình AI thế hệ tiếp theo do Google phát triển, hoạt động thông minh hơn với ít tham số hơn (đơn vị tính toán giống như tế bào não) Tốc độ cũng nhanh và độ chính xác cao, nhưng khá khác biệt so với cấu trúc GPT hiện tại Ví dụ - GQA (Grouped Query Attention): không giải quyết cùng một vấn đề nhiều lần, mà chia sẻ câu trả lời -> Tăng hiệu quả tính toán - Attention cục bộ + toàn cầu: phân loại từ gần là cục bộ, từ xa là toàn cầu để tập trung -> Giảm tính toán không cần thiết - RoPE (Rotary Positional Encoding): biểu diễn thứ tự từ bằng giá trị quay đơn giản thay vì ma trận phức tạp -> Tăng hiệu quả xử lý ngữ cảnh dài - RMSNorm, GeGLU: thay đổi quy tắc và cách phản ứng của não khi tổ chức suy nghĩ -> Tăng độ ổn định và chính xác Nhưng khi cấu trúc thay đổi như vậy, việc chứng minh "mô hình này có tính toán đúng không?" trở nên khó khăn hơn nhiều Thông thường, chỉ có kết quả như một hộp đen nên không còn cách nào khác ngoài việc tin tưởng, nhưng việc chứng minh điều này là điểm mấu chốt. DeepProve của Lagrange đã mở rộng điều này đến Gemma3 - Có thể chứng minh mặt nạ attention phức tạp - Có thể xử lý encoding vị trí mới như RoPE - Có thể mô-đun hóa và chứng minh cả RMSNorm/GeGLU -> Kiến trúc AI mới nhất cũng có thể được chứng minh toán học rằng "đầu ra là đúng" Điều này quan trọng vì, Từ góc độ của nhà phát triển Không có vấn đề "không thể xác minh" ngay cả khi sử dụng cấu trúc mới nhất Từ góc độ của doanh nghiệp Các vấn đề về quy định và niềm tin theo kịp tốc độ đổi mới Trong xã hội Khi AI trở nên thông minh hơn, độ an toàn cũng tăng lên Trong tương lai, sức cạnh tranh của AI có thể không phải là "có bao nhiêu tham số" mà là [có thể chứng minh được không] —— Vậy $LA là gì? Có thể không phản ứng ngay lập tức với token, nhưng thực sự có liên kết với doanh thu và tích cực trong việc mở rộng quan hệ đối tác và hệ sinh thái Lần trước khi xem tin tức về Lagrange, tôi thấy thú vị và nghĩ rằng biểu đồ cũng ổn Lần này biểu đồ cũng khá ổn định… Có nên đặt cược một chút không?