$LA Lagrange sta facendo molte cose interessanti ultimamente. Saprete già che è uscito Gemma3 su Google… Gemma3 è il modello AI di nuova generazione creato da Google che funziona in modo più intelligente con meno parametri (unità di calcolo simili a neuroni). È veloce e preciso, ma è abbastanza diverso dalla struttura GPT esistente. Per esempio: - GQA (Grouped Query Attention): non risolve lo stesso problema più volte, ma condivide le risposte. -> Efficienza di calcolo↑ - Attenzione locale+globale: distingue tra parole vicine (locale) e parole lontane (globale) per concentrarsi. -> Calcoli non necessari↓ - RoPE (Rotary Positional Encoding): rappresenta l'ordine delle parole con valori di rotazione semplici invece di matrici complesse. -> Efficienza nel gestire contesti lunghi↑ - RMSNorm, GeGLU: ha cambiato le regole e i modi in cui il cervello organizza i pensieri e risponde. -> Stabilità e precisione↑ Ma con questa struttura diversa, diventa molto più difficile dimostrare se...
Mostra originale
4.838
48
Il contenuto di questa pagina è fornito da terze parti. Salvo diversa indicazione, OKX non è l'autore degli articoli citati e non rivendica alcun copyright sui materiali. Il contenuto è fornito solo a scopo informativo e non rappresenta le opinioni di OKX. Non intende essere un'approvazione di alcun tipo e non deve essere considerato un consiglio di investimento o una sollecitazione all'acquisto o alla vendita di asset digitali. Nella misura in cui l'IA generativa viene utilizzata per fornire riepiloghi o altre informazioni, tale contenuto generato dall'IA potrebbe essere impreciso o incoerente. Leggi l'articolo collegato per ulteriori dettagli e informazioni. OKX non è responsabile per i contenuti ospitati su siti di terze parti. Gli holding di asset digitali, tra cui stablecoin e NFT, comportano un elevato grado di rischio e possono fluttuare notevolmente. Dovresti valutare attentamente se effettuare il trading o detenere asset digitali è adatto a te alla luce della tua situazione finanziaria.