$LA Lagrange ostatnio robi wiele ciekawych rzeczy. Wiesz, że Gemma3 wyszła z Google... Gemma3 to nowa generacja modelu AI stworzona przez Google, która działa mądrzej przy mniejszej liczbie parametrów (jednostki obliczeniowe podobne do neuronów). Działa szybko i z dużą dokładnością, ale jest dość różna od dotychczasowej struktury GPT. Na przykład: - GQA (Grouped Query Attention): zamiast rozwiązywać ten sam problem wielokrotnie, dzieli odpowiedzi. -> Efektywność obliczeniowa ↑ - Lokalna + globalna uwaga: bliskie słowa są lokalne, a odległe globalne, co pozwala na skupienie się na nich. -> Zbędne obliczenia ↓ - RoPE (Rotary Positional Encoding): kolejność słów wyrażana jest za pomocą prostych wartości obrotowych zamiast skomplikowanych macierzy. -> Efektywność przetwarzania długiego kontekstu ↑ - RMSNorm, GeGLU: zmiana zasad i sposobów reakcji mózgu na porządkowanie myśli. -> Stabilność i dokładność ↑ Jednak gdy struktura się zmienia, znacznie trudniej jest udowodnić, czy „ten model...
Pokaż oryginał
4,84 tys.
48
Treści na tej stronie są dostarczane przez strony trzecie. O ile nie zaznaczono inaczej, OKX nie jest autorem cytowanych artykułów i nie rości sobie żadnych praw autorskich do tych materiałów. Treść jest dostarczana wyłącznie w celach informacyjnych i nie reprezentuje poglądów OKX. Nie mają one na celu jakiejkolwiek rekomendacji i nie powinny być traktowane jako porada inwestycyjna lub zachęta do zakupu lub sprzedaży aktywów cyfrowych. Treści, w zakresie w jakim jest wykorzystywana generatywna sztuczna inteligencja do dostarczania podsumowań lub innych informacji, mogą być niedokładne lub niespójne. Przeczytaj podlinkowany artykuł, aby uzyskać więcej szczegółów i informacji. OKX nie ponosi odpowiedzialności za treści hostowane na stronach osób trzecich. Posiadanie aktywów cyfrowych, w tym stablecoinów i NFT, wiąże się z wysokim stopniem ryzyka i może podlegać znacznym wahaniom. Musisz dokładnie rozważyć, czy handel lub posiadanie aktywów cyfrowych jest dla Ciebie odpowiednie w świetle Twojej sytuacji finansowej.