$LA Lagrange macht zurzeit viele interessante Dinge. Sie wissen wahrscheinlich, dass Gemma3 von Google herausgekommen ist… Gemma3 ist das nächste AI-Modell, das von Google entwickelt wurde und es funktioniert intelligenter mit weniger Parametern (Berechnungseinheiten wie Gehirnzellen). Es ist schnell und genau, aber es unterscheidet sich erheblich von der bestehenden GPT-Struktur. Zum Beispiel: - GQA (Grouped Query Attention): Anstatt das gleiche Problem mehrmals zu lösen, wird die Antwort geteilt. -> Berechnungseffizienz↑ - Lokale + globale Aufmerksamkeit: Nahegelegene Wörter werden lokal und weit entfernte global fokussiert. -> Unnötige Berechnungen↓ - RoPE (Rotary Positional Encoding): Die Reihenfolge der Wörter wird anstelle komplexer Matrizen durch einfache Rotationswerte dargestellt. -> Effizienz bei der Verarbeitung langer Kontexte↑ - RMSNorm, GeGLU: Die Regeln und Reaktionsweisen, wie das Gehirn denkt, wurden geändert. -> Stabilität und Genauigkeit↑ Aber wenn sich die Struktur so ändert, wird es viel schwieriger zu beweisen, ob "dieses Modell wirklich korrekt gerechnet hat?" Normalerweise kommt nur das Ergebnis heraus, wie in einer Blackbox, sodass man nicht anders kann, als zu vertrauen, aber das zu beweisen, ist der entscheidende Punkt. Lagranges DeepProve hat dies bis zu Gemma3 erweitert. - Komplexe Aufmerksamkeitsmasken können bewiesen werden. - Neue Positionierungsencodings wie RoPE können ebenfalls verarbeitet werden. - RMSNorm/GeGLU können modularisiert und bewiesen werden. -> Neueste AI-Architekturen können nun mathematisch beweisen, dass "die Ausgabe korrekt ist." Warum ist das wichtig? Aus der Sicht der Entwickler: Es gibt kein Problem mit "nicht verifizierbar", selbst wenn die neuesten Strukturen verwendet werden. Aus der Sicht der Unternehmen: Regulierungs- und Vertrauensfragen folgen dem Innovationstempo. In der Gesellschaft: Je intelligenter AI wird, desto sicherer wird es auch. In Zukunft könnte die Wettbewerbsfähigkeit von AI nicht mehr davon abhängen, "wie viele Parameter es hat", sondern davon, ob [es bewiesen werden kann]. —— Was ist also $LA? Es könnte sein, dass es nicht sofort auf Token reagiert, aber es ist positiv in Bezug auf tatsächliche Umsätze, Partnerschaften und die Erweiterung des Ökosystems. Ich fand die Nachrichten über Lagrange beim letzten Mal interessant und dachte, die Charts sehen auch gut aus, aber diesmal sind die Charts ziemlich stabil… Soll ich vielleicht eine Wette platzieren?