Foundation-Model-Training

Das Modell trainiert, indem es rekonstruiert, was es nicht sehen kann. Ein selbstüberwachtes Ziel aus maskierter Rekonstruktion verdeckt Teile jedes Fensters mit sechs strukturierten Maskentypen — von verstreuten Zufallsgelenken und ganzen Zeitblöcken bis zu anatomischen Graphregionen und kombinierten raum-zeitlichen Blöcken — und verlangt vom Netz, die ursprünglichen sauberen 3D-Koordinaten zu rekonstruieren. Jede Maskenfamilie erzwingt eine andere Kompetenz: Zeitblöcke verlangen Bewegungsfortsetzung, Graphregionen anatomische Inferenz, kombinierte Blöcke beides zugleich.

Rekonstruktion allein liefert Detail ohne Ordnung. Ein Mehransichten-Konsistenzziel ergänzt die globale Struktur: Zwei augmentierte Sichten desselben Fensters müssen im Embedding-Raum nahe beieinander landen; Regularisierungsterme verhindern den Kollaps — keine Negativpaare, keine Labels. Die Rekonstruktion liefert Präzision pro Gelenk; die Konsistenz organisiert den Embedding-Raum. Nirgendwo im Training werden Annotationen verwendet.

Rekonstruktionsverluste allein erzeugen bereitwillig plausibel wirkenden Unsinn — Knochen, die sich dehnen, Gelenke, die teleportieren. Physik-Regularisierung bestraft genau das: Knochenlängen müssen innerhalb eines Fensters konsistent bleiben, Geschwindigkeits- und Beschleunigungsprofile glatt. Das Ergebnis ist keine Physik-Engine, sondern ein weicher anatomischer Vertrag, der jede Rekonstruktion ein Körper bleiben lässt.

Ein 2D-Skelett ist ein 3D-Skelett durch eine Kamera gesehen — eine Projektion, die die Tiefe verwirft. Das Modell behandelt Lifting deshalb nicht als separate Aufgabe, sondern als Rekonstruktion aus einer verlustbehafteten Sicht: Im Training werden Fenster durch zufällige virtuelle Kameras projiziert, das Ziel ist stets die ursprüngliche 3D-Sequenz. Tiefe wird zu einer weiteren Sache, die maskiert werden kann. Derselbe Forward-Pass, der entrauscht und Lücken füllt, übernimmt auch das Lifting.

Der aktuelle Checkpoint stammt aus einem Proof-of-Concept-Lauf: 8×H100 über 14 Tage — rund 2.700 GPU-Stunden — Ende zu Ende mit null Labels trainiert. Es ist ein Forschungs-Checkpoint, kein Produktmodell; sein gemessenes Verhalten dokumentiert die Evaluationssuite.

Selbstüberwachung verwandelt Rohmaterial in Trainingssignal; Fähigkeit skaliert mit Daten, nicht mit Annotationsbudgets. Die Leiter unten ist die ehrliche Karte von der Korpusgröße zu dem, was das Modell tragen kann — mit jeder Größenordnung, um die das Trainingskorpus wächst, werden anspruchsvollere Fähigkeiten möglich.