Foundation-Model-Training

Das Modell trainiert, indem es rekonstruiert, was es nicht sehen kann. Ein selbstüberwachtes Ziel aus maskierter Rekonstruktion verdeckt Teile jedes Fensters mit sechs strukturierten Maskentypen – von verstreuten Zufallsgelenken und ganzen Zeitblöcken bis zu anatomischen Graphregionen und kombinierten raum-zeitlichen Blöcken – und verlangt vom Netz, die ursprünglichen sauberen 3D-Koordinaten zu rekonstruieren. Jede Maskenfamilie erzwingt eine andere Kompetenz: Zeitblöcke verlangen Bewegungsfortsetzung, Graphregionen anatomische Inferenz, kombinierte Blöcke beides zugleich.

Zwei Eigenschaften entstehen zugleich. Präzision pro Gelenk: Rekonstruktionen bleiben Gelenk für Gelenk genau. Und ein geordneter Embedding-Raum: Ähnliche Bewegung liegt nahe beieinander – unabhängig von Kamerawinkel, Spiegelung oder Körpergröße. Nirgendwo im Training werden Annotationen verwendet – keine Labels, keine Event-Tags, keine menschliche Bewertung.

Ein Modell des Körpers darf keine unmöglichen Körper erfinden – Knochen, die sich dehnen, Gelenke, die teleportieren. Während des gesamten Trainings sind die Ausgaben an anatomische Plausibilität gebunden: Knochenlängen bleiben innerhalb eines Fensters konsistent, Geschwindigkeits- und Beschleunigungsprofile glatt. Das Ergebnis ist keine Physik-Engine, sondern ein weicher anatomischer Vertrag, der sicherstellt, dass jede Rekonstruktion ein Körper bleibt.

Ein 2D-Skelett ist ein durch eine Kamera gesehenes 3D-Skelett – eine Projektion, die die Tiefe verwirft. Für dieses Modell ist Tiefe schlicht eine weitere Größe, die fehlen kann: Weil es gelernt hat, wie sich Körper in drei Dimensionen bewegen, stellt es die verlorene Dimension genauso wieder her wie ein verdecktes Gelenk. Derselbe Forward-Pass, der entrauscht und Lücken füllt, übernimmt auch das Lifting.

Der aktuelle Checkpoint stammt aus einem Proof-of-Concept-Lauf: 8×H100 über 14 Tage – rund 2.700 GPU-Stunden – end-to-end mit null Labels trainiert. Es ist ein Forschungs-Checkpoint, kein Produktmodell; sein gemessenes Verhalten dokumentiert die Evaluationssuite.

Selbstüberwachung verwandelt Rohmaterial in Trainingssignal; die Fähigkeiten skalieren mit den Daten, nicht mit dem Annotationsbudget. Gelernt wird aus Bewegungsdaten in großem Maßstab – einem massiven, wachsenden Korpus aus Bewegungsvideo, überführt in Skelettdaten. Die Leiter unten ist die ehrliche Karte von der Korpusgröße zu dem, was das Modell tragen kann – mit jeder Größenordnung, um die das Trainingskorpus wächst, werden anspruchsvollere Fähigkeiten möglich.