Modern AI Network & Transformer Lab

Live Backprop & Adam • RoPE Self-Attention • Sparse MoE & KV-Cache • Vector RAG & Salieri
← manseder.at
Lern-Datensätze (Presets):
2
5
GELU
Adam
0.050
0.001
Canvas-Klick fügt hinzu:
Epoche
0
Adam β₁=0.9 β₂=0.999
BCE Loss ℒ
0.693
L2: 0.000
Genauigkeit
50.0 %
N = 120 Samples
Trainierbare Params
46
2 → 5 → 5 → 1
‖∇W₁‖₂ Gradient
0.000
Healthy Flow
🕸️ Live-Netztopologie & Backprop-Fluss (W, b, ∂ℒ/∂W)
Bewege die Maus über Neuronen im Graph, um exakt z = Σw·x + b und den Gradienten zu prüfen. FWD + BWD LIVE
🗺️ 2D-Entscheidungsgrenze & Datenraum x₁=0.00, x₂=0.00 → p=0.50
📈 Loss-Verlauf ℒ(t) & Aktivierung φ(z) / φ'(z) max φ'(z)