Dopo gli studi di giurisprudenza, si trasferì a Monaco per fare il tirocinio all’Accademia di Belle Arti (1896). Le sue prime opere mostrano una particolare attenzione al colore, con forme spesso influenzate dall’art noveau. Tra il 1908 e il 1910 si trasferì a Murnau, in Baviera, a dipingere paesaggi alpini. In questi suoi quadri gli oggetti cominciano a perdere la propria identità per dissolversi in accordi cromatici, elementi che lo porteranno alla nascita della pittura astratta con il celebre acquerello del 1910 (Parigi). La sua ricerca di questi anni sui colori e sui loro valori simbolici, portata avanti nelle due serie Improvvisazioni e Composizioni, venne sintetizzata nel libro Lo spirituale nell’arte (1912). Nello stesso anno, con Franz Mark, dà vita al movimento del Blaue Reiter, il cavaliere azzurro. Con la guerra è a Mosca e partecipa alla vita del nuovo stato russo fino al 1921 quando torna in Germania per insegnare al Bahuaus. Qui le sue opere mostrano una progressiva geometrizzazione che verrà definita nel celebre libro Punto, Linea, Superficie (1926).