A partir de 1911 participa do grupo Der Blaue Reiter (O Cavaleiro Azul), de pintores de vanguarda, com os alemães Kandínski e Franz Marc. Começa então a receber convites para exibir seus trabalhos em importantes galerias. Em 1912 viaja para Paris e, dois anos depois, para a Tunísia, recebendo influência do cubismo e da cultura oriental.
Seus quadros mostram a mistura de inúmeros elementos, da arte pré-colombiana à tapeçaria persa, do mosaico bizantino ao racionalismo geométrico. Entre 1921 e 1926 trabalha na Bauhaus, como artista e professor. Após viajar pela Itália e pelo Egito, entre 1926 e 1928, começa a ensinar na Academia de Dusseldorf, na Alemanha.
Em 1933, suas obras são confiscadas pelo regime nazista e ele se instala na Suíça, onde morre, em Muralto, perto de Locarno. Suas ideias estão expostas nos livros O Pensamento Artístico (1920) e Cadernos de Esforços Pedagógicos (1925).