Depois de servir no Exército alemão durante a I Guerra Mundial, identifica-se com as propostas sociais e artísticas do dadaísmo. Cria um grupo dadá na cidade de Colônia e começa a trabalhar com colagem. Em 1922 muda-se para Paris e dois anos mais tarde se torna um dos fundadores do surrealismo.
Trabalha com decalque e, em 1925, desenvolve a técnica do frottage: uma folha de papel, colocada sobre madeira ou tecido, é raspada com grafite; das marcas resultantes desse processo surgem paisagens e animais estranhos. Suas primeiras experiências com essa técnica são publicadas em 1926, com o título de Histoire Naturelle.
Começa a esculpir em 1934, improvisando técnicas, como fazia com a pintura. Durante a II Guerra Mundial emigra para os Estados Unidos, onde continua as pesquisas plásticas. Volta à França em 1949 e, aos poucos, seu trabalho se torna menos experimental. Morre em Paris.