Em 1886 casa-se com Teodora de Meireles, a quem dedica a valsa Dora. Três anos depois lança Brejeiro, composição que introduz um novo gênero musical, o tango brasileiro. A música chega a ser gravada na França, pela banda da Guarda Republicana de Paris.
Em 1898 dá seu primeiro concerto, na Intendência de Guerra do Rio. A morte da filha, em 1917, deixa-o muito abalado. Trabalha como pianista no Cine Odeon, para o qual compõe o famoso tango Odeon, e depois ganha a vida como pianista-demonstrador em lojas de partituras.
Em 1926 assiste em São Paulo a uma conferência do escritor Mário de Andrade sobre sua obra. Em 1929 sofre outro abalo com a morte da mulher.
Em 1930 grava Apanhei-te, Cavaquinho, primeira música a ser apresentada sob a denominação de choro. Aos 70 anos manifesta sinais de perturbação mental e é internado numa colônia para doentes mentais. Morre afogado, durante uma tentativa de fuga.
Suas polcas, choros e tangos servem de tema e inspiração a compositores eruditos como Henrique Oswald, Villa-Lobos, Francisco Mignone e Radamés Gnattali. O pianista Arthur Moreira Lima é hoje um especialista em sua obra.