Filho de um gerente de farmácia e de uma professora, Noel de Medeiros Rosa nasce no bairro de Vila Isabel, no Rio de Janeiro, de parto difícil, em que o fórceps afunda seu maxilar. Alfabetizado pela mãe, em 1924 entra no colégio Maisonette e depois vai para o São Bento.
Aprende a tocar bandolim aos 13 anos, de ouvido. Em seguida muda para o violão. Frequenta as rodas boêmias e, em 1929, entra para o grupo Bando dos Tangarás, formado por João de Barro, Almirante, Alvinho e Henrique Brito.
Em 1930 alcança o sucesso com o samba Com Que Roupa? Na mesma época, entra para a Faculdade Nacional de Medicina, mas abandona o curso em 1932. Seu estilo irreverente marca o samba dos anos 30, que adquire tons coloquiais e passa a fazer a crônica social dos morros e das vilas cariocas.
Com Vadico, um de seus parceiros mais constantes, compõe Conversa de Botequim, sucesso em 1935, Feitio de Oração e Pra Que Mentir.
Entre seus sambas mais conhecidos estão Fita Amarela, Palpite Infeliz e Último Desejo. Sua última obra, o samba Eu Sei Sofrer, é gravada por Araci de Almeida e Benedito Lacerda no dia de sua morte. Tuberculoso, morre no Rio, aos 27 anos, deixando mais de 300 composições.