Nació el 26 de noviembre de 1888, en la ciudad de San José de Mayo, en la mayor pobreza, sin estudios, donde su única opción fue el trabajo. Cuando con su instinto encontró el camino de la música, logró lo que se propuso: éxito y fortuna. Fue puntal en la creación de la actual SADAIC (Sociedad Argentina de Autores y Compositores de Música), fundada en 1935 y cuyo edificio fue erigido en terrenos adquiridos por Canaro.
 

    Corriendo el 1908 ya estaba decidido que el camino de Canaro estaría en el tango. Actúa por entonces en los cafés concert que abundaban en el barrio de la Boca y su nombre comienza a ser reconocido. En 1912 comenzó Canaro su trascendental labor de compositor con los tangos "Pinta brava" y "Matasanos" el que escribió a pedido de los estudiantes de medicina a punto de recibirse, que en el día de la primavera organizaban los llamados "Bailes del internado". Fue allí cuando contratado para presentarse con su conjunto, formado al efecto, por primera vez empuñó la batuta. Su orquesta fue la primera en ingresar en residencias aristocráticas, donde el tango era resistido. En 1921, para animar los carnavales en el ya desaparecido teatro Opera, de Buenos Aires, formó una orquesta de 32 músicos, masa orquestal desconocida por el tango hasta ese momento. En 1924 concibió la ocurrencia de incorporar un cantor a la orquesta, aunque sólo para entonar el estribillo,

breve tema central de cada tango. Dio así inicio a la era de los "estribillistas" o "chansonniers", el primero de los cuales fue Roberto Díaz.

   En 1925 marchó a París, donde el tango hacía furor. Ya estaban allí, entre otros, Manuel Pizarro y sus hermanos, cada uno con una diferente orquesta "Pizarro", y Canaro hizo lo propio con sus hermanos. Había llevado consigo a sus estribillistas Agustín Irusta y Roberto Fugazot, dúo al que unió con el pianista Lucio Demare. El resultante trío triunfaría en España y otros países de Europa por más de diez años. Algunas de sus composiciones exitosas fueron "El chamuyo", "El pollito", "Charamusca", "Mano brava", "Nobleza de arrabal", "La tablada", "Destellos", "El opio", "Sentimiento gaucho", "La última copa", "Déjame", "Envidia", "Se dice de mí", "La brisa", "Madreselva" y "El tigre Millán".