De niño estudió en el Colegio de las Carmelitas, sección beneficencia, hasta que dejó la escuela para ayudar a su padre, gran aficionado al cante flamenco, en la fragua donde trabajaba. La casa de los Monje era frecuentada por los grandes cantaores de la época de toda Andalucía a su paso por San Fernando y allí el pequeño José comenzó a escuchar a artistas como Manolo Caracol o Antonio Mairena. Cuando su padre falleció a causa del asma, siendo aún muy joven, la familia pasó por apuros económicos, por lo que desde los siete años de edad Camarón comenzó a cantar en distintas tabernas y en la estación del tranvía de San Fernando. En 1958 comienza a cantar de forma esporádica en la Venta de Vargas de San Fernando. Lo hace por las tardes, ya que debido a su corta edad no se le permite asistir de noche. Allí lo escuchan por primera vez los grandes cantaores de la tierra.

En 1962, con doce años, gana el primer premio del Concurso Flamenco del Festival de Montilla (Córdoba). Empieza a extenderse su fama y se inicia como profesional en el mundo del cante en compañía de su mejor amigo de entonces, el cantaor Rancapino. Juntos frecuentan las ferias más importantes de Andalucía, demostrando su arte en las casetas en las que actúan. A partir de entonces canta junto a Dolores Vargas y la Singla, entre otros, y hace varias giras por Europa y América enrolado en la compañía de Juanito Valderrama. En 1966 gana el primer premio en el Festival del Cante Jondo de Mairena del Alcor y posteriormente se traslada a Madrid con Miguel de los Santos.