Nascut a Martorell, es va iniciar en la pastisseria de la seva família, però de seguida va descobrir la seva afició al bel canto. Prengué algunes lliçons amb el mestre Paredes i seguidament un cosí seu el va presentar a l’industrial Ramon Batlló; aquest, un cop comprovades les aptituds de Palet, passà a convertir-se en el seu protector. Va seguir els seus estudis amb Joan Goula, i als 23 anys debutà al Liceu de Barcelona amb l’òpera La Favorita, obtenint un gran èxit.
A partir d’aquest moment Josep Palet va anar enllaçant triomfs allà on actuava. En els propers anys recorregué els teatres d’Europa i Amèrica. Fou aplaudit a teatres com el Teatre Real de Madrid, on cantà diverses temporades, a Lisboa, a Itàlia, on recorregué els seus centres operístics més importants. Des de la dècada de 1910 Palet es va instalar de forma definitiva a Milà amb la seva esposa, la italiana Luisa Eringio, i seria en aquesta ciudad que debutaria al Teatre alla Scala l'any 1911. Aquest debut significaria la seva consagració definitiva.
D’Itàlia marxà cap a Amèrica: Estats Units, Canadà, Cuba, Mèxic, Xile, Argentina, Brasil, Veneçuela... I també Egipte, Holanda, Portugal, Hongria, Grècia i Suïssa serien escenaries que veurien brillar el tenor. Però Palet no es va oblidar de Barcelona ni de Martorell; a la ciutat comtal va fer diverses actuacions al Teatre del Liceu i a Martorell va fer algunes actuacions: la primera fou l’any 1915, en motiu d’unes festes benèfiques.
A l’hort dels Convents, que el denominaren per l’ocasió Teatre Natura, s’hi muntà un escenari proveït d’espectaculars decorats, fets expressament per escenògrafs del Liceu. Així, els dies 14 i 15 d’agost d’aquell any, coincidint també amb la Festa Major de la vila, Palet va interpretar l’òpera Aïda, de Verdi, i la popular Marina, de Vives. Les altres actuacions foren al Círcol Republicà Federal, entre els anys 1930 i 1932. A partir del 1936, Palet es va retirar a la ciutat de Milà, on va assolir un gran renom. Morí repentinament mentre viatjava en tramvia, l’any 1946.
La clau de l’èxit de Palet fou la de posseir una veu que modulava a voluntat. La seva dicció era molt bona, ja fos en els tons alts i aguts, com en els tons baixos i cadenciosos; aquesta virtut li donava un caràcter personalíssim i una gran naturalitat interpretativa. A més, Palet posseïa un dels repertoris operístics més extensos de l’època; algú va arribar a dir que coneixia més de noranta òperes. De fet, va triomfar en òperes en les que d’altres professionals fracassaven, com fou el cas dels Hugonots, de Mayerbeer, o els Els Mestres Cantaires, de Wagner.
L’any 1946, Martorell li dedicà un gran homenatge, on fou proclamat “Fill Predilecte de la Vila”. E aquest acte es col.locà una placa commemorativa a la seva casa natal, situada al carrer Santacana, núm. 18. L’acte va finalitzar amb la representació de l’òpera Tosca al cafè-teatre El Progrés.
L'Ajuntament de Martorell va commemorar el 140è aniversaridel naixement del tenor Palet el 2017, any en que fundaria el Concurs Internacional de Cant Josep Palet, que se celebra anualment.