Salim Hilali est né à Bône (Annaba) en Algérie le 30 juillet 1920, d'une modeste famille de boulangers, originaire de Souk Ahras ? berceau d'une des plus grandes tribus Chaouia, les Hilali. Très jeune, il quitte ses parents et débarque à Marseille en mars 1934 d'un bateau "moutonnier". Il "monte" à Paris pour l'Exposition universelle de 1937. Il y commence une carrière de chanteur espagnol. C'est sa rencontre avec les chanteurs Bachtarzi Mahieddine et Mohamed Elkamal qui marquera le début d'une carrière fabuleuse de chanteur oriental.
En 1938, il fait la tournée des capitales européennes avec la troupe de Mahieddine et, la même année, il se produit dans un spectacle grandiose dans le plus grand cinéma de Marseille, place du Théâtre. Il ne tarde pas à "monter en flèche". Malgré son amour pour le chant espagnol il est resté très attaché à la musique algérienne et il détiendra le record de la vente des disques en Afrique du Nord.

En 1940 il fut sauvé des camps de concentration grâce à l intervention de Si Kaddour Benghabrit, recteur de la Mosquée de Paris, qui lui délivre une attestation de conversion à l'islam au nom de son père et qui pour corroborer cela, fait graver le nom de son père sur une tombe abandonnée du cimetière musulman de Bobigny. De plus il le fait engager au café de la Mosquée de Paris où il s'est produit régulièrement avec des artistes aussi importants qu'Ali Sriti et Ibrahim Salah. En 1947, il crée un cabaret "Ismaïlia Folies" dans l'hôtel particulier de Ferdinand de Lesseps, avenue Montaigne à Paris. En 1948, il en crée un second, "Le Sérail", rue du Colisée.

En 1949, au sommet de sa carrière, il choisit de vivre au Maroc A cette époque il est souvent allé à Tunis pour engager des artistes chanteurs et musiciens, entre autres "la grande dame" de la chanson tunisienne, Chafia Rochdi, à laquelle il vouait une admiration sans bornes.