Mohamed Ben Brahim Boukharouba est né officiellement[2] le 23 août 1932 à Aïn Hassainia, près de Guelma. Issu d'une famille pauvre, originaire de la petite Kabylie près de Jijel[3], les Boukharouba, dont le nom évoque le caroubier - (« kharoub », en arabe), au feuillage éternel et au fruit médiocre bon pour faire, surtout, la « confiture du pauvre ». Le père, un khammès (métayer au quint), élève difficilement ses cinq enfants : deux filles et trois fils, Ahmed, Mohamed et Saïd[4].
Le jeune Mohamed Boukharouba assiste aux événements sanglants du 8 mai 1945 à Sétif, Guelma et Kherrata, dont il dira plus tard : « Ce jour-là, j'ai vieilli prématurément. L'adolescent que j'étais est devenu un homme. Ce jour-là, le monde a basculé. Même les ancêtres ont bougé sous terre. Et les enfants ont compris qu'il faudrait se battre les armes à la main pour devenir des hommes libres. Personne ne peut oublier ce jour-là.»
Il s'inscrit à Constantine, comme élève de langue et littérature arabes. Il étudie à la zaouïa Khattenia et à l'institut Ben Badis. Il entre, comme beaucoup de jeunes de sa génération aux « scouts musulmans », première pépinière du nationalisme algérien et milite à la base dans le parti nationaliste le plus radical, le Mouvement pour le triomphe des libertés démocratiques (MTLD).
En 1950. il poursuit ses études à la « Zitouna », de Tunis, mais le conservatisme somnolent de la vieille université de « l'Olivier » ne lui convient guère, et il s'en va, un an plus tard, suivre au Caire, en auditeur libre l'enseignement de la prestigieuse université religieuse al-Azhar et les cours du soir de « l'école Khiddouia ». Il ne peut compter alors que sur une maigre bourse et il gagne sa vie comme instituteur.
Toujours militant du MTLD, il donne un coup de main aux représentants de l'Algérie, de la Tunisie et du Maroc au « bureau du Maghreb arabe » qui travaillent à préparer, contre le système colonial français, une insurrection à l'échelle de toute l'Afrique du Nord. Il tourne la ronéo, tire des tracts développe sa formation politique et bientôt, sa formation militaire, il fait en effet partie du groupe de quinze étudiants que le bureau du Maghreb arabe envoie suivre à partir d'août 1953 des séances d'instruction à l'école de guerre d'Alexandrie et qui reçoit ensuite un entrainement militaire dans un camp proche du Caire. Très désargentés, les sept Algériens du groupe, lorsqu'ils se rendent dans la capitale, habitent une villa appartenant au bureau du Maghreb arabe. Deux délégués algériens à cet organisme, Mohamed Khider et Hocine Aït Ahmed, leur demandent au printemps suivant de quitter les lieux. Première déception pour le volontaire de Guelma