Le christianisme fait son entrée en l'an 256. Durant le siècle suivant, dans une atmosphère de déclin grandissant, les populations des villes côtières algériennes et tunisiennes, ainsi qu'une minorité de la population des campagnes se convertissent à la nouvelle religion. En 313, avec les crises politiques et économiques romaines qui s'éternisent, la nouvelle religion devient l'alibi d'une nouvelle révolte qui sera encore une fois amazigh. En effet, le culte donatiste se développa en Algérie à Baghaï[70] dans les Aurès et en Tunisie comme un défi politique à Rome. Les donatistes, refusant d'accepter l'autorité religieuse de l'Empereur, exigent la séparation de l'État et de la religion. Ainsi ils finiront par déclarer que l'empereur représente le diable, et non pas la religion de Jésus. Ils rejetèrent aussi le rite catholique. L'empereur envoie ses troupes pour les réduire, dans ce qui est communément appelé la première persécution des chrétiens par d’autres chrétiens. La répression ne fit qu'accroître le soutien populaire aux donatistes. En 321, les légions romaines venues réprimer les donatistes se retirèrent.
Toutefois, vers l'an 340, l'idéologie donatiste donne naissance à une secte populaire, celle des circoncellions, littéralement ceux qui encerclent les fermes. Comme le culte donatiste célébrait les vertus du martyre, les circoncellions devinrent des extrémistes qui considéraient le martyre comme étant la véritable vertu chrétienne et laissèrent de côté toutes les autres valeurs de leur religion telles que l'humilité et la charité. Ils se munirent de matraques de bois, refusant de porter des armes en fer, car dans les Évangiles Jésus avait demandé à Pierre de poser son épée. Ainsi, munis de leurs matraques, ils se mirent à attaquer les voyageurs sur les routes de toutes les régions+, puis les fermes des propriétaires terriens. Le but des circoncellions était de mourir au combat en martyrs. Ces extrémistes tuèrent, violèrent, volèrent les voyageurs et les propriétaires terriens. Lorsqu'ils n'arrivaient pas à se faire tuer, ils finissaient par se suicider en sautant du haut des falaises. La secte des circoncellions, violemment réprimée, finit par disparaître vers le IVe siècle. Ce dérapage du culte donatiste eut pour conséquence de noircir encore plus leur réputation à Rome.
Alors qu'en l'an 395 l'Empire romain fait face à de sérieux problèmes internes, qui réduisent le contrôle qu’exerçait Rome sur l'Afrique du Nord, les donatistes saisissent cette conjoncture favorable pour tenter à nouveau de dominer la scène politique et religieuse. Finalement, excédé, l'empereur les déclare hérétiques en 409 et leur enjoint de restituer toutes les églises en leur possession en Afrique du Nord. Il envoie plusieurs légions qui sont d'une férocité terrible envers les responsables religieux du culte, parfois même envers la population locale. Saint Augustin, qui était alors l'évêque catholique d'Hippone (actuelle Annaba), essaya de calmer la colère de l'administration romaine, en plaidant pour un traitement plus humain des donatistes. Malgré les appels pressants de plusieurs parties, les donatistes disparurent presque complètement de la scène religieuse, une minuscule communauté survit dans la clandestinité jusqu'au VIe siècle. Quelques années plus tard, en 430, c'est tout l'Empire romain qui se retire de l'Algérie sous la pression des Vandales qui envahissent le pays. Le 28 août 430, Saint Augustin, l'un des derniers symboles de l'intégration de la population au sein de l'Empire romain, trouve la mort durant le siège d'Hippone par les Vandales. Une partie de l'Algérie suivit le mouvement arien, l'arianisme était bien implanté par les Vandale