La chute de Rome, puis des Vandales, et l’instabilité durant la période byzantine entraine la reconstitution de plusieurs principautés berbères. Certaines, notamment dans les Aurès, vont résister à l’arrivée des musulmans entre 665 et 708.
De 644 à 656, la première tribu berbère algérienne à se convertir à l'islam fut les Maghraoua. Leur chef, Ouezmar Ibn Saclab, fut sollicité par le calife Uthman ben Affan à embrasser la religion musulmane, selon l'historien du Moyen Âge, Ibn Khaldoun. Les Maghraouas se convertissent en masse à la nouvelle religion lors du retour de leur chef. En 665, les Omeyades lancent leur première attaque sur le Maghreb. C’est en 683 que Oqba Ibn Nafaa entreprend la conquête. Si la résistance des Byzantins les arrête peu, il en va différemment de celle des Berbères. Par contre, les Maghraoua s'allient au tour des Omeyades dès le début.
L'unité politique et administrative de la Berbérie orientale et centrale, les Aurès, était en grande partie réalisée par Kusayla, allié des Omeyades. Le conflit entre Kusayla et Oqba Ibn Nafaa amène une autre guerre. Et au décès de Kusayla en 688, Dihya, dite la Kahina, prend la tête de la résistance.
De 688 à 708, Dihya procéda ainsi à la réunification de nombreuses tribus de l'Afrique du Nord orientale et du Sud. Dihya défait par deux fois la grande armée des Omeyades grâce à l'apport des cavaliers Banou Ifren et des autres confédérations. Elle règnera sur tout l'Ifriqiya pendant cinq années. Dihia sera vaincue dans la dernière bataille contre les Omeyyades. Hassan Ibn en Nu'man des Omeyyades demande, en contrepartie, aux différentes tribus alliées à Dihia de faire partie de l'armée Omeyades. Et ensuite, Musa ben Nusayr nomme son affranchi Tariq ibn Ziyad gouverneur de Tanger et le plaça à la tête de l'armée berbère du Maghreb.
En 708, les Omeyyades restent les maîtres de l’Algérie. La période préislamique se termine. L'Algérie s’islamise, tandis que les langues latine et punique disparaissent. Après la conquête musulmane, les citadins adoptèrent progressivement la langue arabe. Berbère, phénicien, latin, arabe, espagnol, turc, français : le brassage des langues, le « métissage linguistique », est intense, donnant lieu à un arabe algérien très hétérogène, variant sensiblement d'une région à une autre, et qui s’est perpétué jusqu’à nos jours. En 711, la première partie de la conquête musulmane de l’Espagne fut menée par un contingent arabo-berbère sous le commandement de Tariq ibn Ziyad, d'où le nom de la colline de Gibraltar (arabe : جبل طارق, « Djebel Tariq »).