Unter Kaiser Karl V war er siegreicher Heerführer gegen den Schmalkaldischen Bund. 1567 - 1573 war er Generalkapitän der Niederlande, wo er ein Schreckensregiment führte. Er schlug den protestantischen Aufstand mit blutiger Strenge nieder. Mehr als 18.000 Menschen ließ er hinrichten; darunter auch Lamoral Graf von Egmont und Philipp Graf von Hoorn, die Führer des Aufstandes. 1573 wurde Alba von Philipp II. zurückberufen und durch den milderen Don Juan d'Austria ersetzt.