Fondata su un nucleo urbano già esistente, su iniziativa dei comuni della Lega Lombarda, come fortezza antimperiale ai confini del marchesato del Monferrato, principale alleato del Barbarossa, assunse il nome attuale nel 1168 in onore di papa Alessandro III. Nel 1174-1175 fu duramente assediata dagli imperiali che non riuscirono ad espugnarla. Libero comune nel 1198, entrò in conflitto con i comuni vicini, in particolar modo Asti.

Nel 1348 cadde in potere dei Visconti e successivamente degli Sforza, seguendo le sorti del Ducato di Milano fino al 1707, quando fu ceduta ai Savoia. Nel 1802, dopo la battaglia di Marengo, fu annessa alla Francia assieme a tutto il Piemonte e divenne capoluogo del dipartimento di Marengo. Nel 1814 entrò a far parte del Regno Sardo. Attivo centro liberale durante il risorgimento, da qui partirono i moti del marzo 1821. Nel 1833 fu teatro di una cospirazione di matrice mazziniana che, fallita, condusse al patibolo Andrea Vochieri.

Nel sobborgo adiacente, dal nome Spinetta Marengo, ogni anno e precisamente il 14 giugno, si rievoca la battaglia di Napoleone avvenuta nel 1800.

Alessandria fu la prima città italiana capoluogo di provincia ad essere governata da una Giunta a maggioranza socialista: il 25 luglio 1899 venne infatti eletto sindaco della città l'orologiaio Paolo Sacco.

Nel corso della seconda guerra mondiale la città subì ripetuti e pesanti bombardamenti aerei. I più gravi avvennero il 30 aprile 1944, con 238 morti e centinaia di feriti, e il 5 aprile 1945, con 160 morti tra i quali 40 bambini dell'Asilo infantile di Via Gagliaudo. A causa dei bombardamenti aerei morirono più di 500 alessandrini, circa l'un per cento della popolazione.

Il 6 novembre 1994 il fiume Tanaro esondò, invadendo buona parte della città' (specialmente il quartiere Orti) e varie frazioni, raggiungendo Astuti. L'alluvione provocò otto morti e ingenti danni, sia alle abitazioni private sia alla struttura industriale della città.

Il centro della città è caratterizzato dalla vastità di Piazza della Libertà, piazza d'armi voluta da Napoleone e ottenuta mediante la demolizione dell'antica cattedrale (1803), di cui sono stati recentemente portati alla luce i resti delle fondamenta. Al centro, la statua di Urbano Rattazzi, di Giulio Monteverde. Vi si affacciano: il Palazzo del Municipio o Palazzo Rosso (dal colore della facciata, XVIII secolo) dotato di un particolare orologio a tre quadranti (da notare sulla sommità il galletto sottratto dagli alessandrini ai casalesi nel 1225); Palazzo Ghilini, oggi sede della provincia e della prefettura, progettato da Benedetto Alfieri nel 1733, di pregevoli forme barocche; il Palazzo delle poste (1939-1941) con un mosaico lungo 38 m. di Gino Severini; Palazzo Cuttica di Cassine, futura sede del museo civico.

La nuova Cattedrale neoclassica (1810-1849) è situata a breve distanza. Conserva al suo interno la statua lignea della Madonna della Salve. Sul lato sinistro della facciata Gagliaudo che regge una formaggetta lodigiana, scultura romana raffigurante l'eroe alessandrino che secondo la leggenda si distinse nel corso dell'assedio del Barbarossa. Di notevole interesse, anche se alquanto danneggiata, è la chiesa di S.Maria di Castello (XV secolo) con portale rinascimentale, sita in via dei Guasco, dove si può ammirare anche la facciata barocco-piemontese di "Palazzo Guasco" oggi sede di Assessorati provinciali. In attesa di restauro alcuni saloni del Palazzo che conservano la struttura aschitettonica Settecentesca In fondo a via Dante, l'arco di trionfo fu eretto nel 1768 a ricordo della visita di Vittorio Amedeo III e di Maria Ferdinanda di Spagna.

Sull'altra sponda del Tanaro sorge la Cittadella, imponente costruzione militare su progetto di Ignazio Bertola. La costruzione, voluta dai Savoia nel XVIII secolo, comportò l'evacuazione e la demolizione dell'intero quartiere di Borgoglio. Di proprietà del Demanio Militare, è visitabile solo in rare occasioni: è a pianta stellare, con sei baluardi attorniati da fossati. Di notevole interesse architettonico-militare i quartieri militare con gli edifici Settecenteschi e Ottocenteschi.

Di prossima riapertura il Museo civico, nella nuova sede di palazzo Cuttica di Cassine che conserva, tra l'altro, due arazzi fiamminghi di pregevole fattura, un interessante polittico di Gandolfino da Roreto, i paramenti sacri di papa Pio V e i corali destinati al convento di S. Croce di Bosco Marengo da lui stessi ordinati.