La prima gare du Nord fu costruita dagli ingegneri dei Ponts et Chaussées, fra cui Léonce Reynaud (professore all'École polytechnique), per conto della Compagnie des chemins de fer du Nord. Fu inaugurata il 14 giugno 1846, lo stesso anno dell'inaugurazione della linea Parigi-Amiens-Lilla. Troppo piccola, fu demolita in parte nel 1860 per essere, successivamente, ampliata.
Il barone James di Rotschild scelse l'architetto francese Jacques Hittorff. La costruzione si protese da maggio 1861 a dicembre 1865, ma la nuova stazione fu messa in servizio nel 1864. La facciata si presenta organizzata intorno ad un arco di trionfo ed è caratterizzata da dei grossi blocchi di pietra. È ornata da 23 statue che rappresentano le città collegate dalla compagnia. Le statue più maestose illustrano le destinazioni internazionali più belle (Parigi stessa, Londra, Berlino, Varsavia, Amsterdam, Vienna, Bruxelles…); le statue più modeste rappresentano le destinazioni nazionali. L'edificio è stato costruito a forma di U, come è sovente il caso per le stazioni capolinea.