Jihlavské nádraží leží ve svahu severně od centra, elektrizované střídavou soustavou. Prochází jím severojižní trať původní Severozápadní dráhy z Havlíčkova Brodu na Třebíč a Znojmo; druhé nádraží, Jihlava město, vzniklo v roce 1887 pod Královským vrškem na trati Českomoravské transverzální dráhy z Horní Cerekve a Veselí nad Lužnicí.
Stanici postavila Rakouská severozápadní dráha (ÖNWB) jako součást spojení Vídně přes Znojmo, Německý Brod a Kolín; projektu se ujal dvorní architekt společnosti Carl Schlimp. Stavba začala v dubnu 1870, první zkušební vlak přijel 21. prosince téhož roku. Budova patřila k největším na trati: vstupní hala se dvěma pokladnami a trafikou, čekárny I., II. a III. třídy, dopravní a telegrafní kancelář, pošta, 23 sklepů; k tomu vodárna s vodou přímo z řeky a depo. Vzdálená poloha nádraží byla tehdy terčem kritiky obyvatel i radnice. V letech 1890–1900 a dál až do roku 1912 se areál rozšířil o remízu pro dvacet lokomotiv, překladovou halu a řadu skladů.