L'arrondissement de Langres occupe le Sud du département de la Haute-Marne. Il est limitrophe du département des Vosges au Nord-Est, de la Haute-Saône à l'Est et au Sud-Est, de la Côte d'Or au Sud et au Sud-Ouest.

Une partie importante de la population est dans la zone d'influence de la ville de Dijon, située à 5O km au Sud en Côte d'Or. Il bénéficie de l'Y autoroutier (croisement de l'A 26 et de l'A 31, à 12 km de Langres) qui favorise l'implantation d'entreprises. Le plateau de Langres occupe la majeure partie du territoire de l'arrondissement.

Son altitude, assez faible dans l'ensemble, augmente vers le Sud-Est. Le rebord du plateau forme une crête abrupte qui domine la dépression tertiaire de la Saône. Le plateau calcaire de Langres qui s'élève progressivement au Sud de la vallée comprend les plus hauts sommets du département : le Haut-du-Sec (516 m) et le Mont Saule (512 m).