Durante los primeros años de vida de Buenos Aires este barrio era un sitio apartado y una zona de tránsito hacia el sur de la campaña. A fines del siglo XVIII los padres Bethlemitas fundaron, aproximadamente en los terrenos del que hasta hace poco tiempo atrás fuera Hospital Rawson, un hospital al que llamaron de la Convalecencia.

En los primeros años del siglo pasado se vió la necesidad de alejar del centro de la ciudad las concentraciones de carretas, y es así como en 1821 se designó a la plaza de la Concepción para cumplir esa función. Dicha plaza, desaparecida al abrirse la avenida 9 de Julio, donde se encontraba en la intersección con la avenida Independencia, pasó a ser así el nuevo mercado de frutos de la ciudad.

Años más tarde el mercado de la Concepción ofrecía una lastimosa imagen. Esta situación originó el nacimiento de diversos proyectos tendientes a trasladarlo más hacia el sur. En 1857, a sugerencia del gobernador Pastor Obligado se instaló el Mercado del Sur del Alto en el terreno municipal limitado por las calles Cochabamba, Salta y Buen Orden (Bernardo de Irigoyen). Poco tiempo después el nuevo mercado recibió el nombre de Constitución.

Todo se desarrollaba alrededor del Mercado de Constitución donde llegaban las carretas cargadas con todo tipo de cosas para vender. Los primeros compradores de tierras, fueron los mayoristas que las necesitaban como lugar para construir sus depósitos. Conjuntamente con esas casas nacieron las pulperías, las tiendas de compra y venta y todo lo que al hombre de negocios le hacía falta. También nacieron los llamados "pirigundines" donde se bailaba, se tomaban unas copas y donde no faltaban esas mujeres de la noche que tanto los entretenían.

El 14 de agosto de 1865 se libró al público la primera etapa del Ferrocarril del Sud que salía desde la primitiva estación Constitución, y que a fines de ese año ya llegaba hasta Chascomús. El ferrocarril trajo como consecuencia la desaparición de las viejas carretas.

Federalizada ya Buenos Aires, el Intendente Torcuato de Alvear se propuso transformar el mercado en una plaza, y es así como en 1884, el sector este del mismo se convirtió en un paseo, mientras que el opuesto permaneció cumpliendo su antigua función. El 30 de octubre de 1892 la plaza Constitución es librada al público en su totalidad.

Poco antes, el 1º de enero de 1887, el Ferrocarril del Sud había inaugurado una lujosa estación para la época, la que transformó totalmente el aspecto de la zona. La estación sufriría reconstrucciones y ampliaciones con el correr de los años hasta quedar transformada en el monumental edificio que actualmente ve desfilar a miles de apresurados pasajeros.

El barrio de Constitución fue escenario de numerosas tragedias, como la del 16 de junio de 1955, donde se levantaron las fuerzas en una rebelión frustrada contra el gobierno de Perón. También en septiembre de 1962, fue testigo de tragedias entre azules y colorados donde casi se termina en una verdadera guerra civil.

Se conmemora en el mes de  Noviembre - ( Noviembre 1857) - el aniversario del Barrio de Constitución; según Ordenanza N° 43.050 B.M. N° 18.409 del 17/11/1988.