O Quartel dos Aflitos foi construido em 1639 pelo 16º Governador da Bahia, D. Fernando de Mascarenhas, Conde da Torre. Inicialmente chamado de Casa do Trem, funcionou como base do sistema defensivo da cidade, fornecendo armas e munições para as demais fortalezas. Na época, o trem saía do quartel carregado de pólvora e era levado para municiar os fortes da cidade. Desde a sua fundação, o quartel participa da história da Bahia. Em 1837, durante o Movimento da Sabinada, o prédio foi ocupado por revolucionários que se apoderaram das armas e instalaram uma fabrica de cartuchos. Posteriormente, na fase de reação das Forças Legais que debelaram o movimento, o quartel foi retomado pela Brigada Pernambucana, unidade integrada pelo Exército Restaurador, comandada pelo Tenente-coronel Alexandre Gomes de Argolo Ferrão.