O Arquivo do Senado Federal estava previsto antes mesmo da instalação do legislativo brasileiro, em 1826. O Projeto de Constituição de 1823 mencionava o Arquivo como uma das estruturas funcionais da Casa. Ou seja, não se concebia o funcionamento do Senado sem a gestão documental do acervo por ele produzido.

O Arquivo do Senado foi criado logo na primeira sessão ordinária do Senado do Império. A partir de então, toda a documentação relativa à Casa foi mantida. Em 1961, com a transferência do Congresso Nacional para a nova capital, o acervo documental também foi transferido para fazer parte da nova estrutura do Senado Federal.