A Biblioteca Central da Universidade Federal Rural do Rio de Janeiro tem suas origens na época em que foi criada, pelo Decreto-lei nº 6.155, de 30/12/1943, a Universidade Rural, após uma série de mudanças pelas quais passou a Escola Superior de Agricultura e Medicina Veterinária, criada pelo Decreto nº 8.319, de 20/10/1910, e funcionava na Avenida Pasteur, nº 404, na Praia Vermelha, na cidade do Rio de Janeiro.
Em 1948, pela portaria CNEPA n.º 95, na administração do professor Waldemar Raythe, então diretor do Centro Nacional de Ensino e Pesquisas Agronômicas do Ministério da Agricultura, foi criada a Biblioteca Central da UFRRJ. Também em 1948, além de consolidar novos cursos e serviços criados, a Universidade Rural começou a ser transferida para as instalações onde atualmente funciona, às margens da Antiga Rodovia Rio-São Paulo, hoje BR-465, em Seropédica.
Em dezembro de 1958, com o assessoramento técnico do IBICT – Instituto Brasileiro de Ciência e Tecnologia, a Biblioteca transferiu-se para as novas instalações da Universidade Rural, no Km 47 da Antiga Rodovia Rio-São Paulo (atual Km 7 da BR 465). Ficou localizada no segundo andar do Pavilhão Central, sendo instalada pelo então Instituto de Economia Rural, na gestão do Professor Rômulo Cavina, com a colaboração do Instituto Brasileiro de Bibliografia e Documentação, em execução do convênio assinado pelos Ministros Professor Clóvis Salgado e Professor Mário Meneghetti, pelo presidente da COSUPI, Professor Ernesto Luiz de Oliveira Junior e pelo Magnífico Reitor da Universidade, Professor José de Salles Fonseca.
Em 1963, a Universidade Rural, pelo Decreto nº 1.984/63, passou a denominar-se “Universidade Rural do Brasil”, e depois, em 1965, pela Lei nº 4.759/65, passou a ser chamada “Universidade Federal Rural do Rio de Janeiro” (UFRRJ).
Com a expansão do acervo e dos serviços prestados pela Biblioteca dentro da comunidade acadêmica, verificou-se a necessidade da transferência do acervo para novas instalações. Construiu-se, então, um novo prédio para a Biblioteca ao lado do Pavilhão Central, para o qual a Biblioteca foi transferida em julho de 1973.
A partir desta data, a BC teve seus serviços reestruturados e seu acervo desenvolvido, passando a ser um órgão suplementar da Universidade, ficando subordinada hierarquicamente à Vice-Reitoria da UFRRJ, conforme estabelecido no Regimento Geral e no Estatuto da Universidade, aprovado pelo Parecer nº 3.716/74, publicado no D.O.U. de 02/12/1974. Foi registrada no Conselho Regional de Biblioteconomia, 7ª Região, sob o nº 47, em 30 de março de 1976.