Жеребцов окончил три военных вуза — Благовещенское высшее танковое командное училище, Военную академию бронетанковых войск и Военную академию Генштаба. После академии работал первым замкомандующего войсками Забайкальского военного округа, а в середине 90-х возглавлял Главное организационно-мобилизационное управление Генштаба. В 1996 году генерал Лев Рохлин выпустил доклад о состоянии дел в армии, где заявил, что Жеребцов владеет «батальоном рабов». «Коммерсантъ» писал о Жеребцове как о человеке, "не способном смотреть в глаза собеседнику долее пяти секунд«— это была заметка о групповом увольнении семи высокопоставленных силовиков в 1996 году, когда только что назначенный секретарь Совбеза Александр Лебедь обвинил их в попытке организации заговора. Было там и про генеральские дачи под Москвой, которые семеро построили синхронно и в спешке: отмечалось, что «зарплата дачников составляла два-три миллиона рублей в месяц, чего явно недостаточно для обеспечения пусть даже бесплатной солдатской рабочей силе фронта работ».