Пётр Александрович Черевин происходил из дворян Костромской губернии. Родился он в октябре 1837 года.

Образование получил в Школе гвардейских прапорщиков и кавалерийских юнкеров, из которой выпущен 11 июня 1855 года корнетом в Кавалергардский полк.

23 апреля 1859 года Черевин был произведен в поручики, 18 марта 1860 года переименован в капитаны. 30 октября 1861 года получил чин майора.

С 26 сентября 1863 года состоял в распоряжении командующего войсками Виленского военного округа и принимал участие в подавлении польского восстания 1863–1864 годов. За отличия против поляков награждён орденами Святой Анны 3-й степени с мечами и бантом и Святого Станислава 2-й степени с мечами, а также был произведён в подполковники.

С 28 мая 1865 года Черевин состоял по Военному министерству и 26 августа следующего года получил чин полковника.

13 июня 1867 года назначен флигель-адъютантом и состоял при императоре Александре II.

24 мая 1869 года Черевин был назначен командующим Собственным Его Императорского Величества конвоем.

За боевые отличия он 17 октября 1877 года был произведен в генерал-майоры свиты Его Величества.

За свои многочисленные боевые отличия Черевин дважды был удостоен золотого оружия с надписью «За храбрость», причем вторая сабля была с алмазными украшениями. 30 августа 1879 года он был награжден орденом Святого Георгия 4-й степени.

С 6 августа 1880 года по 25 декабря 1881 года Черевин занимал должность товарища министра внутренних дел. В ноябре 1881 года на него было совершено неудачное покушение.

1 января 1882 года назначен генерал-адъютантом.

30 августа 1886 года произведен в генерал-лейтенанты.

28 мая 1894 года назначен дежурным генералом при Его Императорском Величестве.

Русский дипломат, этнограф, ориенталист Александр Александрович Половцов писал о Черевине, что это был человек «умный, добрый, честный, постоянно выпивши», «находясь безотлучно при государе, при несомненном природном уме и безукоризненной честности имел огромное влияние, особливо в вопросах личных».