Родился 1 июня 1832 года в семье крестьян деревне Груздево Гороховецкого уезда. С середины XIX века долгое время работал котельщиком на судостроительных заводах в Петербурге, Кунгуре и др. В 1887 году построил собственный судостроительный завод близ села Молитовка Балахнинского уезда Нижегородской губернии (ныне часть города Нижний Новгород). За время своего существования предприятие спустило на воду 110 пассажирских, грузовых и буксирных судов.

 
В сфере благотворительности особым предметов забот Федора Михайловича и его сына Матвея Федоровича был приходской храм Архангела Михаила на Архангельском погосте Гороховецкого уезда, на который Яковлев-старший жертвовал средства с 1869 года. В 1875 году церковь была значительно расширена и украшена внутри. В 1899 году рядом построен храм Пресвятой Троицы с богатым внутренним украшением. По инициативе Ф.М. Яковлева в 1886 году в приходе открыта школа. В дальнейшем для нее были построены три здания, в 1899 году открыт ремесленный класс. Содержалось училище за счет благотворительности. Также поддерживал церковь и школу в деревне Карповка Балахнинского уезда.

 
С 1902 года Яковлевы упоминаются среди благотворителей гороховецкой Сапожниковской богадельни. Весной 1904 года Федором Михайловичем была построена часовня на железно-дорожной станции Гороховец, в память о посещении этих мест императором Николаем II.

 
Скончался 22 мая 1908 году, похоронен на Архангельском погосте.
Дело благотворительности продолжил его сын Матвей Федорович.