Герман Оскарович Греф родился 8 февраля 1964 года в селе Панфилово Иртышского района Павлодарской области Казахской ССР, в семье этнических немцев.

В 1985 году Греф поступил на юридический факультет Омского государственного университета, который окончил в 1990 году по специальности "правоведение" и был там оставлен как преподаватель юридического факультета Омского государственного университета.

Затем Греф переехал в Санкт-Петербург; в 1990 году поступил в аспирантуру юридического факультета Ленинградского государственного университета, которую окончил в 1993 году. Примерно в эти годы Греф познакомился с мэром Санкт-Петербурга Анатолием Собчаком и будущим президентом РФ Владимиром Владимировичем Путиным, работавшим тогда в мэрии Северной столицы.

С 1994 года – директор департамента недвижимого имущества комитета по управлению государственным имуществом Санкт-Петербурга. В 1997 году – вице-губернатор, председатель Комитета по управлению городским имуществом администрации (КУГИ) Санкт-Петербурга, член совета директоров ОАО «Ленэнерго». В августе 1998 года Греф переехал в Москву, стал членом коллегии Министерства государственного имущества Российской Федерации, а затем занял должность первого заместителя министра государственного имущества Российской Федерации. В январе 2000 года будущий министр возглавил Центр стратегических разработок. Именно там был разработан план долгосрочного развития России, который лёг в основу социально-экономических программ. В должности министра экономического развития и торговли Греф пережил отставку с поста главы правительства Михаила Касьянова, 24 февраля 2004 года правительство было отправлено в отставку. Греф также вышел в отставку с поста министра.

В начале марта 2004 года был сформирован новый кабинет министров Михаила Фрадкова, в котором Герман Оскарович снова возглавил Министерство экономического развития и торговли РФ. Восемь лет работы Германа Оскаровича Грефа на посту министра характеризуются существенным продвижением переговоров по вступлению России в ВТО, частичным возвратом к плановой экономике, ростом промышленного производства и новым витком инфляции.

С октября 2007 года по настоящее время Греф – председатель правления Сберегательного банка Российской Федерации.