徐文伯1937年2月生于陕西礼泉他于1952年2月加入中国新民主主义青年团。他于1955年11月加入中国共产党，1962年4月参加工作。他于1962年9月加入中国人民解放军。1965年5月至1976年2月，他在机械工业部第七部第二分院政治部工作。“文化大革命”期间遭到重创1976年2月，他先后被任命为临时党委副书记和中国革命博物馆临时领导小组成员。1984年1月，他担任文化部整党领导小组副组长、文化部干部司司长、文化部党组成员、文化部管理干部学院院长、中央纪委驻文化部纪检组长等职务。1990年5月，他担任文化部副部长、中央纪委党组成员、纪检组长。1993年10月，他被任命为文化部副部长和党组成员。
徐文伯是中共十四大的代表。他在党的十三大上被选为中央纪律检查委员会委员，在CPPCC第八和第九届全国委员会中被选为委员。