房彦谦出生于公元547年，一生先后经历了东魏、北齐、北周和隋四个王朝的更替换代。
房氏原籍清河。到房彦谦七世祖房湛时期，因为做过燕国的太尉椽，随着南燕国迁都青州，也把家人带到了齐地。今济南市历城区在南北朝隋唐时期属于齐郡。从此以后，房彦谦一直就把历城当作了自己的故乡。从十六国到房彦谦时，200多年间，历城房氏家族几乎一直都为官从政，房彦谦曾祖父是齐郡和平原郡的太守，祖父则做过南朝宋的太守，父亲从州主薄(相当于今天的秘书长)起家，也做到了郡守的职务。
家族背景
大家族的文化熏陶和动荡的政局变换，铸就了他的清正品格和娴熟的从政能力，18岁时，他就担任了家乡齐郡的主薄，并一直在政府任职，40岁时被郡守举荐进京，做了监察御史，职责是“分察百僚，巡按郡县，纠视刑狱，肃整朝仪”。其职责既像今天的纪律监察干部，还兼具司法监督和整治朝廷风气的责任。官品虽然不高，权力却也不小。后迁为河南长葛县令，在全国官员考核中，因其清正廉洁，被评为“天下第一”，并因此而晋升郡司马(州郡军事官员“二把手”)。
离职高升
史书记载，当他离职高升之时，地方百姓拦路挽留，并为其立碑颂德。隋大业九年(613年)，随从皇帝到辽东，担当了一阵扶余道(今东北地区)监军。后来，因过于耿直，得罪了权贵，被迁为泾阳县令，69岁病逝于任上。 房彦谦为官清廉，所得俸禄大多周济了同事亲友，以至于史书称其为“家无余财”。他曾经和其子房玄龄说过：“人皆因禄富，我独以官贫，所遗子孙，在于清白耳。”他的这种高风亮节得益于他的人生经历，虽然他出自名家士族，但他幼年时期生父就亡故，15岁过继给叔父，继母去世时，他绝食五日，以示孝心。在家中，凡有时鲜果蔬父辈不吃，他绝不先尝，其孝行名扬乡里。同时，他也十分好学上进，7岁时就读过万言书，长大后，还擅长书法艺术。可以说，中国传统文化给了他以深厚的影响，因此，他也能够培养出房玄龄这样的一代名相，大唐重臣。
朝廷追赠
公元631年，经唐太宗恩准，房彦谦的灵柩由其子房玄龄迁葬回历城故里祖坟，朝廷追赠其为“徐州都督、临淄县公”，并特派了官方的鼓乐仪仗队从洛阳护灵到历城，灵柩所过州县费用不足部分均由地方政府资助祭奠，同时国家还动用了千余士兵为之送葬，亲朋友好参加迁葬仪式的有2000多人。这次迁葬可以说是唐朝初年一件盛事，轰动全国。房彦谦墓在今济南市历城区彩石乡赵山之阳，墓葬现存墓冢、墓碑和部分石兽，其墓碑由当时的历史学家李百药撰文，书法家欧阳询所书。该墓1977年被公布为山东省省级重点文物保护单位。李百药是24史中《北齐书》的作者。李百药撰写碑文的时候担任着太子右庶子，66岁。
唐初书法四大家
欧阳询则是隋唐时期的著名书法家，他所创立的书体被称为“欧体”。他和当时的虞世南、褚遂良、薛稷并称唐初书法“四大家”。欧阳询书写碑文的时候已经74岁。两位花甲之人应邀为房玄龄的父亲撰文书丹，从另一个角度表明了房彦谦灵柩迁葬的隆重。
墓及墓碑
房彦谦墓位于彩石镇西彩石村北的赵山之阳，济王路南侧。墓封土高5米，直径17米。房彦谦是唐贞观年间宰相房玄龄之父，生于公元547年，卒于公元615年，原籍河北清河，其七世祖移居临淄。他贯通经义，长于吏治，曾任北齐齐州主簿。隋开皇中，曾任监察御史、长葛令、超授都州司马等。隋炀帝即位，去官隐居，后征授司隶刺史，出任泾阳令。
据说，当时葬礼极为隆重，天下台臣，九州官府，皆不远千里前来致祭，冠盖相接，旌旗蔽空，车马塞路，彩石一带，井水饮尽，野无青草。墓前原有麒麟、翁仲等石雕依序分列，现仅存石羊、石马。墓前“唐故徐州都督房公碑”，由唐初中书舍人、著名学者李百药撰文，洋洋千言，典雅瑰丽(现山东省图书馆存有此文)。碑文由唐朝著名书法家欧阳洵所书。碑文是露锋的隶书，字形峭削，笔力遒劲，为省内仅有的初唐书法石刻珍品。1980年，为保护该碑修建砖砌碑楼。该墓于1977年12月公布为省级重点文物保护单位。
房彦谦墓碑现存地面以上部分高300厘米，宽130厘米，厚40厘米，由碑首、碑身和碑高组成，碑首和碑身由一块完整的巨石琢成，碑额是篆书，3行9字：“唐故徐州都督房公碑”，碑文正面36行，2000多字，主要内容是褒扬房彦谦家世、履历及其为人的高风亮节。因为李百药父子和房彦谦、房玄龄同时在朝为官，所以对房彦谦的历史以及功业了如指掌，加上房玄龄的因素，碑文自然难免有溢美之词，所以，在碑文最后部分，李百药以“四字一句”的大段篇幅对房彦谦进行了歌颂。碑阴文字则主要是记述了迁葬和唐王朝对迁葬活动的重视和支持，以彰显房彦谦的身份和地位。像这样碑阳碑阴甚至碑侧都镌刻文字的人物碑，为我们了解唐代碑文的写作格式和文法以及镌刻形式等等提供了重要的实物证据。这篇文章因此还被后人收入《全唐文》。