中國建筑材料科學研究總院的前身可追溯至1950年10月成立的原重工業部華北窯業公司研究所。1988年1月1日，正式成立中國建筑材料科學研究院，1999年7月1日起轉制為中央直屬大型科技企業，2004年底與中國建材集團重組，2006年中國建材集團整合所屬十三家科研設計院所，組建成立中國建筑材料科學研究總院，構成了國內建筑材料與無機非金屬新材料專業最大的綜合型研究機構和技術開發中心。