北齐文宣帝天保六年（555年）始创建寺院；唐延和元年（712年），唐睿宗李旦为了纪念他由相王即位当皇帝，将寺名更名为“相国寺”，并亲笔书写了“大相国寺”匾额。

进入寺庙大门后，依次是天王殿、大雄宝殿、八角琉璃殿（罗汉殿）、藏经楼等。目前大相国寺的大雄宝殿内已经没有神像了，这里经常有文物陈列和文化艺术展览，在大殿的周围是青石杆，游客可以看到青石杆上雕刻着几十头活灵活现的小狮子。

寺中的罗汉殿，俗称“八角琉璃殿”，是八角回廊式建筑。殿内回廊中有大型群像“释迦牟尼讲经会”，五百罗汉姿态各异，造型生动。在罗汉殿中间，游客还能观赏到一座木结构的八角亭，亭中有一尊高约6米的“四面千手千眼观音”木雕像。雕像是清乾隆时期的文物，用一株白果树雕刻而成，每面有6只大手，200余只小手，每只小手心有一只慧眼，总共1000余只，故名千手千眼佛。

藏经楼位于整个寺院的后半部，现在是开封书画院的活动场所，楼内布满了各种风格的书法和绘画作品，游客可以观赏或购买。寺内东角有个亭子，亭内悬挂铜钟一口，铜钟铸于1768年，是该寺的珍贵文物。