1989年に山形市の市制施行100周年を記念して建設された山形市の施設です。この年は俳人松尾芭蕉が1689年東北・北陸旅行の祭に山寺立石寺を訪れてからちょうど300年経った年でした。
展示室に松尾芭蕉の真筆資料、『おくのほそ道』の関連資料、芭蕉の門人たちの墨跡などが展示されています。所蔵する多くの資料の価値は国内外から高く評価されています。常設展示の他に企画展も開催されています。学芸員やボランティア・ガイドによる説明も行われます。
展示室と同じ建物には研修室が複数あり、俳句大会や研修会が多数開催されています。さらに、「観宝亭」と呼ばれる広間の茶室と、別棟に「芭蕉堂」と呼ばれる立礼席（椅子に座って抹茶を飲む茶席）の茶室があります。研修室・茶室は京都の北山杉を使った数寄屋（すきや）造りです。
記念館からは山寺立石寺を一望でき、季節ごとに美しい景観を借景としています。