该馆于1989年为纪念山形市市制施行一百周年而建成，是山形市的公共设施。这年也是俳人松尾芭蕉于1689年游历东北、北陆地区，访问山寺立石寺正好三百周年。
在展厅里，展示着很多松尾芭蕉的亲笔作品和与《奥之细道》相关的资料，还有芭蕉弟子们的墨迹等。纪念馆收藏的大量资料在日本国内外都得到了高度的评价。馆内除了有常设展览以外，还举办有不定期的特别展览。纪念馆有工作人员和志愿者导游为参观人员作解说。
在同一栋建筑屋内还有数个研修室，有很多俳句大会或研修会都在这里举办。另外，还有称为「观宝亭」的宽敞大茶室，在别栋中还有被称为「芭蕉堂」的立礼席茶室（坐在椅子上饮用抹茶的茶席）。研修室和茶室均用京都北山杉树建材，按日本茶室建筑风格建成。
从芭蕉纪念馆可眺望到对面的山寺立石寺，在不同的季节能借景观赏到优雅的自然景色。