該館於1989年為紀念山形市市制施行一百周年而建成，是山形市的公共設施。這年也是俳人松尾芭蕉於1689年遊歷東北、北陸地區，訪問山寺立石寺正好三百周年。
在展廳裡，展示著很多松尾芭蕉的親筆作品和與《奧之細道》相關的資料，還有芭蕉弟子們的墨邊等。紀念館收藏的大量資料在日本國內外都得到了高度的評價。館內除了有常設展覽以外，還舉辦有不定期的特別展覽。紀念館有工作人員和志願者導遊為參觀人員作解說。
在同一棟建築屋內還有數個研修室，有很多俳句大會或研修會都在這裡舉辦。另外，還有稱為「觀寶亭」的寬敞大茶室，在別棟中還有被稱為「芭蕉堂」的立禮席茶室（坐在椅子上飲用抹茶的茶席）。研修室和茶室均用京都北山杉樹建材，按日本茶室建築風格建成。
從芭蕉紀念館可眺望到對面的山寺立石寺，在不同的季節能借景觀賞到優雅的自然景色。