山形美術館於1964年8月，由當時的山形新聞・山形放送社長服部敬雄為中心所設立的財團法人。戰後，美術館的建設一直是山形縣美術家協會成員成立以來的願望，關於美術館的用地與組織架構，經過多次討論後 ，決定由民間做主導，由山形縣政府與山形市政府做輔，全面協助財團法人營運的經營模式。秉承「比公立美術館更近一層，服務更廣泛的縣民美術館」為理念正式開館。

1968年開設分館。之後，為了迎接開館20週年紀念而興建新館，新館的建築設計融合了東北地方民宅建築與近代建築，成為多層民家風3層建築設計，於1985年8月10日正式啟用。隔年10月進行分館建築修復工程。
目前，山形美術館總樓地板面積有6400平方公尺，以及8個展覽空間（2100平方公尺）。

至此以後，山形美術館以日本的東洋美術，山形鄉土淵源美術系列，近代法國美術3方面為收藏主軸，進行調查・研究，充實作品收藏，並策劃常設展出。除此之外，規劃各種領域的企劃展和巡迴展，並提供個人與團體的展場租借。
山形美術館以提升山形縣的文化振興，和承擔縣民的生涯學習為目標自許， 2011年4月移轉為公益財團法人，在2014年迎接開館50週年紀念後，美術館的社會教育功能也更加倍受期待。

長谷川典藏紀念室

山形美術館於1968（昭和43）年別館落成時，承接了山形銀行前董事長長谷川吉郎先生捐贈，包含與謝蕪村（1716-1783）「奧之細道圖屏風」等，長谷川家族所收集的163件藏品。1995（平成7）年，現在當家的長谷川吉茂先生更把包含以下記載的7件縣指定有形文化財，共48件藏品捐贈給館方。另外，1994（平成6）年長谷川憲治先生秉承，曾經擔任殖產銀行董事長長谷川吉內先生的遺志，捐贈81件典藏。這兩家長谷川家族的捐贈典藏內容極為豐富，把江戶時代的狩野派、文人畫、圓山四条派做有系統的串聯。
松尾芭蕉（1644-1694）「出羽三山短冊」
熊代熊斐（1693-1772）「松鷲梅孔雀圖屏風」
谷文晁（1763-1840）「熊野舟行圖卷」
田能村竹田（1777-1835）「淺絳山水圖」
橫山華山（1784-1837）「紅花圖屏風」
渡邊華山（1793-1841）「溪澗野雉圖」
川合玉堂（1873-1957）「細雨」（以上為縣指定有形文化財）

新海竹太郎・新海竹藏雕刻室

新海竹太郎（1868-1927）是山形出身的日本近代雕刻的先驅者，曾經活躍於文展・帝展，成為帝室技藝員，和帝國美術院會員。另外，新海竹太郎的侄子新海竹藏（1897-1968），加入日本美術院之後，成為國畫會會員，作品風格清新超俗。
1907年第一回文展擔任評審委員時，所提出的作品「沐浴」（青銅：東京國立近代美術館所藏的石膏原型為重要文化財）是他的代表作，從這些典藏可以概觀兩位先人的功績。

吉野石膏典藏法國近代繪畫珍寶

於1991年，吉野石膏株式會社（總公司位於東京丸之內）把公司收集，以印象派為中心的法國近代繪畫寄放於本館。1991年之後陸續增加作品寄放數量，其中有讓＝弗朗索瓦・米勒（1814-1875）、卡米耶・畢沙羅（1830-1903）、愛德華・馬奈（1832-1883）、埃德加・竇加（1834-1917）、阿夫雷德・希斯里（1839-1899）、保羅・塞尚（1839-1906）、克洛德・莫內（1840-1926）、皮埃爾＝奧古斯特・雷諾瓦（1841-1919）、恩利・馬諦斯（1869-1954）、莫里斯・德・烏拉曼克（1876-1958）、畢卡索、喬治・布拉克（1882-1963）、巴黎畫派的夏戈爾、瓦西里・康定斯基（1866-1944）等， 包括巴比松畫派、印象派、立體派、抽象繪畫等，是國內少數的良質作品群。吉野石膏株式會社於2008年設立吉野石膏美術振興財團（2011年移轉為公益財團法人）。目前，由吉野石膏株式會社與吉野石膏美術振興財團寄放的一百數十件藏品，提供本館長設展覽公開中。

服部典藏-20世紀法國繪畫

1985年新館落成後，本館確立了20世紀法國繪畫的系統收集和常設展示方針。除了購買喬治・盧奧（1871-1958）、巴勃羅・畢卡索（1881-1973）、馬克・夏戈爾（1887-1985）等人的作品外，委託已故皮埃爾・馬扎（費加羅報美術記者）選定50位活躍於巴黎現代畫壇的作家，每人作品一件。其中包括莫里斯・布魯安熊（1899-1979）、保羅・愛滋皮利（1919-2016）、伯爾納・畢費（1928-1999）、讓・皮耶・卡西紐（1935-）、安東尼・克拉貝（1913-2005）等在日本也很受歡迎的作家，透過這一系列作品可欣賞與了解戰後巴黎畫壇以具象為中心的概況。本館對1991年逝世的前理事長兼館長特別表彰功績外，把法國繪畫典藏60件、羅丹、麥約爾、布爾代勒的雕刻作4件等命名為服部典藏系列，其中有一部分作品展示於1F巨匠廣場。