這款車於1982年正式投入營運，主要用於氣候狀況較差的東北新幹線與上越新幹線之上。因此和東海道、山陽新幹線使用的0系相比，作了很多耐寒耐雪的改進：
列車的車體設計儘量減低寒冷天氣與大雪對列車的影響，故在裙裾部分安裝大面積的除雪翼，在行駛時能把線路上的積雪快速清除，而裙裾外殼亦與車頭外殼順滑一體。
為了保護機電結構，列車的機電設備是安置在車體之內，而與先前0系安置在列車底盤之下的作法不同。
電動機的冷卻風通道改在車體側面（高度等同由車窗底端至車門上端），同時使用了除雪裝置，避免雪花飛入。
控制裝置採用交直流連續相位控制式整流裝置，制軔系統則使用電氣指令式空氣制軔和斷路器並用，以實現平穩的減速。據說減速時放在桌上的香菸盒都不會翻倒。開業初期以時速210km/h速度營運，上野站新幹線月臺啟用以後，列車速度提高到240km/h。
除了標準的200系之外，1986年（昭和61年）時也推出了改良版的200系2000番台，與外觀上較接近0系的初期版200系不同，2000番台的外觀較為接近100系。1999年（平成11年），為數12列、每列10節車廂的K編組登場時，又進行過內外裝的改良，除了將內裝升級為類似E2系的佈置之外，外觀也由沿用多年的白身綠帶塗裝，改為上半車身飛雲白、下半車身紫苑藍、中間僅披有一細長綠帶的新塗裝。因此200系從登場以來，已經出現過三種不同的外觀設計。近年來200系列車已陸續除役淘汰，僅留下少量的列車預備進行改裝以達到延長使用壽限的目的。
2004年10月23日下午，在新潟縣，一小時內發生了三次芮氏6左右的地震。其中第一次發生時間在東京時間17時56分，規模為芮氏6.8，造成上越新幹線上一輛正行駛在浦佐站至長岡站的新幹線出軌。155名乘客無人傷亡。此列車代號「朱鷺325」（とき325号），屬200系K編組，共計10列車廂。事故發生時除第6號和7號車廂之外，其他共計8節車廂出軌，無人員傷亡。
由於事故發生後，新潟地區經常發生餘震，對出軌車輛的清理工作帶了很大的困難。2004年11月18日，出軌車輛被清除。12月28日，恢復通車。出軌車輛由於受損嚴重，在2005年2月25日全車不再使用。
隨著E5系在2011年3月正式投入服務、東北新幹線提速和青森延伸段的開業，JR東日本在2011年（平成23年）春季以後開始將200系退役及拆卸，E2系和E4系轉移至上越新幹線。2011年11月19日200系正式結束在東北新幹線大宮站以北路段的定期列車運行。
JR東日本於2012年12月15日宣布200系將於2013年（平成25年）3月16日全面退出定期運轉。自2013年1月26日起，由該系列所擔任的車次陸續被更換成E2系運行。同年3月16日時刻表改點時，全部改由E2系運行，200系正式在JR東日本全面退役。
在日本各地，有下列幾輛200系的車輛被用作保存與展示用途。其車廂編號與原本所屬的列車編組概述如下：
221-1、237-1（E1與E1改裝後變成的F30編組之1號與9號車廂）
222-35號車廂（原E35與F56編組之12號車廂，之後變成K11編組的8號車廂，再變成K31編組的10號車廂）
221-15、215-15、222-15（E15與之後的F37編組之1、11、12號車廂）
221-1510（F13與其改裝後變成的K47編組1號車）