Em 1943,  2 anos após a entrada dos Estados Unidos na Segunda Guerra, Hopper conseguiu entrar para a Marinha. Após treinamentos, foi enviada para a Universidade de Harvard, onde trabalharia no desenvolvimento do MARK I, o primeiro computador eletromecânico do país. A máquina seria essencial em diversos cálculos necessários durante a guerra. Grace escreveria um extenso manual de como operar o computador, com 561páginas.

Após sair de Harvard, Hopper foi contratada pela empresa Eckert–Mauchly Computer Corporation para atuar no desenvolvimento do UNIVAC I, o primeiro computador eletrônico comercial. Em 1952, desenvolveu o A-0, o primeiro compilador da história, o qual transformava códigos matemáticos em código binário de máquina.

Grace Hopper se aposentou da Marinha em 1986, aos 79 anos. Com o posto de Contra-Almirante, era a servidora mais antiga das Forças Armadas dos EUA. Na ocasião, foi premiada com a Medalha de Serviço Distinto da Defesa. Em 1991, receberia do então presidente George Bush a Medalha Nacional da Tecnologia, sendo a primeira mulher a receber o prêmio como indivíduo.

Após sua morte, em 1992, seu nome foi escrito no Hall da Fama das Mulheres nos EUA e um navio de guerra foi batizado em sua homenagem. Em 2016, o ex-presidente americano Brack Obama a condecoraria com a Medalha Presidencial da Liberdade.