Inventé en 1957 par John McCarthy, FLOW-MATIC a été le premier langage conçu pour le traitement des données commerciales. C'était également le premier langage de programmation de type anglais, par opposition au code machine ou au langage d'assemblage. FLOW-MATIC a été l'un des premiers exemples de langage de programmation structuré, puisqu'il comportait des fonctionnalités telles que les sous-routines et la programmation sans goto.
Cependant, FLOW-MATIC n'a pas été largement adopté, en partie à cause de son expressivité limitée. En 1964, IBM a publié une nouvelle version du langage, appelée COMTRAN, qui a eu plus de succès. Le COMTRAN a servi de base au langage de programmation COBOL, qui est toujours utilisé aujourd'hui.
FLOW-MATIC a eu une influence sur le développement d'autres langages de programmation, notamment FORTRAN et ALGOL. Il est également l'ancêtre du langage FLUPL, qui a été créé par McCarthy lui-même en 2006.