1903. december 28-án született Budapesten, bankár apja nemességet vett a királytól, fiát ezért hívhatták von Neumannnak. Már hatéves korában képes volt két hatjegyű számot fejben elosztani, apjával ógörögül társalgott. Egész lapokat képes volt egy pillantással megjegyezni, és nyolcéves korában már túl volt a 44 kötetes egyetemes történelmen. Az Evangélikus Gimnáziumba járt, itt tanult Wigner Jenő és Teller Ede is. Első tanulmányát 18 évesen publikálta, ezután a budapesti, berlini és zürichi egyetemre járt. Itt szerzett vegyészmérnök diplomát, majd halmazelméleti disszertációjával matematikai doktori fokozatot Budapesten, axióma-rendszerét húszévesen dolgozta ki. 1926-29-ben Berlinben, majd Hamburgban volt docens, Göttingenben operátorelméletet és kvantumfizikát kutatott, kidolgozta a fizikai mérések matematikai elméletét, a tiszta kvantummechanikai állapot fogalmát.
1930-ban az Egyesült Államok legfiatalabb egyetemi tanára lett, miután meghívták Princetonba, ahol az elüldözött német tudósok gyülekeztek. Neumann itt fogalmazta meg a mechanika ergodtételét, a sok részecskéből álló rendszereket statisztikusan leíró matematikai modellt. Az 1930-as évek végén Murray-vel a később Neumann-algebrának hívott operátorgyűrűket kutatta, ebből eredt a folytonos geometria. 150 dolgozata közül 20 fizikai, a többi az elméleti, az alkalmazási, a játék- és a számítógép-elmélet közt oszlik meg. 1940-től fordult az alkalmazott kutatások felé, bevezette a numerikus meteorológiát, az időjárás-előrejelzés számszerűsítését. A világháború alatt polgári hivataloknál és a hadseregnél volt tanácsadó. Los Alamosban az atomprogram során a robbanási lökéshullámokat és ballisztikai lőelemtáblázatokat elemezte, rengeteg gépi számolással. Fermivel kidolgozta a statisztikus becslésen alapuló Monte-Carlo-módszert.
A híres játékelmélet
Játékelméletének lényege az 1928-as minimax tétel. 1944-ben Oskar Morgensternnel a Játékelmélet és közgazdasági viselkedés című könyvben a kétszemélyes játékok stratégiáját elemezték. Ezen alapult az operációkutatás, amit a közgazdaság, a társadalom- és hadtudomány, a pedagógia is használ. Hidrodinamikai kutatásainak nemlineáris differenciálegyenleteit nem lehetett zárt formában megoldani, ez vezette a számítástechnikához. Neumann 1944-ben Hermann Goldstine-től hallott először az 1000 művelet/sec-es ENIAC gépről, ezután együtt dolgoztak a számítógépek fejlesztésén, bár Neumann vitában állt az ENIAC tervezőivel a programtárolás kérdésében. Neumann az emberiség közös kincsének tartotta a számítógépet, s nem volt hajlandó szabadalmaztatni ötleteit, sőt 1945-ben kiadta az EDVAC, a következő típus leírását, megakadályozva annak levédését. (E gép egy változatát tiszteletére Johnniac-nak nevezték el.)
Az első Neumann-gép
Az első Neumann-típusú gép Cambridge-ben épült, saját gépüket, az IAS-t 1952-ben alkották meg Goldstine-nal, ez aritmetikai, memória-, vezérlő- és input-output egységekből állt, s először itt alkalmazták a programmódosítást programmal. Neumann javasolta a képernyős kimenetet a nyomtatás helyett, lévén ez gyorsabb és jobb. Az IAS a mai gépek őse, a prototípust a washingtoni Smithsonian múzeum őrzi. Neumann úttörő volt a gépek logikai felépítése terén is, tőle származik a kettes számrendszer alkalmazása, a memória, az utasítások rendszere. Felismerte: a számítógépben nemcsak adatokat, hanem utasításokat, programokat is lehet tárolni. A Neumann-elv szerint a program műveleteit és a memória rekeszeit számkóddal jelölik, a programot számsorozatként a gép tárolja. A vezérlő egység a beírás rendjében hajtja végre a parancsokat. A mai gépek mind így működnek, csak méretük zsugorodott, akkor a csöves egyenirányítók miatt olykor több szobát is megtöltöttek. (A nem-Neumann-elvű gépeknél az egyes lépések párhuzamosan futnak.)
Az IAS számítógép
Neumann dolgozta ki, hogyan adhat megbízható választ a megbízhatatlan elemekből álló gép, leírta a véletlen gépi szimulálását. A magukat reprodukáló sejtautomatákat, a halmazelmélet egzakt alapjait, a kibernetika elméletét is kutatta. 1956-ban beteg lett, s akasztófahumorral ezt mondta: ha rákom van, megkapom a Fermi-díjat. Megkapta, a Szabadság-éremmel együtt, mindkettőt már tolókocsiban vette át. (Csontrákban szenvedett, a betegséget vélhetően az atombomba-kísérletek közben kapta.) Utolsó műve a számítógép és az agyműködés párhuzamait kutatta. 1957. február 8-án halt meg Washingtonban, s Princetonban temették el. Nevét holdkráter őrzi, Budapesten és Székesfehérváron utcát, Budapesten szakközépiskolát, Egerben gimnáziumot neveztek el róla, a Financial Times 2000-ben a XX. század emberének nevezte.
Legendás fejszámoló volt
Óriási munkabírása, remek nyelvérzéke volt, bár az angolt akcentussal beszélte. A magyart is használta, lévén mindkét felesége magyar. Nagy viccmesélőnek, vidám, társasági embernek ismerték, legendás volt műveltsége, memóriája, fejszámoló készsége - a legenda szerint a kezdeti számítógépek számításait ő maga ellenőrizte a géppel egy időben, fejben kalkulálva. Hedonista volt, aki szeretett enni-inni (mondása szerint mindent kiszámolt, egyedül a kalóriákat nem), női lábakat nézni (Los Alamosban a titkárnők rá való tekintettel barikádozták el íróasztaluk elejét), veszélyesen vezetni (olykor olvasott közben, máskor fának ment és letartóztatták). A világ válságjelenségei láttán a tudomány felelősségét és feladatait hangsúlyozta: "A fejlődés ellen nincs gyógymód. Meg fog hiúsulni minden olyan törekvés, hogy biztonsági csatornákat találjunk a haladás mai, robbanékony változatai számára. Csak a szükséges emberi tulajdonságokat emelhetjük ki: türelem, rugalmasság, intelligencia" - írta.