Tizenhét évesen lett a moszkvai egyetem hallgatója, 1921-ben már a trigonometrikus sorokkal és a halmazokkal folytatott műveletekkel foglalkozott. Ez utóbbi témáról írt tanulmányát 1922-ben fejezte be, s hat év múlva tette közzé. Diploma után az
egyetemen kapott kutatói állást, itt kezdett a valószínűséggel foglalkozni. 1929-ben jelent meg fontos műve, az Általános mértékelmélet és valószínűség-számítás. Ezt 1933-ban kibővítette.
1931-ben a moszkvai egyetem professzorává választották , majd a Matematikai Intézet igazgatója lett. Itt dolgozta ki a Valószínűség-elmélet analitikai módszerei című munkájában a sztochasztikus (matematikai valószínűségen alapuló) folyamatok, köztük a Markov-láncok elveit. Más munkáiban a funkcionálanalízis kérdéseit, továbbá a topológiát (a folytonosság általános törvényeit kutató ágazatot) és a folyadékok turbulens áramlását kutatta.
A világhírt valószínűség-számítási munkái hozták meg számára, két parciális differenciál-egyenlettel írta le a Markov-folyamatot irányító átmeneti valószínűségeket. Egyenletei a molekulák Brown-mozgása és a diffúzió elemzésére is alkalmasak, e munkája új korszakot nyitott a valószínűség-számítás mérnöki, kémiai, fizikai és biológiai alkalmazásában. A valószínűség-számítás terén függvénytani módszerekkel is fontos eredményekhez jutott. Ő fogalmazta meg a nagy számok törvényének alkalmazhatósági feltételeit - e törvény leegyszerűsítve azt állítja, hogy egy véletlenszerű esemény minél többször ismétlődik, annál kevésbé véletlenszerű.
A sztochasztikus, stacionárius (időben nem változó) folyamatok terén is fontos eredményeket ért el, ezeket az amerikai Norbert Wiener is kutatta, főleg statisztikus előrejelzéseket készítve, s rámutatott Kolmogorov elméletének jelentőségére, melyre a kibernetika tudománya is támaszkodik.
Kolmogorov a topológiában - egyidejűleg James Alexander amerikai atematikussal, de tőle függetlenül - a nabla-operátornak nevezett algebrai szerkezet alkalmazási lehetőségeit tárta fel - ez egy szimbolikus térbeli vektor, melyet W. R. Hamilton vezetett be. Erre alapozva dolgozta ki a homológ gyűrű fogalmát, majd a dualitási tételt, 1935-36-ban.
Később matematikai logikával és matematikatörténettel is foglakozott. 1939-ben lett a Szovjet Tudományos Akadémia tagja, majd az Akadémia matematika-fizikai osztályának titkára. Az 1950-es évek közepétől érdeklődése az információelmélet, a dinamikus rendszerek, a klasszikus mechanika, a sokváltozós függvények és a komplex számok felé fordult. A konstruktív logikát is kutatta, s tisztázta a Hilbert-terek és a véletlen folyamatok közti kapcsolatot. A matematika oktatásának új módszereit az ő vezetésével dolgozták ki. Valószínűség-számítási axiómarendszerét tanítványa, a magyar Rényi Alfréd általánosította.
Kolmogorov geofizikával, meteorológiával, ballisztikával, biológiával, nyelvészettel is foglalkozott. 1965-ben lett a Magyar Tudományos Akadémia tiszteletbeli tagja. A valószínűség alapfogalmai című műve 1982-ben jelent meg magyarul. 1987. október 20-án halt meg Moszkvában.