Robert Musil blev født i Klagenfurt i Østrig i 1880. Hans far var ingeniør og hans mor hjemmegående. Musil blev sendt på militær kostskole i Eisenstadt og Hranice fra 1892 til 1897. Den strenge disciplin og elevernes grusomhed mod hinanden skulle senere inspirere ham til debutromanen ”Disciplen Törless’ forvirringer”. Musil startede på officersskole, hvor han opdagede sin interesse i teknik. I 1898 skiftede han til maskiningeniørstudiet i Brno, hvor hans far var professor, og i 1901 færdiggjorde han sin doktorafhandling. Ved siden af sine ingeniørstudier læste han flittigt litteratur og dyrkede kulturlivet.
Efter at have fået sin universitetsgrad, arbejdede han som assistent ved universitetet i Stuttgart og startede med at skrive ”Disciplen Törless’ forvirringer”. I 1903 brød han med ingeniørfaget og startede studier på ny i Berlin, hvor han læste filosofi og psykologi. I 1905 mødte han Martha Marcovaldi, som han giftede sig med i 1911. I 1906 blev debutromanen publiceret. I 1909 fik Musil sin nye dobbelte doktorgrad og blev tilbudt en stilling ved universitetet, som han afslog til fordel for forfattergerningen.
For at forsørge sin nye familie (Martha havde to børn fra et tidligere ægteskab) arbejdede Robert Musil som bibliotekar på det tekniske universitet i Wien og som redaktør på forskellige litterære tidsskrifter. Ved Første Verdenskrigs udbrud i 1914 meldte Musil sig til hæren og tjente som officer i Italien, hvor han modtog flere udmærkelser. Efter krigen flyttede Musil tilbage til Wien og fortsatte med at skrive skønlitteratur og kritik. I 1921 udkom hans prisbelønnede drama ”Die Schwärmer”. Han udgav novellesamlingen ”Tre kvinder” i 1924, og i 1930 udkom første bind af hans ufuldendte hovedværk ”Manden uden egenskaber”.
Musil fortsatte med at arbejde med værket til sin død. Værket var ikke en kommerciel succes, men blev rost af Musils forfatterkolleger. Nazisterne bandlyste Musils bøger, og sammen med sin kone flygtede han til Schweiz, efter at Østrig blev indlemmet i det tyske rige. Her døde Musil i 1942 af et hjerteslag.
Musils kompakte stil og hans filosofiske udflugter gør ham svært tilgængelig, hvilket måske er en grund til, at han ikke er så udbredt i dag.