I sine tidlige skønlitterære værker var Roth en langt mere politisk bevidst forfatter end i sin sene karriere og var optaget af sociale reformer og modstand mod undertrykkelse og udnyttelse i Weimarrepublikkens Tyskland. I sine senere værker, ca. fra 1926 til sin død i 1939, bliver Roth mere optaget af individuelle skæbnefortællinger og en søgen efter identitet. Det er også den periode, hans mest berømte værker er fra. I sit mest berømte værk, ”Radetzkymarch”, kombineres det politiske med det personlige, idet Trotta-familiens deroute afspejles i det Østrig-Ungarske imperiums undergang og død.
Tilværelsen som faderløs og fædrelandsløs efter det Østrig-Ungarske dobbeltmonarkis opløsning var med til at forme Roth som person og forfatter. Østrig-Ungarn står hos Roth som uperfekt, men samtidig som et idealsamfund på mange måder, hvilket ofte belyses med en smertefuld melankoli i Roths tekster. I Østrig-Ungarn så Roth et overnationalt samfund, der favnede mange sprogområder og etniciteter. Det beskrives som et hus med mange rum, mens nationalismen kun er et skridt fra barbariet, en pointe som på grusomste vis blev demonstreret med nationalsocialismen i Tyskland og KZ-lejrene. Efter kejserrigets sammenbrud blev Joseph Roth en mand uden egentlig hjemstavn, et faktum der blev yderligere understreget efter nazisternes magtovertagelse, der tvang forfatteren i eksil pga. hans jødiske baggrund. Roth følte sig dog mest hjemme i Frankrig og blev også grebet af den katolske tro. Denne følelse af hjemløshed er noget, der præger Roths litterære produktion sammen med en hvileløs søgen efter identitet, ofte med negative konsekvenser.
Endelig spiller jødedommen også en vigtig rolle i Roths forfatterskab, romanen ”Job” og en novelle som ”Leviathan” omhandler eksplicitte jødiske tematikker, men det spiller også i mindre grad ind i flere andre af Roths værker.