Sjón fik en fornemmelse af, hvad litteratur var, da han otte år gammel læste de islandske folkeeventyr. Som dreng i 1960'erne og 1970'erne blev han også påvirket af tidens populære børnelitteratur fra nordiske forfattere som Thorbjørn Egner, Astrid Lindgren, Tove Jansson og Ole Lund Kirkegaard. De skriver om mennesker og dyr og undlader at fordømme dem, og den holdning eksisterer i Sjóns egne udgivelser.
Det var den islandske forfatter Halldór Laxness, der blandt andet lærte ham, at en tekst bør have en stemme, som er i nærkontakt med læseren, hvorimod de svenske digtere Gunnar Ekelöf og Tomas Tranströmer gjorde ham forelsket i lyrikken.
Sjón har det tilfælles med Tranströmer, at han gennem sit forfatterskab har arbejdet med at koncentrere sit udtryk i en ordknap form – aflæseligt i ”Skygge-Baldur” – men så har han til gengæld skruet op for kompleksiteten igen i ”Tusmørkeundere”.
De dystre elementer i Sjóns bøger kan spores tilbage til djævlefablen ”Mesteren og Margarita” af den russiske forfatter Mikhail Bulgakov, som han læste ved udgangen af teenageårene og har identificeret som lidt af et forbillede: ”Det er stadig den roman, der fortæller mig, hvad man kan gøre med litteratur, og hvordan man kan have alt i én bog,” sagde han i et interview til Politiken (Marie Tetzlaff: I Island har alle fortjent at blive husket. Politiken.dk, 2010-09-28).
Sjón finder yderligere inspiration i den psykologiske dybde i gyserfortællingerne af Edgar Allan Poe og hans polske ækvivalent Stefan Grabinski. Tre af Grabinskis historier blev fortolket af Sjón i operaen ”The Motion Demon” i foråret 2011, som han skrev librettoen til. Den kredser om en mands besættelse af toge og lod Sjón gå i dialog med anden forfatter; i 2006 gjorde han det samme, da han omsatte H.C. Andersens eventyr ”Skyggen” til opera.
Hans indoptagelse af andre forfatteres værker er ligeså indiskutabel i flere af romanerne. ”Splinten fra Argo” låner fra det episke digt ”Argonautika” om Jason og argonauterne af den græske digter Apollonios fra Rhodos. Og i ”Dine øjne så mig” refererer Sjón både til Franz Kafkas historie ”Forvandlingen”, hvor en mand bliver til et stort insekt, og Gustav Meyrinks udgave af Golem-myten om et væsen skabt af ler, der ligner Sjóns fortæller.
Forfatterens interesse for surrealismen, som blandt andet er på spil i sammenstødene mellem absurde scenarier og virkelighed i ”Dine øjne så mig”, begyndte, da han i sin ungdom studerede den franske forfatter André Breton. Sjón fandt det spændende, at Breton var åben over for at anskue alle dele af naturen som levende skabninger. For Sjón er den surrealistiske tilgang til kunsten frugtbar, fordi den opfordrer til undersøgelse af underbevidstheden og drømmene. ”Drømme er jo det sted, hvor man ikke har kontrol over sine tanker – når man er vågen, kan man altid skubbe dem væk eller i hvert fald midlertidigt af vejen. Og for litteraturen er det et værktøj til at træde ind i det ulogiske, at tale om andre ting og få læseren til at kigge efter ting i teksten på nye måder,” mener han (Lotte Folke Kaarsholm: Alogik: Det beskidte møde med universet. Information, 2005-10-05).