Il suo cinema è caratterizzato da lunghe sequenze, da strutture narrative atipiche e non convenzionali, da un distinto uso della fotografia cinematografica e da tematiche di tipo spirituale e metafisico. Fu proprio questa «veste formale, ritenuta eccessivamente elaborata, e dell'uso troppo compiaciuto della metafora e della bella immagine» che suscitò «notevoli polemiche tra i critici» in occasione della presentazione del film L'infanzia di Ivan al Festival di Venezia del 1962. Definito «garbatamente infedele a schemi zdanoviani» in un numero di Ombre rosse introdotto dal dissenso in URSS, l'amore per la sua terra e per il suo popolo lo distingue anche dagli «artisti ribelli ai dettami del realismo socialista» e alle coeve avanguardie tollerate da «lasciapassare metafisici».
Biografia Tarkovskij nacque il a Zavraž'e, nell'oblast' di Ivanovo, un piccolo villaggio sulle rive del Volga da Arsenij Aleksandrovič, poeta, e Marija Višnjakova, donna dal carattere forte e dalla profonda religiosità, a lungo impiegata presso una tipografia.
Enorme per Tarkovskij fu l'importanza del rapporto con i genitori, in forma di amore viscerale per la madre e di lontananze e incomprensioni col padre, il quale abbandonò la famiglia nel 1935, quando Andrej aveva tre anni, per ritornarvi nel 1945, dopo la guerra. In questa occasione, il padre tentò di portare Andrej via con sé, ma la madre glielo impedì.
Le opere del regista sovietico «più apprezzato in Europa occidentale», scrive Andrea Vannini, «rappresentano una nuova tendenza culturale e politica che parla dell'individuo, dell'esistenza e della psiche, e sono sempre state contrastate dalle autorità dell'URSS». Tale sguardo lo porterà a un rapporto profondo col padre espresso in Solaris con la citazione iconografica del Ritorno del figliol prodigo di Rembrandt e con la stessa poesia di Arsenij Aleksandrovič Tarkovskij recitata all'inizio del film Lo specchio , e con la madre, che, ancora in Solaris, si sdoppia in Natal'ja, la moglie, personaggi interpretati dalla stessa attrice Margarita Terechova.
Anni cinquanta Nel 1952 Andrej si iscrisse all'Istituto di Studi Orientali dell'Accademia delle Scienze di Mosca e inizia a studiare arabo. Influenzato dalla religiosità della madre, si trova molto a disagio nell'ambiente accademico ateista dei più duri anni dello stalinismo. Nel 1954 abbandonò gli studi e, seguendo il consiglio della madre, andò a lavorare come geologo raccoglitore nella taiga siberiana. Il contatto con la natura durante le lunghe escursioni lo aiutò a ritrovare stimoli e a riconquistare una spiritualità che gli studi avevano minato. Il periodo della taiga siberiana fu oggetto di una sceneggiatura del 1958 che, però, non fu mai trasformata in pellicola: Concentrato (koncentrat). Il titolo si riferiva al capo di una spedizione geologica che aspetta la barca che riporta i "concentrati" dei minerali raccolti nella spedizione.
Nel 1956 Andrej Tarkovskij ritornò a Mosca e si iscrisse al VGIK (Scuola Superiore di Cinematografia), la più prestigiosa scuola di cinema dell'Unione Sovietica. Vi seguì i corsi di Michail Romm, quotato regista del periodo, esponente di quel realismo socialista che andava per la maggiore in quegli anni. Romm, al di là delle sue personali scelte estetiche, si dimostrò un uomo di larghe vedute e, sotto la sua ala, Tarkovskij poté sviluppare le proprie idee, cosa di cui fu riconoscente al maestro, verso il quale ebbe sempre parole di grande stima.
Al VGIK Tarkovskij iniziò a girare, nel 1956, Assassini (Ubijcy), un cortometraggio che riprende uno dei più celebri racconti di Ernest Hemingway, e in cui Tarkovskij compare anche come attore nel ruolo di cliente del bar, a cui seguirà l'anno dopo il mediometraggio: Non cadranno foglie stasera (Segodnja uvolnenija ne budet). Questa opera è più complessa rispetto all'esordio e racconta di un manipolo di militari che si occupa dello sminamento di una strada dove sono rinvenute bombe della seconda guerra mondiale. Il film, pur inserendosi idealmente in una certa cinematografia storiografica sovietica postbellica, rivela, per il gusto della inquadratura e per la sceneggiatura tesa, il talento del regista.
Anni sessanta Nel 1960 Tarkovskij si diplomò presentando Katok i skripka, un mediometraggio che racconta l'amicizia tra un bambino che studia violino e un operaio asfaltatore. Il film è permeato da un blando lirismo un po' artificioso, dovuto anche alla sua natura di opera scolastica, ma mette già in luce, nell'inusuale tema trattato e in alcune soluzioni registiche, un'originalità e un'indipendenza all'epoca non comuni. In questa pellicola si cominciano a cogliere alcune idee visive che troveranno ampio spazio nei successivi lungometraggi: un certo gusto per le visioni oniriche (come la sequenza caleidoscopica) e l’elemento dell'acqua, sempre presente nei film successivi (ad esempio gli alberi che si specchiano nelle pozzanghere dopo l'acquazzone).
Nel 1961 Tarkovskij sposò Irma Rauš, un'attrice conosciuta ai corsi del VGIK. Dal matrimonio nacque, nel 1962, Arsenij Andreevič, primo figlio del regista, a cui fu dato il nome del nonno. Sempre nel 1962 uscì L'infanzia di Ivan (Ivanovo Detstvo), il primo lungometraggio di Tarkovskij. Il film fu presentato al festival di Venezia e vinse il Leone d'oro al miglior film ex aequo con Cronaca familiare di Valerio Zurlini. La pellicola racconta la storia di un bambino che partecipa alla seconda guerra mondiale. La vicenda alterna il crudo realismo della guerra a continue digressioni oniriche, in un'atmosfera fortemente suggestiva che nulla ha a che vedere con il coevo panorama cinematografico sovietico. Esplode improvviso il caso Tarkovskij. In Italia il film scatena una polemica che vide, in difesa del film, l'intervento di Jean-Paul Sartre dalle colonne de l'Unità.
Con questo film, lirico e personale, iniziano le prime incomprensioni con il regime che, quando nel 1966 Tarkovskij girò Andrej Rublëv, diventarono un'aperta ostilità che influenzò tutta la carriera del regista. Andrej Rublëv rilegge la storia della Russia del Quattrocento attraverso le gesta del pittore di icone Andrej Rublëv, ed è ritenuto uno dei migliori film degli anni sessanta dell'intera cinematografia mondiale; la sua forza e la sua intensità lo rendono un film di notevole importanza. Ci sono scene particolarmente celebri, come quella della fusione della campana, che inneggia all'unione del popolo contro il tiranno, e poi c'è il misticismo, la fede, l'esaltazione di Madre Russia. Fu l'inizio di un lungo braccio di ferro che si trascinò per anni.
Dopo lunghe pressioni, che videro intervenire persino il ministro francese per la cultura, il film, nel 1969, arrivò al festival di Cannes, dopo aver subito alcuni tagli e "correzioni" al montaggio. Il successo fu enorme, il film vinse il premio della critica internazionale e fu proiettato in tutta Europa, suscitando ovunque entusiasmi di critica e pubblico. In patria, però, Andrej Rublëv fu proiettato solo nel 1971, riscuotendo un buon successo nonostante la cappa di silenzio piombata sul film: nessun articolo, nessuna recensione e perfino nessuna informativa sulle sale in cui veniva proiettato. Sul set di Andrej Rublëv Tarkovskij conobbe Larisa Pavlovna Egorkina, che sposò in seconde nozze nel 1969, e da cui, nel 1970, ebbe Andrej Andreevič, il secondo figlio.
Anni settanta A partire dall'aprile del 1970 Tarkovskij iniziò a scrivere un diario che tenne con continuità sino agli ultimi giorni. Contiene il resoconto delle traversie burocratiche e delle complesse vicissitudini umane di Tarkovskij e costituiscono, assieme a Scolpire il tempo, col quale Tarkovskij definisce la propria idea estetica, il più importante documento sulla sua vita e sulle sue opere. In un primo momento furono pubblicati alcuni estratti dei diari, in traduzione inglese e tedesca, ma solo nel 2002 uscì la prima edizione integrale, curata dal figlio, per una piccola casa editrice fiorentina, le Edizioni della Meridiana.
Nel 1972 Tarkovskij realizzò Solaris, tratto dall'omonimo romanzo di Stanisław Lem. Il film racconta una spedizione scientifica sul pianeta Solaris, un pianeta in cui avvengono strani fenomeni. Kris Kelvin, lo scienziato inviato a risolvere il mistero, scopre che l'oceano del pianeta è una vera e propria entità senziente che materializza il passato e i ricordi. La complessa atmosfera metafisica di quest'opera fu sottovalutata e si preferì puntare tutto sull'aspetto fantascientifico. Il film fu infelicemente presentato in occidente come “la risposta sovietica a 2001: Odissea nello spazio” ed ebbe fortuna alterna. In Italia Solaris fu affidato a Dacia Maraini, che vi operò profondi cambiamenti: gli iniziali quaranta minuti del film furono tagliati e altre scene arbitrariamente rimontate, ovviamente senza il consenso di Tarkovskij, che nemmeno era stato informato e che, in seguito, intentò senza successo una causa legale contro la Maraini. Questa versione del film - peraltro doppiata in maniera disastrosa - circolò in Italia per quasi un trentennio, fino alla riedizione nel 2001 della versione integrale.
Terminato Solaris Tarkovskij iniziò a lavorare a Un bianco giorno, un film a carattere autobiografico, che uscì nel 1974 con il titolo definitivo Lo specchio (Zerkalo). Si tratta senza dubbio del film più personale ed ermetico del regista. Vadim Jusov, che era sempre stato l'operatore di fiducia di Tarkovskij, rifiutò di girare il film perché considerava presuntuoso il progetto. Una volta uscito nelle sale però, Jusov ammise di aver avuto torto e si complimentò con Tarkovskij. In effetti, Lo specchio è un'opera di grande fascino che esibisce un virtuosismo tecnico sconfinato, nell'uso della macchina da presa e nel lavoro sul colore, un virtuosismo finalizzato alla creazione di un'atmosfera eterea in cui il presente, il passato e i sogni sono fusi in unico blocco atemporale, su cui si innestano immagini d'archivio di soldati dell'Armata Rossa impegnati nella seconda guerra mondiale, in una lirica ricostruzione della storia della Russia.
L'ostilità del regime nei confronti di Tarkovskij, dopo questo film, diventò ancora più aspra. Il film fu ostacolato in ogni modo, se ne impedì la partecipazione a qualsiasi festival, nazionale e internazionale, mentre in patria fu considerato un film di terza categoria, la meno importante, per cui andò in programmazione solo per tre settimane e solo in piccole sale di periferia. A Tarkovskij fu inoltre impedito di girare altri film. Tra le altre idee sviluppate mai tradotte su schermo figurano la riduzione de L'idiota di Dostoevskij, che, nelle idee di Tarkovskij, avrebbe dovuto essere il suo film più importante e al quale lavorò dal 1971 al 1983 quando, ormai esule, capì che non avrebbe mai girato un film sul Vangelo di Luca.
Tra il 1976 e il 1977 Tarkovskij si dedicò al teatro e mise in scena a Mosca lAmleto di Shakespeare, con Anatolij Solonicyn nel ruolo del principe di Danimarca. A partire dal 1978, grazie a un permesso speciale del Presidium del Soviet Supremo, Tarkovskij riprese a girare: iniziò la lavorazione di Stalker, tratto da Picnic sul ciglio della strada, un romanzo di fantascienza dei fratelli Strugackij, che uscì nel 1979.
Stalker racconta un viaggio all'interno di una misteriosa Zona, di cui si dice esista una stanza in cui si esaudiscono i desideri. Protagonisti del viaggio sono lo stalker, cioè la guida che sa come muoversi dentro la Zona, uno scienziato e uno scrittore. Lo sviluppo narrativo è quasi inesistente, ma il film è uno dei più suggestivi girati da Tarkovskij. Lentissime carrellate su pavimenti d'acqua, dialoghi filosofici e un'atmosfera da apocalisse post-atomica, che impregna ogni immagine, rendono il film enigmatico e sfuggente, probabilmente il vertice figurativo di Tarkovskij.