Historyczne tło filmu stanowi XV-wieczna Rosja widziana oczyma pielgrzymującego mnicha Rublowa. Jest to czas wewnętrznego rozbicia państwa rosyjskiego i konfliktów pomiędzy Wielkimi Księciami. Jednak nie to stanowi główny temat filmu, którego wymowa jest głęboko filozoficzna. Na przykładzie wielkiego rosyjskiego twórcy ikon Andrzeja Rublowa, reżyser rozpatruje odwieczny konflikt pomiędzy artystą a władzą
Film składa się z ośmiu epizodów z prologiem, opatrzonych tytułami i datami. Każda z nich przedstawia jakiś etap życia mnicha-malarza. Łączy je postać Rublowa, ale stanowią jak gdyby oddzielne opowieści, różniące się tematem, nastrojem, formą. Akcja obejmuje lata 14001424. Rublow idzie drogą cierpienia i duchowego rozwoju symbolizowaną przez krzyż.