Une des traditions les plus répandues, au temps du paganisme, était de placer au pied de chaque sépulture — afin que l'esprit du mort puisse s'en saisir et s'en aider pour sortir du tombeau —, une sorte de stèle de bois, faite d'une planche ou d'un tronc d'arbre, décoré d'ornements divers : coeurs, têtes de cheval, fleurs peintes, oiseaux, emblèmes solaires, clochettes, urnes, etc. Lorsque le christianisme s'implanta en Lituanie, on donna à ces stèles un caractère chrétien, soit en les surmontant d'une croix, soit en y fixant une petite chapelle abritant des figurines saintes.

Cependant, « bien qu'appelés Kirkstaï (baptêmes), dit M. J. Basanavicius (1851 - 1927, homme politique, historien et militant et promoteur de l'identité nationale Lituanienne), ces monuments funéraires ne sont chrétiens que de nom. Le dieu soleil, la divinité lune et le dieu serpent demeurent encore sur les croix comme des emblèmes secrets ; les oiseaux y continuent à chanter pour calmer les esprits dés morts et les grelots à tinter en leur honneur ».

À tel point que le clergé catholique fut le premier à s'émouvoir de ces croix suspectes. En 1426, Michel, évêque de Zambre, en ordonna la destruction et défendit que l'on en érigeât de nouvelles « ut nullam crucem circa sepulcra mortuorum locent. » Il ne fut d'ailleurs pas tenu compte de cette défense. Les croix continuèrent à se multiplier, non seulement sur les tombes, mais au bord des chemins, au carrefour des routes, dans les bois, dans les champs ; elles abondent encore aujourd'hui en Lituanie et constituent même une des caractéristiques les plus curieuses de ce pays.