이 소설은 1332년 프랑스의 작은 마을 생 레미에서 시작해, 1916년 미국 펜실베이니아 알러게니에 이르기까지, 오제 가문—훗날 파버, 페이버 가문으로 이어지는—한 평민 혈통이 다섯 세기 반에 걸쳐 걸어온 길을 그린다.
겉으로 보면 이 가문이 좇은 것은 그저 살아남는 일이었다. 흉작을 버티고, 역병을 피하고, 전쟁의 불길에서 도망치고, 낯선 바다를 건너고, 새로운 땅에 다시 뿌리를 내리는 일. 그러나 그 오랜 유랑의 밑바닥에는, 세대를 건너 조용히 대물림된 하나의 물음이 있었다.
그 물음은 1부에서 위그가 아내 알리스에게 던지는 한마디로 처음 소리 내어진다. '하느님이 정말 사랑이시라면, 어찌 가난하다는 이유로 어떤 이의 영혼은 더 오래 불 속에 있어야 한단 말이오?' 그것은 신학 논쟁이 아니라, 이웃의 장례식에서 미사값을 구걸해야 했던 며느리를 지켜본 한 농부의 순전한 아픔에서 터져 나온 말이었다.
이후 이 가문의 자손들은 저마다의 시대와 자리에서 같은 물음을 다른 얼굴로 되묻는다. 어린 장은 '삼위일체가 어떻게 셋이면서 하나냐'고 묻고, 클로드는 성경을 제 손으로 펴 보고 싶다는 갈망을 품으며, 다비드 부자는 신앙의 이름으로 내쫓기고 다시 불려 오는 존재로서 그 물음의 또 다른 얼굴을 짊어진다. 요아힘은 대양 건너 신대륙에서, 십자가를 앞세운 자들의 '열매'가 사랑이 아니라 사슬과 잿더미임을 목격하며 그 물음의 무게를 온몸으로 느낀다. 카스파어는 신교와 구교가 똑같이 팔츠의 흙을 피로 물들이는 것을 보며, 어느 쪽도 참된 것을 섬기지 않았다는 결론에 이른다.
이 가문이 궁극적으로 추구한 것은, 그러니까 단지 더 나은 땅이나 더 가벼운 세금이 아니었다. 그들이 진정으로 찾아 헤맨 것은—비록 그 말로 표현할 줄은 몰랐을지라도—사랑이라는 이름에 값하는 하느님의 참모습이었다. 두려움으로 사람을 옭아매는 신이 아니라, 억압받는 자의 눈물을 마침내 닦아 주실 신. 사람이 세운 어떤 왕국, 어떤 교회, 어떤 제도로도 완성될 수 없는, 오직 하느님 자신의 손으로만 세워질 수 있는 그런 다스림.
그 오랜 물음은 7부에 이르러서야 비로소 이름을 얻는다. 1870년대 알러게니에서, 다니엘 페이버는 찰스 테이즈 러셀과 그 동료들의 성경 연구를 통해 지옥불과 영혼불멸과 삼위일체가 성경적 근거 없는 가르침이었음을, 그리고 창세기 3장 15절과 다니엘서 2장 44절이 가리키는 하느님의 왕국이야말로 인류의 참된 소망이었음을 깨닫는다. 오백 년 넘게 대물림된 위그의 물음은, 그렇게 마침내 대답을 얻는다.
따라서 이 소설의 제목이기도 한 '흙 위의 사슬'은 이중의 의미를 지닌다. 하나는 봉건적 부역과 세금, 종교적 착취와 공포가 이 가문을 대대로 옭아맨 사슬이며, 다른 하나는 그 사슬에도 불구하고 결코 끊어지지 않고 다음 세대로 이어진—그리하여 마침내 사슬 자체를 끊어 낸—진실을 향한 갈망이라는 사슬이다. 이 책은 그 두 사슬이 오백 년에 걸쳐 함께 이어져 온 이야기다.
역사적 배경과 사건은 실제 기록에 근거했으나, 오제-파버-페이버 가문과 그 주변 인물들은 그 시대를 살았던 이름 없는 수많은 이들을 대표하는 가상의 인물임을 밝혀 둔다.