도산서원은 퇴계가 생전에 교육공간으로 활용하던 서당 공간과 퇴계 사후에 지어진 서원 공간으로 양분되는데, 여기에는 기숙사인 농운정사(隴雲精舍)와 지원시설인 하고직사(下庫直舍)도 지었다. 여기까지가 도산서당에 해당하는 셈이다. 농운정사는 도산서당에 붙어 있는 기숙사로 언덕 위의 구름이라는 뜻이다. 열심히 공부하라는 뜻에서 ‘공(工)’ 자형의 평면을 갖고 있다. 2개의 긴 방, 2개의 마루방, 2개의 토방이 이어져 있고 앞뒤로 툇마루가 붙어 있다. 툇마루의 동쪽 마루는 ‘시습재(時習齋)’이고, 서쪽 마루는 ‘관란헌(觀瀾軒)’이라 이름 붙였다. 동쪽은 선배들의 공간이고, 서쪽은 후배들의 공간이다.

퇴계 이황은 뛰어난 성리학자인 동시에 훌륭한 건축가였다. 퇴계는 집터에 대한 깊은 통찰력을 갖고 알맞은 자리를 찾아 헤맸다. 그러다가 1557년(명종 12)에 도산 남쪽에 터를 잡았다. 여기에는 성리학으로 무장된 자연에 대한 철학이 담겨 있었다. 도산서당을 지은 과정은 선생의 제자인 성성재(惺惺齋) 금난수(琴蘭秀, 1530∼1599)가 쓴 「도산서당영건기사(陶山書堂營建記事)」에 자세히 기록되어 있다. 그리고 퇴계가 남언경(南彦經)에게 보낸 편지에도 서당을 건립하게 된 배경에 대해서 언급하고 있다.

내가 사는 이곳은 매우 궁벽한 곳이어서 비록 물과 돌은 있지만 올라가 멀리 바라볼 수 있는 빼어난 경관은 없습니다. 근래 특별히 한 곳을 잡았는데 자못 경치가 좋습니다. 그래서 한 칸 서재를 지어 편안히 앉아서 여생을 끝마치려고 생각하고 있지만 재력이 워낙 없다 보니 그 뜻을 성취할 수 있을지 없을지 기필할 수 없습니다.

그리하여 1558년(명종 13)부터 본격적으로 도산서당을 짓기 시작하였는데, 이때 퇴계는 그 이듬해에 건축설계도라 할 수 있는 「옥사도자(屋舍圖子)」를 몸소 그렸다. 그리고 집 짓는 일을 맡긴 목수 승려 법련(法蓮)과 집의 제도에 대한 토론을 벌이기도 하였다. 퇴계는 자신이 공부하며 거처할 집이 어떤 모양을 갖추고 방향은 어떻게 놓여야 하는지 확신을 가지고 있었다. 법련이 죽자 승려 정일(淨一)이 맡아서 1561년(명종 16)에 도산서당이 완공되었다. 법련과 정일은 서당에서 멀지 않은 용수사(龍壽寺)의 승려였다. 한편 농운정사는 도산서당의 부속건물로 제자들의 숙소로 쓰기 위해 지은 집으로, 도산서당이 완성되기 한 해 전인 경신년(1560) 음력 11월에 완성되었다.

도산서당이 완공된 뒤 이황은 이렇게 적고 있다.

정사년(1557, 명종 12)에서 신유년(1561, 명종 16)까지 5년 만에 당(堂)과 사(舍) 2채가 그런대로 이루어져 거처할 만하였다. 당은 모두 3칸인데, 중간 1칸은 완락재(玩樂齋)라 하였으니, 그것은 주 선생(朱先生)의 「명당실기(名堂室記)」에 “즐기고 완상하여 진실로 내 몸을 마칠 때까지 하여도 싫증나지 않을 것이다”라고 한 말에서 따온 것이다. 동쪽 1칸은 암서헌(巖栖軒)이라 하였으니, 그것은 「운곡(雲谷)」의 시에, “오랫동안 자신하지 못했으니 바위에 깃들여 작은 효험 바라노라”라는 말에서 따온 것이다. 그리고 합해서 도산서당(陶山書堂)이라고 현판을 달았다. 사는 모두 8칸이니, 시습재(時習齋)·지숙료(止宿寮)·관란헌(觀瀾軒)이라고 하였는데, 모두 합해서 농운정사(隴雲精舍)라고 현판을 달았다.

도산서당은 이황이 기거하며 공부하고 가르치던 집이다. 이 집은 특히 암서헌 동쪽 끝에 달아맨 살평상에 주목할 필요가 있다. 이 살평상은 이황이 제자인 이덕홍(李德弘)의 조부 이현우의 집에서 배워서 가지고 온 것이다. 이현우의 집은 비좁아서 처마 밑에 방을 하나 달아매어 사용하였다. 이황은 그것을 보고 검소함에 찬탄을 금치 못하여 ‘모름지기 선비란 이렇게 살아야 한다’고 생각하였다고 한다. 그리하여 그 처마 밑에 달아맨 방을 여기 서당의 한쪽에 가져다 놓은 것이다. 그러니까 살평상은 이황이 욕심내지 않고 선비의 삶을 살아갈 수 있도록 이끌어주는 향도(嚮導) 역할을 수행하고 있는 스승인 셈이었다. .