在中国现代史上，人们把庐山称为“政治山”，而最早将庐山卷入政治风云的人物当属蒋介石。

1926年10月10日，北伐军攻克武汉之后，由于革命重心转移，迁都问题提上了议事日程。11月17日，广州国民政府派遣孙科、宋子文等政要自广州启程北上，经江西赴武汉调查各省党务、政务，筹备迁都。孙科一行于12月2日到达位于南昌的国民革命军总司令部。蒋介石设宴招待，席间决定到庐山召开会议，解决政治军事问题。

12月4日，蒋介石等人由南昌乘火车到九江，下午换轿车从莲花洞经好汉坡，到达被外国人称为“清凉世界”的牯岭，第一次登上了庐山。参加庐山会议的政府要员一起下榻庐山的仙岩旅馆。这是一座公寓式别墅，位于庐山东谷，1910年由英国传教士都约翰修建。仙岩旅馆是庐山当时最豪华的旅馆，房价不菲，是中外达官贵人重要的社交和活动场所，后来成为国共两党谈判和会议的主要地点。

值得一提的是，在中国众多名山中，庐山是唯一成为列强租借地的山，直到1936年元旦，中国政府才完全收回庐山租借地。

1926年12月6日晚，庐山会议正式召开。这次会议虽然没有作出重大决策，却是蒋介石在庐山召开的第一次会议。从1926年至1948年，除抗日战争8年外，蒋介石一生共18次上庐山，主持召开了11次重要会议。后来人们把蒋介石驻庐山期间召开的会议，统称为“庐山会议”。

“庐山会议”这个后来人们耳熟能详的历史名词便由此而始。