大約成立於大正10年（1921）左右，成員為趙一山及其弟子。板橋趙一山先生是一位具備醫學與漢學根柢的學者，他在臺北市稻江永樂市場邊開業行醫，又創設劍樓書房，從事漢學推廣工作。劍樓弟子如王少濤、駱香林、張我軍、王香禪、洪碧梧、周蓮青等，皆有名於詩。每年仲冬，師生共同舉行祭孔典禮，禮成之後又舉行師生之間的文字宴飲。當時台北瀛社、桃園桃社、新竹竹社，經常舉行聯吟活動，風會所際，趙一山與弟子的聯誼活動也被視為吟社行為，劍樓吟社之名遂成於有形無形之中，其實它只是趙氏弟子的同學會而已，原先並無吟社之名。該社不重視課題與擊缽吟的文字遊戲，專門從事詩學知識的傳習，所以吟社之內人才濟濟，在當時北臺灣擁有崇高聲望。