평안남도 강서군 증산면에서 태어났다. 증산면은 1911년 당시에 회당이 10여 처에 달하는 지역이었는데 이것은 1893년부터 평양지방에서 선교를 시작한 홀(W.J. Hall)의 활동 때문이었다. 김창준 목사의 집안 역시 일찍부터 기독교를 접한 것으로 보인다. 문요한(J.Z. Moore, 文約翰) 선교사가 운영하는 강서군 반석면 야소교 소학교를 1906년 12월에 졸업하고, 숭실대학을 1914년 5월에 졸업하였다.

세례를 받고 교인이 된 김창준은 1911년경부터 본격적으로 전도사업에 나섰다. 그는 경성 종로 기독청년회관에서 1911년 3월 15일부터 남.북 양 감리회가 주최한 춘계 신학회 2년급에 출석하여 교육을 받았다. 그리고 1913년경부터는 평양에 거주하며 남산현교회에서 전도사의 일을 맡아 일한 것으로 전해진다. 그리고 이 시기에 광성고등학교의 부교장을 3년간 맡은 것으로 보인다.

일본 동경 청산학원에서 1년간 학업을 계속한 후 1917년 3월 19일에는 협성신학교를 제5회로 졸업하였다. 그리고는 변영서와 함께 종로교회(현 중앙교회)로 파송을 받아 본격적인 목회활동에 들어가게 되었다.

김창준은 3.1독립선언문에 서명함으로써 독립운동에 참여하였다. 김창준은 당시 종로교회의 전도사였다. 종로교회에는 당시 중앙기독교청년회의 간사 박희도도 전도사로 활동하고 있었다. 박희도는 기독교 측과 학생운동을 지도하여 3.1운동을 주도한 인물이다. 이러한 박희도가 1919년 2월 26일 밤 김창준에게 3.1운동에의 참여를 권유하였다. 그리하여 2월 27일 낮 이필주의 집에서 이갑성, 박희도, 박동완, 이승훈, 최성모, 함태영 등과 함께 독립선언서의 원고를 보고 자신들의 이름을 기록하기로 결정하였다. 지방법원 예심 취조서 내용에 따르면 김창준은 2월 27일 박희도의 권유를 받은 후 기도하면서 천의(天意)를 묻고 독립운동에 참가하였으며 독립운동에 참가한 것은 천의라고 생각한다고 답하고 있다.

김창준은 선언문 9백 장을 평양, 선천에 전달하여 주는 것 외에는 3.1운동에 있어서 특별한 역할을 담당하지는 않았으나 이 일이 하나님의 뜻을 실천하는 길이라는 의식을 가졌다. 김창준은 1921년 12월 22일 경성감옥에서 최린, 함태영, 오세창, 권동진, 이종일과 함께 가출옥되었다. 그는 회색 두루마기를 입고 웃음을 띠고서 "나는 조선 민족을 그리스도의 복음으로 인도코자 하던 터이니까 밖에 있으나 감옥에 있으나 하나님의 일을 하기에는 일바이올시다. 옥중에 일천 칠백 명의 죄수가 있으니까 기회있는 대로 전도하였노라"고 출옥소감을 말하였다.

김창준은 1922년부터 종로교회에서 목회를 계속하게 되고 1922년 9월 제15회 미감리회 조선연회에서 집사(현 준회원 목사)가 된다. 1923년 말경 미국으로 유학을 가 그곳에서 시카고 한인교회를 담임하면서 일리노이 주 에반스톤 개렛신학교에서 1926년 6월 신학사 학위를 취득하고 에반스톤 서북대학에서는 1926년 8월 문학사 학위를 얻었다. 1926년 12월 27일 귀국하여 다시 중앙교회를 맡아 목회를 계속하는 한편 감리회신학교에도 강사로 나가기 시작하였다. 1931년 9월 18일에 열린 중앙협의회에서 협성신학교 이사, 피어선 성경학원 이사, 조선주일학교연합회 대표, 조선예수교연합공의회 대표로 선택을 받는다. 한편 1932년 10월 2일에는 "김창준 목사 교역 15주년 기념식"을 중앙교회에서 가졌다. 1933년 4월에 김창준은 중앙교회를 사임하고 감리회신학교의 전임교수가 된다.

그는 선교에 관하여 남다른 열정을 지니고 있기도 하였다. 특히 만주, 몽고지역의 선교에 관심이 많아 자신이 1935년 만주선교연회의 신경교회로 특별파송을 받기도 하였다.

그리고 김창준은 신학교 교수를 하는 이 시기에 왕성한 집필력을 보여 많은 논문들을 발표하게 된다. 1930년에는 〈종교교육〉이라는 잡지에 필진으로 참여하였으며, 장로교회 안에서 엄청난 파문을 일으켰던 《단권 성경주석》(아빙돈 성경주석, 1934년 출판)에도 사사기의 번역 집필자로 참여하였다.

일제 말기에는 기독교의 내선일체, 황민화 체제의 첫 출발인 경성기독교연합회가 1938년 5월 8일 발회식을 가졌는데 김창준은 자의든 타의든 여기에 평의원으로 참여하였다. 그러나 그 후의 친일자 명단에서는 그의 이름을 찾을 수 없다. 그의 활동은 줄어들었고 겨우 신학교수로서의 생활만을 유지했던 듯하다. 신학교가 1940년 10월 무기휴교에 들어가고 1941년 3월 11일 특별총회는 연회를 해산하기에 이른다. 그는 이 총회에서 평양 남산현교회로 파송을 받지만 부임하지 않고 은둔생활을 시작하였다.

김창준은 1945년 8월 15일 해방을 경기도 양주에서 맞았다. 그러나 조국이 해방되었어도 교계의 재건파와 복흥파 모두 그의 길과는 달랐다. 그는 조국건국운동을 위해 1947년 2월 24일 서울에서 기독교민주동맹을 결성하였다. 김창준이 위원장에 선출되었으나 이 집회는 방해를 받아 4백 50명이 연행되고 동맹은 해산을 강요당하고 말았다.

이날 발표된 선언문은 일제 잔재의 완전한 청산과 인민적인 민주주의 실현을 기독교 사회운동의 지침으로 제시하였다. 그러나 이러한 노력에도 불구하고 남한에서 그 기반을 형성치 못하였다. 그러던 차에 기독교민주동맹과 김창준은 1948년 3월 25일 김일성, 김두봉 등의 명의로 된 "남조선단독정부 수립을 반대하는 남조선정당단체에게 고함"이라는 초청을 받아 4월 전조선정당사회단체대표자연석회의에 참석하기 위해 월북하였다.

이때부터 김창준은 북조선최고인민회의 상임위원회 위원으로 선출되었으며, 1949년 6월 25일에 개막된 조국통일민주주의전선결성대회에서는 의장단에 선출되었다. 1950년 한국전쟁이 일어난 직후 서울에 모습을 나타낸 김창준은 7월 초 기독교민주동맹을 결성하고 회장이 되었다. 그 후 김창준은 최고인민회의 부의장, 조국전선중앙위원회 의장 등 요직을 거치다가 1959년 뇌일혈로 세상을 떠났다.

성서에 근거해 자신이 살던 시대의 사회문제를 바라보고 그 사회의 모순 극복에 투신했던 사회윤리학자요, 사회행동가였던 그는 그러한 신학사상을 가지고 월북했다. 교회의 터전이 사라지게 된 북한에서 김창준의 삶의 모습에 대한 역사적인 사료는 찾아보기 어렵다.