11920年初，李大釗、陳獨(dú)秀等開始了建黨的探索和醞釀。4月，俄共(布)西伯利亞局派維經(jīng)斯基等一行來華，了解中國情況，考察能否在上海建立共產(chǎn)國際東亞書記處。他們先在北京會(huì)見了李大釗，后由李大釗介紹到上海會(huì)見陳獨(dú)秀，共同商談?dòng)懻摿私h問題，促進(jìn)了中國共產(chǎn)黨的創(chuàng)立。從5月開始，陳獨(dú)秀邀約李漢俊、李達(dá)、俞秀松等人多次商談建黨的問題。8月，陳獨(dú)秀在上海成立了中國共產(chǎn)黨的發(fā)起組。10月，李大釗在北京建立了共產(chǎn)主義小組。接著，在湖南、湖北、山東、廣東等地相繼建立了共產(chǎn)主義小組，同時(shí)在法國和日本也由留學(xué)生中的先進(jìn)分子組成了共產(chǎn)主義組織。

各地共產(chǎn)主義小組建立以后，開展了多方面的革命活動(dòng)。為了廣泛傳播馬克思列寧主義，統(tǒng)一建黨思想，1920年9月，上海發(fā)起組把《新青年》雜志(從八卷一號(hào)開始)改為黨的公開刊物；同年11月，又創(chuàng)辦了《共產(chǎn)黨》月刊，在全國主要城市秘密發(fā)行，這是中國共產(chǎn)黨歷史上第一個(gè)黨刊。新青年出版社還翻譯出版了《共產(chǎn)黨宣言》、《國家與革命》等馬克思列寧主義經(jīng)典著作，以及多種宣傳馬克思主義的通俗小冊子。各地共產(chǎn)主義小組又創(chuàng)辦了一批面向工人的通俗刊物，在上海有《勞動(dòng)界》，北京有《勞動(dòng)音》和《工人月刊》，濟(jì)南有《濟(jì)南勞動(dòng)月刊》，廣州有《勞動(dòng)者》等，對工人進(jìn)行階級(jí)意識(shí)的啟蒙教育。在此基礎(chǔ)上，各地共產(chǎn)主義小組積極深入工人群眾，舉辦工人夜校，建立工會(huì)組織。各地還建立了社會(huì)主義青年團(tuán)，發(fā)展了一批團(tuán)員，青年團(tuán)成為黨的有力助手和后備軍。

1921年3月，在俄共遠(yuǎn)東局和共產(chǎn)國際的建議和支持下，召開了各共產(chǎn)主義小組的代表會(huì)議，發(fā)表了關(guān)于黨的宗旨和原則的宣言，并制定了臨時(shí)性的綱領(lǐng)，確立了黨的工作機(jī)構(gòu)和工作計(jì)劃，表明了黨組織對社會(huì)主義青年團(tuán)、工會(huì)、行會(huì)、文化教育團(tuán)體和軍隊(duì)的態(tài)度。這次會(huì)議為黨的成立作了必要的準(zhǔn)備。維經(jīng)斯基回國不久，1921年6月，共產(chǎn)國際派馬林等到上海。他們建議召開黨的全國代表大會(huì)，正式成立中國共產(chǎn)黨。上海黨的發(fā)起組在李達(dá)的主持下進(jìn)行了全國代表大會(huì)的籌備工作，并向各地黨的組織寫信發(fā)出通知，要求各地選派兩名代表出席大會(huì)。來自北京、漢口、廣州、長沙、濟(jì)南和日本的各地代表7月23日全部到達(dá)上海。

1921年7月23日—31日，在上海召開了中國共產(chǎn)黨的第一次全國代表大會(huì)。這次大會(huì)，宣告了中國共產(chǎn)黨的成立。