市直机关工会和市总工会的区别是性质不同，市直机关工会是基于共同利益而自发组织的社会团体。总工会是中国共产党领导的职工自愿结合的工人阶级群众组织，由中国共产党中央委员会书记处领导。五四运动时期，随着马克思主义在中国的传播，工人阶级作为一支独立的政治力量开始登上历史舞台。
中国无产阶级工会是随着中国工人运动的发展而逐步形成的。1920年8月，陈独秀在《劳动界》发表的《真的工人团体》中呼吁工人联合起来。随着各地工人运动的发展，上海、广东等地的共产主义团体相继建立了一些阶级性、群众性、民主性鲜明的现代工会组织。