1913年（民國2年）日據時期成立台灣第一個產業組合，1942年（民國31年）整併為台灣產業組合聯合會，爾後改組成台灣產業金庫與台灣農業會，1946年（民國35年）政府接收台灣產業金庫，同年本行「臺灣產業金庫」改組成立「臺灣省合作金庫」。當時由臺灣省政府及業務區域內各合作事業團體暨農會、漁會、農田水利會等社團組織之，股本總額為舊台幣二千五百萬元，分為二十五萬股，每股一百元，其中政府股（公股）為十五萬股，各社團股（社股）十萬股，歷經全體員工70多年來之努力經營，本行經營規模不斷擴充，截至112年底，資本額已達新臺幣1,100.75億元。

74年5月，本行依銀行法第52條取得法人資格，並於90年1月1日奉准改制為合作金庫銀行股份有限公司，92年6月成為公開發行公司，93年11月17日正式掛牌上市，95年經主管機關核准更名為「合作金庫商業銀行股份有限公司」，並於95年5月1日合併中國農民銀行。

為整合集團資源、發揮經營綜效暨強化事業發展，本行與合作金庫資產管理股份有限公司、合作金庫票券金融股份有限公司於100年12月1日以股份轉換方式共同設立合作金庫金融控股股份有限公司，合作金庫金融控股股份有限公司成為本行單一股東（持股100%）；為達成金控跨業條件，於100年12月2日將本行之證券部門以分割方式設立合作金庫證券股份有限公司。接續為有效管理集團資源，於101年4月3日將持有合作金庫人壽保險股份有限公司及合庫巴黎證券投資信託股份有限公司(現更名為合庫證券投資信託股份有限公司)之股份轉為合作金庫金融控股股份有限公司持有，使兩家公司成為合作金庫金融控股股份有限公司之子公司。為強化消費者權益保障及提供更優質的保險服務，於105年6月24日與合作金庫保險經紀人股份有限公司合併，本行為存續公司，成立保險代理部。本行子公司有臺灣聯合銀行。

截至112年底，本行國內外分支機構達297家（含營業部及國際金融業務分行、臺聯銀行、馬尼拉分行、洛杉磯分行、西雅圖分行、紐約分行、休士頓分行、香港分行、蘇州分行、蘇州高新支行、天津分行、福州分行、長沙分行、雪梨分行、墨爾本分行、金邊分行、德他拉支行、菩森芷支行、暹粒支行、市中心支行、永盛支行、西哈努克支行、堆谷支行、永珍分行、北京代表人辦事處、仰光代表人辦事處及捷克布拉格代表人辦事處），為全國通路數最多之商業銀行，存、放款市占率位居國內領先地位。另依據銀行家（The Banker）雜誌112年7月公布的全球一千大銀行按總資產排名，本行排名第160名，於臺灣地區名列第三；依據英國品牌價值研究機構Brand Finance於113年3月公布的全球銀行（含金控公司、銀行、證券商）品牌前五百大排名，本行排名第219名，於臺灣地區名列第五。

依據本行章程規定，本行以經營銀行業務，發展國民經濟建設，並調劑合作事業暨農漁業金融為宗旨，除對合作事業暨農、漁業及中小企業融通資金外，並配合資金運用及促進整體經濟發展，辦理一般工商企業存、放款業務，故本行係具有農、漁、合作金融及工商企業金融之國際性綜合銀行。