Johannes Klein gründet das Unternehmen 1871 in Frankenthal zusammen mit den Geschäftsleuten Friedrich Schanzlin und Jakob Becker. Angefangen als Zwölf-Mann-Betrieb, hat sich das Unternehmen bis heute zu einem weltumspannenden Unternehmen mit mehr als 15.000 Mitarbeitern, 27 Produktionsstandorten, Gesellschaften und Vertretungen in 100 Ländern sowie einem Umsatz von 2,2 Mrd. EUR entwickelt.

Ab 1924 kauften die Frankenthaler Firmen in Deutschland und gründen Tochtergesellschaften in Europa – die erste davon in Italien. Bereits 1941 entsteht mit der KSB Compañía Sudamericana de Bombas die erste Gesellschaft auf dem amerikanischen Kontinent. Das erste Tochterunternehmen im asiatisch-pazifischen Markt wird 1959 in Pakistan gegründet. 1994 ist der Konzern mit einem Gemeinschaftsunternehmen Vorreiter in China. Nach dem Zweiten Weltkrieg sind die Produkte des Pumpen- und Armaturenherstellers wichtiger Bestandteil des Wirtschaftswunders.

Im Jahr 1959 strafft Otto Klein-Kühborth die Struktur des Pumpen- und Armaturenkonzerns. Die AMAG-Werke in Nürnberg und Pegnitz werden ebenso in die Klein, Schanzlin & Becker Aktiengesellschaft in Frankenthal integriert wie die Kleinschanzlin-Bestenbostel Gesellschaft Bremen und die Kleinschanzlin Pumpen Gesellschaft in Homburg. In den darauffolgenden Jahrzehnten baut die Gruppe ihre Internationalität immer weiter aus und expandiert auf den Kontinenten Amerika, Asien und Europa.

In der Unternehmensgeschichte setzt KSB vor allem technische Maßstäbe. Die 1935 in den Markt eingeführte Eta-Baureihe ist immer noch das Leitprodukt in seiner Klasse. Die Baureihe Eta gilt heute als Mutter aller Normpumpen und hat Industriegeschichte geschrieben. Ein weiteres Beispiel sind die Chemienormpumpe CPK und die Nachfolgebaureihe Mega-CPK. Sie gehören zu den am meisten eingesetzten Chemienormpumpen weltweit. Das Unternehmen legt traditionell hohen Wert auf Nachhaltigkeit und ist seit 2010 Mitglied des Global Compact der Vereinten Nationen. Dessen Leitlinien verpflichten zu einer sozialen und umweltverträglichen Unternehmensführung. Aufgrund der Corona-Pandemie sind die Feierlichkeiten auf das Jahr 2022 verschoben.