Das objektorientierte Paradigma wurde nicht aus einer mathematischen Theorie abgeleitet (im Gegensatz zu relationalen Datenbanken), sondern wurde ursprünglich aus praktischen Gründen erfunden, um Prozesse zu simulieren (Simula). Man versucht, eine gute mathematische Grundlage dafür zu finden, so dass die bestehenden Sprachen verfeinert oder modifiziert werden können, schöne theoretische Eigenschaften aufgedeckt werden können und so weiter.
Die Arbeit an "Abstrakten Datentypen" ist ein solcher Gedankengang. Wahrscheinlich gibt es noch andere mathematische Betrachtungsweisen für die Objektorientiertheit. Ich habe einige Informationen in "Object Oriented Software Construction", 2. Auflage, Bertrand Meyer, gefunden.