Das Russell Sage College wurde 1916 in Troy, New York, von Margaret Olivia Slocum Sage gegründet und zu Ehren ihres verstorbenen Ehemanns benannt, der ihr ein beträchtliches Vermögen hinterlassen hatte. Zusammen mit Eliza Kellas, der Leiterin der Emma Willard School, war Frau Sage aktiv in der Frauenwahlrechtsbewegung. Bei der Gründung des neuen Colleges schlugen sie vor, Frauen die Mittel zur Unabhängigkeit durch die Kombination einer breiten Ausbildung in den Geisteswissenschaften mit der Vorbereitung auf spezifische Berufskarrieren anzubieten.
Ursprünglich betrieb das College die Emma Willard School-Charta, verlieh 1918 den ersten Bachelor-Abschluss und graduierte seine erste Klasse im Jahr 1920. 1927 gewährte das New York State Board of Regents eine separate Charta für das Russell Sage College und bestätigte den Status von Emma Willard als Sekundarschule.