Der AJC wurde im Dezember 1918 von verschiedenen US-amerikanischen Gruppen gegründet, unter denen zu dieser Zeit jüdische Einwanderer aus Deutschland dominierten. Zentraler Zweck zwar zum damaligen Zeitpunkt, mit Blick auf die Schaffung eines jüdischen Staates in Palästina einen einheitlichen Standpunkt auf der Pariser Friedenskonferenz 1919 zu vertreten. Unter Führung von Rabbi Stephen S. Wise entwickelte sich der AJC in den 20er Jahren zu einer einflussreichen Interessenvertretung. Im August 1933 begann der AJC aus Protest gegen die judenfeindlichen Maßnahmen der Hitler-Regierung, für einen Boykott deutscher Waren zu werben, und organisierte Protestkundgebungen.
1936 beteiligte sich der AJC maßgeblich an der Gründung des World Jewish Congress (Jüdischer Weltkongress), als dessen Präsident Rabbi Wise gewählt wurde. Durch den AJC erreichten 1942 erstmals Informationen über die deutschen Vernichtungslager die Welt.