Расположен в 318 км от Барнаула, в степной зоне на юге Алтайского края, на берегу реки Алей — притока реки Обь. Климат континентальный. Средняя температура января -17,5, июля +20,5.
Географически город Рубцовск, расположенный на границе с Казахстаном, является своеобразными воротами на торговом пути в государства Средней Азии, Китай и Монголию.