Из семьи московских купцов, текстильных промышленников и банкиров, второй сын Павла Михайловича Рябушинского. Потомственный почетный гражданин. Окончил Московскую практическую академию коммерческих наук. Три года изучал ткацкое и красильное дело в Крефельде (Германия). Одновременно брал уроки живописи и рисования у Г. Бартца.
В 1900–1910-е работал как скульптор-анималист. Был членом-учредителем петербургского Общества возрождения художественной Руси (1915–1917) и московского Общества искусств (1913–1917). Собирал старинные иконы и современную живопись. Активный член московской старообрядческой общины. Директор Детского приюта имени вел. кнг. Елизаветы Федоровны. Член Московского клуба воздухоплавания и председатель Автомобильного клуба. В 1916 вместе с братом Степаном основал автомобильный завод АМО (позднее – ЗИС, ЗИЛ).
После революции эмигрировал во Францию. Оставил искусство и занялся восстановлением семейного торгово-промышленного дела; после смерти старшего брата Павла (1924) возглавил его. В 1927 стал членом общества «Икона».