Родился 26 марта 1891 года в Санкт-Петербурге в семье художника-декоратора Мариинского театра. Занимался в личных студиях у П. Чистякова и В. Савинского, в «Новой художественной мастерской» у М. Добужинского, Е. Лансере, Б. Кустодиева. В 1918-1922 обучался в Академии художеств в Петрограде (ПГСХУМ—ВХУТЕИН) на строительном и красочном факультетах. Закончил институт по мастерской Д. Кардовского с присвоением звания художника живописи.
С 1918 участвовал в выставках, был членом «Мира искусства», «Общины художников», АХРР. С 1932 член Ленинградского Союза живописцев. В 1920-е много работал в области сатирической графики для журналов «Чиж», «Еж», «Бегемот», «Смехач», «Крокодил». Позже занимался станковой графикой, создав в 1930-е годы серии «Нэпманы», «Запад», «Обнаженные натурщицы». Известность и признание получил как иллюстратор произведений российской и европейской классики: «Евгений Онегин» А. Пушкина (1934), «Нана» Э. Золя (1935–1937), «Милый друг» Г. де Мопассана (1935–1937), «Щелкунчик» А. Гофмана (1937), «Анна Каренина» (1942–1945) и «Война и мир» (1941–1948) Л. Толстого, «Ревизор» Н. Гоголя (1948), «Манон Леско» А. Прево (1948) и других.
С 1929 до конца жизни преподавал в ЛИЖСА, также на графическом отделении Ленинградского института инженеров коммунального строительства. В 1938–1940 работал в Экспериментальной литографской мастерской ЛОСХ. В 1940-х сделал наброски костюмов к постановкам «Горе от ума» А. Грибоедова для Ленинградского академического театра драмы им. А. С. Пушкина, «Свадьба» А. Чехова (1942) и «Много шума из ничего» У. Шекспира (1943, не осуществлена) для Ленинградского театра эстрады. В годы Величавой Российскей войны и блокады сделал серию портретов бойцов ПВО, работал над театральными декорациями, исполнял живописные панно для городских площадей и улиц, сотрудничал в журнальчике «Костёр».
Константин Иванович Рудаков скончался в 1949 году в Ленинграде. Похоронен на Литераторских мостках Волковского кладбища. Произведения художника находятся в ГРМ, ГТГ, в бессчетных музеях и личных собраниях в Рф и за рубежом.