Яннис Царухис родился в 1910 году в Пирее. В период 1929—1935 годов обучался в Афинской школе роскошных искусств, был студентом Фотиоса Контоглу, который познакомил его с византийской иконографией. Параллельно также изучал народную архитектуру и традиции греческого народного костюмчика. Вкупе с Димитрисом Пикионисом, Фотиосом Контоглу и Ангеликой Хатзимихали он возглавлял движение за введение греческой традиции в живописи.

В период 1935—1936 годов он посетил Стамбул, Париж и Италию, где познакомился с искусством Ренессанса и импрессионизма, открыл себе работы Теофилоса Хатзимихаила, на его художественное восприятие существенно воздействовали такие живописцы, как Анри Матисс и Альберто Джакометти.

Он возвратился в Грецию в 1936 году и через два года сделал свою первую индивидуальную выставку в Афинах. Участвовал в боях итало-греческой войны в 1940 году. В 1949 году он и другие живописцы, в том числе Никос Хатзикириакос-Гикас, Яннис Моралис, Никос Николау, Никос Энгонопулос и Панайотис Тецис сделали художественный кружок «армос». В 1951 состоялись выставки работ Царухиса в Париже и Лондоне. В 1958 году он участвовал в Венецианской биеннале. В 1967 году он переехал в Париж.

В 1982 году открыт Музей Янниса Царухиса, которым стал дом художника в афинском пригороде Маруси. Действует также Фонд Янниса Царухиса. Живописец погиб в 1989 году в Афинах.