안녕하세요. 이해원 연구소 도비입니다.

증가·감소의 개념을 제대로 학습하셨습니다. 잘하셨습니다.
기본적으로 함수의 증가·감소에 대한 판단은 질문자께서 하신 바와 같이 하는 것이 맞습니다.
정의역이 증가함에 따라 치역이 어떻게 변하는지(증가하는지, 감소하는지)를 따져보아야 하는 거죠.
제가 다시 한 번 개념을 정리함과 더불어 더 간결하게 사고하는 방식을 적어드리겠으니 차분히 읽어보시고 숙지하시기 바랍니다.

합성함수에서 증가·감소를 판단한다는 것 = x의 변화에 따라 겉함수의 변화를 파악하는 것
(함성함수 f(g(x))에 대하여 속함수는 g(x), 겉함수는 f(x)입니다.)
즉, 합성함수에 대하여 “좌표 (속함수 x, 겉함수 y)에서 증가·감소를 파악한다.”라고 생각하시면 됩니다.

다음 2가지 과정을 거쳐서 생각하시는 것을 추천드립니다.
① 증가·감소를 생각하지 말고 일단 좌표만 대응시키기
질문하신 문제의 경우 (3, 4) → (0.xx, 1) → (4.xx, 5)가 되겠죠.

② 그 범위에서 ‘속함수의 증·감’과 ‘겉함수의 증·감’을 합친다.
규칙 : 증∘증=증, 증∘감=감, 감∘증=감, 감∘감=증
질문하신 문제의 경우 (3, 4)에서 속함수 ‘감’ + (0.xx, 1)에서 겉함수 ‘증’ ⇒ 전체함수 ‘감’

정리 : 증가·감소 생각하지 말고 일단 어디를 조사하는 것인지 좌표만 대응시켜 보고, 그 범위에서 각각의 함수들의 증·감을 합치기만 하면 전체 합성함수의 증가·감소를 알 수 있다.

원래 하셨던 사고의 방식과 별반 다르지 않아 보입니다.
하지만 이렇게 단계별로 나누어서 사고하는 법을 익히셔야 더 난이도 있는 문항들의 조건을 해석하실 수 있습니다.
예를 들어, 발문에서 ‘f(sinπx)가 x=3에서 증가한다.’는 조건이 주어졌다고 해봅시다.
이때 제가 적어드린 방식의 사고를 잘 익혀놓으셨다면, ‘f(x)는 x=0 근방에서 감소한다.’고 빠르게 f(x)에 대한 조건을 캐치할 수 있겠죠. (∵ sinπx는 x=3에서 감소 + 전체함수는 증가 → 겉함수는 대응지점 x=sin3π에서 감소해야 함)

이처럼 합성함수의 증가·감소에 대한 판단은 단순히 그림을 추론하는 것에서만 끝나는 것이 아닙니다.
(위에서 보여드린 바와 같이) 합성함수에 대한 조건문을 개별함수(겉함수/속함수)에 대한 조건문으로 교체하는 등 다양한 상황에서 유용하게 쓰이는 개념입니다.
단순하게 학습해 놓기에는 고난이도 문항들을 해결하는 데에 아주 중요한 개념이니, 더욱 유연한 문제풀이를 위해서 위에 적어드린 것과 같이 사고하는 연습을 하시기 바랍니다.

*답변 내용에서 이해가 되지 않는 것이 있다면 새로운 게시글로 추가 질문해 주세요.