Diketahui 3 fungsi f , g, dan h yang masing-masing

f o g o h(x) = (-3x^2 - 14x + 325) / (x^2 - 6x + 9)

Pembahasan

Untuk mencari rumus fungsi komposisi f o g o h(x), kita perlu mensubstitusikan fungsi satu per satu dari kanan ke kiri. 
Mengganti h(x) ke dalam g(x):
g(h(x)) = 2 * h(x) + 3 = 2 * ((x+5)/(3-x)) + 3
= (2(x+5) + 3(3-x)) / (3-x)
= (2x + 10 + 9 - 3x) / (3-x)
= (19 - x) / (3-x)

Sekarang, mengganti hasil g(h(x)) ke dalam f(x):
f(g(h(x))) = (g(h(x)))^2 - 4
= ((19 - x) / (3-x))^2 - 4
= (19 - x)^2 / (3-x)^2 - 4
= (361 - 38x + x^2) / (9 - 6x + x^2) - 4
= (361 - 38x + x^2 - 4(9 - 6x + x^2)) / (9 - 6x + x^2)
= (361 - 38x + x^2 - 36 + 24x - 4x^2) / (9 - 6x + x^2)
= (-3x^2 - 14x + 325) / (x^2 - 6x + 9)