Jika g(x)=x^2+5 dan f(x)=x+3 untuk x<=-3 maka (f^(-1) o

-3 - sqrt(x - 5)

Pembahasan

Kita diberikan fungsi g(x) = x^2 + 5 dan f(x) = x + 3 untuk x <= -3.
Kita perlu mencari (f^(-1) o g^(-1))(x), yang sama dengan (g o f)^(-1)(x).

Langkah 1: Cari invers dari f(x) dan g(x).
Untuk f(x) = x + 3, misalkan y = x + 3. Maka x = y - 3. Jadi, f^(-1)(x) = x - 3.

Untuk g(x) = x^2 + 5, misalkan y = x^2 + 5. Maka x^2 = y - 5, dan x = +/- sqrt(y - 5). Karena domain asli g(x) tidak dibatasi secara eksplisit untuk inversnya, kita asumsikan kita mengambil akar kuadrat positif. Jadi, g^(-1)(x) = sqrt(x - 5).

Langkah 2: Cari invers dari komposisi (g o f)(x).
(g o f)(x) = g(f(x)) = g(x + 3) = (x + 3)^2 + 5.

Langkah 3: Cari invers dari (g o f)(x).
Misalkan y = (x + 3)^2 + 5.
x^2 + 6x + 9 + 5 = y
x^2 + 6x + 14 = y
x^2 + 6x + (14 - y) = 0.
Menggunakan rumus kuadratik: x = [-b +/- sqrt(b^2 - 4ac)] / 2a
x = [-6 +/- sqrt(6^2 - 4*1*(14 - y))] / 2*1
x = [-6 +/- sqrt(36 - 56 + 4y)] / 2
x = [-6 +/- sqrt(4y - 20)] / 2
x = [-6 +/- 2*sqrt(y - 5)] / 2
x = -3 +/- sqrt(y - 5).

Karena domain f(x) adalah x <= -3, maka f(x) <= 0. 
Ketika kita menghitung g(f(x)), input untuk g adalah f(x), yang bernilai <= 0. 
Jika g(x) = x^2+5, maka untuk inversnya, kita perlu menentukan cabang mana yang digunakan. 
Jika kita mempertimbangkan domain asli g(x) adalah semua bilangan real, maka g^(-1)(x) = +/- sqrt(x-5). 

Mari kita coba pendekatan lain: Cari invers dari f(x) dan g(x) terlebih dahulu.
 f(x) = x + 3 => f^(-1)(x) = x - 3
 g(x) = x^2 + 5 => g^(-1)(x) = sqrt(x - 5) (dengan asumsi domain x >= 0 untuk g(x) agar inversnya terdefinisi tunggal, atau kita harus mempertimbangkan kedua kasus)

 (f^(-1) o g^(-1))(x) = f^(-1)(g^(-1)(x))
 = f^(-1)(sqrt(x - 5))
 = sqrt(x - 5) - 3

Perlu diperhatikan domain dan kodomain dari fungsi-fungsi tersebut saat mencari invers dan komposisinya. Domain f(x) adalah x <= -3. Maka kodomain f(x) adalah f(x) <= 0.

Untuk g(x) = x^2 + 5, jika domainnya adalah x <= 0, maka g^(-1)(x) = -sqrt(x - 5).
Jika domainnya adalah x >= 0, maka g^(-1)(x) = sqrt(x - 5).

Karena f(x) <= 0, maka ketika kita menghitung g(f(x)), input untuk g adalah nilai negatif. Jadi, kita harus menggunakan cabang g^(-1)(x) yang sesuai.

Mari kita gunakan properti (f o g)^(-1) = g^(-1) o f^(-1).
Kita ingin mencari (f^(-1) o g^(-1))(x).
Ini sama dengan (g o f)^(-1)(x).

Hitung (g o f)(x):
(g o f)(x) = g(f(x)) = g(x+3) = (x+3)^2 + 5 = x^2 + 6x + 9 + 5 = x^2 + 6x + 14.

Sekarang cari invers dari (g o f)(x) = x^2 + 6x + 14.
Misalkan y = x^2 + 6x + 14.
Kita perlu menyelesaikan untuk x dalam hal y.
Untuk mencari invers, kita perlu membatasi domain agar fungsi menjadi bijektif. Titik puncak parabola y = x^2 + 6x + 14 adalah pada x = -b/(2a) = -6/2 = -3. 
Karena domain f(x) adalah x <= -3, maka domain (g o f)(x) juga akan terkait dengan ini.

Jika kita mengambil x <= -3 untuk (g o f)(x), maka kita harus mengambil cabang x = -3 - sqrt(y - 5) untuk inversnya.
Jadi, (g o f)^(-1)(x) = -3 - sqrt(x - 5).

Oleh karena itu, (f^(-1) o g^(-1))(x) = -3 - sqrt(x - 5).