Tập xác định \(D=R\backslash\left\{m\right\}\)

Ta có : \(y'=\frac{x^2-2mx+m^2-1}{\left(x-m\right)^2}\Rightarrow y'=0\Leftrightarrow x^2-2mx+m^2-1=0\left(1\right)\left(x\ne m\right)\)

Ta thấy phương trình (1) luôn có 2 nghiệm phân biệt khác m và y' đổi dấu qua 2 nghiệm đó. Vậy hàm số luôn có cực trị với mọi giá trị của m

- Khi \(m=0\Rightarrow y=x-1\) nên hàm số không có cực trị

- Khi \(m\ne0\Rightarrow y'=3mx^2+6mx-\left(m-1\right)\) 

hàm số không có cực trị khi và chỉ chỉ y' = 0 không có nghiệm hoặc có nghiệm kép

\(\Leftrightarrow\Delta'=9m^2+3m\left(m-1\right)=12m^2-3m\le0\) \(\Leftrightarrow0\le m\)\(\le\frac{1}{4}\)

a) Xét phương trình : \(f'\left(x\right)=2x^2+2\left(\cos a-3\sin a\right)x-8\left(1+\cos2a\right)=0\)

 Ta có : \(\Delta'=\left(\cos a-3\sin a\right)^2+16\left(1+\cos2a\right)=\left(\cos a-3\sin a\right)^2+32\cos^2\), \(a\ge0\) với mọi a

Nếu \(\Delta'=0\Leftrightarrow\cos a-3\sin a=\cos a=0\Leftrightarrow\sin a=\cos a\Rightarrow\sin^2a+\cos^2a=0\) (Vô lí)

Vậy \(\Delta'>0\) 

với mọi a \(\Rightarrow f'\left(x\right)=0\) 

có 2 nghiệm phân biệt \(x_1,x_2\) và hàm số có cực đại, cực tiểu

b) Theo Viet ta có \(x_1+x_2=3\sin a-\cos a\)

                             \(x_1x_2=-4\left(1+\cos2a\right)\)

\(x^2_1+x_2^2=\left(x_1+x_2\right)^2-2x_1x_2=\left(3\sin a-\cos a\right)^2+8\left(1+\cos2a\right)=9+8\cos^2a-6\sin a\cos a\)

              \(=9+9\left(\sin^2a+\cos^2a\right)-\left(3\sin a+\cos a\right)^2=18-\left(3\sin a+\cos2a\right)\le18\)

Ta có \(y'=3x^2-3\left(m-2\right)x-3\left(m-1\right)\), với mọi \(x\in R\)

\(y'=0\Leftrightarrow x^2-\left(m-2\right)x-m+1=0\Leftrightarrow x_1=-1;x_2=m-1\)

Chú ý rằng với m > 0 thì \(x_1< x_2\). Khi đó hàm số đạt cực đại tại \(x_1=-1\) và đạt cực tiểu tại \(x_2=m-1\). Do đó :

\(y_{CD}=y\left(-1\right)=\frac{3m}{2};y_{CT}=y\left(m-1\right)=-\frac{1}{2}\left(m+2\right)\left(m-1\right)^2+1\)

Từ giả thiết ta có \(2.\frac{3m}{2}-\frac{1}{2}\left(m+2\right)\left(m-1\right)^2+1\Leftrightarrow6m-6-\left(m+2\right)\left(m-1\right)^2=0\)

                                                                              \(\Leftrightarrow\left(m-1\right)\left(m^2+m-8\right)=0\Leftrightarrow m=1;m=\frac{-1\pm\sqrt{33}}{2}\)

Đối chiếu yêu cầu m > 0, ta có giá trị cần tìm là \(m=1;m=\frac{-1\pm\sqrt{33}}{2}\)

Ta có \(y'=3mx^2-6mx\Rightarrow y'=0\Rightarrow\begin{cases}x=0\\x=2\end{cases}\) với mọi m khác 0

Do y' đổi dấu qua x=0 và x=2 nên đồ thị có 2 điểm cực trị => Điều phải chứng minh 

Với \(x=0\Rightarrow y=3\left(m-1\right);x=2\Rightarrow y=-m-3\)

Do vai trò của A, B như nhau nên không mất tính tổng quát giả sử \(A\left(0;3m-3\right);B\left(2;-m-3\right)\)

Ta có : \(OA^2+OB^2-2OA^2=-20\Leftrightarrow9\left(m-1\right)^2+4+\left(m+3\right)^2-2\left(4-16m\right)^2=-20\)

                                           \(\Leftrightarrow11m^2+6m-17=0\Leftrightarrow\begin{cases}m=1\\m=-\frac{17}{11}\end{cases}\)

Kết luận : Với \(\begin{cases}m=1\\m=-\frac{17}{11}\end{cases}\) yêu cầu bài toán được thỏa mãn

Lời giải:

Để hàm $y$ luôn có cực trị thì \(y'=x^2-2mx-(2m+3)=0\) phải luôn có hai nghiệm phân biệt.

\(\Leftrightarrow \Delta'=m^2+2m+3>0\Leftrightarrow (m+1)^2+2>0\)

Điều này luôn đúng với mọi số thực $m$ nên ta có đpcm.