Las variaciones se calculan con el producto decreciente, empezando en el número que te dan en este caso m y poniendo tantos factores como indican en este caso dos.
Vm,2 = m ( m- 1)
Vm-2,2= (m - 2)(m -3)
Vm- 4, 2 = (m - 4)(m - 5)
m(m - 1) + (m -2)(m - 3) + (m - 4)(m -5) = 98
m cuadrado - m + m cuadrado - 3m - 2m + 6 + m cuadrado - 5m - 4m + 20 = 98
3 m cuadrado - 15m + 26 = 98
3 m cuadrado - 15 m - 72 = 0
m cuadrado - 5m - 24 = 0
Resolvemos la ecuación de segundo grado y quitamos la solución negativa
m = 8
Comprobación: 8 . 7 + 6 . 5 + 4 . 3 = 98; 56 + 30 + 12 = 98