Normalmente no te contestaría porque no comprendo tu pregunta inicial pero en el momento en que lo expliques podré editar esta respuesta y completar lo que falte, la idea es ayudarte.
Te piden encontrar el producto ab, entonces tienes que calcular los valores de a y de b.
Usando un sistema de ecuaciones lineales pero, primero hagamos este paso como
5a = 4b entonces 5a - 4b = 0 acomodemos
5a - 4b = 0
a + b = 72 si multiplicamos por 4 a ambos miembros de la segunda ecuación
5a - 4b = 0
4a + 4b = 288 y sumamos las colunnas
9a = 288 ⇒ a = 32 y sustituyendo encontramos b = 40 de lo anterior
ab = 1280