El planteamiento, si entiendo bien el problema, sería:
Dinero que gana: 50x (siendo "x" las respuestas que acierta)
Dinero que devuelve: 30(10-x)
Si no se deben nada después de hacer los ejercicios: 50x = 30(10-x)
80x = 300 ; x = 3,75
No llega a responder bien a 4 preguntas, por lo tanto falla algo más de 6 preguntas. Supongo que el resultado que propones es si redondeamos.