Не надо пытаться получить максимум на графике, на вход карты нужно поставить переменные резисторы или микшер с такой возможностью
1 общий (земля)
1-2 подключается к входу звуковой карты
1-3 к выходу магнитофона
номинал должен соответствовать входному сопротивлению звуковой карты
это для одного канала, для второго аналогично
и крутить ручки до получения на графике по пиковой громкости чтобы не превышало - 3 дб