Carrera de culturismo

A los 15 años, su peso corporal había alcanzado las 165 lb (75 kg), momento en el que Mike podía hacer press de banca con 370 lb (170 kg). El objetivo de Mike en ese momento era parecerse a su héroe del culturismo, Bill Pearl.

Mentzer comenzó a competir en concursos físicos locales cuando tenía 18 años y asistió a su primer concurso en 1969. En 1971, Mentzer participó y ganó el concurso Mr. Lancaster. En 1971 sufrió su peor derrota, quedando décimo en el AAU Mr. America, que ganó Casey Viator. Mentzer consideró importante su presencia en este concurso más adelante, ya que conoció a Viator, quien le dio a Mentzer la información de contacto de su entrenador Arthur Jones. Debido a una grave lesión en el hombro, se vio obligado a dejar de entrenar de 1971 a 1974. Sin embargo, a principios de 1975, reanudó el entrenamiento y volvió a competir en 1975 en el concurso Mr. America, quedando tercero detrás de Robby Robinson y Roger Callard. Mentzer ganó esa competencia al año siguiente, en 1976. Ganó los campeonatos de América del Norte de 1977 en Vancouver, Columbia Británica, Canadá, y compitió una semana después en el Mr. Universe de 1977 en Nîmes, Francia, quedando en segundo lugar detrás de Kal Szkalak.. En 1978, Mentzer ganó el Mr. Universe en Acapulco, México con el primer y único puntaje perfecto de 300. Se convirtió en culturista profesional después de ganar el Universo de 1978.