El texto publicado por la entidad de calle Viamonte dice que Pékerman se inició como jugador en Argentinos Juniors, donde realizó las divisiones inferiores y se consolidó como un volante de buena técnica. En 1974, tras ocho años en el club de La Paternal, pasó a Independiente Medellín.
Una vez retirado, comenzó como entrenador en las inferiores de Argentinos. Allí, con el correr del tiempo, demostró sus grandes cualidades como maestro y formador de juveniles. Luego de dirigir de manera interina al primer equipo en 1982 y 1990, emigró a Colo Colo, donde continuó en la preparación de los más chicos.
En 1994, fue designado como entrenador de la Selección Sub 20 de Argentina, marcando un antes y un después en la historia de los juveniles del país. En total, ganó tres mundiales de la categoría (Qatar 1995, Malasia 1997 y Argentina 2001), dos campeonatos sudamericanos (Chile 1997 y Argentina 1999) y el Torneo Esperanzas de Toulon Sub-21 en 1998.#Reconocimiento José Pékerman, histórico entrenador de las selecciones juveniles, cumple 70 años
— Selección Argentina ?? (@Argentina) September 3, 2019
?https://t.co/N3f1zDUt2n pic.twitter.com/Eo2HL9QAZR
Luego de sus destacadas actuaciones a cargo de la Selección Sub 20, donde no solo consiguió importantes títulos sino que el equipo fue reconocido por sus grandes rendimientos, siempre con la pelota al piso, el juego asociado y la búsqueda constante del arco rival, le llegó la oportunidad de dirigir a la Selección Mayor, a quien condujo durante el Mundial 2006.
Tras su experiencia en la Mayor, dirigió a Toluca (2007-2008), Tigres de la UANL (2009) y a la Selección de Colombia (2012-2018).
