Aunque hasta el momento no hay ningún registro formal de él en el fútbol local, claramente había aprendido el juego en Glasgow, sin duda al principio en Cathcart y luego probablemente en Springburn, el patio ferroviario más importante de la ciudad, cuando se convirtió en ingeniero ferroviario. Y fue eso lo que lo llevó a realizar su primer ensayo en el extranjero. En 1906 viajó a Argentina, a Bahía Blanca, donde trabajó durante aproximadamente un año en el Ferrocarril del Sud, the Buenos Aires Great Southern Railway y después de un breve retorno a casa en 1907 regresó nuevamente, esta vez a Buenos Aires, finalmente para trabajar en Western Railway, el Ferrocarril Oeste.

Juan Harley no era un hombre grande, lo que tal vez lo había frenado en Glasgow, pero en la capital argentina se encontró en su elemento y rápidamente se convirtió en parte integral del equipo de la compañía Ferrocarril Oeste en la posición de medio centro ofensivo. Y fue allí donde fue descubierto por el CURCC. El equipo de la Central Uruguay Railway estaba en proceso de reconstrucción, Johnny fue persuadido de unirse gracias a la oferta de un trabajo en la sede de la compañía en Peñarol en las afueras de Montevideo y se mudó permanentemente a una nueva casa al otro lado del Río de la Plata, donde también se casaría y formaría una familia uruguayo-escocesa que continúa hasta el día de hoy.

En el CURCC, el principal club uruguayo, Peñarol, como se lo conoció más tarde y todavía lo es hoy, John Harley se convirtió en el punto de apoyo de un equipo que ya había sido fuertemente influenciado por los escoceses pero que ahora adoptó el juego escocés como propio. Pero el genio de Harley no solo fue entrenar al creciente número de jugadores uruguayos nativos del club, sino también adaptar ese mismo estilo a las condiciones locales. Y el éxito que tuvo su versión uruguaya del juego aéreo, jugado en la cancha, lo llevó primero a ser seleccionado para la selección de Uruguay, a que su estilo de juego fuera cada vez más el del fútbol de clubes uruguayo en general y finalmente el de la propia selección nacional. John Harley dejó de jugar con Uruguay en 1916, pero no abandonó completamente el fútbol de clubes hasta 1920, a los treinta y cuatro años. Fue capitán del CURCC/Peñarol durante diez temporadas, en ese tiempo atrajo a muchos e influyó en todos los jugadores que formaron los equipos olímpicos en 1924 y más allá. Dio forma al fútbol uruguayo y, por lo tanto, fue fundamental en el mundo en la era moderna, un hecho reconocido y alabado en el país que adoptó y que lo adoptó, pero en gran medida ignorado en su país de nacimiento; al menos hasta ahora.