Cada uno de los eventuales miembros del grupo tocaron en diversos grupos: amigos desde su infancia, Pete Townshend y John Entwistle tocaron juntos por primera vez en una banda de jazz llamada The Confederates (Townshend tocaba el banjo y Entwistle el corno), y posteriormente tocaron juntos en The Aristocrats y The Scorpions. Mientras tanto, Roger Daltrey era el guitarrista de una banda llamada The Detours. Daltrey invitó a Entwistle a unirse como bajista a The Detours; Entwistle aceptó y dejó The Scorpions. Entwistle entonces le propuso a Daltrey que Townshend reemplazara al guitarrista Reg Bowen, lo que Daltrey aceptó. The Detours fueron completados por el vocalista Colin Dawson y el baterista Doug Sandom, con Daltrey como guitarrista principal y Townshend como segunda guitarra. Eventualmente Dawson dejaría el conjunto y las funciones de vocalista fueron tomadas por Daltrey. The Detours comenzaron a tocar bajo diversos nombres, incluyendo The High Numbers y Maximum R&B. Por decisión de Daltrey, la banda comenzó a llamarse The Who (cuya traducción del inglés puede significar «El/Los Quiénes» o «El/Los Quién»)un poco antes de que Keith Moon remplazase a Sandom en la batería (tuvieron que cambiar de nombre porque había otra banda llamada The Detours). Durante una presentación, Townshend rompió su guitarra accidentalmente, lo que llevó a que la siguiente ocasión en que tocaron en ese lugar la gente quisiera que la rompiera de nuevo, y así lo hizo, mientras que Moon también destrozó su batería.
Durante un pequeño período durante 1964, cuando su manager era Peter Meaden, cambiaron su nombre a The High Numbers, y editaron el single "Zoot Suit/I'm The Face", que estaba orientado a sus fanáticos mod y tuvo poco éxito, por lo que la banda despidió a Meaden (que fue reemplazado por Kit Lambert y Chris Stamp) y se volvió a llamar The Who. La banda se convertiría rápidamente en una de las más populares entre los mods británicos, un movimiento de principios de los años 1960.
La banda comenzó a ser liderada por Townshend, ya que éste era el principal compositor (aunque Entwistle también haría contribuciones notables ocasionalmente). Townshend buscaba escribir material inteligente y desafiante, pero Daltrey prefería material energético y masculino (Daltrey ocasionalmente se negaba a cantar una composición de Townshend, por lo que debía ser cantada por este último), mientras que Moon era fan de la música surf de Estados Unidos.