La letra de la canción comprende lo que se considera una de las declaraciones más destiladas de rebeldía juvenil en la historia del rock. El tono de la canción, por sí solo, contribuyó a convertirla en un reconocido precursor del movimiento punk rock. Una de las frases más citadas -y evidentemente reescritas- de la historia del rock es «I hope I die before I get old» («Espero morir antes de envejecer»), famosa frase del vocalista Roger Daltrey.
Al igual que gran parte de la anterior producción Mod de The Who, la canción presenta claras influencias del rhythm and blues americano, más explícitamente en la forma de llamada y respuesta de las estrofas. Daltrey cantaba una línea, y los coristas, Pete Townshend (armonía baja) y John Entwistle (armonía alta), respondían con el estribillo «Talkin’ ‘bout my generation»:
Toque (ayuda-info)
La gente trata de rebajarnos (Talkin’ ‘bout my generation)
Sólo porque nos g-g-movemos (Talkin’ ‘bout my generation)
Las cosas que hacen se ven horriblemente c-c-frío (Talkin’ ‘bout my generation)
Espero morir antes de envejecer (Talkin’ ‘bout my generation)
La melodía vocal de «My Generation» es un ejemplo del marco modal de grito y respuesta. Esta llamada y respuesta se refleja en la pausa instrumental, en la que el énfasis del solo pasa de la guitarra de Townshend al bajo de Entwistle y viceversa varias veces.
Otro aspecto destacado de «My Generation» es la forma de cantar de Daltrey: un tartamudeo furioso y frustrado. Existen varias historias sobre la razón de esta forma de cantar. Una de ellas es que la canción comenzó como un número de blues lento sin tartamudeo (en la década de 1970 se interpretó a veces como tal, pero con el tartamudeo, como «My Generation Blues»), pero después de inspirarse en el «Stuttering Blues» de John Lee Hooker, Townshend reelaboró la canción en su forma actual. Otra razón es que se le sugirió a Daltrey que tartamudeara para sonar como un mod británico drogado (anfetaminas). También se propone, aunque con menos frecuencia, que el tartamudeo se introdujo para dar al grupo un marco para insinuar un improperio en la letra: «¿Por qué no os desvanecéis todos?». Sin embargo, el productor Shel Talmy insistió en que era simplemente «uno de esos accidentes felices» que pensaba que debían mantener. Roger Daltrey también ha comentado que no había ensayado la canción antes de la grabación, que estaba nervioso y que no podía oír su propia voz a través de los monitores. El tartamudeo se produjo cuando intentó adaptar la letra a la música lo mejor posible, y la banda decidió que funcionaba lo suficientemente bien como para conservarla. En un principio, la BBC se negó a reproducir «My Generation» porque no quería ofender a las personas que tartamudean, pero revirtió su decisión después de que la canción se hiciera más popular.
Los elementos instrumentales de la canción son rápidos y agresivos. Significativamente, «My Generation» también contó con uno de los primeros solos de bajo de la historia del rock. Entwistle lo tocó con su Fender Jazz Bass, en lugar del bajo Danelectro que quería utilizar; después de comprar tres Danelectros con cuerdas raras y finas que se rompían con facilidad (y que no estaban disponibles por separado), un frustrado Entwistle utilizó su Fender encordado con cuerdas de nylon y se vio obligado a simplificar el solo. La coda de la canción incluye también la batería de Keith Moon, tras lo cual la canción se rompe con chorros de retroalimentación de la guitarra Rickenbacker de Townshend, en lugar de desvanecerse o terminar limpiamente en la tónica. Hay dos partes de guitarra. La pista instrumental básica (tal y como se refleja en la versión instrumental de la edición Deluxe de My Generation) seguida de las sobregrabaciones de Townshend, incluido el furioso feedback de la coda. Al igual que «You Really Got Me» de The Kinks (también producida por Shel Talmy), la canción modula desde su tonalidad inicial de Sol hasta Do pasando por las tonalidades de La y Si♭. Las guitarras de Townshend fueron afinadas un paso entero para la grabación.
Para la banda, la canción fue la base de un extenso medley o improvisación, llegando a durar hasta quince minutos, como demuestra la versión que aparece en Live at Leeds. Las grabaciones en directo de 1969 a 1970 incluyen fragmentos de música de Tommy, así como partes de lo que se convertiría en «Naked Eye».
La versión demo de Townshend de la canción (junto con una demo de «Pinball Wizard») apareció en un disco flexible incluido en la edición original del libro The Who: Maximum R&B de Richard Barnes.