Po skončení štúdia bol pridelený k 1. ľahkej divízii Wehrmachtu pod vedením Ericha Hoepnera. Jednotka Clausa von Stauffenberga sa zúčastnila obsadenia Sudet a bojov proti Poľsku. Slúžil v nej ako náčelník štábu.
Zúčastnil sa útoku na Sovietsky zväz, kde začal pochybovať o kompetentnosti Hitlera. Pochybnosti sa prehĺbili po katastrofálnej porážke pri Stalingrade. Následne bol prevelený do Afriky k 10. pancierovej divízii v rámci nemeckého Afrikakorpsu.
Pri útoku prišiel aj o ľavé oko
7. apríla 1943 napadli jeho vozidlo spojenecké stíhacie bombardéry. Pri útoku bol ťažko zranený. Prišiel o ľavé oko, pravú ruku, a malíček a prstenník na ľavej ruke. Zo zranenia sa v nemocnici zotavoval tri mesiace. Keďže nebol schopný aktívnej služby, požiadal o pridelenie k veleniu záložnej armády, kde sa stretol s generálom Friedrichom Olbrichtom, jedným z hlavných predstaviteľov protinacistického odporu.
Krátko pred atentátom doniesol do Vlčieho hniezda aktovku s časovanou bombou, ktorá mala vybuchnúť v priebehu vojenskej porady. Stauffenberg z miestnosti tesne pred výbuchom odišiel a ihneď podal telefonicky signál svojim spolupracovníkom, aby zaistili ostatných nacistických pohlavárov v Berlíne. Aktovku s bombou oprel o masívnu nohu stola a po niekoľkých minútach odišiel, aby si údajne prevzal súrny telefonát.
Stauffenbergov odchod pobúril náčelníka štábu Wilhelma Keitela. Náčelník štábu generála Heusingera, plukovník Heinz Brandt, v snahe zlepšiť si prístup k mapám, posunul aktovku hlbšie pod stôl, čím pravdepodobne zachránil Hitlerov život. Masívny stôl stlmil výbuch a Hitler vyviazol iba so zraneniami. O tom, že Hitler stále žije, sa von Stauffenberg dozvedel až na ceste lietadlom do Berlína.