Lahir di Stuttgart pada tahun 1987, Khedira menarik perhatian pencari bakat Vfb Stuttgart pada usia delapan tahun, saat bermain untuk TV Oeffingen. Dia berkembang pesat di akademi Stuttgart hingga Pelatih Giovanni Trappatoni langsung memberinya kesempatan bermain di tim senior pada 2004, saat masih berusia 17 tahun dan berada di tim kedua klub itu.
Naas bagi Khedira, dia mengalami cedera lutut parah sebelum melakukan debut bersama tim senior Vfb Stuttgart. Dia pun terpaksa naik ke meja operasi. Dokter yang menanganinya bahkan memvonis lutut Khedira tidak akan pernah cukup kuat untuk membuat dia menjadi pesepakbola profesional.
"Saya sangat terkejut dan tidak bisa mempercayainya," katanya kepada spox.com. "Jika saya membutuhkan satu operasi lagi, saya harus berhenti."
Operasi itu membuat karir Khedira mengalami kemunduran. Dia menyatakan sempat dipandang sebelah mata setelah pulih dari cedera.
"Ketika anda tak bermain sekian lama, orang berhenti mempertimbangkan anda," kenang Khedira. "Tidak ada orang di sana yang mendukungmu."
"Sebagai seorang remaja tidaklah mudah melalui penderitaan rehabilitasi sementara orang lain berada di lapangan, tapi saya tidak pernah menyerah dan selalu percaya saya akan berhasil."
Butuh dua tahun untuk Khedira kembali mendapatkan kepercayaan dari para pelatihnya di Vfb Stuttgart. Pelatih Armin Veh akhirnya memberikan kepercayaan kepadanya pada musim 2006-2007.
Debutnya cukup mengesankan. Dia hanya butuh beberapa pertandingan untuk mencetak gol pertamanya bagi Stuttgart. Khedira ikut menyumbangkan gol ke gawang Schalke 04 yang membuat mereka menang 3-0 pada 29 Oktober 2006.
Tiga bulan berselang, dia pun mendapatkan kontrak sepak bola profesional pertamanya. Khedira juga menjadi pahlawan bagi klubnya dengan mencetak gol kemenangan kontra Energie Cottbus pada laga terakhir musim itu. Kemenangan yang membawa Vfb Stuttgart memenangkan gelar juara Bundesliga untuk pertama kalinya dalam 15 tahun terakhir.
Stuttgart memang tidak mengulangi kesuksesan itu di musim-musim berikutnya, tetapi Khedira diam-diam memantapkan dirinya sebagai detak jantung tim, mendikte permainan dari tengah lapangan, dan menarik banyak minat dari klub-klub elit Eropa.