وُلد رودولف كارناب في 18 مايو 1891 في مدينة رونسدورف بألمانيا. وفي عام 1898، وبعد وفاة والده، انتقلت عائلته إلى بارمن، حيث التحق كارناب بالمدرسة الثانوية (الجيمنازيوم). وبين عامي 1910 و1914، درس الفلسفة والفيزياء والرياضيات في جامعتي يينا وفرايبورغ. وقد درس فلسفة كانط على يد برونو باوخ، وذكر لاحقاً كيف خُصص عامٌ كاملٌ لمناقشة كتاب "نقد العقل المحض"؛ إذ أبدى كارناب اهتماماً خاصاً بنظرية كانط حول المكان. كما حضر كارناب ثلاثة مقررات دراسية قدّمها غوتلوب فريغه -الذي كان يشغل منصب أستاذ الرياضيات في جامعة يينا- في الأعوام 1910 و1913 و1914؛ حيث عرض فريغه خلالها نظامه المنطقي وتطبيقاته في الرياضيات. ومع ذلك، كان اهتمام كارناب الرئيسي في ذلك الوقت ينصبّ على الفيزياء، حتى إنه بحلول عام 1913 كان يخطط لكتابة أطروحته حول "الانبعاث الحراري الإلكتروني" (thermionic emission). لكن دراسته توقفت بسبب اندلاع الحرب العالمية الأولى، حيث خدم كارناب على الجبهة حتى عام 1917. بعد ذلك، انتقل إلى برلين ودرس نظرية النسبية، وكان ألبرت أينشتاين يشغل حينها منصب أستاذ الفيزياء في جامعة برلين. ويُعتبر كارناب أحد الفلاسفة المنتمين إلى الوضعية المنطقية.