روح الله خالقی در سال در ماهان کرمان به دنیا آمد، اما پس از چندماه از تولدش، همراه خانواده اش ساکن تهران شد. پدر و مادر وی هر دو با موسیقی آشنایی داشتند و به همین دلیل او به موسیقی دلبستگی پیدا کرد. در سنین نوجوانی، پس از دیدن اعلامیه ی گشایش مدرسه موسیقی وزیری، در آن مدرسه ثبت نام و شروع به یادگیری موسیقی کرد. سپس در سال ۱۹ سالگی در همان مدرسه شروع به تدریس کرد و همزمان تحصیلات خود را در مدرسه ی دارالفنون و بعد از آن در دانشسرای عالی ادامه داد و در رشته ی فلسفه و ادبیات فارسی فارغ التحصیل شد.
وی در ۱۳۱۴ وارد خدمت دولتی در وزارت فرهنگ شد و در ۱۳۱۷ معاون دفتر وزارتی وزارت فرهنگ شد. در ۱۳۲۰ به پیشنهاد وزیری، معاون ادارهٔ موسیقی کشور و نیز معاون هنرستان عالی موسیقی شد. در ۱۳۲۵ مدتی در وزارت کار و تبلیغات کار کرد. در ۱۳۲۷ متصدی دبیرخانهٔ هنرهای زیبا شد.
در سال ۱۳۲۸، خالقی هنرستان موسیقی ملی را با هدف حفظ و پاسداری از موسیقی ملی ایران تاسیس کرد. این هنرستان در روز اول مهر ۱۳۲۸، با ۸ هنرجوی دختر و ۱۹ هنرجوی پسر، افتتاح شد. اشتیاق و علاقهٔ خالقی به هنرستان موسیقی ملی تا آنجا بود که گاه پیش از آمدنِ شاگردان و دور از چشم دیگران، جارو و نظافت مدرسه را نیز انجام می‌داد. او در سال ۱۳۲۹، اولین جلد کتاب آموزش ویلن خود را برای هنرجویانِ هنرستان موسیقی ملی منتشر کرد.
خالقی در سال ۱۳۳۳، همزمان با مدیریت و تدریس در هنرستان، رهبری ارکستر گل‌ها و مدتی نیز سرپرستی موسیقی رادیو ایران را بر عهده گرفت اما به دلیل اینکه هیچ‌کدام از پیشنهادهایش عملی نشد، از این سمت کناره‌گیری کرد. او در زیرمجموعهٔ فعالیت‌های مربوط به برنامهٔ گل‌ها، برنامه‌هایی نظیر: گل‌های رنگارنگ، تکنوازان و موسیقی بی‌کلام را طراحی و به اجرا در‌آورد. در این زمان، خالقی ساکنِ خانه‌ای بود که به‌تازگی در خیابان همایونی شمیران ساخته بود. این خانه حمامی داشت که در طبقهٔ پایینِ ساختمان بود و در تابستان مورد استفادهٔ خانواده قرار نمی‌گرفت. این مکانِ خُنک و آرام، محلِ تحقیق، مطالعه و نوشتنِ خالقی بود. او در سال ۱۳۳۳ در حمامِ طبقهٔ زیرینِ این خانه، جلد اولِ مهم‌ترین کتاب خود، سرگذشت موسیقی ایران را نیز به اتمام رساند و منتشر کرد.
در ۲۸ اسفند سال ۱۳۳۳، تشکیلِ شورای عالی موسیقی رادیو (شورای ترویج موسیقی ملی) به تصویب هیئت وزیران رسید و هنرمندانی همچون: روح‌الله خالقی، ابوالحسن صبا، علی‌اکبر شهنازی، حسین طاهرزاده، موسی معروفی، جواد معروفی و مشیر همایون شهردار، از طریق رأی‌گیری انتخاب و با ابلاغ نخست‌وزیر به عضویت این شورا درآمدند. شورای عالی موسیقی از ۱۵ فروردین ۱۳۳۴، کار خود را به منظور سامان بخشیدن به وضعیت آشفتهٔ موسیقی رادیو آغاز کرد. روح‌الله خالقی صبح روز ۲۵ فروردین ۱۳۳۴، به عنوانِ نمایندهٔ شورا، در رادیو تهران سخنرانی کرد. او در بخشی از سخنرانیِ خود، ضمن انتقاد به وضعیت موسیقی چنین گفت:
از شاخص ترین آثار او می توان به سرود "ای ایران" اشاره کرد. او از شاحص ترین شاگردان علینقی وزیری بود و تلاش بسیاری در راستای زنده نگهداشتن موسیقی ایرانی انجام داد.
او در زمینهٔ آهنگسازی نیز، حدود صد قطعهٔ موسیقی ساخت که در همهٔ آنها، به اصالت‌های موسیقی ایرانی توجه شده‌است. خالقی چندین کتاب مهم در زمینهٔ موسیقی ایرانی و غربی نوشت. سرگذشت موسیقی ایران، در سه جلد و نظری به موسیقی، در دو جلد از جمله آثار مکتوب او به‌شمار می‌آیند.
خالقی در سال ۱۳۴۴ در سالزبورگ اتریش پس از چند عمل جراحی ناموفق، بر اثر سرطان معده درگذشت و در گورستان ظهیرالدوله در تهران دفن شد. سه فرزند خالقی گلنوش، فرهاد و فرخ نام دارند.
