প্রথম দিককার কম্পিউটার প্রোগ্রাম প্রধানত অ্যাসেম্বলি ভাষায় লেখা হত। তবে উচ্চস্তরের প্রোগ্রামিং ভাষা ব্যবহার করা প্রোগ্রামারদের জন্য অধিক কার্যকর, এবং এতে লেখা প্রোগ্রাম সহজে বিভিন্ন কম্পিউটারে পুনর্ব্যবহার করা সম্ভব। তথাপি, কম্পাইলারের সুপ্রচলন হতে কিছুকাল সময় লেগেছিল, কেননা শুরুদ দিকে এদের নির্মিত কোডের কর্মক্ষমতা হাতে লেখা যান্ত্রিক কোডের সমতুল্য ছিল না, কম্পাইলার তৈরির প্রক্রিয়াটি অত্যন্ত জটিল ছিল, এবং তৎকালীন কম্পিউটারসমূহের সংকীর্ণ তথ্যধারণক্ষমতা কম্পাইলার বাস্তবায়নে বিভিন্ন প্রযুক্তিগত বাধা সৃষ্টি করত।
সর্বপ্রথম তত্ত্বীয় কম্পাইলারটি লিখেছেন কোরাদো বহ্‌ম, ১৯৫১ সালে তাঁর পিএইচডি গবেষণার অংশ হিসেবে। প্রথম বাস্তবায়িত কম্পাইলারটির লেখিকা গ্রেস হপার, যিনি "কম্পাইলার" শব্দটিও উদ্ভাবন করেন[১][২], যদিও তিনি শব্দটি ব্যবহার করেছিলেন তাঁর এ-০ সিস্টেম বর্ণনা করার জন্য যা একটি লোডার বা লিংকার এর কাজ করত, এবং কম্পাইলারের আধুনিক ধারণার সমতুল্য ছিল না। জন ডব্লিউ ব্যাকাস এর অধীনস্থ আইবিএম এর ফোরট্রান শাখা ১৯৫৭ সালে সর্বপ্রথম বাণিজ্যিক কম্পাইলার অবমুক্ত করে[৩]।
১৯৫৮ এর শেষের দিকে ফ্রিডরিখ এল বাওয়ার, হারমান বটেনব্রাখ, হাইন্‌জ রুটিশহাউজার, এবং ক্লাউস সামেলসন এলগল ৫৮ প্রোগ্রামিং ভাষার প্রথম কম্পাইলারটি তৈরি করেন, যা জেড২২ কম্পিউটারে ব্যবহৃত হয়েছিল। এঁরা পূর্ববর্তী বছরগুলোতে Sequentielle Formelübersetzung (আনুক্রমিক ফরমুলা অনুবাদ) প্রসঙ্গে কম্পাইলার প্রযুক্তি নিয়ে কাজ করছিলেন।
১৯৬০ এর আগেই অ্যালটাক (ALTAC) নামের একটি বিশদ ফোরট্রান কম্পাইলার ফিলকো ২০০০ এর জন্য উপলদ্ধ ছিল, তাই অনুমান করা যায় যে ১৯৬০ সালের মধ্যেই আইবিএম এবং ফিলকো উভয় আর্কিটেকচারের জন্য কম্পাইল করা ফোরট্রান প্রোগ্রাম প্রচলিত হয়ে গিয়েছিল[৪]। প্রথম ক্রস-প্লাটফর্ম উচ্চস্তরের প্রোগ্রামিং ভাষা কোবোল (COBOL) এ লেখা একটি প্রোগ্রাম ১৯৬০ সালের ডিসেম্বরে ইউনিভ্যাক ২ এবং আরসিএ ৫০১ উভয় আর্কিটেকচারের জন্য কম্পাইল ও এক্সিকিউট করা হয়।