Pusat Bahasa didirikan pada tahun 1986, yang pada awalnya masih merupakan bagian dari Fakultas Sastra USU, dimaksudkan untuk menyelenggarakan pelatihan bahasa Inggris kepada staf pengajar USU yang akan melanjutkan studi S2 dan S3 di luar negeri. Di akhir tahun 1980an, Pusat Bahasa menempati gedung sendiri di Jl. Abdul Hakim No.1 Kampus USU dan statusnya berubah menjadi lembaga penunjang pendidikan di tingkat Universitas. Setelah berhasil menyelenggarakan proses pelatihan bahasa Inggris untuk staf pengajar USU, Pusat Bahasa membuka program BIPA (Bahasa Indonesia Untuk Penutur Asing), namun dalam beberapa tahun terakhir program BIPA tidak diselenggarakan lagi.

Dikarenakan adanya tuntutan untuk memperluas cakupan tugas, maka lembaga bahasa ini berkembang memberikan layanan kebahasaan lainnya berupa pengujian kebahasaan (TOEFL). Pusat Bahasa USU terus berkembang dengan lingkup kerja yang lebih luas dimana tugasnya tidak semata-mata memberikan pelatihan bahasa Inggris saja namun juga pelatihan bahasa asing lainnya serta layanan kebahasaan seperti terjemahan, interpretasi dan lainnya.

Pada saat ini, peminat yang paling banyak mengikuti program yang ditawarkan Pusat Bahasa USU adalah pelatihan TOEFL Preparation baik kelompok reguler maupun kelompok khusus. Sedangkan kegiatan utama Pusat Bahasa lainnya adalah menyelenggarakan tes TOEFL Prediction.

Setelah dirasakan adanya perkembangan yang signifikan dari Pusat Bahasa dan sejalan dengan kebijakan agar setiap mahasiswa pascasarjana yang akan meja hijau harus memiliki minimal skor TOEFL 450, maka Pusat Bahasa saat ini memiliki dua divisi yaitu divisi sertifikasi dan divisi kursus bahasa.
Sebagai lembaga yang telah dipercaya dan berwawasan kedepan. Pusat Bahasa USU senantiasa berusaha meningkatkan kualitas program dan kinerja profesional agar dapat memberikan pelayanan yang lebih baik kepada masyarakat. Oleh karena itu, pada tahun 2010 ini Pusat Bahasa melakukan penyegaran visioner, pembenahan manajerial dan penyusunan personalia serta program-program baru yang lebih spesifik, aktual dan relevan sehingga kelak dapat menjadi salah satu lembaga bahasa terpandang di Sumatera Utara khususnya dan di Indonesia umumnya.