Dato Onn pernah bertugas sebagai Pegawai Daerah dalam pentadbiran penjajah British, tetapi kemudian berhenti kerana membantah dasar-dasar jajahan.
Pada 1 - 4 Mac 1946, 41 buah persatuan Melayu telah berhimpun di Kelab Sultan Sulaiman, Kuala Lumpur untuk menghadiri Kongres Melayu pertama yang diadakan untuk menentang Malayan Union yang diperlihatkan sebagai ancaman terhadap hak istimewa orang Melayu dan kedudukan sultan-sultan Melayu. Hasil daripada mesyuarat ini, sebuah badan yang mewakili orang Melayu telah ditubuhkan ketika Kongres ketiga diadakan di Johor Bahru pada 1 Mei 1946. Disebabkan Dato Onn amat aktif dalam gerakan nasionalisme Melayu, kongres itu melantik beliau sebagai presiden pertama.
Pada 1 Oktober 1946, Datuk Onn dilantik menjadi Menteri Besar Johor. Tiga tahun kemudian, beliau meletakkan jawatan untuk menumpukan masanya kepada UMNO. Di bawah kepimpinannya, UMNO berjaya memaksa kerajaan British untuk membubarkan Malayan Union dan diganti dengan Persekutuan Tanah Melayu. Persekutuan Tanah Melayu 1948 mengekalkan kedudukan Raja-raja Melayu dan memperketatkan syarat-syarat kerakyatan, serta memberi hak istimewa Melayu.
Datuk Onn kemudian berasa kecewa dengan apa yang beliau menganggap sebagai dasar-dasar perkauman UMNO, dan mencadangkan bahawa keahlian parti dibuka kepada semua penduduk Tanah Melayu, tanpa mengira kaum, dan nama UMNO ditukarkan menjadi "Pertubuhan Kebangsaan Penduduk Tanah Melayu Bersatu". Oleh sebab cadangan itu ditentangkan, Dato Onn meletakkan jawatan sebagai presiden UMNO apabila persidangan Majlis Mesyuarat Agung Keenam diadakan pada 25 - 26 Ogos 1951.
Dato Onn kemudian menubuhkan Parti Kemerdekaan Malaya (IMP) pada 26 Ogos, 1951. Malangnya, parti tersebut tidak mendapat sokongan daripada orang Melayu. Pada tahun 1954, beliau meninggalkan parti itu untuk menubuhkan Parti Negara bagi tujuan bertanding dalam pilihan raya umum yang pertama di Persekutuan Tanah Melayu pada tahun 1955. Parti Negara menyekatkan keahlian bukan orang Melayu dalam satu percubaan untuk memperoleh sokongan daripada orang-orang Melayu. Walaupun demikian, partinya masih gagal mendapat sokongan dan tidak memenangi sebarang kerusi dalam pilihan raya itu. Bagaimanapun, Dato Onn masih berusaha untuk mendapatkan tempat dalam politik. Akhirnya, beliau berjaya mendapat satu kerusi di kawasan parlimen Kuala Terengganu Selatan dalam Pilihan Raya Umum 1959 dengan bantuan parti PAS.
Dato Onn Jaafar mendirikan rumah tangga bersama Datin Halimah Hussein, dan salah seorang daripada anak mereka ialah Allahyarham Tun Hussein bin Dato' Onn. Beliau meninggal dunia pada tahun 19 Januari 1962 dan dikebumikan di Makam Mahmoodiah, Johor Bahru, Johor.
