Yahdil Abdi Harahap lolos melangkah sebagai Anggota DPR-RI, nomor anggota A-103 dalam Komisi III yang membidangi masalh Hukum, HAM, Keamanan. Dia mendapat perolehan suara 22.203 Pemilihan Umum 2009 Dapil Sumut II.
Keikutsertaannya dengan PAN, dikarenakan Ayah empat anak itu terinspirasi dengan sosok Amien Rais. Ia terkesan dengan Amien Rais saat mulai melakukan gerakan reformasi yang berpusat di Gedung PP Muhammadiyah. Semua acara Amien Rais ketika masa reformasi selalu diikutinya.
Master Hukum dari UI yang beristrikan Faryati Akilie aktivis Persatuan Istri Anggota (PIA DPR) ini, bercita-cita menjadi Hakim Agung mengikuti jejak ayahnya Mantan Hakim Agung, Yahya Harahap. Bagi Yahdil profesi Hakim Agung adalah profesi yang mulia.
Dengan menjadi anggota DPR, gagasan dan pemikiran untuk perbaikan hukum bisa diimplementasikan melalui pembuatan undang-undang. Lulusan Universitas Indonesia itu mengemukakan waktu lima tahun memperbaiki karut marut hukum di tanah air belumlah cukup. Dia menilai carut marut itu sudah berakar di hampir semua kehidupan masyarakat.
Sikap kritis senantiasa dilakukan Yahdil, sebagai Anggota Komisi III DPR RI terhadap mitra kerjanya, bahkan terhadap Kementerian Hukum & HAM yang dipimpin oleh Patrialis Akbar yang merupakan sejawat di PAN. Yahdil sering mengeluarkan pemikirannya terhadap persoalan kebangsaan, politik, partai dan berkenaan dengan kinerja mitra kerjanya di bidang Hukum. Pemikiran dalam bentuk komentar, saran dan usulan, baik langsung maupun tertulis bisa ditemukan di media massa Nasional maupun lokal di Sumatera Utara.
Kini selain sebagai Anggota Komisi III DPR RI, Yahdil juga dipercaya sebagai Anggota Badan Anggaran DPR RI, Tim Advokasi DPR RI dan menjadi beberapa anggota Panja antara lain Panja Pemerintahan Pusat, Panja RUU Penanganan Konflik Sosial, Panja RUU Tindak Pidana Korupsi, Panja RUU Sistem Peradilan Anak, Tim Pengawas RUU Agraria dan lainnya.
Dia juga ikut secara intensif dalam pelaksanaan uji kelayakan dan kepatutan calon pimpinan KPK. Yahdil Abdi Harahap mengaku kaget saat mendapati dua kandidat pimpinan KPK yang salah sebut istilah hukum dalam hasil ujian makalah calon pimpinan KPK, meskipun begitu ada sebagian calon pimpinan KPK yang sudah baik dalam penulisan makalah.