Polda DIY berdiri awal mulanya pada tanggal 10 Juli 1948 berdasarkan Undang Undang no 2 tahun 1948 yang ditetapkan pemerintah pada saat itu berkedudukan di Yogyakarta, Polda DIY saat itu bernama Kepolisian Wilayah (Polwil) Yogyakarta. Pada awalnya hanya terdiri dari 3 bagian diantaranya Bagian Umum, Bagian Reserse Kriminal dan Bagian Pengawasan Aliran Masyarakat.

Sedangkan struktur di bawahnya yaitu Polisi Sub Wilayah (setingkat Kepolisian Resor) pada tanggal 17 Agustus 1950 mempunyai Pos Pos Polisi. Kemudian pada tanggal 13 Mei 1951, Bagian pada Kantor Polisi Wilayah bertambah menjadi 5 bagian diantaranya Bagian Umum, Bagian Pengawasan Aliran Kepercayaan Masyarakat, Bagian Reserse Kriminal, Bagian Keuangan, dan Bagian Perlengkapan.

Sehubungan dengan keluarnya Undang Undang Pokok Pemerintah Daerah No : I/1957 tentang pembentukan daerah Swantara, maka susunan Kepolisian Wilayah berubah menjadi Distrik Kepolisian Yogyakarta. Sedangkan Kepolisian pada tingkat kecamatan bernama Sektor Kepolisian.

Kemudian pada tanggal 1 Juli 1967 berdasarkan Peraturan Menpangak No. Pol : 5 / PRT / Menpangak /1967 Kepolisian Yogyakarta berubah menjadi Komando Daerah Inspeksi Kepolisian. Setelahnya pada tanggal 25 April 1971 melalui Keputusan Kapolri No. Pol : 41/SK/Kapolri, Komando Daerah Inspeksi Yogyakarta diubah menjadi Komando Antar Resort (Komtarres) Yogyakarta.

Hingga kemudian pada tanggal 1 juli 1977 dengan dasar skep Kapolri No. Pol : Skep/55/VII/1977 Komtarres Yogyakarta menjadi Komando Wilayah 96 (Kowil 96) Yogyakarta. Ditahun 1985 Kowil 96 yogyakarta berubah menjadi Kepolisian Wilayah (Polwil) Yogyakarta. Sementara itu, di bulan September 1989, Polwil yang sebelumnya berkantor di Jl. Malioboro Yogyakarta berpindah di Jl. Lingkar Utara Condong Catur Depok Sleman Yogyakarta hingga sekarang.