Awalnya, bangunan penjara tersebut pada masanya hanya di fungsikan sebagai kantor administrasi pemerintahan di jaman Belanda.
Namun, seiring waktu banyak kasus kriminal dan orang-orang yang melanggar aturan karena tidak disiplin. Bangunan tersebut beralih fungsi sebagai tempat menghukum orang-orang tersebut.
Sejak saat itulah namanya berubah menjadi penjara Belanda yang di kenal masyarakat sampai sekarang ini.
Hukuman yang paling lama mereka terima pada masa itu adalah 20 hari. Jika pelanggaran berat akan dikirim ke Tenggarong, Kutai Kartanegara.
Kalau pelaku kriminal ringan bakal diinapkan 1 sampai 3 hari. Biasanya tindak pindana ringan (Tipiring) seperti melanggar aturan atau tidak disiplin.