Pada tahun 1984, KKMK KAJ terbentuk atas dorongan Romo Ign. Ismartono, SJ (Romo Moderator pertama) yang kemudian diprakarsai oleh Markus Gatot Subiyakto (Ketua KKMK KAJ pertama), Elizabeth Wong, Tony Sardjono, Detje Budiarto, Alex Dungkal, Hendriani, dkk. Saat itu diadakan sebuah kegiatan Rekoleksi yang dihadiri oleh 60 orang karyawan muda.
Pada tanggal 4 November 1984, diadakan “Misa Kaum Muda” se-Keuskupan Agung Jakarta di Aula Gereja St. Theresia–Menteng, yang disambut antusias dengan dihadiri oleh 200 karyawan muda Katolik. Bertepatan dengan itu juga, atas seijin Uskup Agung Jakarta saat itu Alm. Mgr. Leo Sukoto, SJ, maka tanggal tersebut resmi ditetapkan sebagai “Hari Jadi” Kelompok Karyawan Muda Katolik KAJ.
Pada Tahun 1987 terciptalah logo KKMK KAJ yang dibuat oleh Limantara Yosephat Polche, logo tersebut dipakai sampai saat ini oleh KKMK KAJ.
Pada tahun 2009, dalam kesempatan Pesta Perak KKMK KAJ, Uskup Agung Jakarta Mgr. Ign. Suharyo Hardjoatmodjo (masa itu masih Kodjutor) memberikan masukan untuk mengubah penggunakan kata Kelompok menjadi kata Komunitas sebagai salah satu bagian dari gereja Katolik. Hal ini juga disarankan bagi kelompok kategorial lainnya dalam wadah Pertemuan Mitra Kategorial (Pemikat).
Tiga Pilar Utama KKMK, yaitu: Spiritualitas, Sosialitas, dan Profesionalitas, KKMK KAJ berperan sebagai jembatan dan mengoordinasikan hubungan antar KKMK di tiap paroki se-Keuskupan Agung Jakarta. KKMK KAJ juga berusaha mengoptimalkan komunitas basisnya di tiap paroki sehingga sesuai juga dengan misi gereja.
Biarlah karya dalam kebersamaan KKMK semakin berani dan kreatif membawa perubahan kaum muda ke arah positif dan berkembang.