Yudo Margono merupakan lulusan Akademi Angkatan Laut (AAL) ke-33 pada 1988. Sejak lulus menjadi perwira TNI AL, karier militer Yudo terus melejit.
Selama berkarier di dunia militer, ada 19 jabatan yang pernah diemban Yudo Margono, di antaranya menjadi komandan di delapan tempat yang berbeda.
Setelah lulus dari Akademi Angkatan Laut, Yudo Margono mengawali kariernya di kapal perang. Saat itu, Yudo Margono dipercaya menjadi Asisten Perwira Divisi (Aspadiv) Senjata Artileri Rudal di KRI YNS 332 (1988), Kadep Ops KRI Ki Hajar Dewantara 364.
Kariernya terus merangkak naik, Yudo Margono dipercaya menjadi Komandan KRI Pandrong 801, Komandan KRI Sutanto 877, Komandan KRI Ahmad Yani 351, Komandan Lanal Tual (2004-2008), Komandan Lanal Sorong (2008-2010).
Baca Juga: 20 Link Twibbon Hari Ibu 2022, Desain Elegan Cocok di Pasang di Media Sosial
Kemudian pada 2010, dirinya menjabat Komandan Satkat Koarmatim. Ia kemudian ditunjuk menjadi Panglima Komando Lintas Laut Militer (Kolinlamil) pada (2017-2018).
Yudo Margono selanjutnya dipercaya untuk mengemban jabatan Panglima Komando Armada I yang menduduki wilayah laut Indonesia bagian barat (2018-2019).
Yudo Margono kembali ditunjuk sebagai Panglima Komando Gabungan Wilayah Pertahanan (Pangkogabwilhan) I, yang merupakan komando utama operasi Markas Besar Tentara Nasional Indonesia (2019-2020).
Saat menjabat sebagai Pangkogabwilhan I dengan pangkat bintang tiga atau laksamana madya, Yudo Margono mampu meredam ketegangan di wilayah Natuna, Kepulauan Riau, karena adanya pelanggaran oleh kapal nelayan China pada 2020.