Vuonna 2005 Sullivan otti pronssin kaksinkertaisessa erässä Daniel Karenan kanssa juniorien MM-kisoissa . Vuonna 2007 hän ja Nathan Cohen saivat viidennen sijan Amsterdamin MM-kisoissa. Vuoden 2007 U23-maailmanmestaruuskilpailuissa Sullivan voitti yhdessä , ja yhden vuoden hän toisti tämän menestyksen U23-maailmanlaivalla . Vuonna 2009 hän voitti U23-maailmanmestaruuden yhdessä Robert Mansonin kanssa kaksinpelissä. Vuonna 2010 Joseph Sullivan ja Nathan Cohen muodostivat New Zealand kaksinkertainen kallo aikuisten luokassa, kun seitsemänneksi MM-kisoissa Münchenissä ja kolmanneksi Luzern, kaksi voitti vuoden 2010 soudun maailmanmestaruuskilpailut on järven Karapiro päälle Uuden-Seelannin pohjoisaari. Että Sullivan ja Cohen eivät menestyneet vain kotijoukkueensa edessä, he osoittivat vuonna 2011 MM-voitoilla Hampurissa ja Luzernissa sekä puolustivat menestyksekkäästi titteliään vuoden 2011 soutu-maailmanmestaruuskisoissa Bledissä. Vuoden 2012 Lontoon olympialaisissa , Cohen ja Sullivan souti kultamitalin eteen Italian kahden miehen.