Na začátku své kariéry byl Rubin asistentem ředitele pro výzkum v Asociaci pro kontrolu zbraní.
Clintonova administrativaEdit
Rubin působil za prezidenta Clintona jako náměstek ministra zahraničí pro veřejné záležitosti a hlavní mluvčí ministerstva zahraničí od roku 1997 do května 2000. V Clintonově administrativě byl považován za pravou ruku ministryně Madeleine Albrightové.
2000-2006: akademická sféra a médiaEdit
Po odchodu z vlády se Rubin s rodinou přestěhoval do Londýna. Věnoval se portfoliu své kariéry a stal se: hostujícím profesorem mezinárodních vztahů na London School of Economics, partnerem v komunikační poradenské společnosti Brunswick a v letech 2002-2003 moderátorem týdenního pořadu o mezinárodních vztazích Wide Angle na stanici PBS.
Po návratu do Spojených států působil Rubin jako hlavní zahraničněpolitický mluvčí prezidentské kampaně generála Wesleyho Clarka od zahájení Clarkovy kampaně v roce 2003 až do Clarkova odstoupení během prezidentských primárek Demokratické strany v roce 2004 a poté pracoval pro demokratického kandidáta Johna Kerryho během jeho prezidentské kampaně v roce 2004 jako hlavní poradce pro otázky národní bezpečnosti. Rychle se prosadil.
Po návratu do Londýna se Rubin od října 2005 do července 2006 stal hlavním moderátorem zpravodajské relace World News Tonight na Sky News.
Podpora kandidatury Hillary Clintonové v roce 2008Redakce
Po návratu do Spojených států v roce 2007 v době před prezidentskými volbami v roce 2008 byl Rubin členem volebního týmu Hillary Clintonové pro demokratickou nominaci v roce 2008. Vyvolal jistou kontroverzi, když označil lorda Trimblea, nositele Nobelovy ceny míru a bývalého prvního ministra Severního Irska, za „mrzouta“, protože prohlásil, že tvrzení Hillary Clintonové, že byla „nápomocna“ v severoirském mírovém procesu, je „trochu hloupé“. Rubin také prohlásil, že Trimbleův názor není důležitý, protože je „protestant“, a tedy „tradičně konzervativní“.
Během kampaně v roce 2008 byl Rubin hostem v pořadu Late Edition s Wolfem Blitzerem na CNN, kde diskutoval o zahraniční politice se Susan Riceovou, která se později stala kandidátkou Baracka Obamy na post velvyslankyně při OSN.
2009 až dosudRedakce
Rubin nastoupil do Bloomberg News v prosinci 2010 a dohlíží na redakční záležitosti Bloomberg News ve Střední a Jižní Americe, Mexiku, Evropě, na Blízkém východě, v Asii a Africe. Spolu s Davidem Shipleym také vedl Bloomberg View, projekt Bloomberg Op-ed. Po pouhých 10 měsících z této pozice odešel a byl jmenován adjunktem na Kolumbijské univerzitě. V roce 2011 jmenoval guvernér Andrew Cuomo Rubina komisařem Port Authority of New York and New Jersey a také poradcem státní rozvojové korporace Empire State Corporation.
Rubin rezignoval na všechny své funkce v USA 29. května 2013 a oznámil, že se rodina vrátí do Londýna, kde bude pracovat na několika projektech. Rubin byl jmenován rezidenčním stipendistou Rothermere American Institute při Oxfordské univerzitě. Psal také týdenní zahraničněpolitický sloupek pro Sunday Times a spolupředsedal panelu na vysoké úrovni o rozšíření americké moci pro Centrum pro novou americkou bezpečnost ve Washingtonu.
Rubin v současnosti vede oddělení mezinárodní politiky a strategie ve společnosti Ballard Partners se sídlem ve Washingtonu. Je také redaktorem časopisu Politico, kde píše o zahraniční politice Spojených států a světových záležitostech.