En 1990, Sarkozy fue contratado por el banco de inversión estadounidense Dillon, Read & Co. Lo dejó tres años más tarde para incorporarse a Credit Suisse First Boston, donde ocupó varios puestos de responsabilidad, entre ellos el de Director General en el Grupo de Instituciones Financieras.
Mientras estuvo en CSFB, Sarkozy asesoró a Wachovia en su fusión de iguales con First Union y en la defensa concurrente contra una propuesta hostil de Suntrust, a Dime Bancorp en su fusión con Washington Mutual, a CoreStates Financial en su venta a First Union, y a Wells Fargo en su fusión con Norwest Corporation y en la adquisición de First Interstate, entre otros.
En enero de 2003, se incorporó a UBS Investment Bank, donde fue codirector global del Grupo de Instituciones Financieras. En UBS, trabajó en operaciones como el intento de Sallie Mae de pasar a ser una empresa privada y su posterior recapitalización, la venta por parte de ABN Amro de LaSalle Bank a Bank of America por valor de 21.000 millones de dólares, la fusión de Mellon con Bank of New York por valor de 17.000 millones de dólares, la venta de U.S. Trust por parte de Charles Schwab a Bank of America, y MBNA. Trust a Bank of America, la venta de MBNA a Bank of America por valor de 36.000 millones de dólares, la adquisición de Southtrust por parte de Wachovia por valor de 14.000 millones de dólares, la venta de National Commerce a Suntrust por valor de 7.000 millones de dólares y la fusión de Regions Financial con Union Planters por valor de 6.000 millones de dólares.
Sarkozy fue responsable de la recapitalización de CIBC por valor de 2.900 millones de dólares y de la recapitalización de Sallie Mae por valor de 3.000 millones de dólares. También actuó como asesor principal en una serie de otras transacciones notables, incluyendo la colocación privada de Dime Bancorp de valores preferentes y otros valores de capital a Warburg Pincus, como parte de su exitosa defensa contra una oferta hostil de North Fork a la recapitalización de Glendale Federal Bank, que representa la entonces mayor recapitalización de la historia. El 3 de marzo de 2008, fue nombrado codirector y consejero delegado del Grupo de Servicios Financieros Globales del Grupo Carlyle. Dimitió de ese cargo en mayo de 2016. Con sede en la ciudad de Nueva York, Sarkozy es miembro del Consejo de Administración de BankUnited.