Jako piłkarz 26 razy wystąpił w reprezentacji Włoch (strzelony jeden gol). Grał na Mistrzostwach Świata w 1990 roku. Występował kolejno w takich klubach jak AC Parma, AS Roma i A.C. Milan. Razem z drużyną "Rossonerich" dwukrotnie zdobył Puchar Europy i Mistrzostwo Włoch. Następnie rozpoczął karierę trenerską. Najpierw był asystentem trenera włoskiej kadry narodowej, a potem trenował zespół A.C. Reggiana. W późniejszym okresie czasu był szkoleniowcem Parmy oraz Juventusu Turyn, a w 2001 roku został trenerem Milanu, z którym wygrał 2-krotnie Ligę Mistrzów (2003, 2007), Serie A (2004), Puchar Włoch (2003), Superpuchar Włoch (2004) i Superpuchar Europy (2003, 2007). W 2003 roku został wybrany najlepszym trenerem Ligi Mistrzów. 31 maja 2009 roku w porozumieniu z klubem rozwiązał kontrakt. Następnego dnia zarząd Chelsea Londyn poinformował, że nowym trenerem zespołu został Carlo Ancelotti, który podpisał kontrakt do 2012 roku. 9 sierpnia sięgnął z "The Blues" po Tarczę Wspólnoty. Prowadzony przez niego zespół pokonał w rzutach karnych Manchester United 4:1 (w regulaminowym czasie gry było 2:2).

Ancelotti jest twórcą ustawienia 4-1-2-1-2 (czterech obrońców, jeden defensywny pomocnik, dwóch pomocników, dwóch napastników, za nimi jeden bardzo ofensywnie usposobiony gracz). Taktyka była oparta na aktywnych bocznych obrońcach[potrzebne źródło]. Takie ustawienie sprawiało, że w ataku na bramkę mogło uczestniczyć nawet siedmiu piłkarzy. Po raz pierwszy zastosował je w Milanie.