Mutombo, que en un principio quería ser médico, se formó en la Universidad de Georgetown con una beca de estudios de la USAID. En su segundo año en Georgetown, el técnico John Thompson invito a Mutombo a participar en la selección del equipo de baloncesto de la Universidad, gracias a la recomendación de Herman Hennig, agregado de la embajada americana en Kinshasa. Luego de unirse al equipo, Mutombo pasó de estudiar medicina a estudiar lingüística y diplomacia. Dikembe apenas hablaba inglés cuando llegó a Georgetown y tuvo que intensificar su estudio del idioma para desarrollarlo. Mutombo se convirtió en un excelente pívot con los Hoyas, continuando la tradición de Georgetown de producir jugadores de gran envergadura, entre los que también se encuentra su compañero de equipo y de pintura, Alonzo Mourning. Fue un gran taponador y en su primer partido en Georgetown añadió un record con 12. Mandó nueve balones a la grada. En Georgetown, la sección próxima a la zona pasó a llamarse Rejection Row: "Fila del Tapón".
En su primera temporada, en la 1988-89, promedió 3.9 puntos, 3.3 rebotes y 2.3 tapones. En la 1989-90, experimentó una tremenda mejoría que le colocó como uno de los jugadores más determinantes de la NCAA. Firmó 10.7 puntos, 10.5 rebotes y 4.1 tapones. Compartió galardón del Jugador Defensivo del Año de la Big East Conference. En su última temporada con los Hoyas promedió 15.2 puntos, 12.2 rebotes y 4.7 tapones, siendo elegido Jugador Defensivo del Año de la Big East y en el Mejor Quinteto de la conferencia.
Sus números globales fueron de 9.9 puntos (con un record en Georgetown en porcentaje de tiro con 64.4%), 8.6 rebotes y 3.7 tapones.
En 1991 se graduó con un Bachelor of Arts en lingüística y diplomacia. Del 6 al 11 grado acudió al Ejército de Salvación.
Denver Nuggets
El impacto de Mutombo fue inmediato. Como novato, fue elegido para jugar el All-Star de Orlando y sus números fueron espectaculares, 16.6 puntos, 12.3 rebotes y 3 tapones por encuentro. Dikembe pronto se convertía en uno de los mejores jugadores defensivos de la NBA con una presencia ofensiva, además, interesante. El 3 de febrero de 1992 anotó lo que fue su máximo en anotación, 39 puntos ante Minnesota Timberwolves. Fue incluido en el Mejor Quinteto de Rookies.
En la temporada 1994-95 se convirtió con 12.5 capturas, en el mejor reboteador de la temporada, y fue elegido Mejor Defensor de la NBA, además de ingresar en el 2º Mejor Quinteto Defensivo. Nuevamente fue el mejor taponador de la liga, algo que lograría consecutivamente en los años 1994, 1995, 1996, 1997 y 1998. Fue elegido All-Star y firmó 12 puntos y 8 rebotes en aquel encuentro. En 1996 se convirtió en el primer jugador en la historia de la NBA que conseguía ser el mejor taponador durante tres temporadas consecutivas. En aquel año promedio 4.5 tapones, su mejor marca a lo largo de su carrera. Fue elegido de nuevo para jugar el All-Star.
Atlanta Hawks
En 1998 fue elegido también Mejor Defensor de la NBA e integrante del Mejor Quinteto Defensivo. En 1999 fue parte del 2º Mejor Quinteto Defensivo y se llevó el Premio IBM, creado para honorar al jugador que más contribuye para el éxito general del equipo. Se perdió el All-Star después de cuatro consecutivos. En la 1999-00 lideró la liga en rebotes por primera vez, con 14.1 de media.
Philadelphia 76ers
El 22 de febrero de 2001, Atlanta Hawks traspasó a Dikembe Mutombo, junto a Roshown McLeod, a Philadelphia 76ers a cambio de Theo Ratliff, Toni Kukoc, Nazr Mohammed y Pepe Sánchez. En aquella temporada alcanzaría las Finales de la NBA como pieza fundamental en los Sixers. En playoffs promedió 13.9 puntos, 13.7 rebotes y 3.1 tapones. Además, firmó una actuación estelar en el All-Star Game de Washington con 6 puntos y 22 rebotes, claves en el triunfo de la Conferencia Este. Estuvo otra temporada más en Philadelphia antes de ser traspasado a New Jersey Nets. En 2002 participó en su último All-Star Game.
Houston Rockets
Después de un paso sin demasiada gloria por los New Jersey Nets y los New York Knicks, firmó para los Houston Rockets, en donde Mutombo volvió a sentirse un jugador importante. En la temporada 2004-05, Dikembe disputó 80 partidos a sus 38 años. Promedió 4 puntos, 5.3 rebotes y 1.3 tapones que le valieron para ser renovado en agosto de 2005 por dos años más con los Rockets. El 14 de marzo de 2005 sobrepasó a Mark Eaton y se colocó tercero en la clasificación histórica de taponadores. En Houston se convirtió en el recambio natural de Yao Ming y ante las lesiones de este tuvo que ser el pívot titular durante muchos partidos a lo largo de su estancia en Houston. El 10 de enero de 2007 superó a Kareem Abdul-Jabbar como segundo máximo taponador en la historia, sólo por detrás de Hakeem Olajuwon. En diciembre de 2008 fue renovado por un año más, y con 42 años, es de largo, el más veterano de la competición. El 21 de abril de 2009 jugando contra Portland Trail Blazers en un choque con Greg Oden se lesiona de gravedad en su maltrecha rodilla y tras salir en camilla de la cancha, se despide entre lágrimas después de 18 años de baloncesto NBA.