Il a commencé à jouer au tennis à l'âge de six ans, avec son frère ainé Christophe Rochus. Il est très petit par rapport aux stars du tennis actuel, avec 1 m 68 seulement, les autres culminant en général autour des 1 m 80. Malgré ce "handicap", qui le gêne notamment au service et qui le pénalise sur le circuit adulte très exigeant, il est parvenu à se hisser parmi les meilleurs joueurs mondiaux, régulièrement présent dans le top 30 à l'ATP. Il est craint par les plus grands joueurs du monde comme le prouvent ses victoires face au géant russe Marat Safin, ou face à l'Espagnol Carlos Moyá car explosif, vif, précis et naturellement agile. Il a été l'un des meilleurs sur le circuit junior (il a entre autres remporté Wimbledon junior en double avec Roger Federer).
En 2005, il entre pour la première fois dans le top 30 et termine l'année à la 28e place. On retiendra en outre sa victoire en double avec son ami Xavier Malisse à Roland-Garros en 2004. Il fait partie de l'équipe de Belgique de Coupe Davis. En mai 2006, il remporte son deuxième titre sur le circuit ATP à Munich face à son compatriote Kristof Vliegen, après celui de Palerme en 2000.
Après une finale à Mumbay et une victoire au challenger d’Orléans en 2007, le vainqueur de l’Ethias Trophy édition 2005 a fait de la résistance au maître Federer lors du tournoi d’Estoril au Portugal en remportant la première manche.
En 2010, bien que redescendu au classement, il bat régulièrement des joueurs de très haut niveau : on peut mentionner sa victoire contre Novak Djokovic, alors n° 2 mondial au classement ATP, au 2e tour des Masters de Miami 2010, ou encore sa victoire au tournoi de Nice contre la première tête de série Robin Soderling, tombeur de Nadal l'année précédente à Roland-Garros.
Son meilleur résultat 2011 est sans conteste le 1/8e de final perdu contre Roger Federer à l’ATP 1000 de Miami. Pour atteindre ce 1/8e de final, il a réalisé de très belles performances contre des joueurs nettement mieux classés que lui. Il a battu Marcos Baghdatis (ATP 24) au second tour et Mikhail Youzhny (ATP 14) au tour suivant.
Il a récemment (juin 2011) atteint les quarts de finale du tournoi ATP 250 d’Eastbourne trébuchant contre l’italien Seppi, futur vainqueur de l’épreuve et le second tour de Wimbledon.
Son meilleur classement est une 24e place ATP atteinte en 2005.