其实，自打奥运会开始以来，中国男篮已经参加过12届奥运会的男篮比赛了。
在1936年柏林奥运会，这还是旧中国时期首次组织男篮参加奥运会的比赛，最终中国队在参加的4场比赛中取得了1胜3负的成绩，名次也位列15-21档（位于这个档位的球队没有区分最后的名次）。
而由于一些原因，导致第十二届和第十三届奥运会没有举行，直到1948年，第十四届奥运会才如期在伦敦举行，在这节比赛中的小组赛阶段中国队取得了3胜2负的成绩。
在17-23名次的决赛中，中国队又是先后以42:34,54:25的比分战胜了瑞士和英国，随后以38:54的比分输给了意大利，最终排名第18名。
1952年奥运会，当时由中国篮坛泰斗牟作云率领的中国队在参赛的途中受阻，等到中国男篮抵达赫尔辛基，男篮小组赛已经结束，所以这届比赛中国男篮在参赛的16支球队中没有名次。
之后的数次奥运会由于种种原因，中国队都没有参加，直到后来的1984年，中国队才重新开始了奥运征程。
1984年洛杉矶奥运会，这是中国男篮经历了多次缺席之后，再次登上奥运会的舞台。
小组赛的比赛中国队在参加的5场比赛了取得了1胜4负的成绩位列小组赛第五名。
在随后的9-12名名次战中，凭借着李亚光23分以及王立彬的21分，中国队艰难的以76-73战胜了埃及队。
而在第九名的争夺战中，虽然孙凤武得到了16分，但无奈中国队还是以76-86的比分输给了巴西队，最终拿到了奥运会第10名的成绩。
在1987年底中国男篮经历苦战，艰难的拿到了第十四届亚锦赛的冠军，但在获得冠军后，多方都对中国队在亚洲篮坛的霸主地位产生了质疑，带着各方的疑虑在1988年中国队参加了汉城奥运会。
小组赛中中国队在参加的5场比赛里依然只拿到了1胜4负的成绩，排名小组赛第五。
而在9-12名的名次赛中，中国队又以90-93的比分输给了韩国队。
在第11名的争夺战中，中国队凭借着张永军的33分以及宋立刚的18分以97-75的比分战胜了埃及队，最终得到第11名。
1992年，中国男篮再一次经历了五连败，之后在争夺9-12名的排名又连输，最终得到了奥运会参赛队伍的最低排名，十二名。
到了1996年美国亚特兰大奥运会，已经在1994年篮球世锦赛上取得不错战绩的中国男篮再次出征奥运会。
此时中国男篮阵中的胡卫东，巩晓彬，孙军，郑武，刘玉栋等黄金一代球员正值自己的巅峰时期，再加上王治郅，巴特尔等新一代内线强大中锋，使得中国队的实力有了不少的加强。
小组赛上中国队便取得了2胜3负的战绩位列小组第4名，值得一提的是在面对强大的阿根廷时，中国队更是全员奋勇。
全场比赛胡卫东得到22分，郑武也拿到了22分，李晓勇则拿到了17分8个篮板，此外刘玉栋得到了10分，巩晓彬和王治郅则分别得到8分和4分。
之后的四分之一决赛中国队输给了强大的南斯拉夫队，在最终的第7名争夺战上，中国队虽然以85:99输给了克罗地亚队，但男篮的队员们还是历史性的带领中国男篮闯进了前8名。
2000年澳大利亚悉尼奥运会，随着姚明，王治郅，巴特尔等年轻球员的崛起，中国男篮的内线也开始了“移动长城”的时代。
再加上胡卫东，郑武，刘玉栋等主力队员，中国队开始了新一届的奥运征程。
小组赛里中国队先是输给了强大的美国队，随后，中国队不出意外地以75:60战胜新西兰队。
但在对法国队的比赛中，中国队却先赢后输，以70:82饮恨。第四场，中国队拼尽全力，仍然以66:82负于立陶宛。
在无关大局的第五场，中国男篮却以85:76战胜意大利。最终在名次争夺赛上，中国男篮以64:84负于西班牙，最终排在了第十位。
2004年希腊雅典奥运会，这是中国男篮历史上第一次在外籍主教练的率领下征战奥运会比赛。
而此时的姚明，巴特尔，郭士强等球员已经逐渐成熟，并且正是当打之年，而姚明无疑成为了这个时代中国男篮的领军人物。
小组赛第一场中国队输给了西班牙队，但紧接着中国队便以69:62的比分战胜了新西兰队，随后，中国男篮又先后输给意大利和阿根廷队。
在出线的关键战上，中国队可谓全民皆兵，最终以67:66的比分艰难的战胜了实力强大的塞黑队。
最终在第7名的争夺战上，虽然中国队输给了西班牙队，但新一代的男篮球员还是追平了中国男篮奥运会历史上的最好成绩，再次取得了奥运会第8名的成绩。
随后便到了万众瞩目的2008年北京奥运会，这届奥运会是历史性的，是值得每一位中国人为之骄傲的。