Ондржей Немец начал свою профессиональную карьеру в 1998 году в своём родном городе Тршебиче, выступая за юниорскую команду «Славии Тршебич».

В 2001 году Ондржей дебютировал в Экстралиге в составе «Всетина». В следующем году на драфте НХЛ Немец был задрафтован клубом «Питтсбург Пингвинз» во 2 раунде под общим 35 номером.

Сезон 2003/04 Ондржей провёл в АХЛ, выступая за клуб «Уилкс-Барре/Скрэнтон Пингвинз», однако уже через год вернулся на родину, где и выступал до 2010 года, став чемпионом и серебряным призёром Экстралиги в составе «Энергии».

23 мая 2010 года Немец подписал контракт с череповецкой «Северсталью». В своём первом сезоне в КХЛ Ондржей стал лидером обороны череповецкого клуба, набрав 19 (12+7) очков в 58 проведённых матчах, включая плей-офф.

В сезоне 2011/12 в составе «Северстали» Немец сыграл 50 матчей и набрал 14 (3+11) очков, включая плей-офф.

В сезоне 2012/13 защитник возвращается в Чехию в пражский «Лев». В составе «Льва» Ондржей провёл 56 матчей, в которых набрал 22 (6+16) очков.

В сезоне 2013/14 чешский защитник продолжил выступать за «Лев», где в 73 матчах набирает 29 (6+23) очков, включая плей-офф. Став финалистом Кубка Гагарина.

Ондржей Немец один из лидеров сборной Чехии. За национальную сборную выступает с 2001года. Сначала за юниорскую (для игроков до 18 лет), затем молодежную. Обладатель бронзовой медали чемпионата мира среди юниоров 2002 года.

Участник пяти Чемпионатов мира 2009, 2010, 2011, 2012 и 2014 года в составе сборной Чехии.

Ондржей — чемпион мира 2010 года. На мировом первенстве 2011 и 2012 года Немец стал бронзовым призёром.

Со 2 июля 2014 г. — в ХК «Атлант» Московская область.