Сын всадника Кв. Сульпиция Руфа. Принадлежал к древнему патрицианскому роду, представители которого, однако, долгое время не занимали высших должностей (Cic. Mur. 15—16; Phil. IV 15, 17). Был выдающимся юристом своего времени (Cic. Mur. 9, 19, 22—30; Brut. 150—157; Top. 8; Off. II 65; Gell. IV 1, 3; VI 121; Dio XL 58; Pomp. Dig. I 2, 2, 43). В 78 г. вместе с Цицероном изучал ораторское искусство на Родосе (Cic. Brut. 151). В 74 г. являлся квестором Остии (Cic. Mur. 18). В 65 г. занимал должность претора по делам о казнокрадстве; после окончания срока должности отказался выехать в провинцию (Cic. Mur. 35, 42). Выступал в поддержку непопулярного законопроекта, ужесточающего судебное разбирательство дел о незаконном соискании должности и устанавливающего за это преступление более суровые наказания (Cic. Mur. 46—48). Баллотировался в консулы на 62 г., но проиграл выборы; после этого обвинил своего удачливого соперника Л. Лициния Мурену в незаконном соискании должности, но не смог добиться его осуждения (Cic. Mur). В 52 г. был интеррексом и руководил выборами, в результате которых Помпей стал консулом без коллеги (Ascon. Mil. 14; Plut. Pomp. 54).
В 51 г. избран консулом. Занимал умеренную позицию и противодействовал попыткам своего коллеги Марцелла досрочно отозвать Цезаря из Галлии. Воспрепятствовал проведению дополнительного набора солдат для киликийских и сирийских легионов. (Cic. Fam. III 3, 1; IV 1—3; VI 14 Suet. Iul. 29; Plut. Cat. 49; Dio XL 30; 58—59). После начала гражданской войны в 49 г. некоторое время колебался, затем покинул Италию, захваченную Цезарем, и вслед за Помпеем отправился в Ахайю; однако, по-видимому, не участвовал в военных действиях, а поселился на Самосе и жил там до 46 г., пока не примирился с Цезарем (Cic. Brut. 156—157; Fam. IV 1—2; Att. X 7, 9—10, 12—14; XI 7, 13, 25). В 46—45 гг. по поручению Цезаря управлял провинцией Ахайя, возможно, в должности проконсула (Cic. Fam. IV 3—4; VI 1, 6, 10; XIII 17—28a).
В марте 44 г., после убийства Цезаря, внес предложение о запрете устанавливать доски с текстами его распоряжений (Cic. Phil. I 3). В мае 44 г. покинул Рим , опасаясь назревающего конфликта между сенатом и Марком Антонием; вернулся, вероятно, в конце года (Cic. Att. XIV 18—19; XV 7; Fam., XII 2). В январе 43 г. в сенате внес предложения о разрешении Цезарю Октавиану занимать должности ранее законного возраста и о лишении Антония проконсульских полномочий (Cic. Ad Brut. I 15; Phil. IX 7, 9). В 43 г. в составе посольства сената был направлен к М. Антонию для переговоров о мире; сенат требовал от Антония прекратить военные действия против Д. Брута, отойти из Цизальпийской Галлии и подчиниться власти сената и народа; в случае несогласия угрожал объявлением войны. На пути к Антонию Сервий Сульпиций умер. По предложению Цицерона, был удостоен государственных похорон и статуи (Cic. Phil. VIII 1, 15—17, 20—28, 32; IX; Fam. X 28, 3; XII 5, 3; App. BC III 61—63; Dio XLVI 30).