西晋的地方政府分为州（省）、郡（市）、县、乡四级。西晋刚刚建立时设立的州有：司隶（洛阳附近）、幽州（河北北部和京津）、冀州（河北南部）、兖州（黄河下游南岸地区）、并州（山西）、豫州（河南）、徐州（江苏北部）、雍州（陕西南部）、凉州（甘肃和宁夏）、益州（四川南部、贵州）、梁州（汉中、四川北部、重庆）、荆州（湖北）、扬州（淮河地区），以后，又先后设立了秦州（陕西、四川、甘肃三省交界）、宁州（云南）、平州（辽宁和朝鲜北部）、广州（广东、广西）、交州（越南北部）。除了首都所在省的省长叫司隶校尉以外，所有的省长都叫做刺史，官品是第四品，在一般情况下，他们同时是这个省的地方军和司法、行政的最高长官，而西晋后来又出现过不带兵、只管内政的刺史，俗称“单车刺史”，官品是第五品。
西晋的郡有两种，一种是中央政府通过省来管辖的普通市，一种就是亲王们的封地，也就是封国。普通市除了首都洛阳市长叫河南尹（引）以外，其它的一律叫太守。封国相当于市长角色的官职叫内史，他是封国亲王的最高行政长官，实际上在西晋建立初期，他独立负责封国的司法、行政和地方军，几乎完全听命于中央政府，基本不鸟亲王。俸禄两千石的太守、内史，官品都是第五品。
西晋的县有两种，大县的长官叫县令，小县的长官叫县长，按照《魏官品》规定，俸禄一千石的县令，官品是第六品，俸禄六百石的县令，官品是第七品，而俸禄只有四百、三百石的县长，官品也只有第八品了。如果一个县的人口超过五百户，就要再设置乡了，三千户以上的县设两个乡，五千户以上的设三个乡，一万户以上的设四个乡，乡里的最高长官叫吝夫。
中国古代的官员制度非常特殊，严格的说来，一直都有两种体系存在，一种是官，一种是吏，二者的概念绝对有天壤之别。从西汉一直到西晋，上至三公九卿、将军大将、下至县长，都是官。古代很多官除了有一些正式的官作为手下以外，还有一些自己聘请的雇员，这些人就叫做吏，因为从属于官，他们也被叫做属官，或者叫掾属。
西晋时代常见的吏，有以下几种:长史（首席副官）、功曹（人事部长）、司马（军事总监）、从事中郎（参谋长）、主簿（秘书长）、别驾（行政总监）、文学（文化顾问）、帐下督（作战总监）、都护（大营指挥官）、参军（参谋）、掾（秘书）。其中，司马、从事中郎、帐下督、都护、参军这类吏是武官吏，只有当他们的长官带兵的时候才设置。
在整个西汉东汉，吏都是官的私人雇员，官想雇谁就雇谁，除非是特殊情况，用不着朝廷批准。到了曹操时代，所有的吏才需要通过吏部批准，但基本都是走个形式，只要官愿意，他的请求一般不会被拒绝。在当时的人们认为，吏完全是官的私人物品，和官有君臣之义，官有权开除吏，也有权惩罚甚至是体罚他，而吏如果逃跑、反抗，就会被人们认为是像大臣反对皇帝那样大逆不道；而官一旦选择某些人当吏，也就必须尽心尽力照顾他，保证他有一个好前途，等到官离任的时候，有的吏甚至会追随官到新的岗位上任。所以说，那个时代官和吏的关系，不仅仅是现代官员之间的上下级关系，他们更近一步，官和吏一旦结合，甚至会一辈子成为一个班底，这在当时，绝对不会被认为是结党营私，相反，人们还会赞扬这种官慈吏孝的行为。
从西汉到西晋，中央一级绝大多数的吏的工资是由朝廷发的，我们所说的中央一级，当然也包括中央军，而地方官府和地方军的吏的工资，一般就由他们的雇主官员发放了，朝廷是不管的。值得一提的是，东汉末年的军阀混战，导致生产遭到严重破坏，货币的流动几乎停止，一直到了西晋，市场上都是用粮食换东西，官和吏的例行工资，也都是用粮食、布、绸缎这些东西来支付，而不是用黄金、白银或者铜钱。
如果我们仔细研究史书就会发现，从西汉到西晋几百年的时间里，正是这些不起眼的吏，负责了他们的雇主——官的绝大多数工作，他们才是一个帝国真正的干活儿的人，他们才是真正的幕后英雄。尤其是地方上，也就是州郡县里，除了刺史、太守、县长和一些驻军长官以外，其他的人基本全是吏。
随着两汉时代名门望族以及地方大族的崛起，在各个地方，就逐渐形成了这么一种特殊的现象：当地的吏换来换去，总是那几大家族的人，不管这个地方的官怎么换，这几大家族一直都能占据着吏的位置，可以绝对说是铁打的吏、流水的官，到了最后，朝廷、地方官和地方大族几乎达成了一种共识：在地方上要选吏，就要选这几个固定的地方大族。在这些达成共识的人中，尤其是地方大族，更是认为他们被选为当地的吏是天经地义的，到了西晋，这种现象更加严重，出身寒微的人想要在本地出头露面，都难上加难。
其实说一千道一万，西晋王朝最大的官仍然是皇帝，所有的官职都是围绕皇帝来设立的，其它形形色色的官职在绝大多数情况下也都是因人而设的。可以说，西晋的官职是十分混乱的，官员制度经常被个人所破坏，真正有没有权力，不能只看官职，而是要在实际情况下，才能看出官员们的实际地位，这就是封建专制制度的特色。
但是，我们不能忘了一点，今天科学的政治制度，正是从将近两千年之前的西晋、甚至于更早的时代演变而来的，所以我们要站在那个年代去理解那个年代，不要因此而小看古人，批评这种不科学的制度。忘记了历史，就忘记了现在。