Przeszłość terenów dzisiejszego powiatu gliwickiego jest częścią burzliwych dziejów całego Śląska - to historia następujących po sobie wpływów polskich, czeskich i niemieckich, zmieniającej się przynależności państwowej oraz wielkich migracji ludności. Nie oszczędziła tych terenów tatarska pożoga, wojny husyckie, wojna trzydziestoletnia, szwedzka inwazja i zawieruchy wojenne kolejnych wieków, łącznie z obiema wojnami światowymi. Zachowane do dziś ślady tych zawiłych dziejów przypominają jednak również o jaśniejszych kartach historii - wznoszono tu wspaniałe zamki, dworki i pałace, fundowano piękne kościoły, stosunkowo wcześnie zaczął rozwijać się przemysł, żyli na ziemi gliwickiej wybitni ludzie, których imiona znaleźć można na tablicach pamiątkowych i obeliskach...
Na terenie powiatu w miejscowości Świbie (gmina Wielowieś) odkryto ślady osadnictwa jeszcze z czasów kultury łużyckiej (ok. 2500 lat p.n.e.). Znalezione na cmentarzysku przedmioty pochodzące z Egiptu, Alp i Węgier świadczą o licznych kontaktach handlowych. Kilkadziesiąt stuleci później - w XII w. - właśnie położenie w pobliżu traktu handlowego, wiodącego wówczas z Krakowa do Wrocławia, wpłynęło na rozpoczęcie się wzmożonej akcji osadniczej na ziemi gliwickiej. Powstał wtedy w Toszku gród, który zyskał rangę kasztelani. W XIII w. Toszek (1234 r.) i Pyskowice (około 1260 r.) uzyskały prawa miejskie, a nieco później nadano je Sośnicowicom.
Do połowy XVI w. ziemie dzisiejszego powiatu gliwickiego należały do różnych księstw, którymi władali przedstawiciele dynastii Piastów Śląskich. Początkowo dominowało tutaj księstwo opolsko-raciborskie, w XIV w. - kozielsko-bytomskie i na krótko - gliwickie, wreszcie - opolskie. Po śmierci w 1532 r. Jana II Dobrego, ostatniego księcia z linii Piastów opolskich - jego dobra przejęli Habsburgowie. U schyłku rządów austriackich Górny Śląsk został podzielony na dwanaście okręgów (circuli), wśród których widnieje gliwicki i toszecki. W 1733 r. te dwa okręgi połączono w jeden: toszecko-gliwicki.
W 1742 r. prawie cały Śląsk, po wkroczeniu wojsk króla pruskiego Fryderyka II, znalazł się w granicach Prus. Z dawnych trzech circuli: sławęcickiego, gliwickiego i toszeckiego oraz z części włości biskupich utworzono powiat toszecko-gliwicki o powierzchni 2000 km kw. W 1817 r. powierzchnię powiatu zmniejszono do 940 km kw, a oddzielone tereny włączono do granicznych powiatów. Do początków XX wieku powiat toszecko-gliwicki ulegał dalszym korektom swych granic. W 1897 r. wydzielono miejski powiat gliwicki.
Przez długie stulecia ziemie dzisiejszego powiatu gliwickiego były typowo rolnicze, uprawiano chmiel i warzono piwo, a miasta pełniły funkcję ośrodków rzemiosła i handlu. W XVIII w. zaczął rozwijać się przemysł - początkowo przędzalnictwo i tkactwo, później hutnictwo, w końcu - w XIX w. - górnictwo węgla kamiennego. Wpływ na aktywizację gospodarczą regionu miało otwarcie w 1804 r. Kanału Kłodnickiego. Na przełomie XIX i XX w. rangę ośrodka przemysłowego zyskał - nie należący wówczas do powiatu toszecko-gliwickiego - Knurów, w którym tuż przed I wojną światową uruchomiono kopalnię węgla kamiennego i produkcję koksu. Jednak większość obszaru dzisiejszego powiatu gliwickiego zachowała charakter rolniczy.
Zmiany granic państwowych po I wojnie światowej nie spowodowały zmian w ówczesnych granicach powiatu. Mieszkańcy dzisiejszych ziem powiatu brali udział w powstaniach śląskich (1919-21), a w plebiscycie w dużej części opowiedzieli się za przynależnością do Polski, jednak decyzją mocarstw przyłączono do niej jedynie Knurów i Gierałtowice z przyległymi terenami. Po wybuchu II wojny światowej powiat toszecko-gliwicki jako część Rzeszy Niemieckiej włączony został do rejencji katowickiej, wchodzącej w skład prowincji górnośląskiej. Po wojnie Śląsk podzielono na województwo wrocławskie i śląskie. W skład śląskiego wszedł powiat gliwicki, którego granice pozostały takie, jak w okresie międzywojennym. W 1950 r., gdy województwo śląskie podzielono na opolskie i katowickie, powiat gliwicki znalazł się w województwie katowickim.
Rozwijał się jako zaplecze rolnicze, pracownicze i mieszkaniowe pobliskich aglomeracji - przemysł ciężki zdominował jedynie przyłączone później do Gliwic Łabędy i leżący wówczas poza granicami powiatu gliwickiego Knurów.
Po wprowadzeniu w 1952 r. nowej konstytucji miejsce gmin zajęły gromady. Mapa powiatu jednak nie uległa zmianie. W nowej strukturze organizacyjnej istniało 21 jednostek, w tym dwa miasta nie wydzielone z powiatu: Toszek i Pyskowice, jedno osiedle - Wilcze Gardło i 18 gromad. Liczba gromad zmniejszyła się w 1964 r., gdy Łabędy z Czechowicami przeszły do Gliwic. Wprowadzona struktura funkcjonowała do 1973 r., gdy znów wrócono do podziału powiatu na gminy. Utworzono je w miejscowościach: Pyskowice, Toszek, Wielowieś, Poniszowice, Rudziniec, Sośnicowice, Żernica i Kamieniec. W 1975 r. wprowadzono podział kraju na 49 województw, likwidując jednocześnie powiaty. W rok po likwidacji powiatów przestała istnieć gmina Kamieniec, którą włączono do gminy Zbrosławice (powiat tarnogórski). W kolejnych latach likwidacji uległa gmina Poniszowice przyłączona do gminy Rudziniec. W 1977 r. siedziba gminy w Żernicy została zlikwidowana i przeniesiona do Pilchowic.
1 stycznia 1999 r. powiat gliwicki wrócił na mapę administracyjną Polski. Odrodził się w nowym kształcie, bo z gminami Knurów i Gierałtowice, a bez Kamieńca.