Sommige elementen zoals goud, zilver, ijzer en koper zijn al heel lang bekend. Al in de prehistorie werden zij veelvuldig gebruikt. Het duurde echter tot 1649 voordat Hennig Brand besefte dát het elementen waren en dat sommige elementen overeenkomstige eigenschappen vertoonde. In de daar opvolgende 200 jaren werden regelmatig onbekende elementen ontdekt en er werden steeds meer eigenschappen van de elementen bekend. In 1817 merkte Johann Dobereiner op dat de atoommassa van het element strontium tussen dat van calcium en barium in lag. Verder hadden deze elementen overeenkomstige eigenschappen. Twaalf jaar later waren er een aantal van dit soort rijtjes bekend. Samen met de halogenen chloor, broom en jodium en de alkalimetalen lithium, natrium en kalium werden deze reeksen bekend als de wet van de triaden. Het element uit het midden van een triade had eigenschappen die het gemiddelde waren van de twee buitenste elementen.
Deze kijk op de elementen werd erg populair. Tussen 1829 en 1858 ontdekte enkele wetenschappers dat de onderlinge relaties niet beperkt bleven tussen de triaden. Het element fluor werd toegevoegd aan de halogenen en er werden nog meer van dit soort rijtjes gemaakt zoals zuurstof, zwavel, selenium en tellurium én stikstof, fosfor, arseen, antimoon en bismut.
Het duurde tot 1862 voordat de triaden en de daarop volgende rijtjes aan elkaar gekoppeld werden tot het eerste periodiek systeem. De Franse geoloog Beguyer de Chancourtois rangschikte de elementen in een cylindrische vorm naast elkaar op volgorde van atoommassa. Elementen met vergelijkbare eigenschappen verschenen daardoor onder elkaar. Later bleek zijn systeem naast elementen ook ionen en verbindingen te bevatten.
Een jaar later, in 1863, classificeerde de Britse chemicus John Alexander Reina Newlands 56 elementen in 11 groepen gebaseerd op hun overeenkomstige eigenschappen. Daarbij merkte hij op dat eigenschappen van elementen regelmatig terugkeerden met tussenpozen van acht elementen. In 1864 publiceerde hij zijn tabel als de wet van de octaven (hierbij refererend naar de octaaf uit de muziek, met een interval van zeven). Hoewel deze octaafwet door veel van zijn tijdgenoten bespot werd, was er niemand die de wet onderuit kon halen.
In 1869 publiceerde de Russische scheikundige Dmitry Mendeleev een periodieke tabel die niet alleen op atoommassa was gebaseerd, maar ook op elektronenstruktuur. Onafhankelijk van Mendeleev onwikkelde de Duitser Lothar Meyer gelijktijdige een tabel die veel overeenkomst toonde met de tabel van Mendeleev. Maar omdat Mendeleev zijn werk eerder publiceerde gaat de eer niet naar Meyer. In 1906 kreeg Mendeleev de Nobelprijs voor zijn werk.
Hoewel er later nog veel wijziging zijn aangebracht aan de tabel, wordt Mendeleev door velen als vader van het huidige periodieke systeem gezien. Zijn tabel vertoonde ook nog veel gaten die door later ontdekte elementen werden opgevuld. Het meest opvallende aan de tabel van Mendeleev is het volledig ontbreken van de edelgassen. Pas in 1895 ontdekte Lord Rayleigh een gasvormig inert element (argon) dat niet in een bestaande groep in te delen was. William Ramsey plaatst in 1898 argon in een nieuwe groep tussen chloor en kalium. Deze groep werd bekend als de "nul" groep, vanwege de nul valentie van deze elementen. Op basis van de eigenschappen van helium en argon deed Ramsey voorspellingen voor het toen nog onontdekte neon.
In de 20ste eeuw werden er mede dankzij de steeds beter wordende apparatuur meer eigenschappen van elementen bekend. Alle gaten in Mendeleev's tabel werden opgevuld en er werden nieuwe relaties gevonden tussen de elementen die het bestaan van de tabel rechtvaardigde (bijvoorbeeld de schaal van Pauling en ionisatiepotentiaal). Veel overgebleven vragen werden beantwoord met het model van Niels Bohr. De laatste grote aanpassing vond in plaats na de ontdekking van plutonium in 1940 en later alle andere transurane elementen door Glenn Seaborg. Hij plaatste de lanthaniden en actiniden in een apart blok. In 1951 kreeg Seaborg de Nobelprijs voor zijn werk.
Tot het einde van de 20ste eeuw was het periodiek systeem ongestandariseerd. Wereldwijd werden niet overal dezelfde atoommassa's gebruikt en de naamgeving en nummering van de groepen was niet overal hetzelfde. Op het Amerikaanse continent werden romeinse getallen (al dan niet voorzien van een "a" of "b") gebruikt voor de groepen, terwijl in Europa en veel andere delen van de wereld de nummers 1 tot en met 18 werden gebruikt. Om aan deze misstanden een einde te maken is door de IUPAC een periodiek systeem voorgesteld dat wereldwijd wordt aanvaard. Omdat de massa van veel elementen regelmatig wordt aangepast (vaak gaat het om kleine wijzigingen ver achter de komma) worden er regelmatig nieuwe versies uit gegeven. Soms worden er nog nieuwe kunstmatig verkregen elementen aan toegevoegd. Erg vaak gebeurt dat echter niet omdat deze nieuwe elementen vaak erg instabiel zijn en nauwelijk reproduceerbaar; en dat is wel een vereiste om een element aan het periodiek systeem toe te kunnen voegen.