Fermat docenił znaczenie wprowadzenia do matematyki przez matematyka francuskiego F. Viete'a oznaczeń literowych i zastosował je w geometrii. W rezultacie, niezależnie od francuskiego filozofa i matematyka Kartezjusza, znacznie wcześniej od niego i w doskonalszej formie, stworzył podstawy geometrii analitycznej. Wyprowadził równania linii prostej, paraboli, hiperboli i okręgu. Badał krzywe drugiego stopnia; wykazał, że są one krzywymi powstałymi z przecięcia stożka kołowego płaszczyzną; odkrył ogólną metodę znajdowania ekstremów funkcji, stosując ją m. in. do wyznaczania stycznej do krzywej. Metoda Fermata określania maksimów i minimów zawierała w sposób niejawny rachunek różniczkowy i była bliska metodom zastosowanym później przez angielskiego fizyka i matematyka I. Newtona i niemieckiego filozofa i matematyka G. W. Leibniza. Metoda Fermata odnosiła się jednak tylko do kilku prostych klas funkcji. Fermat opracował własny sposób obliczania pola powierzchni, objętości brył i długości łuków, wykorzystując metodę kwadratury paraboli podaną przez Archimedesa oraz wyniki Euklidesa. Mówiąc językiem współczesnym - Fermat był w stanie całkować funkcje potęgowe. Fermat zapoczątkował też badania w dziedzinie rektyfikacji krzywych; interesowały go także problemy matematyczne dotyczące gier hazardowych. Nazwisko Fermat znane jest w historii matematyki głównie z racji tzw. wielkiego twierdzenia Fermata. Twierdzenie to Fermat zanotował na marginesie przekładu książki matematyka greckiego Diofantosa, którego metodami matematycznymi się interesował, z uwagą: "margines jest za mały dla zapisania dowodu". Ostatecznie zostało ono udowodnione w 1995 przez Andrew Wilesa i Richarda Taylora (dowód liczy ponad 100 stron). Udało się także udowodnić tzw. małe twierdzenie Fermata o podzielności przez liczby pierwsze oraz twierdzenie, podane również przez Fermata bez dowodu (chociaż prawdopodobnie Fermat znał ten dowód), o przedstawieniu w sposób jednoznaczny liczby pierwszej, danej w formie 4n + 1 (n - liczba całkowita), w postaci sumy dwóch kwadratów. To ostatnie twierdzenie zostało udowodnione przez matematyka szwajcarskiego L. Eulera. Podobno znalezienie dowodu zajęło Eulerowi siedem lat. Nie wszystkie hipotezy Fermata okazały się prawdziwe. Wierzył on np. że każda liczba o postaci 22n + 1 (n = 0, 1, 2, 3, 4...) jest liczbą pierwszą. Formuła ta określa liczby pierwsze dla n = 0, 1, 2, 3, 4, a pięć znanych liczb pierwszych o tej postaci nazywa się liczbami pierwszymi Fermata. W optyce geometrycznej Fermat znalazł tzw. zasadę najkrótszego czasu, z której można wyprowadzić prawa odbicia, załamania i prostoliniowego rozchodzenia się światła. Fermat pozostawił bogaty w idee dorobek matematyczny, ale prace jego jest trudno usystematyzować. Fermat opublikował niewiele swoich prac. Wiele myśli przekazał w bogatej korespondencji z matematykami francuskimi B. Pascalem, M. Mersenne'em i Kartezjuszem. Prace Fermata zostały zebrane i po raz pierwszy opublikowane po jego śmierci przez najstarszego syna Fermata. Pełne wydanie prac Fermata ukazało się w latach 1896 - 1912, w czterech tomach. wstecz