Раздел математики занимающийся изучением целых чисел и их свойств называется теория чисел или высшая арифметика.
Среди целых чисел особое место занимают натуральные числа, которые можно разделить на два класса: простые и составные. К первому классу относятся числа, имеющие своими делителями два числа: единицу и само себя. Ко второму классу относятся все остальные числа.
Простые числа, их свойства и связь со всеми натуральными числами изучались Евклидом (3 век до нашей эры). Он считал, что любое число натурального ряда может быть единственным образом представлено как произведение простых чисел. В «Началах» Евклид указал способ нахождения наибольшего общего делителя (НОД) двух чисел, следствием из которого является теорема об однозначном разложении натуральных чисел на простые сомножители. С понятием наименьшего общего делителя двух чисел связано понятие их наименьшего общего кратного (НОК).
К теории чисел также относится вопрос о целочисленных решениях различных видов уравнений. Диофантово уравнение вида aX + bY = c, где a,b,c — целые числа, X и Y — неизвестные числа, является простейшим уравнением в целых числах. Если c делится на НОД(a,b), то уравнение имеет целочисленные решения. В этом случае с помощью алгоритма Евклида находится решение уравнения aX + bY = 1, из которого потом получаются все решения диофантова уравнения. Если же с не делится на НОД(a,b), то исходное уравнение не имеет решений в целых числах. Другим целочисленным уравнением является уравнение X2+Y2=Z2 (уравнение Пифагора). Вавилонским математикам было известно, что оно имеет бесконечное множество решений, а древнегреческий математик Диофант (около 250 года нашей эры) описал способ нахождения всех решений данного уравнения.
Большой вклад в развитие теории чисел внес Пьер Ферма (1601-1665), которому принадлежат открытия связанные с теорией делимости целых чисел, и теорией диофантовых уравнений. Им было сформулировано утверждение о «невозможности» — Великая теорема Ферма, доказана Малая теорема Ферма, которая в дальнейшем была обобщена Л. Эйлером. В феврале 1657 года Ферма предложил найти общее правило решение уравнения Пелля ax2 + 1 = y2 в целых числах. Решение этого уравнения для a = 2 было описано Евклидом в «Началах», а полное решение найдено Эйлером в 1759 году.
В 18 веке Л. Эйлер (1707-1783) первым из математиков стал создавать общие методы и применять другие разделы математики к решению задач теории чисел. Применение методов математического анализа положили начало аналитической теории чисел, в которой важное место занимают методы тригонометрических сумм, позволяющие оценивать число решений уравнений или систем уравнений в целых числах.
В аналитической теории чисел так же применяется комплексный анализ для доказательства теоремы о распределении простых чисел. Однако остается открытым вопрос, существует ли бесконечно много пар «простых близнецов», т. е. простых чисел разность, между которыми равна двум, например, 17 и 19 или 101 и 103.
Аналитические методы широко применяются и в аддитивной теории чисел, в которой изучается разложение натуральных чисел на слагаемые определённого вида: представление числа в виде суммы простых чисел, суммы двух квадратов (об этих вопросах упоминалось ранее) и т.д., представление в виде четырех квадратов, девяти кубов и т.д. Так же к этому разделу теории чисел относится проблема Варинга представления числа N в виде суммы k слагаемых, каждое из которых есть n степень натурального числа , т.е N = a1n + ... + akn, где k зависит только от n.
Алгебраическая теория чисел расширяет понятие числа. Здесь рассматриваются алгебраические целые числа, корни многочленов с рациональными коэффициентами и старшим членом равным единице.
Элементарная теория чисел изучает целые числа без использования методов других разделов математике. Здесь рассматриваются такие вопросы как делимость целых чисел, числа Фибоначчи, построение магических квадратов, алгоритм нахождения наименьшего общего делителя и наибольшего общего кратного, малая теорема Ферма.
Многие вопросы теории чисел легко сформулировать, но трудно доказать, а ряд вопросов остаются открытыми, например, еще не найдена формулы по которой выводятся все простые числа. Великая теорема Ферма, сформулированная в 1637 году, оставалась без доказательства более 3 столетий и была доказана Уалсом в 1995 году.