A teoria dos jogos tornou-se um ramo proeminente da matemática nos anos 40 do século XX, especialmente depois da publicação em 1944 de The Theory of Games and Economic Behavior de John von Neumann e Oskar Morgenstern. A teoria dos jogos distingue-se da economia na medida em que procura encontrar estratégias racionais em situações em que o resultado depende não só da estratégia própria de um agente e das condições de mercado, mas também das estratégias escolhidas por outros agentes que possivelmente têm estratégias diferentes ou objectivos comuns.
Os resultados da teoria dos jogos tanto podem ser aplicados a simples jogos de entretenimento como a aspectos significativos da vida em sociedade. Um exemplo deste último tipo de aplicações é o Dilema do Prisioneiro, popularizado pelo matemático Albert W. Tucker, e que tem muitas implicações no estudo da cooperação entre indivíduos. Os biólogos utilizam a teoria dos jogos para compreender e prever o desfecho da evolução de certas espécies. Esta aplicação da teoria dos jogos à teoria da evolução produziu conceitos tão importantes como o conceito de Estratégia Evolucionariamente Estável introduzida por John Maynard Smith no seu ensaio Game Theory and the Evolution of Fighting.
A teoria dos jogos classifica os jogos em muitas categorias que determinam que método pode ser usado para resolve-los. Algumas das categorias mais comuns são:
Jogos de soma zero são jogos em que a soma total dos benefícios colhidos por todos os jogadores é sempre igual a zero (ou seja, um jogador só pode ganhar se outro perder). O Xadrez e o Poker são jogos de soma zero porque cada jogador ganha precisamente o que o outro perde. A economia e a política, por exemplo, não são jogos de soma zero porque alguns desfechos são, ou bons para todos, ou maus para todos os jogadores.
Jogos Cooperativos são jogos em que os jogadores podem comunicar e negociar entre si.
Jogos Transparentes são jogos em que todos os jogadores têm acesso à mesma informação. O Xadrez é um jogo transparente, mas o Poker não é.
Outros ramos da matemática, como a teoria das probabilidades e a estatística, são normalmente usadas em conjugação com a teoria dos jogos para analisar os vários jogos.
