En mathématiques, la théorie du chaos étudie le comportement des systèmes dynamiques très sensibles aux conditions initiales, un phénomène généralement illustré par l'effet papillon. Pour de tels systèmes des différences infimes dans les conditions initiales entraînent des résultats totalement différents, rendant en général toute prédiction impossible à long terme. Cela concerne même les systèmes purement déterministes (ceux dont le comportement futur est entièrement déterminé par les conditions initiales, sans aucune intervention du hasard) : leur nature déterministe ne les rend pas prévisibles car on ne peut pas connaître les conditions initiales avec une précision infiniea. Ce comportement paradoxal est connu sous le nom de chaos déterministe, ou tout simplement de chaos.

Le comportement chaotique est à la base de nombreux systèmes naturels, tels que la météo ou le climat. Ce comportement peut être étudié grâce à l'analyse par des modèles mathématiques chaotiques, ou par des techniques analytiques de récurrence et des applications de Poincaré. La théorie du chaos a des applications en météorologie, sociologie, physique, informatique, ingénierie, économie, biologie et philosophie.

Le double pendule a un comportement déterministe (car répondant aux lois newtoniennes) mais imprédictible. La sensibilité aux conditions initiales provoque une divergence des mouvements des deux pendules, initialement identiques (le changement est ici provoqué par une instabilité numérique survenant au cours de la résolution).