Un système complexe est un ensemble constitué d’un grand nombre d’entités en interaction qui empêchent l’observateur de prévoir sa rétroaction, son comportement ou évolution par le calcul. La théorie du chaos traite notamment des systèmes complexes.

Les systèmes complexes sont définis, selon les cas et selon les auteurs, par leur structure, par l’existence d’interactions non linéaires, par l’émergence de niveaux d’organisation différents, ou par leurs comportements collectifs non triviaux (multi stationnarité, chaos, bifurcations, auto organisation, émergence, boucles de rétroaction). Certains, partant du grand nombre d’entités, insistent sur la structure, l’hétérogénéité et la présence de niveaux d’organisation, aux propriétés émergentes. D’autres insistent au contraire sur la non-linéarité et la dynamique. Cette multiplicité des définitions a des causes objectives liées à l’hétérogénéité des objets regroupés sous le terme de systèmes complexes, qui vont de système naturels (des molécules aux sociétés humaines), jusqu’aux systèmes artificiels comme le web. Cela correspond obligatoirement à une multiplicité de points de vue, qui se recoupent tous partiellement, bien sûr, mais où l’accent n’est pas mis sur les mêmes propriétés. Ces différences sont aussi liées à des critères idéologiques ou philosophiques, particulièrement importants dans ces domaines.

Un système se caractérise par un comportement entrée-sortie et un comportement interne. Cela revient donc à dire qu’un système peut être vu comme la donnée :

• • d’une fonction de transfert qui transforme – à un instant donné – un ensemble de variables externes, appelés les entrées du système, en un autre ensemble de variables externes, appelés les sorties du système, en fonction de la valeur d’un ensemble de variables internes, appelés les états du système,
  • d’une fonction de transition décrivant l’évolution des états (internes) du système au cours du temps sous l’action de ses entrées et d’événements externes.

Les deux grands types de systèmes que sont les systèmes physiques et les systèmes logiciels s’interprètent parfaitement dans ce cadre : dans le cas des systèmes physiques, les variables vivent typiquement dans des espaces continus alors que l’on reste dans des espaces discrets au niveau des systèmes logiciels.

Un système s’obtient récursivement par intégration à partir d’autres systèmes. On parle de “système complexe” dès lors que les systèmes qui interviennent dans ce processus récursif d’intégration deviennent trop nombreux et/ou trop hétérogènes.