fork bomb et overflow

[Commodor]

Hello !

J'ai ouvert une discussion sur un forum de programmation suite à un comportement étrange dans un de mes programmes. Je viens vous en faire part ici (ça peut être assez intéressant et je pense que vous saurez m'éclairer d'avantage )

En gros :
J'effectue des calculs parallèles en créant plusieurs processus fils (disons 4).
La création des process s'effectue dans une boucle et je stock leurs pid dans un tableau.
Les process appellent une fonction (compute()) puis quittent (exit(0)).

Code C :


int main(void)
{
      pid_t pid[4];
        ...
      for (i = 0; i < 4; i++) {
            pid[i] = fork();
            if (pid[i] == 0) {
                  compute(x, y, borne);
                  exit(0);
            }
     }
 
     while (wait(NULL) > 0);
     return 0;
}
 

À ce stade, aucun problème, le programme fonctionne bien. Puis j'ai voulu augmenter le nombre de process en modifiant la condition d'arrêt de la boucle (i < 6). Et forcément, j'ai oublié d'augmenter la taille du tableau (qui est restée à 4)...
Bref, segfault à l'exécution, rien d'étonnant. En revanche, j'ai continué à avoir des centaines et des centaines de process qui s'exécutaient (fork bomb).

Du coup j'aimerai un peu mieux comprendre d'où ils peuvent venir.
Le programme segfault après le fork du 5ème tour de boucle . J'ai donc 5 process zombies qui, après la fonction compute(), sont censés atteindre le exit(0), mais ce n'est visiblement pas le cas. (sauf peut être les 4 premiers)

Pour être plus précis, c'est le père qui segfault lors de l'accès à la case pid[4] pour y mettre le return du fork() (là je suis ok).
Mais du coup, le process fils (le 5ème donc), devrait normalement segfault aussi, puisque il évalue l'instruction :
if (pid[4] == 0)
Au lieu de ça, fork bomb.

Serait-t'il possible qu'il y ait un 'overflow' et que les instructions qui suivent le fork soient "écrasées" (jusqu'à la fonction exit(0)) (comme lors d'un exploit de buffer overflow) ?

Vous avez sûrement fait déjà plus joujou avec ça que moi j'imagine

[Yttrium]

Bonjour,

Je ne suis pas certain de comprendre toutes les questions, ni même d'avoir la réponse exacte, mais essayons tout de même

Code :

pid_t pid[4];

si pid est de taille n et que i dépasse cette taille alors lors de l’exécution de la ligne

Code :

pid[i] = fork();

Le processus père segfault, mais le fork est lancé avant.
Alors lors de l’exécution de la condition.

Code :

if (pid[i] == 0)

pid[i] doit ne pas prendre correctement la valeur renvoyé par fork (vu que le tableau n'a pas la taille requise) ou quelque chose du genre, et donc le fork crée lui même un fork et ainsi de suite, fork bomb.