# Duniter indexer CI

**URL:** https://forum.duniter.org/t/duniter-indexer-ci/11142
**Category:** Indexers
**Tags:** gitlab-ci
**Created:** [15 May 2023 14:06 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142 "2023-05-15T14:06:26Z")
**Posts on this page:** 20
**Page:** 1

<div class="post-metadata">

### Author: ![HugoTrentesaux](https://forum.duniter.org/user_avatar/forum.duniter.org/hugotrentesaux/32/6396_2.png) [@HugoTrentesaux](https://forum.duniter.org/u/HugoTrentesaux)
#### Post date: [15 May 2023 14:06 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/1 "2023-05-15T14:06:26Z")

</div>

The Duniter Indexer CI is failing. Can someone have a look? This new version improves developer documentation and handles smith certification.

- failing job: [deploy\_docker\_duniter\_indexer (#106102) · Jobs · nodes / duniter-indexer · GitLab](https://git.duniter.org/nodes/duniter-indexer/-/jobs/106102)

Job error message:

```auto
ERROR: Preparation failed: Error response from daemon: failed to create shim task: OCI runtime create failed: runc create failed: unable to start container process: unable to apply caps: operation not permitted: unknown (docker.go:406:0s)
Will be retried in 3s ...
ERROR: Job failed (system failure): Error response from daemon: failed to create shim task: OCI runtime create failed: runc create failed: unable to start container process: unable to apply caps: operation not permitted: unknown (docker.go:406:0s)

```

---

<div class="post-metadata">

### Author: ![HugoTrentesaux](https://forum.duniter.org/user_avatar/forum.duniter.org/hugotrentesaux/32/6396_2.png) [@HugoTrentesaux](https://forum.duniter.org/u/HugoTrentesaux)
#### Post date: [5 June 2023 14:25 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/2 "2023-06-05T14:25:06Z")

</div>

A restart did it: [https://git.duniter.org/nodes/duniter-indexer/-/pipelines/31719](https://git.duniter.org/nodes/duniter-indexer/-/pipelines/31719)

---

<div class="post-metadata">

### Author: ![HugoTrentesaux](https://forum.duniter.org/user_avatar/forum.duniter.org/hugotrentesaux/32/6396_2.png) [@HugoTrentesaux](https://forum.duniter.org/u/HugoTrentesaux)
#### Post date: [8 June 2023 15:16 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/3 "2023-06-08T15:16:24Z")

</div>

I’m spamming the restart button to get the CI run on an other runner than axiom runner which is failing. @poka I do not see the gitlab runner in the topic [Infrastructure de l'écosytème Duniter](https://forum.duniter.org/t/infrastructure-de-lecosyteme-duniter/10658), do you know where it is now?

---

<div class="post-metadata">

### Author: ![poka](https://forum.duniter.org/user_avatar/forum.duniter.org/poka/32/6827_2.png) [@poka](https://forum.duniter.org/u/poka)
#### Post date: [8 June 2023 17:26 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/4 "2023-06-08T17:26:41Z")

</div>

Yes this is reference here, in axiom2 which is migrate to mmicro infrastructure.

> [@Infrastructure de l'écosytème Duniter](https://forum.duniter.org/t/infrastructure-de-lecosyteme-duniter/10658/3):
>
> CI Duniter

I just checked the VM is ok, the runner is running:

```auto
root@runner-ci:~# gitlab-runner status
Runtime platform arch=amd64 os=linux pid=817208 revision=436955cb version=15.11.0
gitlab-runner: Service is running

```

Docker is ok also, the resources are fine so I don’t know why your CI is failing.  
This was configured by @1000i100 so maybe he could say more.

@Pini installed and configure podman on this VM few weeks ago, maybe there is a misconfigure stuff about ?

---

<div class="post-metadata">

### Author: ![HugoTrentesaux](https://forum.duniter.org/user_avatar/forum.duniter.org/hugotrentesaux/32/6396_2.png) [@HugoTrentesaux](https://forum.duniter.org/u/HugoTrentesaux)
#### Post date: [8 June 2023 17:52 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/5 "2023-06-08T17:52:01Z")

</div>

> [@Infrastructure de l'écosytème Duniter](https://forum.duniter.org/t/infrastructure-de-lecosyteme-duniter/10658/3):
>
> `axiom2` → mmicro
> 
> - type : Serveur dédié
> - hébergeur : online
> - services :
> - `compta.axiom-team.fr`
> - `cloud.axiom-team.fr`
> - `gdev.p2p.legal` (mirroir et smith)
> - `gdev-indexer.p2p.legal`
> - `mailer.axiom-team.fr` (listmonk)
> - `n8n.axiom-team.fr`
> - `umami, hasura et pgadmin ajouté par Manu je sais pas pk faut lui demander...`
> - `le blog ML de Yves qui n'est pas encore en prod`
> - `CI Duniter`
> - `g1-migrator.axiom-team.fr`
> - `worldwotmap.duniter.org`
> - `wotmap.duniter.org`

I do not see a runner here, the only runner I see is

> [@Infrastructure de l'écosytème Duniter](https://forum.duniter.org/t/infrastructure-de-lecosyteme-duniter/10658/3):
>
> `redshift`
> 
> - type : VPS
> - hébergeur : cgeek
> - services :
> - [g1.duniter.org](http://g1.duniter.org) noeud Duniter v1
> - gitlab runner **\<— here**

We can see the retries of the job here: [deploy\_docker\_duniter\_indexer (#108494) · Jobs · nodes / duniter-indexer · GitLab](https://git.duniter.org/nodes/duniter-indexer/-/jobs/108494)

> `ERROR: Job failed (system failure): Error response from daemon: failed to create shim task: OCI runtime create failed: runc create failed: unable to start container process: unable to apply caps: operation not permitted: unknown (docker.go:406:0s)`

---

<div class="post-metadata">

### Author: ![HugoTrentesaux](https://forum.duniter.org/user_avatar/forum.duniter.org/hugotrentesaux/32/6396_2.png) [@HugoTrentesaux](https://forum.duniter.org/u/HugoTrentesaux)
#### Post date: [11 July 2023 13:25 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/6 "2023-07-11T13:25:30Z")

</div>

> [@Infrastructure de l'écosytème Duniter](https://forum.duniter.org/t/infrastructure-de-lecosyteme-duniter/10658/3):
>
> `axiom2` → mmicro  
> […]  
> `CI Duniter`

> [@poka](#):
>
> @Pini installed and configure podman on this VM few weeks ago

Qui a la main sur mmicro et qui s’en occupe ? @Pini @Pedrito @Cid_Ragarock ça fait deux mois que ce runner est en panne (il n’arrive pas à produire l’image de l’indexeur), on a vraiment besoin que tout ça fonctionne mieux pour avancer dans de bonnes conditions, là c’est un peu galère d’écrire du code et de devoir spammer le bouton retry pour changer de runner pour qu’il finisse dans une image docker. Ce serait super si je pouvais me concentrer sur l’écriture du code et la documentation et que d’autres personnes assurent le reste. Si je me mets à plein temps sur le projet, c’est pour avancer sur les tâches compliquées que personne d’autre n’arrive à faire, pas pour faire tourner le projet tout seul, je n’en suis pas capable.

> [@CI duniter-v2s et podman](https://forum.duniter.org/t/ci-duniter-v2s-et-podman/11291/4):
>
> Les infos sont sur le canal Matrix Infra-Axiom. @Cid_Ragarock voulait temporiser après la migration de leur infra planifiée pour début juillet.

Là j’ai l’impression que le forum est déserté. Non je ne me fais pas à la messagerie instantanée, ce n’est vraiment pas mon truc. Pas de problème si vous échangez là dessus, mais il faudrait avoir des informations publiques à disposition de tous si on veut avancer.

---

<div class="post-metadata">

### Author: ![Cid\_Ragarock](https://forum.duniter.org/user_avatar/forum.duniter.org/cid_ragarock/32/8500_2.png) [@Cid\_Ragarock](https://forum.duniter.org/u/Cid_Ragarock)
#### Post date: [11 July 2023 15:13 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/7 "2023-07-11T15:13:45Z")

</div>

@Pini @HugoTrentesaux  
c’est le probleme de la VM qui n’a pas les droit c’est ça ?

---

<div class="post-metadata">

### Author: ![Pini](https://forum.duniter.org/user_avatar/forum.duniter.org/pini/32/6819_2.png) [@Pini](https://forum.duniter.org/u/Pini)
#### Post date: [11 July 2023 15:18 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/8 "2023-07-11T15:18:49Z")

</div>

C’est un souci de conf du noyau qui ne permet pas de faire tourner des binaires d’architectures différentes via qemu.

---

<div class="post-metadata">

### Author: ![Pini](https://forum.duniter.org/user_avatar/forum.duniter.org/pini/32/6819_2.png) [@Pini](https://forum.duniter.org/u/Pini)
#### Post date: [11 July 2023 22:11 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/9 "2023-07-11T22:11:24Z")

</div>

> [@HugoTrentesaux](#):
>
> ça fait deux mois que ce runner est en panne (il n’arrive pas à produire l’image de l’indexeur)

Je n’ai pas la main sur mmicro. Nous dépendons de nos hégerdeurs.

Les runners sont tagués pour une bonne raison. Le runner podman est tagué `podman`. Les runners basés sur Docker devraient être tagués `docker`. Si la CI de l’indexer nécessite un runner Docker elle doit le spécifier dans son fichier `.gitlab-ci.yaml`.

La période actuelle n’est pas celle où je suis le plus disponible. Je ne décroche pas, j’ai juste moins de temps pour geeker.

EDIT : En regardant [la liste des jobs de la CI duniter-indexer](https://git.duniter.org/nodes/duniter-indexer/-/jobs) je constate que tous les jobs récents (réussis ou en échec) ont tourné sur un runner tagué `dind`. Je ne vois donc pas de rapport avec le runner `podman` que j’ai mis en place.

---

<div class="post-metadata">

### Author: ![HugoTrentesaux](https://forum.duniter.org/user_avatar/forum.duniter.org/hugotrentesaux/32/6396_2.png) [@HugoTrentesaux](https://forum.duniter.org/u/HugoTrentesaux)
#### Post date: [15 July 2023 10:50 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/10 "2023-07-15T10:50:42Z")

</div>

> [@Pini](#):
>
> hégerdeurs

plait-il ? 😂

Message SMS de Pedrito :

> Bonjour Hugo  
> Je suis assez peu dispo ces temps ci.  
> L’infra est maintenue par moi même et Cid. Par contre l’admin sys est faite par Pini et / ou Poka.  
> Je vais répondre au post que tu viens de faire d’ici ce soir.
> 
> Ma sollicitation première allait dans le sens de l’infra mais pas seulement.  
> En effet, j’étais en contact avec Poka et plus du tout de réponse. Sais tu s’il va bien? Si je peux faire qqch pour lui?

L’admin sys ne peut pas être faite par quelqu’un qui n’est pas au courant et n’a pas la main, ça ne marchera pas 😕  
@poka ne répond plus, il n’a pas la forme en ce moment, mais il ne semble pas que l’on puisse y faire grand chose. Il faudrait quand même qu’on sache qui s’occupe de quel runner et quels runners ne sont pas administrés. C’était le but du recensement [Infrastructure de l'écosytème Duniter](https://forum.duniter.org/t/infrastructure-de-lecosyteme-duniter/10658) mais il n’est pas fini.

> [@Pini](#):
>
> Je ne vois donc pas de rapport avec le runner `podman` que j’ai mis en place.

Pas de rapport avec le runner podman ici (il est utile pour duniter-v2s mais pas pour duniter-indexer pour l’instant). Il s’agit du runner `axiom-team-ci-privileged-dind`, c’est, je pense, celui indiqué dans le recensement :

> [@](#):
>
> `Runner CI gitlab axiom pour Duniter`

---

<div class="post-metadata">

### Author: ![Pini](https://forum.duniter.org/user_avatar/forum.duniter.org/pini/32/6819_2.png) [@Pini](https://forum.duniter.org/u/Pini)
#### Post date: [16 July 2023 09:59 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/11 "2023-07-16T09:59:03Z")

</div>

@HugoTrentesaux : Ça y est j’ai un peu de temps pour jeter un oeil. As-tu un job sous la main que je pourrais relancer plusieurs fois afin de comprendre ce qu’il se passe ?

---

<div class="post-metadata">

### Author: ![Pini](https://forum.duniter.org/user_avatar/forum.duniter.org/pini/32/6819_2.png) [@Pini](https://forum.duniter.org/u/Pini)
#### Post date: [16 July 2023 12:37 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/12 "2023-07-16T12:37:08Z")

</div>

J’ai compris ce qu’il se passe : le runner n’a pas les droits pour lancer Docker en mode `privileged`:

```auto
gitlab-runner@runner-ci:~$ docker run --rm -it debian
root@f84c69a21960:/# 
exit
gitlab-runner@runner-ci:~$ docker run --rm -it --privileged debian
docker: Error response from daemon: failed to create shim task: OCI runtime create failed: runc create failed: unable to start container process: unable to apply caps: operation not permitted: unknown.
ERRO[0000] error waiting for container: context canceled 

```

@Cid_Ragarock : voici ce que j’ai trouvé sur le sujet : [Docker inside LXC starting container process caused "apply caps: operation not permitted" - Server Fault](https://serverfault.com/a/1080510).

EDIT : J’ai désactivé le runner `axiom-team-ci-privileged-dind` en attendant que ce soit résolu.

---

<div class="post-metadata">

### Author: ![Pedrito](https://forum.duniter.org/user_avatar/forum.duniter.org/pedrito/32/8519_2.png) [@Pedrito](https://forum.duniter.org/u/Pedrito)
#### Post date: [17 July 2023 07:00 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/13 "2023-07-17T07:00:14Z")

</div>

@HugoTrentesaux

> L’admin sys ne peut pas être faite par quelqu’un qui n’est pas au courant et n’a pas la main, ça ne marchera pas 😕

Je ne suis pas sur de comprendre. Que veux tu donc dire stp?  
Il est prévu depuis le début que nous mettions à disposition la partie infra nécessaire à Axiom. Nous apportons notre concours en maintenant cette infra.  
Nous ne sommes pas à même de maintenir les services afférents, cela me semblait être clair.  
“La main” avait été donné à @poka? @Pini veux tu prendre le relai?

@Pini

> J’ai compris ce qu’il se passe : le runner n’a pas les droits pour lancer Docker en mode `privileged`:

Nous avions lors de la bascule des services avec @poka adapté les droits mais cela rejoint ce que demandais @Cid_Ragarock plus haut. Il y a encore un peu d’adaptation à faire à ce niveau, sachant que nous voudrions éviter les failles de sécurité.

---

<div class="post-metadata">

### Author: ![Pini](https://forum.duniter.org/user_avatar/forum.duniter.org/pini/32/6819_2.png) [@Pini](https://forum.duniter.org/u/Pini)
#### Post date: [17 July 2023 07:08 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/14 "2023-07-17T07:08:50Z")

</div>

> [@Pedrito](#):
>
> @Pini veux tu prendre le relai?

Oui je veux bien. Merci.

---

<div class="post-metadata">

### Author: ![Pedrito](https://forum.duniter.org/user_avatar/forum.duniter.org/pedrito/32/8519_2.png) [@Pedrito](https://forum.duniter.org/u/Pedrito)
#### Post date: [17 July 2023 07:22 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/15 "2023-07-17T07:22:55Z")

</div>

OK pour moi.  
On s’organise sur Element.

---

<div class="post-metadata">

### Author: ![Pini](https://forum.duniter.org/user_avatar/forum.duniter.org/pini/32/6819_2.png) [@Pini](https://forum.duniter.org/u/Pini)
#### Post date: [24 July 2023 08:43 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/16 "2023-07-24T08:43:12Z")

</div>

On a fait quelques tests avec @Pedrito, non concluants jusque là : il n’est toujours pas possible de lancer un docker en mode privileged sur notre VM `runner-ci` hébergée sur la machine `mmicro`.

De mon côté j’ai testé le build de `duniter-indexer` avec podman, et ça semble passer modulo quelques changements au fichier `.gitlab-ci.yaml`. En revanche ces modifications ne sont pas compatibles avec Docker. Donc la CI peut fonctionner soit sur runner docker, soit sur runner podman, mais pas sur les deux.

---

<div class="post-metadata">

### Author: ![Pini](https://forum.duniter.org/user_avatar/forum.duniter.org/pini/32/6819_2.png) [@Pini](https://forum.duniter.org/u/Pini)
#### Post date: [4 September 2023 20:41 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/17 "2023-09-04T20:41:01Z")

</div>

Maintenant que j’ai la main sur la VM de test je viens de configurer un [nouveau runner](https://git.duniter.org/admin/runners/124).

Quelqu’un peut-il tester ? Je ne promets pas que ça marche du premier coup.

---

<div class="post-metadata">

### Author: ![HugoTrentesaux](https://forum.duniter.org/user_avatar/forum.duniter.org/hugotrentesaux/32/6396_2.png) [@HugoTrentesaux](https://forum.duniter.org/u/HugoTrentesaux)
#### Post date: [21 November 2023 07:20 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/18 "2023-11-21T07:20:42Z")

</div>

J’avais pas eu le temps de tester ton nouveau runner, mais je vais avoir besoin de publier une nouvelle image pour l’indexeur, donc c’est le bon moment pour tester !

[edit] la pipeline fonctionne sur le nouveau runner : [deploy\_docker\_duniter\_indexer (#120186) · Jobs · nodes / duniter-indexer · GitLab](https://git.duniter.org/nodes/duniter-indexer/-/jobs/120186)  
mais comment récupérer l’image docker ? On pourrait utiliser le registry GitLab comme proposait @Moul  
Ou alors il faut activer la publication sur [https://hub.docker.com/r/duniter/duniter-indexer](https://hub.docker.com/r/duniter/duniter-indexer), est-ce qu’il suffit de dé-commenter les lignes commentées @Pini ?

---

<div class="post-metadata">

### Author: ![Pini](https://forum.duniter.org/user_avatar/forum.duniter.org/pini/32/6819_2.png) [@Pini](https://forum.duniter.org/u/Pini)
#### Post date: [21 November 2023 18:05 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/19 "2023-11-21T18:05:31Z")

</div>

Ce runner est obsolète. Utilise kepler-pipglr à la place.

Désolé pas très réactif ces temps ci car je suis bien occupé à migrer les services de mon assoce vers une autre machine suite à un disuqe dur défaillant.

@HugoTrentesaux, si tu as une idée de priorisation sur ce dont tu as besoin et qui dépends de moi, n’hésite pas à me pinguer en direct.

---

<div class="post-metadata">

### Author: ![HugoTrentesaux](https://forum.duniter.org/user_avatar/forum.duniter.org/hugotrentesaux/32/6396_2.png) [@HugoTrentesaux](https://forum.duniter.org/u/HugoTrentesaux)
#### Post date: [21 November 2023 18:07 UTC](https://forum.duniter.org/t/duniter-indexer-ci/11142/20 "2023-11-21T18:07:40Z")

</div>

Ok, merci pour l’info du runner. Prend ton temps pour ton assoce (de musique ?), si tu veux je peux te maintenir une liste des tâches prioritaires qui pourraient te convenir 🙂

[Next page](https://forum.duniter.org/t/duniter-indexer-ci/11142.md?page=2)
