Ilaas - Une fédération mutualisée visant une IA générative de confiance, robuste, éthique, et sobre

Pourquoi ILaaS ?

Le but du projet ILaaS est de fournir à l’Enseignement Supérieur Français des moyens techniques pour mettre en œuvre l’Intelligence Artificielle en répondant aux défis importants de soutenabilité, de résilience, de confiance et de sobriété numérique. Il vise à offrir une infrastructure d’inférence mutualisée et fiable servant les besoins essentiels de l’ESR, en visant l’équilibre budgétaire, la qualité de service et la sécurité des données. Nous sommes soutenus par le MESR, avec un suivi conjoint de nos travaux par la DGESIP et la DGRI.

Que propose le projet ?

Le projet ILaaS propose un service d’inférence LLM (Large Language Model) et de retranscription audio et vidéo (STT) en ligne sous forme d’API et à la demande, rendant l’accès au modèle plus facile tout en optimisant les coûts et les efforts individuels avec une qualité de service élevée.

• Si vous êtes un établissement public d’Enseignement Supérieur et que vous utilisez des logiciels qui font appel à des LLM, vous pouvez utiliser notre API d’inférence qui s’appuie sur des serveurs de confiance hébergés dans les Data Centers Labellisés de l’ESR
• Si vous êtes une EdTech française, vous pouvez utiliser l’API d’ILaaS en tant qu’alternative à d’autres API d’inférence, offrant non seulement des garanties à vos clients de l’Enseignement Supérieur et de la Recherche mais aussi des possibilités de factorisation des coûts s’ils sont déjà bénéficiaires de la fédération.

Comment utiliser les services d'IlaaS ?

Accédez aux pages techniques pour vous guider dans l’utilisation des différents services :

• Services d'inférence
• Services de retranscription
• Les modèles LLM disponibles

Comment contribuer ?

Les contributions sont possibles de plusieurs manières : héberger un nœud de calcul, développer du code, participer à la gouvernance, documenter le projet, mener des études… Chaque contribution est précieuse pour nous permettre d’avancer ensemble vers des objectifs partagés. En tant qu’hébergeur d’un nœud de calcul, vous pouvez aussi utiliser la fédération pour vos propres usagers, dont les requêtes auront une priorité plus forte vers vos serveurs. Nos expérimentations actuelles montrent que l’impact du routage au sein de la fédération est faible : en rejoignant la fédération vous permettez à d’autres établissements de lisser leurs pics de charge en bénéficiant de vos serveurs lorsqu’ils sont disponibles (en particulier lorsque vous décidez de les exposer) tout en garantissant à vos usagers une qualité de service élevée en termes de performances et de résilience.