Skip to content

Commit 2643063

Browse files
committed
v11 with an implementation for litellm servers
1 parent adbf38e commit 2643063

File tree

3 files changed

+443
-2
lines changed

3 files changed

+443
-2
lines changed

notebooks/tps/chatbot/.teacher/README-chatbot-corrige-nb.md

Lines changed: 17 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -508,6 +508,23 @@ class Server:
508508
pass
509509
```
510510

511+
## v11 (optionnel): une autre API
512+
513+
à présent que nous avons une classe `Server`, on va pouvoir **implémenter une autre classe** qui hérite de `Server`, par exemple `LitellmServer`, qui implémente la même API mais en s'appuyant sur le serveur `litellm-sam.inria.fr`
514+
515+
l'API en question est documentée ici
516+
<https://litellm-sam.inria.fr/#/model%20management/> (pour l'instant nécessite
517+
un VPN) - et sans doute à plein d'autres endroits publics
518+
519+
pour vous authentifier vous aurez également besoin d'une clé API - communiquée par un autre moyen
520+
521+
le but du jeu consiste donc ici à
522+
- implémenter une classe concrète `LitellmServer` qui hérite de `Server` et qui
523+
implémente les mêmes méthodes que `OllamaServer`, mais en s'appuyant sur l'API
524+
`litellm`
525+
- ajouter une entrée dans le dictionnaire `SERVERS` pour pouvoir choisir ce
526+
serveur dans l'interface
527+
511528
## plein d'améliorations possibles
512529

513530
en vrac:

0 commit comments

Comments
 (0)