Skip to content

Commit 4ef68ed

Browse files
committed
CI for French tests
1 parent a765db3 commit 4ef68ed

File tree

4 files changed

+97
-0
lines changed

4 files changed

+97
-0
lines changed

.github/workflows/french.yml

Lines changed: 62 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,62 @@
1+
name: French tests
2+
3+
on: [workflow_dispatch, push, pull_request]
4+
5+
jobs:
6+
7+
canary-multi-turn:
8+
runs-on: ubuntu-22.04
9+
timeout-minutes: 3
10+
strategy:
11+
max-parallel: 3
12+
fail-fast: false
13+
matrix:
14+
model:
15+
- meta-llama/llama-3.2-3b-instruct # $0.0100/$0.0200 [ 128K]
16+
- google/gemma-3n-e4b-it # $0.0200/$0.0400 [ 32K]
17+
- google/gemma-3-4b-it # $0.0200/$0.0400 [ 128K]
18+
- mistralai/mistral-small-3.2-24b-instruct # $0.0500/$0.1000 [ 32K]
19+
- google/gemma-3-12b-it # $0.0500/$0.1000 [ 128K]
20+
- qwen/qwen3-8b # $0.0350/$0.1380 [ 128K]
21+
- google/gemini-flash-1.5-8b # $0.0380/$0.1500 [1000K]
22+
23+
steps:
24+
- uses: actions/checkout@v4
25+
26+
- run: ./chat-llm.js tests/fr/canary-single-turn.txt
27+
env:
28+
LLM_API_BASE_URL: https://openrouter.ai/api/v1
29+
LLM_API_KEY: ${{ secrets.LLM_API_KEY }}
30+
LLM_CHAT_MODEL: ${{ matrix.model }}
31+
32+
- run: ./chat-llm.js tests/fr/canary-multi-turn.txt
33+
env:
34+
LLM_API_BASE_URL: https://openrouter.ai/api/v1
35+
LLM_API_KEY: ${{ secrets.LLM_API_KEY }}
36+
LLM_CHAT_MODEL: ${{ matrix.model }}
37+
38+
39+
high-school-stem:
40+
runs-on: ubuntu-22.04
41+
timeout-minutes: 5
42+
strategy:
43+
max-parallel: 3
44+
fail-fast: false
45+
matrix:
46+
model:
47+
- meta-llama/llama-3.2-3b-instruct # $0.0100/$0.0200 [ 128K]
48+
- google/gemma-3n-e4b-it # $0.0200/$0.0400 [ 32K]
49+
- google/gemma-3-4b-it # $0.0200/$0.0400 [ 128K]
50+
- mistralai/mistral-small-3.2-24b-instruct # $0.0500/$0.1000 [ 32K]
51+
- google/gemma-3-12b-it # $0.0500/$0.1000 [ 128K]
52+
- qwen/qwen3-8b # $0.0350/$0.1380 [ 128K]
53+
- google/gemini-flash-1.5-8b # $0.0380/$0.1500 [1000K]
54+
55+
steps:
56+
- uses: actions/checkout@v4
57+
58+
- run: ./chat-llm.js tests/fr/high-school-stem.txt
59+
env:
60+
LLM_API_BASE_URL: https://openrouter.ai/api/v1
61+
LLM_API_KEY: ${{ secrets.LLM_API_KEY }}
62+
LLM_CHAT_MODEL: ${{ matrix.model }}

tests/fr/canary-multi-turn.txt

Lines changed: 11 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,11 @@
1+
User: Quelle est la plus grande planète de notre système solaire ?
2+
Assistant: /Jupiter/ est la plus grande planète de notre système solaire.
3+
4+
User: et la plus chaude ?
5+
Assistant: /Vénus|Venus/ est la planète la plus chaude de notre système solaire.
6+
7+
User: et celle qui est surnommée la "Planète Rouge" ?
8+
Assistant: /Mars/, en raison de son apparence rougeâtre causée par l'oxyde de fer sur sa surface.
9+
10+
User: et laquelle est connue pour son système d'anneaux le plus complexe?
11+
Assistant: Ce doit être /Saturne/ !

tests/fr/canary-single-turn.txt

Lines changed: 2 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,2 @@
1+
User: Quelle est la plus grande planète de notre système solaire ?
2+
Assistant: /Jupiter/ est la plus grande planète de notre système solaire.

tests/fr/high-school-stem.txt

Lines changed: 22 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,22 @@
1+
Story: Questions sur les sujets STEM au lycée
2+
3+
User: Quelle force attire les objets vers le centre de la Terre ?
4+
Assistant: La force qui attire les objets vers le centre de la Terre est la force d'/attraction|gravitationnelle|gravité/.
5+
6+
User: Quel est le numéro atomique du carbone ?
7+
Assistant: Le numéro atomique du carbone est /6|six/.
8+
9+
User: Par quel processus les plantes produisent-elles leur propre nourriture ?
10+
Assistant: Les plantes produisent leur propre nourriture par le processus de la /photosynthèse|photsynthèse/.
11+
12+
User: Quelle est la mesure en degrés de la somme des angles intérieurs d’un triangle ?
13+
Assistant: La somme des angles internes d'un triangle est de /180/ degrés.
14+
15+
User: Quelle est l'unité de mesure de la force ?
16+
Assistant: L'unité de mesure de la force est le /Newton|Kip/.
17+
18+
User: Quel est le symbole chimique du magnésium ?
19+
Assistant: Le symbole chimique du magnésium est /Mg/.
20+
21+
User: Quels sont les plus petits constituants connus de la matière ?
22+
Assistant: Les plus petits constituants connus de la matière sont /élémentaires|atom(es)?|proton(s)?|neutron(s)?|quark(s)?|électron(s)?|quanta|lepton(s)?/.

0 commit comments

Comments
 (0)