@@ -10,13 +10,14 @@ export type GroqModelId =
1010 | "qwen-qwq-32b"
1111 | "qwen/qwen3-32b"
1212 | "deepseek-r1-distill-llama-70b"
13+ | "moonshotai/kimi-k2-instruct"
1314
1415export const groqDefaultModelId : GroqModelId = "llama-3.3-70b-versatile" // Defaulting to Llama3 70B Versatile
1516
1617export const groqModels = {
1718 // Models based on API response: https://api.groq.com/openai/v1/models
1819 "llama-3.1-8b-instant" : {
19- maxTokens : 131072 ,
20+ maxTokens : 8192 ,
2021 contextWindow : 131072 ,
2122 supportsImages : false ,
2223 supportsPromptCache : false ,
@@ -25,7 +26,7 @@ export const groqModels = {
2526 description : "Meta Llama 3.1 8B Instant model, 128K context." ,
2627 } ,
2728 "llama-3.3-70b-versatile" : {
28- maxTokens : 32768 ,
29+ maxTokens : 8192 ,
2930 contextWindow : 131072 ,
3031 supportsImages : false ,
3132 supportsPromptCache : false ,
@@ -52,7 +53,7 @@ export const groqModels = {
5253 description : "Meta Llama 4 Maverick 17B Instruct model, 128K context." ,
5354 } ,
5455 "mistral-saba-24b" : {
55- maxTokens : 32768 ,
56+ maxTokens : 8192 ,
5657 contextWindow : 32768 ,
5758 supportsImages : false ,
5859 supportsPromptCache : false ,
@@ -61,7 +62,7 @@ export const groqModels = {
6162 description : "Mistral Saba 24B model, 32K context." ,
6263 } ,
6364 "qwen-qwq-32b" : {
64- maxTokens : 131072 ,
65+ maxTokens : 8192 ,
6566 contextWindow : 131072 ,
6667 supportsImages : false ,
6768 supportsPromptCache : false ,
@@ -70,7 +71,7 @@ export const groqModels = {
7071 description : "Alibaba Qwen QwQ 32B model, 128K context." ,
7172 } ,
7273 "qwen/qwen3-32b" : {
73- maxTokens : 40960 ,
74+ maxTokens : 8192 ,
7475 contextWindow : 131072 ,
7576 supportsImages : false ,
7677 supportsPromptCache : false ,
@@ -79,12 +80,21 @@ export const groqModels = {
7980 description : "Alibaba Qwen 3 32B model, 128K context." ,
8081 } ,
8182 "deepseek-r1-distill-llama-70b" : {
82- maxTokens : 131072 ,
83+ maxTokens : 8192 ,
8384 contextWindow : 131072 ,
8485 supportsImages : false ,
8586 supportsPromptCache : false ,
8687 inputPrice : 0.75 ,
8788 outputPrice : 0.99 ,
8889 description : "DeepSeek R1 Distill Llama 70B model, 128K context." ,
8990 } ,
91+ "moonshotai/kimi-k2-instruct" : {
92+ maxTokens : 16384 ,
93+ contextWindow : 131072 ,
94+ supportsImages : false ,
95+ supportsPromptCache : false ,
96+ inputPrice : 1.0 ,
97+ outputPrice : 3.0 ,
98+ description : "Moonshot AI Kimi K2 Instruct 1T model, 128K context." ,
99+ } ,
90100} as const satisfies Record < string , ModelInfo >
0 commit comments