llama : expose API to retrieve devices used by model.

It's useful from the library to be able to do things like list the
features being used by the loaded model.

Author: vlovich

include/llama.h

@@ -478,6 +478,7 @@ extern "C" {
     LLAMA_API int32_t llama_model_n_layer    (const struct llama_model * model);
     LLAMA_API int32_t llama_model_n_head     (const struct llama_model * model);
     LLAMA_API int32_t llama_model_n_head_kv  (const struct llama_model * model);
+    LLAMA_API const ggml_backend_dev_t *  llama_model_get_devices (const struct llama_model * model, size_t * out_len);
 
     // Get the model's RoPE frequency scaling factor
     LLAMA_API float llama_model_rope_freq_scale_train(const struct llama_model * model);

src/llama-model.cpp

@@ -3842,6 +3842,11 @@ int32_t llama_model_n_head_kv(const struct llama_model * model) {
     return model->hparams.n_head_kv();
 }
 
+const ggml_backend_dev_t *  llama_model_get_devices (const struct llama_model * model, size_t * out_len) {
+    *out_len = model->devices.size();
+    return model->devices.data();
+}
+
 // deprecated
 int32_t llama_n_ctx_train(const struct llama_model * model) {
     return llama_model_n_ctx_train(model);