0acd4a75d5cdfdcd4518a3700518f9ee5f07ec29
[platform/kernel/linux-starfive.git] / sound / soc / qcom / qdsp6 / audioreach.c
1 // SPDX-License-Identifier: GPL-2.0
2 // Copyright (c) 2020, Linaro Limited
3
4 #include <linux/kernel.h>
5 #include <linux/slab.h>
6 #include <linux/soc/qcom/apr.h>
7 #include <sound/soc.h>
8 #include <sound/soc-dai.h>
9 #include <sound/pcm.h>
10 #include <sound/pcm_params.h>
11 #include <dt-bindings/soc/qcom,gpr.h>
12 #include "q6apm.h"
13 #include "audioreach.h"
14
15 /* SubGraph Config */
16 struct apm_sub_graph_data {
17         struct apm_sub_graph_cfg sub_graph_cfg;
18         struct apm_prop_data perf_data;
19         struct apm_sg_prop_id_perf_mode perf;
20         struct apm_prop_data dir_data;
21         struct apm_sg_prop_id_direction dir;
22         struct apm_prop_data sid_data;
23         struct apm_sg_prop_id_scenario_id sid;
24
25 } __packed;
26
27 #define APM_SUB_GRAPH_CFG_NPROP 3
28
29 struct apm_sub_graph_params  {
30         struct apm_module_param_data param_data;
31         uint32_t num_sub_graphs;
32         struct apm_sub_graph_data sg_cfg[];
33 } __packed;
34
35 #define APM_SUB_GRAPH_PSIZE(p, n) ALIGN(struct_size(p, sg_cfg, n), 8)
36
37 /* container config */
38 struct apm_container_obj  {
39         struct apm_container_cfg container_cfg;
40         /* Capability ID list */
41         struct apm_prop_data cap_data;
42         uint32_t num_capability_id;
43         uint32_t capability_id;
44
45         /* Container graph Position */
46         struct apm_prop_data pos_data;
47         struct apm_cont_prop_id_graph_pos pos;
48
49         /* Container Stack size */
50         struct apm_prop_data stack_data;
51         struct apm_cont_prop_id_stack_size stack;
52
53         /* Container proc domain id */
54         struct apm_prop_data domain_data;
55         struct apm_cont_prop_id_domain domain;
56 } __packed;
57
58 struct apm_container_params  {
59         struct apm_module_param_data param_data;
60         uint32_t num_containers;
61         struct apm_container_obj cont_obj[];
62 } __packed;
63
64 #define APM_CONTAINER_PSIZE(p, n) ALIGN(struct_size(p, cont_obj, n), 8)
65
66 /* Module List config */
67 struct apm_mod_list_obj {
68         /* Modules list cfg */
69         uint32_t sub_graph_id;
70         uint32_t container_id;
71         uint32_t num_modules;
72         struct apm_module_obj mod_cfg[];
73 } __packed;
74
75 #define APM_MOD_LIST_OBJ_PSIZE(p, n) struct_size(p, mod_cfg, n)
76
77 struct apm_module_list_params {
78         struct apm_module_param_data param_data;
79         uint32_t num_modules_list;
80         /* Module list config array */
81         struct apm_mod_list_obj mod_list_obj[];
82 } __packed;
83
84
85 /* Module Properties */
86 struct apm_mod_prop_obj {
87         u32 instance_id;
88         u32 num_props;
89         struct apm_prop_data prop_data_1;
90         struct apm_module_prop_id_port_info prop_id_port;
91 } __packed;
92
93 struct apm_prop_list_params {
94         struct apm_module_param_data param_data;
95         u32 num_modules_prop_cfg;
96         struct apm_mod_prop_obj mod_prop_obj[];
97
98 } __packed;
99
100 #define APM_MOD_PROP_PSIZE(p, n) ALIGN(struct_size(p, mod_prop_obj, n), 8)
101
102 /* Module Connections */
103 struct apm_mod_conn_list_params {
104         struct apm_module_param_data param_data;
105         u32 num_connections;
106         struct apm_module_conn_obj conn_obj[];
107
108 } __packed;
109
110 #define APM_MOD_CONN_PSIZE(p, n) ALIGN(struct_size(p, conn_obj, n), 8)
111
112 struct apm_graph_open_params {
113         struct apm_cmd_header *cmd_header;
114         struct apm_sub_graph_params *sg_data;
115         struct apm_container_params *cont_data;
116         struct apm_module_list_params *mod_list_data;
117         struct apm_prop_list_params *mod_prop_data;
118         struct apm_mod_conn_list_params *mod_conn_list_data;
119 } __packed;
120
121 struct apm_pcm_module_media_fmt_cmd {
122         struct apm_module_param_data param_data;
123         struct param_id_pcm_output_format_cfg header;
124         struct payload_pcm_output_format_cfg media_cfg;
125 } __packed;
126
127 struct apm_rd_shmem_module_config_cmd {
128         struct apm_module_param_data param_data;
129         struct param_id_rd_sh_mem_cfg cfg;
130 } __packed;
131
132 struct apm_sh_module_media_fmt_cmd {
133         struct media_format header;
134         struct payload_media_fmt_pcm cfg;
135 } __packed;
136
137 #define APM_SHMEM_FMT_CFG_PSIZE(ch) ALIGN( \
138                                 sizeof(struct apm_sh_module_media_fmt_cmd) + \
139                                 ch * sizeof(uint8_t), 8)
140
141 /* num of channels as argument */
142 #define APM_PCM_MODULE_FMT_CMD_PSIZE(ch) ALIGN( \
143                                 sizeof(struct apm_pcm_module_media_fmt_cmd) + \
144                                 ch * sizeof(uint8_t), 8)
145
146 #define APM_PCM_OUT_FMT_CFG_PSIZE(p, n) ALIGN(struct_size(p, channel_mapping, n), 4)
147
148 struct apm_i2s_module_intf_cfg {
149         struct apm_module_param_data param_data;
150         struct param_id_i2s_intf_cfg cfg;
151 } __packed;
152
153 #define APM_I2S_INTF_CFG_PSIZE ALIGN(sizeof(struct apm_i2s_module_intf_cfg), 8)
154
155 struct apm_module_hw_ep_mf_cfg {
156         struct apm_module_param_data param_data;
157         struct param_id_hw_ep_mf mf;
158 } __packed;
159
160 #define APM_HW_EP_CFG_PSIZE ALIGN(sizeof(struct apm_module_hw_ep_mf_cfg), 8)
161
162 #define APM_MFC_CFG_PSIZE(p, n) ALIGN(struct_size(p, channel_mapping, n), 4)
163
164 struct apm_module_frame_size_factor_cfg {
165         struct apm_module_param_data param_data;
166         uint32_t frame_size_factor;
167 } __packed;
168
169 #define APM_FS_CFG_PSIZE ALIGN(sizeof(struct apm_module_frame_size_factor_cfg), 8)
170
171 struct apm_module_hw_ep_power_mode_cfg {
172         struct apm_module_param_data param_data;
173         struct param_id_hw_ep_power_mode_cfg power_mode;
174 } __packed;
175
176 #define APM_HW_EP_PMODE_CFG_PSIZE ALIGN(sizeof(struct apm_module_hw_ep_power_mode_cfg), 8)
177
178 struct apm_module_hw_ep_dma_data_align_cfg {
179         struct apm_module_param_data param_data;
180         struct param_id_hw_ep_dma_data_align align;
181 } __packed;
182
183 #define APM_HW_EP_DALIGN_CFG_PSIZE ALIGN(sizeof(struct apm_module_hw_ep_dma_data_align_cfg), 8)
184
185 struct apm_gain_module_cfg {
186         struct apm_module_param_data param_data;
187         struct param_id_gain_cfg gain_cfg;
188 } __packed;
189
190 #define APM_GAIN_CFG_PSIZE ALIGN(sizeof(struct apm_gain_module_cfg), 8)
191
192 struct apm_codec_dma_module_intf_cfg {
193         struct apm_module_param_data param_data;
194         struct param_id_codec_dma_intf_cfg cfg;
195 } __packed;
196
197 #define APM_CDMA_INTF_CFG_PSIZE ALIGN(sizeof(struct apm_codec_dma_module_intf_cfg), 8)
198
199 struct apm_display_port_module_intf_cfg {
200         struct apm_module_param_data param_data;
201         struct param_id_display_port_intf_cfg cfg;
202 } __packed;
203 #define APM_DP_INTF_CFG_PSIZE ALIGN(sizeof(struct apm_display_port_module_intf_cfg), 8)
204
205 static void *__audioreach_alloc_pkt(int payload_size, uint32_t opcode, uint32_t token,
206                                     uint32_t src_port, uint32_t dest_port, bool has_cmd_hdr)
207 {
208         struct gpr_pkt *pkt;
209         void *p;
210         int pkt_size = GPR_HDR_SIZE + payload_size;
211
212         if (has_cmd_hdr)
213                 pkt_size += APM_CMD_HDR_SIZE;
214
215         p = kzalloc(pkt_size, GFP_KERNEL);
216         if (!p)
217                 return ERR_PTR(-ENOMEM);
218
219         pkt = p;
220         pkt->hdr.version = GPR_PKT_VER;
221         pkt->hdr.hdr_size = GPR_PKT_HEADER_WORD_SIZE;
222         pkt->hdr.pkt_size = pkt_size;
223         pkt->hdr.dest_port = dest_port;
224         pkt->hdr.src_port = src_port;
225
226         pkt->hdr.dest_domain = GPR_DOMAIN_ID_ADSP;
227         pkt->hdr.src_domain = GPR_DOMAIN_ID_APPS;
228         pkt->hdr.token = token;
229         pkt->hdr.opcode = opcode;
230
231         if (has_cmd_hdr) {
232                 struct apm_cmd_header *cmd_header;
233
234                 p = p + GPR_HDR_SIZE;
235                 cmd_header = p;
236                 cmd_header->payload_size = payload_size;
237         }
238
239         return pkt;
240 }
241
242 void *audioreach_alloc_pkt(int payload_size, uint32_t opcode, uint32_t token,
243                            uint32_t src_port, uint32_t dest_port)
244 {
245         return __audioreach_alloc_pkt(payload_size, opcode, token, src_port, dest_port, false);
246 }
247 EXPORT_SYMBOL_GPL(audioreach_alloc_pkt);
248
249 void *audioreach_alloc_apm_pkt(int pkt_size, uint32_t opcode, uint32_t token, uint32_t src_port)
250 {
251         return __audioreach_alloc_pkt(pkt_size, opcode, token, src_port, APM_MODULE_INSTANCE_ID,
252                                       false);
253 }
254 EXPORT_SYMBOL_GPL(audioreach_alloc_apm_pkt);
255
256 void *audioreach_alloc_cmd_pkt(int payload_size, uint32_t opcode, uint32_t token,
257                                uint32_t src_port, uint32_t dest_port)
258 {
259         return __audioreach_alloc_pkt(payload_size, opcode, token, src_port, dest_port, true);
260 }
261 EXPORT_SYMBOL_GPL(audioreach_alloc_cmd_pkt);
262
263 void *audioreach_alloc_apm_cmd_pkt(int pkt_size, uint32_t opcode, uint32_t token)
264 {
265         return __audioreach_alloc_pkt(pkt_size, opcode, token, GPR_APM_MODULE_IID,
266                                        APM_MODULE_INSTANCE_ID, true);
267 }
268 EXPORT_SYMBOL_GPL(audioreach_alloc_apm_cmd_pkt);
269
270 static void apm_populate_container_config(struct apm_container_obj *cfg,
271                                           struct audioreach_container *cont)
272 {
273
274         /* Container Config */
275         cfg->container_cfg.container_id = cont->container_id;
276         cfg->container_cfg.num_prop = 4;
277
278         /* Capability list */
279         cfg->cap_data.prop_id = APM_CONTAINER_PROP_ID_CAPABILITY_LIST;
280         cfg->cap_data.prop_size = APM_CONTAINER_PROP_ID_CAPABILITY_SIZE;
281         cfg->num_capability_id = 1;
282         cfg->capability_id = cont->capability_id;
283
284         /* Graph Position */
285         cfg->pos_data.prop_id = APM_CONTAINER_PROP_ID_GRAPH_POS;
286         cfg->pos_data.prop_size = sizeof(struct apm_cont_prop_id_graph_pos);
287         cfg->pos.graph_pos = cont->graph_pos;
288
289         /* Stack size */
290         cfg->stack_data.prop_id = APM_CONTAINER_PROP_ID_STACK_SIZE;
291         cfg->stack_data.prop_size = sizeof(struct apm_cont_prop_id_stack_size);
292         cfg->stack.stack_size = cont->stack_size;
293
294         /* Proc domain */
295         cfg->domain_data.prop_id = APM_CONTAINER_PROP_ID_PROC_DOMAIN;
296         cfg->domain_data.prop_size = sizeof(struct apm_cont_prop_id_domain);
297         cfg->domain.proc_domain = cont->proc_domain;
298 }
299
300 static void apm_populate_sub_graph_config(struct apm_sub_graph_data *cfg,
301                                           struct audioreach_sub_graph *sg)
302 {
303         cfg->sub_graph_cfg.sub_graph_id = sg->sub_graph_id;
304         cfg->sub_graph_cfg.num_sub_graph_prop = APM_SUB_GRAPH_CFG_NPROP;
305
306         /* Perf Mode */
307         cfg->perf_data.prop_id = APM_SUB_GRAPH_PROP_ID_PERF_MODE;
308         cfg->perf_data.prop_size = APM_SG_PROP_ID_PERF_MODE_SIZE;
309         cfg->perf.perf_mode = sg->perf_mode;
310
311         /* Direction */
312         cfg->dir_data.prop_id = APM_SUB_GRAPH_PROP_ID_DIRECTION;
313         cfg->dir_data.prop_size = APM_SG_PROP_ID_DIR_SIZE;
314         cfg->dir.direction = sg->direction;
315
316         /* Scenario ID */
317         cfg->sid_data.prop_id = APM_SUB_GRAPH_PROP_ID_SCENARIO_ID;
318         cfg->sid_data.prop_size = APM_SG_PROP_ID_SID_SIZE;
319         cfg->sid.scenario_id = sg->scenario_id;
320 }
321
322 static void apm_populate_module_prop_obj(struct apm_mod_prop_obj *obj,
323                                          struct audioreach_module *module)
324 {
325
326         obj->instance_id = module->instance_id;
327         obj->num_props = 1;
328         obj->prop_data_1.prop_id = APM_MODULE_PROP_ID_PORT_INFO;
329         obj->prop_data_1.prop_size = APM_MODULE_PROP_ID_PORT_INFO_SZ;
330         obj->prop_id_port.max_ip_port = module->max_ip_port;
331         obj->prop_id_port.max_op_port = module->max_op_port;
332 }
333
334 static void apm_populate_module_list_obj(struct apm_mod_list_obj *obj,
335                                          struct audioreach_container *container,
336                                          int sub_graph_id)
337 {
338         struct audioreach_module *module;
339         int i;
340
341         obj->sub_graph_id = sub_graph_id;
342         obj->container_id = container->container_id;
343         obj->num_modules = container->num_modules;
344         i = 0;
345         list_for_each_entry(module, &container->modules_list, node) {
346                 obj->mod_cfg[i].module_id = module->module_id;
347                 obj->mod_cfg[i].instance_id = module->instance_id;
348                 i++;
349         }
350 }
351
352 static void audioreach_populate_graph(struct q6apm *apm, struct audioreach_graph_info *info,
353                                       struct apm_graph_open_params *open,
354                                       struct list_head *sg_list,
355                                       int num_sub_graphs)
356 {
357         struct apm_mod_conn_list_params *mc_data = open->mod_conn_list_data;
358         struct apm_module_list_params *ml_data = open->mod_list_data;
359         struct apm_prop_list_params *mp_data = open->mod_prop_data;
360         struct apm_container_params *c_data = open->cont_data;
361         struct apm_sub_graph_params *sg_data = open->sg_data;
362         int ncontainer = 0, nmodule = 0, nconn = 0;
363         struct apm_mod_prop_obj *module_prop_obj;
364         struct audioreach_container *container;
365         struct apm_module_conn_obj *conn_obj;
366         struct audioreach_module *module;
367         struct audioreach_sub_graph *sg;
368         struct apm_container_obj *cobj;
369         struct apm_mod_list_obj *mlobj;
370         int i = 0;
371
372         mlobj = &ml_data->mod_list_obj[0];
373
374
375         if (info->dst_mod_inst_id && info->src_mod_inst_id) {
376                 conn_obj = &mc_data->conn_obj[nconn];
377                 conn_obj->src_mod_inst_id = info->src_mod_inst_id;
378                 conn_obj->src_mod_op_port_id = info->src_mod_op_port_id;
379                 conn_obj->dst_mod_inst_id = info->dst_mod_inst_id;
380                 conn_obj->dst_mod_ip_port_id = info->dst_mod_ip_port_id;
381                 nconn++;
382         }
383
384         list_for_each_entry(sg, sg_list, node) {
385                 struct apm_sub_graph_data *sg_cfg = &sg_data->sg_cfg[i++];
386
387                 apm_populate_sub_graph_config(sg_cfg, sg);
388
389                 list_for_each_entry(container, &sg->container_list, node) {
390                         cobj = &c_data->cont_obj[ncontainer];
391
392                         apm_populate_container_config(cobj, container);
393                         apm_populate_module_list_obj(mlobj, container, sg->sub_graph_id);
394
395                         list_for_each_entry(module, &container->modules_list, node) {
396                                 int pn;
397
398                                 module_prop_obj = &mp_data->mod_prop_obj[nmodule++];
399                                 apm_populate_module_prop_obj(module_prop_obj, module);
400
401                                 if (!module->max_op_port)
402                                         continue;
403
404                                 for (pn = 0; pn < module->max_op_port; pn++) {
405                                         if (module->dst_mod_inst_id[pn]) {
406                                                 conn_obj = &mc_data->conn_obj[nconn];
407                                                 conn_obj->src_mod_inst_id = module->instance_id;
408                                                 conn_obj->src_mod_op_port_id =
409                                                                 module->src_mod_op_port_id[pn];
410                                                 conn_obj->dst_mod_inst_id =
411                                                                 module->dst_mod_inst_id[pn];
412                                                 conn_obj->dst_mod_ip_port_id =
413                                                                 module->dst_mod_ip_port_id[pn];
414                                                 nconn++;
415                                         }
416                                 }
417                         }
418                         mlobj = (void *) mlobj + APM_MOD_LIST_OBJ_PSIZE(mlobj,
419                                                                         container->num_modules);
420
421                         ncontainer++;
422                 }
423         }
424 }
425
426 void *audioreach_alloc_graph_pkt(struct q6apm *apm, struct audioreach_graph_info *info)
427 {
428         int payload_size, sg_sz, cont_sz, ml_sz, mp_sz, mc_sz;
429         struct apm_module_param_data  *param_data;
430         struct apm_container_params *cont_params;
431         struct audioreach_container *container;
432         struct apm_sub_graph_params *sg_params;
433         struct apm_mod_conn_list_params *mcon;
434         struct apm_graph_open_params params;
435         struct apm_prop_list_params *mprop;
436         struct audioreach_module *module;
437         struct audioreach_sub_graph *sgs;
438         struct apm_mod_list_obj *mlobj;
439         struct list_head *sg_list;
440         int num_connections = 0;
441         int num_containers = 0;
442         int num_sub_graphs = 0;
443         int num_modules = 0;
444         int num_modules_list;
445         struct gpr_pkt *pkt;
446         void *p;
447
448         sg_list = &info->sg_list;
449         ml_sz = 0;
450
451         /* add FE-BE connections */
452         if (info->dst_mod_inst_id && info->src_mod_inst_id)
453                 num_connections++;
454
455         list_for_each_entry(sgs, sg_list, node) {
456                 num_sub_graphs++;
457                 list_for_each_entry(container, &sgs->container_list, node) {
458                         num_containers++;
459                         num_modules += container->num_modules;
460                         ml_sz = ml_sz + sizeof(struct apm_module_list_params) +
461                                 APM_MOD_LIST_OBJ_PSIZE(mlobj, container->num_modules);
462
463                         list_for_each_entry(module, &container->modules_list, node) {
464                                 num_connections += module->num_connections;
465                         }
466                 }
467         }
468
469         num_modules_list = num_containers;
470         sg_sz = APM_SUB_GRAPH_PSIZE(sg_params, num_sub_graphs);
471         cont_sz = APM_CONTAINER_PSIZE(cont_params, num_containers);
472
473         ml_sz = ALIGN(ml_sz, 8);
474
475         mp_sz = APM_MOD_PROP_PSIZE(mprop, num_modules);
476         mc_sz = APM_MOD_CONN_PSIZE(mcon, num_connections);
477
478         payload_size = sg_sz + cont_sz + ml_sz + mp_sz + mc_sz;
479         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_GRAPH_OPEN, 0);
480         if (IS_ERR(pkt))
481                 return pkt;
482
483         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
484
485         /* SubGraph */
486         params.sg_data = p;
487         param_data = &params.sg_data->param_data;
488         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
489         param_data->param_id = APM_PARAM_ID_SUB_GRAPH_CONFIG;
490         param_data->param_size = sg_sz - APM_MODULE_PARAM_DATA_SIZE;
491         params.sg_data->num_sub_graphs = num_sub_graphs;
492         p += sg_sz;
493
494         /* Container */
495         params.cont_data = p;
496         param_data = &params.cont_data->param_data;
497         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
498         param_data->param_id = APM_PARAM_ID_CONTAINER_CONFIG;
499         param_data->param_size = cont_sz - APM_MODULE_PARAM_DATA_SIZE;
500         params.cont_data->num_containers = num_containers;
501         p += cont_sz;
502
503         /* Module List*/
504         params.mod_list_data = p;
505         param_data = &params.mod_list_data->param_data;
506         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
507         param_data->param_id = APM_PARAM_ID_MODULE_LIST;
508         param_data->param_size = ml_sz - APM_MODULE_PARAM_DATA_SIZE;
509         params.mod_list_data->num_modules_list = num_modules_list;
510         p += ml_sz;
511
512         /* Module Properties */
513         params.mod_prop_data = p;
514         param_data = &params.mod_prop_data->param_data;
515         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
516         param_data->param_id = APM_PARAM_ID_MODULE_PROP;
517         param_data->param_size = mp_sz - APM_MODULE_PARAM_DATA_SIZE;
518         params.mod_prop_data->num_modules_prop_cfg = num_modules;
519         p += mp_sz;
520
521         /* Module Connections */
522         params.mod_conn_list_data = p;
523         param_data = &params.mod_conn_list_data->param_data;
524         param_data->module_instance_id = APM_MODULE_INSTANCE_ID;
525         param_data->param_id = APM_PARAM_ID_MODULE_CONN;
526         param_data->param_size = mc_sz - APM_MODULE_PARAM_DATA_SIZE;
527         params.mod_conn_list_data->num_connections = num_connections;
528         p += mc_sz;
529
530         audioreach_populate_graph(apm, info, &params, sg_list, num_sub_graphs);
531
532         return pkt;
533 }
534 EXPORT_SYMBOL_GPL(audioreach_alloc_graph_pkt);
535
536 int audioreach_send_cmd_sync(struct device *dev, gpr_device_t *gdev,
537                              struct gpr_ibasic_rsp_result_t *result, struct mutex *cmd_lock,
538                              gpr_port_t *port, wait_queue_head_t *cmd_wait,
539                              struct gpr_pkt *pkt, uint32_t rsp_opcode)
540 {
541
542         struct gpr_hdr *hdr = &pkt->hdr;
543         int rc;
544
545         mutex_lock(cmd_lock);
546         result->opcode = 0;
547         result->status = 0;
548
549         if (port)
550                 rc = gpr_send_port_pkt(port, pkt);
551         else if (gdev)
552                 rc = gpr_send_pkt(gdev, pkt);
553         else
554                 rc = -EINVAL;
555
556         if (rc < 0)
557                 goto err;
558
559         if (rsp_opcode)
560                 rc = wait_event_timeout(*cmd_wait, (result->opcode == hdr->opcode) ||
561                                         (result->opcode == rsp_opcode), 5 * HZ);
562         else
563                 rc = wait_event_timeout(*cmd_wait, (result->opcode == hdr->opcode), 5 * HZ);
564
565         if (!rc) {
566                 dev_err(dev, "CMD timeout for [%x] opcode\n", hdr->opcode);
567                 rc = -ETIMEDOUT;
568         } else if (result->status > 0) {
569                 dev_err(dev, "DSP returned error[%x] %x\n", hdr->opcode, result->status);
570                 rc = -EINVAL;
571         } else {
572                 /* DSP successfully finished the command */
573                 rc = 0;
574         }
575
576 err:
577         mutex_unlock(cmd_lock);
578         return rc;
579 }
580 EXPORT_SYMBOL_GPL(audioreach_send_cmd_sync);
581
582 int audioreach_graph_send_cmd_sync(struct q6apm_graph *graph, struct gpr_pkt *pkt,
583                                    uint32_t rsp_opcode)
584 {
585
586         return audioreach_send_cmd_sync(graph->dev, NULL,  &graph->result, &graph->lock,
587                                         graph->port, &graph->cmd_wait, pkt, rsp_opcode);
588 }
589 EXPORT_SYMBOL_GPL(audioreach_graph_send_cmd_sync);
590
591 static int audioreach_display_port_set_media_format(struct q6apm_graph *graph,
592                                                     struct audioreach_module *module,
593                                                     struct audioreach_module_config *cfg)
594 {
595         struct apm_display_port_module_intf_cfg *intf_cfg;
596         struct apm_module_frame_size_factor_cfg *fs_cfg;
597         struct apm_module_param_data *param_data;
598         struct apm_module_hw_ep_mf_cfg *hw_cfg;
599         int ic_sz, ep_sz, fs_sz, dl_sz;
600         int rc, payload_size;
601         struct gpr_pkt *pkt;
602         void *p;
603
604         ic_sz = APM_DP_INTF_CFG_PSIZE;
605         ep_sz = APM_HW_EP_CFG_PSIZE;
606         fs_sz = APM_FS_CFG_PSIZE;
607         dl_sz = 0;
608
609         payload_size = ic_sz + ep_sz + fs_sz + dl_sz;
610
611         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
612         if (IS_ERR(pkt))
613                 return PTR_ERR(pkt);
614
615         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
616
617         hw_cfg = p;
618         param_data = &hw_cfg->param_data;
619         param_data->module_instance_id = module->instance_id;
620         param_data->error_code = 0;
621         param_data->param_id = PARAM_ID_HW_EP_MF_CFG;
622         param_data->param_size = ep_sz - APM_MODULE_PARAM_DATA_SIZE;
623
624         hw_cfg->mf.sample_rate = cfg->sample_rate;
625         hw_cfg->mf.bit_width = cfg->bit_width;
626         hw_cfg->mf.num_channels = cfg->num_channels;
627         hw_cfg->mf.data_format = module->data_format;
628         p += ep_sz;
629
630         fs_cfg = p;
631         param_data = &fs_cfg->param_data;
632         param_data->module_instance_id = module->instance_id;
633         param_data->error_code = 0;
634         param_data->param_id = PARAM_ID_HW_EP_FRAME_SIZE_FACTOR;
635         param_data->param_size = fs_sz - APM_MODULE_PARAM_DATA_SIZE;
636         fs_cfg->frame_size_factor = 1;
637         p += fs_sz;
638
639         intf_cfg = p;
640         param_data = &intf_cfg->param_data;
641         param_data->module_instance_id = module->instance_id;
642         param_data->error_code = 0;
643         param_data->param_id = PARAM_ID_DISPLAY_PORT_INTF_CFG;
644         param_data->param_size = ic_sz - APM_MODULE_PARAM_DATA_SIZE;
645
646         intf_cfg->cfg.channel_allocation = cfg->channel_allocation;
647         intf_cfg->cfg.mst_idx = 0;
648         intf_cfg->cfg.dptx_idx = cfg->dp_idx;
649
650         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
651
652         kfree(pkt);
653
654         return rc;
655 }
656
657 /* LPASS Codec DMA port Module Media Format Setup */
658 static int audioreach_codec_dma_set_media_format(struct q6apm_graph *graph,
659                                                  struct audioreach_module *module,
660                                                  struct audioreach_module_config *cfg)
661 {
662         struct apm_codec_dma_module_intf_cfg *intf_cfg;
663         struct apm_module_frame_size_factor_cfg *fs_cfg;
664         struct apm_module_hw_ep_power_mode_cfg *pm_cfg;
665         struct apm_module_param_data *param_data;
666         struct apm_module_hw_ep_mf_cfg *hw_cfg;
667         int ic_sz, ep_sz, fs_sz, pm_sz, dl_sz;
668         int rc, payload_size;
669         struct gpr_pkt *pkt;
670         void *p;
671
672         ic_sz = APM_CDMA_INTF_CFG_PSIZE;
673         ep_sz = APM_HW_EP_CFG_PSIZE;
674         fs_sz = APM_FS_CFG_PSIZE;
675         pm_sz = APM_HW_EP_PMODE_CFG_PSIZE;
676         dl_sz = 0;
677
678         payload_size = ic_sz + ep_sz + fs_sz + pm_sz + dl_sz;
679
680         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
681         if (IS_ERR(pkt))
682                 return PTR_ERR(pkt);
683
684         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
685
686         hw_cfg = p;
687         param_data = &hw_cfg->param_data;
688         param_data->module_instance_id = module->instance_id;
689         param_data->error_code = 0;
690         param_data->param_id = PARAM_ID_HW_EP_MF_CFG;
691         param_data->param_size = ep_sz - APM_MODULE_PARAM_DATA_SIZE;
692
693         hw_cfg->mf.sample_rate = cfg->sample_rate;
694         hw_cfg->mf.bit_width = cfg->bit_width;
695         hw_cfg->mf.num_channels = cfg->num_channels;
696         hw_cfg->mf.data_format = module->data_format;
697         p += ep_sz;
698
699         fs_cfg = p;
700         param_data = &fs_cfg->param_data;
701         param_data->module_instance_id = module->instance_id;
702         param_data->error_code = 0;
703         param_data->param_id = PARAM_ID_HW_EP_FRAME_SIZE_FACTOR;
704         param_data->param_size = fs_sz - APM_MODULE_PARAM_DATA_SIZE;
705         fs_cfg->frame_size_factor = 1;
706         p += fs_sz;
707
708         intf_cfg = p;
709         param_data = &intf_cfg->param_data;
710         param_data->module_instance_id = module->instance_id;
711         param_data->error_code = 0;
712         param_data->param_id = PARAM_ID_CODEC_DMA_INTF_CFG;
713         param_data->param_size = ic_sz - APM_MODULE_PARAM_DATA_SIZE;
714
715         intf_cfg->cfg.lpaif_type = module->hw_interface_type;
716         intf_cfg->cfg.intf_index = module->hw_interface_idx;
717         intf_cfg->cfg.active_channels_mask = (1 << cfg->num_channels) - 1;
718         p += ic_sz;
719
720         pm_cfg = p;
721         param_data = &pm_cfg->param_data;
722         param_data->module_instance_id = module->instance_id;
723         param_data->error_code = 0;
724         param_data->param_id = PARAM_ID_HW_EP_POWER_MODE_CFG;
725         param_data->param_size = pm_sz - APM_MODULE_PARAM_DATA_SIZE;
726         pm_cfg->power_mode.power_mode = 0;
727
728         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
729
730         kfree(pkt);
731
732         return rc;
733 }
734
735 int audioreach_send_u32_param(struct q6apm_graph *graph, struct audioreach_module *module,
736                               uint32_t param_id, uint32_t param_val)
737 {
738         struct apm_module_param_data *param_data;
739         struct gpr_pkt *pkt;
740         uint32_t *param;
741         int rc, payload_size;
742         void *p;
743
744         payload_size = sizeof(uint32_t) + APM_MODULE_PARAM_DATA_SIZE;
745         p = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
746         if (IS_ERR(p))
747                 return -ENOMEM;
748
749         pkt = p;
750         p = p + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
751
752         param_data = p;
753         param_data->module_instance_id = module->instance_id;
754         param_data->error_code = 0;
755         param_data->param_id = param_id;
756         param_data->param_size = sizeof(uint32_t);
757
758         p = p + APM_MODULE_PARAM_DATA_SIZE;
759         param = p;
760         *param = param_val;
761
762         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
763
764         kfree(pkt);
765
766         return rc;
767 }
768 EXPORT_SYMBOL_GPL(audioreach_send_u32_param);
769
770 static int audioreach_sal_limiter_enable(struct q6apm_graph *graph,
771                                          struct audioreach_module *module, bool enable)
772 {
773         return audioreach_send_u32_param(graph, module, PARAM_ID_SAL_LIMITER_ENABLE, enable);
774 }
775
776 static int audioreach_sal_set_media_format(struct q6apm_graph *graph,
777                                            struct audioreach_module *module,
778                                            struct audioreach_module_config *cfg)
779 {
780         return audioreach_send_u32_param(graph, module, PARAM_ID_SAL_OUTPUT_CFG,  cfg->bit_width);
781 }
782
783 static int audioreach_module_enable(struct q6apm_graph *graph,
784                                     struct audioreach_module *module,
785                                     bool enable)
786 {
787         return audioreach_send_u32_param(graph, module, PARAM_ID_MODULE_ENABLE, enable);
788 }
789
790 static int audioreach_mfc_set_media_format(struct q6apm_graph *graph,
791                                            struct audioreach_module *module,
792                                            struct audioreach_module_config *cfg)
793 {
794         struct apm_module_param_data *param_data;
795         struct param_id_mfc_media_format *media_format;
796         uint32_t num_channels = cfg->num_channels;
797         int payload_size;
798         struct gpr_pkt *pkt;
799         int rc;
800         void *p;
801
802         payload_size = APM_MFC_CFG_PSIZE(media_format, num_channels) +
803                 APM_MODULE_PARAM_DATA_SIZE;
804
805         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
806         if (IS_ERR(pkt))
807                 return PTR_ERR(pkt);
808
809         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
810
811         param_data = p;
812         param_data->module_instance_id = module->instance_id;
813         param_data->error_code = 0;
814         param_data->param_id = PARAM_ID_MFC_OUTPUT_MEDIA_FORMAT;
815         param_data->param_size = APM_MFC_CFG_PSIZE(media_format, num_channels);
816         p = p + APM_MODULE_PARAM_DATA_SIZE;
817         media_format = p;
818
819         media_format->sample_rate = cfg->sample_rate;
820         media_format->bit_width = cfg->bit_width;
821         media_format->num_channels = cfg->num_channels;
822
823         if (num_channels == 1) {
824                 media_format->channel_mapping[0] = PCM_CHANNEL_L;
825         } else if (num_channels == 2) {
826                 media_format->channel_mapping[0] = PCM_CHANNEL_L;
827                 media_format->channel_mapping[1] = PCM_CHANNEL_R;
828         }
829
830         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
831
832         kfree(pkt);
833
834         return rc;
835 }
836
837 static int audioreach_i2s_set_media_format(struct q6apm_graph *graph,
838                                            struct audioreach_module *module,
839                                            struct audioreach_module_config *cfg)
840 {
841         struct apm_module_frame_size_factor_cfg *fs_cfg;
842         struct apm_module_param_data *param_data;
843         struct apm_i2s_module_intf_cfg *intf_cfg;
844         struct apm_module_hw_ep_mf_cfg *hw_cfg;
845         int ic_sz, ep_sz, fs_sz;
846         int rc, payload_size;
847         struct gpr_pkt *pkt;
848         void *p;
849
850         ic_sz = APM_I2S_INTF_CFG_PSIZE;
851         ep_sz = APM_HW_EP_CFG_PSIZE;
852         fs_sz = APM_FS_CFG_PSIZE;
853
854         payload_size = ic_sz + ep_sz + fs_sz;
855
856         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
857         if (IS_ERR(pkt))
858                 return PTR_ERR(pkt);
859
860         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
861         intf_cfg = p;
862
863         param_data = &intf_cfg->param_data;
864         param_data->module_instance_id = module->instance_id;
865         param_data->error_code = 0;
866         param_data->param_id = PARAM_ID_I2S_INTF_CFG;
867         param_data->param_size = ic_sz - APM_MODULE_PARAM_DATA_SIZE;
868
869         intf_cfg->cfg.intf_idx = module->hw_interface_idx;
870         intf_cfg->cfg.sd_line_idx = module->sd_line_idx;
871
872         switch (cfg->fmt & SND_SOC_DAIFMT_CLOCK_PROVIDER_MASK) {
873         case SND_SOC_DAIFMT_BP_FP:
874                 intf_cfg->cfg.ws_src = CONFIG_I2S_WS_SRC_INTERNAL;
875                 break;
876         case SND_SOC_DAIFMT_BC_FC:
877                 /* CPU is slave */
878                 intf_cfg->cfg.ws_src = CONFIG_I2S_WS_SRC_EXTERNAL;
879                 break;
880         default:
881                 break;
882         }
883
884         p += ic_sz;
885         hw_cfg = p;
886         param_data = &hw_cfg->param_data;
887         param_data->module_instance_id = module->instance_id;
888         param_data->error_code = 0;
889         param_data->param_id = PARAM_ID_HW_EP_MF_CFG;
890         param_data->param_size = ep_sz - APM_MODULE_PARAM_DATA_SIZE;
891
892         hw_cfg->mf.sample_rate = cfg->sample_rate;
893         hw_cfg->mf.bit_width = cfg->bit_width;
894         hw_cfg->mf.num_channels = cfg->num_channels;
895         hw_cfg->mf.data_format = module->data_format;
896
897         p += ep_sz;
898         fs_cfg = p;
899         param_data = &fs_cfg->param_data;
900         param_data->module_instance_id = module->instance_id;
901         param_data->error_code = 0;
902         param_data->param_id = PARAM_ID_HW_EP_FRAME_SIZE_FACTOR;
903         param_data->param_size = fs_sz - APM_MODULE_PARAM_DATA_SIZE;
904         fs_cfg->frame_size_factor = 1;
905
906         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
907
908         kfree(pkt);
909
910         return rc;
911 }
912
913 static int audioreach_logging_set_media_format(struct q6apm_graph *graph,
914                                                struct audioreach_module *module)
915 {
916         struct apm_module_param_data *param_data;
917         struct data_logging_config *cfg;
918         int rc, payload_size;
919         struct gpr_pkt *pkt;
920         void *p;
921
922         payload_size = sizeof(*cfg) + APM_MODULE_PARAM_DATA_SIZE;
923         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
924         if (IS_ERR(pkt))
925                 return PTR_ERR(pkt);
926
927         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
928
929         param_data = p;
930         param_data->module_instance_id = module->instance_id;
931         param_data->error_code = 0;
932         param_data->param_id = PARAM_ID_DATA_LOGGING_CONFIG;
933         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
934
935         p = p + APM_MODULE_PARAM_DATA_SIZE;
936         cfg = p;
937         cfg->log_code = module->log_code;
938         cfg->log_tap_point_id = module->log_tap_point_id;
939         cfg->mode = module->log_mode;
940
941         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
942
943         kfree(pkt);
944
945         return rc;
946 }
947
948 static int audioreach_pcm_set_media_format(struct q6apm_graph *graph,
949                                            struct audioreach_module *module,
950                                            struct audioreach_module_config *mcfg)
951 {
952         struct payload_pcm_output_format_cfg *media_cfg;
953         uint32_t num_channels = mcfg->num_channels;
954         struct apm_pcm_module_media_fmt_cmd *cfg;
955         struct apm_module_param_data *param_data;
956         int rc, payload_size;
957         struct gpr_pkt *pkt;
958
959         if (num_channels > 2) {
960                 dev_err(graph->dev, "Error: Invalid channels (%d)!\n", num_channels);
961                 return -EINVAL;
962         }
963
964         payload_size = APM_PCM_MODULE_FMT_CMD_PSIZE(num_channels);
965
966         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
967         if (IS_ERR(pkt))
968                 return PTR_ERR(pkt);
969
970         cfg = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
971
972         param_data = &cfg->param_data;
973         param_data->module_instance_id = module->instance_id;
974         param_data->error_code = 0;
975         param_data->param_id = PARAM_ID_PCM_OUTPUT_FORMAT_CFG;
976         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
977
978         cfg->header.data_format = DATA_FORMAT_FIXED_POINT;
979         cfg->header.fmt_id = MEDIA_FMT_ID_PCM;
980         cfg->header.payload_size = APM_PCM_OUT_FMT_CFG_PSIZE(media_cfg, num_channels);
981
982         media_cfg = &cfg->media_cfg;
983         media_cfg->alignment = PCM_LSB_ALIGNED;
984         media_cfg->bit_width = mcfg->bit_width;
985         media_cfg->endianness = PCM_LITTLE_ENDIAN;
986         media_cfg->interleaved = module->interleave_type;
987         media_cfg->num_channels = mcfg->num_channels;
988         media_cfg->q_factor = mcfg->bit_width - 1;
989         media_cfg->bits_per_sample = mcfg->bit_width;
990
991         if (num_channels == 1) {
992                 media_cfg->channel_mapping[0] = PCM_CHANNEL_L;
993         } else if (num_channels == 2) {
994                 media_cfg->channel_mapping[0] = PCM_CHANNEL_L;
995                 media_cfg->channel_mapping[1] = PCM_CHANNEL_R;
996
997         }
998
999         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
1000
1001         kfree(pkt);
1002
1003         return rc;
1004 }
1005
1006 static int audioreach_shmem_set_media_format(struct q6apm_graph *graph,
1007                                              struct audioreach_module *module,
1008                                              struct audioreach_module_config *mcfg)
1009 {
1010         uint32_t num_channels = mcfg->num_channels;
1011         struct apm_module_param_data *param_data;
1012         struct payload_media_fmt_pcm *cfg;
1013         struct media_format *header;
1014         int rc, payload_size;
1015         struct gpr_pkt *pkt;
1016         void *p;
1017
1018         if (num_channels > 2) {
1019                 dev_err(graph->dev, "Error: Invalid channels (%d)!\n", num_channels);
1020                 return -EINVAL;
1021         }
1022
1023         payload_size = APM_SHMEM_FMT_CFG_PSIZE(num_channels) + APM_MODULE_PARAM_DATA_SIZE;
1024
1025         pkt = audioreach_alloc_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0,
1026                                      graph->port->id, module->instance_id);
1027         if (IS_ERR(pkt))
1028                 return PTR_ERR(pkt);
1029
1030         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1031
1032         param_data = p;
1033         param_data->module_instance_id = module->instance_id;
1034         param_data->error_code = 0;
1035         param_data->param_id = PARAM_ID_MEDIA_FORMAT;
1036         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
1037         p = p + APM_MODULE_PARAM_DATA_SIZE;
1038
1039         header = p;
1040         header->data_format = DATA_FORMAT_FIXED_POINT;
1041         header->fmt_id = MEDIA_FMT_ID_PCM;
1042         header->payload_size = payload_size - sizeof(*header);
1043
1044         p = p + sizeof(*header);
1045         cfg = p;
1046         cfg->sample_rate = mcfg->sample_rate;
1047         cfg->bit_width = mcfg->bit_width;
1048         cfg->alignment = PCM_LSB_ALIGNED;
1049         cfg->bits_per_sample = mcfg->bit_width;
1050         cfg->q_factor = mcfg->bit_width - 1;
1051         cfg->endianness = PCM_LITTLE_ENDIAN;
1052         cfg->num_channels = mcfg->num_channels;
1053
1054         if (mcfg->num_channels == 1) {
1055                 cfg->channel_mapping[0] =  PCM_CHANNEL_L;
1056         } else if (num_channels == 2) {
1057                 cfg->channel_mapping[0] =  PCM_CHANNEL_L;
1058                 cfg->channel_mapping[1] =  PCM_CHANNEL_R;
1059         }
1060
1061         rc = audioreach_graph_send_cmd_sync(graph, pkt, 0);
1062
1063         kfree(pkt);
1064
1065         return rc;
1066 }
1067
1068 int audioreach_gain_set_vol_ctrl(struct q6apm *apm, struct audioreach_module *module, int vol)
1069 {
1070         struct param_id_vol_ctrl_master_gain *cfg;
1071         struct apm_module_param_data *param_data;
1072         int rc, payload_size;
1073         struct gpr_pkt *pkt;
1074         void *p;
1075
1076         payload_size = sizeof(*cfg) + APM_MODULE_PARAM_DATA_SIZE;
1077         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
1078         if (IS_ERR(pkt))
1079                 return PTR_ERR(pkt);
1080
1081         p = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1082
1083         param_data = p;
1084         param_data->module_instance_id = module->instance_id;
1085         param_data->error_code = 0;
1086         param_data->param_id = PARAM_ID_VOL_CTRL_MASTER_GAIN;
1087         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
1088
1089         p = p + APM_MODULE_PARAM_DATA_SIZE;
1090         cfg = p;
1091         cfg->master_gain =  vol;
1092         rc = q6apm_send_cmd_sync(apm, pkt, 0);
1093
1094         kfree(pkt);
1095
1096         return rc;
1097 }
1098 EXPORT_SYMBOL_GPL(audioreach_gain_set_vol_ctrl);
1099
1100 static int audioreach_gain_set(struct q6apm_graph *graph, struct audioreach_module *module)
1101 {
1102         struct apm_module_param_data *param_data;
1103         struct apm_gain_module_cfg *cfg;
1104         int rc, payload_size;
1105         struct gpr_pkt *pkt;
1106
1107         payload_size = APM_GAIN_CFG_PSIZE;
1108         pkt = audioreach_alloc_apm_cmd_pkt(payload_size, APM_CMD_SET_CFG, 0);
1109         if (IS_ERR(pkt))
1110                 return PTR_ERR(pkt);
1111
1112         cfg = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1113
1114         param_data = &cfg->param_data;
1115         param_data->module_instance_id = module->instance_id;
1116         param_data->error_code = 0;
1117         param_data->param_id = APM_PARAM_ID_GAIN;
1118         param_data->param_size = payload_size - APM_MODULE_PARAM_DATA_SIZE;
1119
1120         cfg->gain_cfg.gain = module->gain;
1121
1122         rc = q6apm_send_cmd_sync(graph->apm, pkt, 0);
1123
1124         kfree(pkt);
1125
1126         return rc;
1127 }
1128
1129 int audioreach_set_media_format(struct q6apm_graph *graph, struct audioreach_module *module,
1130                                 struct audioreach_module_config *cfg)
1131 {
1132         int rc;
1133
1134         switch (module->module_id) {
1135         case MODULE_ID_DATA_LOGGING:
1136                 rc = audioreach_module_enable(graph, module, true);
1137                 if (!rc)
1138                         rc = audioreach_logging_set_media_format(graph, module);
1139                 break;
1140         case MODULE_ID_PCM_DEC:
1141         case MODULE_ID_PCM_ENC:
1142         case MODULE_ID_PCM_CNV:
1143                 rc = audioreach_pcm_set_media_format(graph, module, cfg);
1144                 break;
1145         case MODULE_ID_DISPLAY_PORT_SINK:
1146                 rc = audioreach_display_port_set_media_format(graph, module, cfg);
1147                 break;
1148         case MODULE_ID_I2S_SOURCE:
1149         case MODULE_ID_I2S_SINK:
1150                 rc = audioreach_i2s_set_media_format(graph, module, cfg);
1151                 break;
1152         case MODULE_ID_WR_SHARED_MEM_EP:
1153                 rc = audioreach_shmem_set_media_format(graph, module, cfg);
1154                 break;
1155         case MODULE_ID_GAIN:
1156                 rc = audioreach_gain_set(graph, module);
1157                 break;
1158         case MODULE_ID_CODEC_DMA_SINK:
1159         case MODULE_ID_CODEC_DMA_SOURCE:
1160                 rc = audioreach_codec_dma_set_media_format(graph, module, cfg);
1161                 break;
1162         case MODULE_ID_SAL:
1163                 rc = audioreach_sal_set_media_format(graph, module, cfg);
1164                 if (!rc)
1165                         rc = audioreach_sal_limiter_enable(graph, module, true);
1166                 break;
1167         case MODULE_ID_MFC:
1168                 rc = audioreach_mfc_set_media_format(graph, module, cfg);
1169                 break;
1170         default:
1171                 rc = 0;
1172         }
1173
1174         return rc;
1175 }
1176 EXPORT_SYMBOL_GPL(audioreach_set_media_format);
1177
1178 void audioreach_graph_free_buf(struct q6apm_graph *graph)
1179 {
1180         struct audioreach_graph_data *port;
1181
1182         mutex_lock(&graph->lock);
1183         port = &graph->rx_data;
1184         port->num_periods = 0;
1185         kfree(port->buf);
1186         port->buf = NULL;
1187
1188         port = &graph->tx_data;
1189         port->num_periods = 0;
1190         kfree(port->buf);
1191         port->buf = NULL;
1192         mutex_unlock(&graph->lock);
1193 }
1194 EXPORT_SYMBOL_GPL(audioreach_graph_free_buf);
1195
1196 int audioreach_map_memory_regions(struct q6apm_graph *graph, unsigned int dir, size_t period_sz,
1197                                   unsigned int periods, bool is_contiguous)
1198 {
1199         struct apm_shared_map_region_payload *mregions;
1200         struct apm_cmd_shared_mem_map_regions *cmd;
1201         uint32_t num_regions, buf_sz, payload_size;
1202         struct audioreach_graph_data *data;
1203         struct gpr_pkt *pkt;
1204         void *p;
1205         int rc, i;
1206
1207         if (dir == SNDRV_PCM_STREAM_PLAYBACK)
1208                 data = &graph->rx_data;
1209         else
1210                 data = &graph->tx_data;
1211
1212         if (is_contiguous) {
1213                 num_regions = 1;
1214                 buf_sz = period_sz * periods;
1215         } else {
1216                 buf_sz = period_sz;
1217                 num_regions = periods;
1218         }
1219
1220         /* DSP expects size should be aligned to 4K */
1221         buf_sz = ALIGN(buf_sz, 4096);
1222
1223         payload_size = sizeof(*cmd) + (sizeof(*mregions) * num_regions);
1224
1225         pkt = audioreach_alloc_apm_pkt(payload_size, APM_CMD_SHARED_MEM_MAP_REGIONS, dir,
1226                                      graph->port->id);
1227         if (IS_ERR(pkt))
1228                 return PTR_ERR(pkt);
1229
1230         p = (void *)pkt + GPR_HDR_SIZE;
1231         cmd = p;
1232         cmd->mem_pool_id = APM_MEMORY_MAP_SHMEM8_4K_POOL;
1233         cmd->num_regions = num_regions;
1234
1235         cmd->property_flag = 0x0;
1236
1237         mregions = p + sizeof(*cmd);
1238
1239         mutex_lock(&graph->lock);
1240
1241         for (i = 0; i < num_regions; i++) {
1242                 struct audio_buffer *ab;
1243
1244                 ab = &data->buf[i];
1245                 mregions->shm_addr_lsw = lower_32_bits(ab->phys);
1246                 mregions->shm_addr_msw = upper_32_bits(ab->phys);
1247                 mregions->mem_size_bytes = buf_sz;
1248                 ++mregions;
1249         }
1250         mutex_unlock(&graph->lock);
1251
1252         rc = audioreach_graph_send_cmd_sync(graph, pkt, APM_CMD_RSP_SHARED_MEM_MAP_REGIONS);
1253
1254         kfree(pkt);
1255
1256         return rc;
1257 }
1258 EXPORT_SYMBOL_GPL(audioreach_map_memory_regions);
1259
1260 int audioreach_shared_memory_send_eos(struct q6apm_graph *graph)
1261 {
1262         struct data_cmd_wr_sh_mem_ep_eos *eos;
1263         struct gpr_pkt *pkt;
1264         int rc = 0, iid;
1265
1266         iid = q6apm_graph_get_rx_shmem_module_iid(graph);
1267         pkt = audioreach_alloc_cmd_pkt(sizeof(*eos), DATA_CMD_WR_SH_MEM_EP_EOS, 0,
1268                                        graph->port->id, iid);
1269         if (IS_ERR(pkt))
1270                 return PTR_ERR(pkt);
1271
1272         eos = (void *)pkt + GPR_HDR_SIZE + APM_CMD_HDR_SIZE;
1273
1274         eos->policy = WR_SH_MEM_EP_EOS_POLICY_LAST;
1275
1276         rc = gpr_send_port_pkt(graph->port, pkt);
1277         kfree(pkt);
1278
1279         return rc;
1280 }
1281 EXPORT_SYMBOL_GPL(audioreach_shared_memory_send_eos);