8fe695b992b135e50d5381a3465d70d319e3c611
[platform/kernel/u-boot.git] / arch / arm / cpu / armv7 / omap-common / clocks-common.c
1 /*
2  *
3  * Clock initialization for OMAP4
4  *
5  * (C) Copyright 2010
6  * Texas Instruments, <www.ti.com>
7  *
8  * Aneesh V <aneesh@ti.com>
9  *
10  * Based on previous work by:
11  *      Santosh Shilimkar <santosh.shilimkar@ti.com>
12  *      Rajendra Nayak <rnayak@ti.com>
13  *
14  * SPDX-License-Identifier:     GPL-2.0+
15  */
16 #include <common.h>
17 #include <i2c.h>
18 #include <asm/omap_common.h>
19 #include <asm/gpio.h>
20 #include <asm/arch/clock.h>
21 #include <asm/arch/sys_proto.h>
22 #include <asm/utils.h>
23 #include <asm/omap_gpio.h>
24 #include <asm/emif.h>
25
26 #ifndef CONFIG_SPL_BUILD
27 /*
28  * printing to console doesn't work unless
29  * this code is executed from SPL
30  */
31 #define printf(fmt, args...)
32 #define puts(s)
33 #endif
34
35 const u32 sys_clk_array[8] = {
36         12000000,              /* 12 MHz */
37         20000000,               /* 20 MHz */
38         16800000,              /* 16.8 MHz */
39         19200000,              /* 19.2 MHz */
40         26000000,              /* 26 MHz */
41         27000000,              /* 27 MHz */
42         38400000,              /* 38.4 MHz */
43 };
44
45 static inline u32 __get_sys_clk_index(void)
46 {
47         s8 ind;
48         /*
49          * For ES1 the ROM code calibration of sys clock is not reliable
50          * due to hw issue. So, use hard-coded value. If this value is not
51          * correct for any board over-ride this function in board file
52          * From ES2.0 onwards you will get this information from
53          * CM_SYS_CLKSEL
54          */
55         if (omap_revision() == OMAP4430_ES1_0)
56                 ind = OMAP_SYS_CLK_IND_38_4_MHZ;
57         else {
58                 /* SYS_CLKSEL - 1 to match the dpll param array indices */
59                 ind = (readl((*prcm)->cm_sys_clksel) &
60                         CM_SYS_CLKSEL_SYS_CLKSEL_MASK) - 1;
61         }
62         return ind;
63 }
64
65 u32 get_sys_clk_index(void)
66         __attribute__ ((weak, alias("__get_sys_clk_index")));
67
68 u32 get_sys_clk_freq(void)
69 {
70         u8 index = get_sys_clk_index();
71         return sys_clk_array[index];
72 }
73
74 void setup_post_dividers(u32 const base, const struct dpll_params *params)
75 {
76         struct dpll_regs *const dpll_regs = (struct dpll_regs *)base;
77
78         /* Setup post-dividers */
79         if (params->m2 >= 0)
80                 writel(params->m2, &dpll_regs->cm_div_m2_dpll);
81         if (params->m3 >= 0)
82                 writel(params->m3, &dpll_regs->cm_div_m3_dpll);
83         if (params->m4_h11 >= 0)
84                 writel(params->m4_h11, &dpll_regs->cm_div_m4_h11_dpll);
85         if (params->m5_h12 >= 0)
86                 writel(params->m5_h12, &dpll_regs->cm_div_m5_h12_dpll);
87         if (params->m6_h13 >= 0)
88                 writel(params->m6_h13, &dpll_regs->cm_div_m6_h13_dpll);
89         if (params->m7_h14 >= 0)
90                 writel(params->m7_h14, &dpll_regs->cm_div_m7_h14_dpll);
91         if (params->h21 >= 0)
92                 writel(params->h21, &dpll_regs->cm_div_h21_dpll);
93         if (params->h22 >= 0)
94                 writel(params->h22, &dpll_regs->cm_div_h22_dpll);
95         if (params->h23 >= 0)
96                 writel(params->h23, &dpll_regs->cm_div_h23_dpll);
97         if (params->h24 >= 0)
98                 writel(params->h24, &dpll_regs->cm_div_h24_dpll);
99 }
100
101 static inline void do_bypass_dpll(u32 const base)
102 {
103         struct dpll_regs *dpll_regs = (struct dpll_regs *)base;
104
105         clrsetbits_le32(&dpll_regs->cm_clkmode_dpll,
106                         CM_CLKMODE_DPLL_DPLL_EN_MASK,
107                         DPLL_EN_FAST_RELOCK_BYPASS <<
108                         CM_CLKMODE_DPLL_EN_SHIFT);
109 }
110
111 static inline void wait_for_bypass(u32 const base)
112 {
113         struct dpll_regs *const dpll_regs = (struct dpll_regs *)base;
114
115         if (!wait_on_value(ST_DPLL_CLK_MASK, 0, &dpll_regs->cm_idlest_dpll,
116                                 LDELAY)) {
117                 printf("Bypassing DPLL failed %x\n", base);
118         }
119 }
120
121 static inline void do_lock_dpll(u32 const base)
122 {
123         struct dpll_regs *const dpll_regs = (struct dpll_regs *)base;
124
125         clrsetbits_le32(&dpll_regs->cm_clkmode_dpll,
126                       CM_CLKMODE_DPLL_DPLL_EN_MASK,
127                       DPLL_EN_LOCK << CM_CLKMODE_DPLL_EN_SHIFT);
128 }
129
130 static inline void wait_for_lock(u32 const base)
131 {
132         struct dpll_regs *const dpll_regs = (struct dpll_regs *)base;
133
134         if (!wait_on_value(ST_DPLL_CLK_MASK, ST_DPLL_CLK_MASK,
135                 &dpll_regs->cm_idlest_dpll, LDELAY)) {
136                 printf("DPLL locking failed for %x\n", base);
137                 hang();
138         }
139 }
140
141 inline u32 check_for_lock(u32 const base)
142 {
143         struct dpll_regs *const dpll_regs = (struct dpll_regs *)base;
144         u32 lock = readl(&dpll_regs->cm_idlest_dpll) & ST_DPLL_CLK_MASK;
145
146         return lock;
147 }
148
149 const struct dpll_params *get_mpu_dpll_params(struct dplls const *dpll_data)
150 {
151         u32 sysclk_ind = get_sys_clk_index();
152         return &dpll_data->mpu[sysclk_ind];
153 }
154
155 const struct dpll_params *get_core_dpll_params(struct dplls const *dpll_data)
156 {
157         u32 sysclk_ind = get_sys_clk_index();
158         return &dpll_data->core[sysclk_ind];
159 }
160
161 const struct dpll_params *get_per_dpll_params(struct dplls const *dpll_data)
162 {
163         u32 sysclk_ind = get_sys_clk_index();
164         return &dpll_data->per[sysclk_ind];
165 }
166
167 const struct dpll_params *get_iva_dpll_params(struct dplls const *dpll_data)
168 {
169         u32 sysclk_ind = get_sys_clk_index();
170         return &dpll_data->iva[sysclk_ind];
171 }
172
173 const struct dpll_params *get_usb_dpll_params(struct dplls const *dpll_data)
174 {
175         u32 sysclk_ind = get_sys_clk_index();
176         return &dpll_data->usb[sysclk_ind];
177 }
178
179 const struct dpll_params *get_abe_dpll_params(struct dplls const *dpll_data)
180 {
181 #ifdef CONFIG_SYS_OMAP_ABE_SYSCK
182         u32 sysclk_ind = get_sys_clk_index();
183         return &dpll_data->abe[sysclk_ind];
184 #else
185         return dpll_data->abe;
186 #endif
187 }
188
189 static const struct dpll_params *get_ddr_dpll_params
190                         (struct dplls const *dpll_data)
191 {
192         u32 sysclk_ind = get_sys_clk_index();
193
194         if (!dpll_data->ddr)
195                 return NULL;
196         return &dpll_data->ddr[sysclk_ind];
197 }
198
199 #ifdef CONFIG_DRIVER_TI_CPSW
200 static const struct dpll_params *get_gmac_dpll_params
201                         (struct dplls const *dpll_data)
202 {
203         u32 sysclk_ind = get_sys_clk_index();
204
205         if (!dpll_data->gmac)
206                 return NULL;
207         return &dpll_data->gmac[sysclk_ind];
208 }
209 #endif
210
211 static void do_setup_dpll(u32 const base, const struct dpll_params *params,
212                                 u8 lock, char *dpll)
213 {
214         u32 temp, M, N;
215         struct dpll_regs *const dpll_regs = (struct dpll_regs *)base;
216
217         if (!params)
218                 return;
219
220         temp = readl(&dpll_regs->cm_clksel_dpll);
221
222         if (check_for_lock(base)) {
223                 /*
224                  * The Dpll has already been locked by rom code using CH.
225                  * Check if M,N are matching with Ideal nominal opp values.
226                  * If matches, skip the rest otherwise relock.
227                  */
228                 M = (temp & CM_CLKSEL_DPLL_M_MASK) >> CM_CLKSEL_DPLL_M_SHIFT;
229                 N = (temp & CM_CLKSEL_DPLL_N_MASK) >> CM_CLKSEL_DPLL_N_SHIFT;
230                 if ((M != (params->m)) || (N != (params->n))) {
231                         debug("\n %s Dpll locked, but not for ideal M = %d,"
232                                 "N = %d values, current values are M = %d,"
233                                 "N= %d" , dpll, params->m, params->n,
234                                 M, N);
235                 } else {
236                         /* Dpll locked with ideal values for nominal opps. */
237                         debug("\n %s Dpll already locked with ideal"
238                                                 "nominal opp values", dpll);
239                         goto setup_post_dividers;
240                 }
241         }
242
243         bypass_dpll(base);
244
245         /* Set M & N */
246         temp &= ~CM_CLKSEL_DPLL_M_MASK;
247         temp |= (params->m << CM_CLKSEL_DPLL_M_SHIFT) & CM_CLKSEL_DPLL_M_MASK;
248
249         temp &= ~CM_CLKSEL_DPLL_N_MASK;
250         temp |= (params->n << CM_CLKSEL_DPLL_N_SHIFT) & CM_CLKSEL_DPLL_N_MASK;
251
252         writel(temp, &dpll_regs->cm_clksel_dpll);
253
254         /* Lock */
255         if (lock)
256                 do_lock_dpll(base);
257
258 setup_post_dividers:
259         setup_post_dividers(base, params);
260
261         /* Wait till the DPLL locks */
262         if (lock)
263                 wait_for_lock(base);
264 }
265
266 u32 omap_ddr_clk(void)
267 {
268         u32 ddr_clk, sys_clk_khz, omap_rev, divider;
269         const struct dpll_params *core_dpll_params;
270
271         omap_rev = omap_revision();
272         sys_clk_khz = get_sys_clk_freq() / 1000;
273
274         core_dpll_params = get_core_dpll_params(*dplls_data);
275
276         debug("sys_clk %d\n ", sys_clk_khz * 1000);
277
278         /* Find Core DPLL locked frequency first */
279         ddr_clk = sys_clk_khz * 2 * core_dpll_params->m /
280                         (core_dpll_params->n + 1);
281
282         if (omap_rev < OMAP5430_ES1_0) {
283                 /*
284                  * DDR frequency is PHY_ROOT_CLK/2
285                  * PHY_ROOT_CLK = Fdpll/2/M2
286                  */
287                 divider = 4;
288         } else {
289                 /*
290                  * DDR frequency is PHY_ROOT_CLK
291                  * PHY_ROOT_CLK = Fdpll/2/M2
292                  */
293                 divider = 2;
294         }
295
296         ddr_clk = ddr_clk / divider / core_dpll_params->m2;
297         ddr_clk *= 1000;        /* convert to Hz */
298         debug("ddr_clk %d\n ", ddr_clk);
299
300         return ddr_clk;
301 }
302
303 /*
304  * Lock MPU dpll
305  *
306  * Resulting MPU frequencies:
307  * 4430 ES1.0   : 600 MHz
308  * 4430 ES2.x   : 792 MHz (OPP Turbo)
309  * 4460         : 920 MHz (OPP Turbo) - DCC disabled
310  */
311 void configure_mpu_dpll(void)
312 {
313         const struct dpll_params *params;
314         struct dpll_regs *mpu_dpll_regs;
315         u32 omap_rev;
316         omap_rev = omap_revision();
317
318         /*
319          * DCC and clock divider settings for 4460.
320          * DCC is required, if more than a certain frequency is required.
321          * For, 4460 > 1GHZ.
322          *     5430 > 1.4GHZ.
323          */
324         if ((omap_rev >= OMAP4460_ES1_0) && (omap_rev < OMAP5430_ES1_0)) {
325                 mpu_dpll_regs =
326                         (struct dpll_regs *)((*prcm)->cm_clkmode_dpll_mpu);
327                 bypass_dpll((*prcm)->cm_clkmode_dpll_mpu);
328                 clrbits_le32((*prcm)->cm_mpu_mpu_clkctrl,
329                         MPU_CLKCTRL_CLKSEL_EMIF_DIV_MODE_MASK);
330                 setbits_le32((*prcm)->cm_mpu_mpu_clkctrl,
331                         MPU_CLKCTRL_CLKSEL_ABE_DIV_MODE_MASK);
332                 clrbits_le32(&mpu_dpll_regs->cm_clksel_dpll,
333                         CM_CLKSEL_DCC_EN_MASK);
334         }
335
336         params = get_mpu_dpll_params(*dplls_data);
337
338         do_setup_dpll((*prcm)->cm_clkmode_dpll_mpu, params, DPLL_LOCK, "mpu");
339         debug("MPU DPLL locked\n");
340 }
341
342 #if defined(CONFIG_USB_EHCI_OMAP) || defined(CONFIG_USB_XHCI_OMAP) || \
343         defined(CONFIG_USB_MUSB_OMAP2PLUS)
344 static void setup_usb_dpll(void)
345 {
346         const struct dpll_params *params;
347         u32 sys_clk_khz, sd_div, num, den;
348
349         sys_clk_khz = get_sys_clk_freq() / 1000;
350         /*
351          * USB:
352          * USB dpll is J-type. Need to set DPLL_SD_DIV for jitter correction
353          * DPLL_SD_DIV = CEILING ([DPLL_MULT/(DPLL_DIV+1)]* CLKINP / 250)
354          *      - where CLKINP is sys_clk in MHz
355          * Use CLKINP in KHz and adjust the denominator accordingly so
356          * that we have enough accuracy and at the same time no overflow
357          */
358         params = get_usb_dpll_params(*dplls_data);
359         num = params->m * sys_clk_khz;
360         den = (params->n + 1) * 250 * 1000;
361         num += den - 1;
362         sd_div = num / den;
363         clrsetbits_le32((*prcm)->cm_clksel_dpll_usb,
364                         CM_CLKSEL_DPLL_DPLL_SD_DIV_MASK,
365                         sd_div << CM_CLKSEL_DPLL_DPLL_SD_DIV_SHIFT);
366
367         /* Now setup the dpll with the regular function */
368         do_setup_dpll((*prcm)->cm_clkmode_dpll_usb, params, DPLL_LOCK, "usb");
369 }
370 #endif
371
372 static void setup_dplls(void)
373 {
374         u32 temp;
375         const struct dpll_params *params;
376         struct emif_reg_struct *emif = (struct emif_reg_struct *)EMIF1_BASE;
377
378         debug("setup_dplls\n");
379
380         /* CORE dpll */
381         params = get_core_dpll_params(*dplls_data);     /* default - safest */
382         /*
383          * Do not lock the core DPLL now. Just set it up.
384          * Core DPLL will be locked after setting up EMIF
385          * using the FREQ_UPDATE method(freq_update_core())
386          */
387         if (emif_sdram_type(readl(&emif->emif_sdram_config)) ==
388             EMIF_SDRAM_TYPE_LPDDR2)
389                 do_setup_dpll((*prcm)->cm_clkmode_dpll_core, params,
390                                                         DPLL_NO_LOCK, "core");
391         else
392                 do_setup_dpll((*prcm)->cm_clkmode_dpll_core, params,
393                                                         DPLL_LOCK, "core");
394         /* Set the ratios for CORE_CLK, L3_CLK, L4_CLK */
395         temp = (CLKSEL_CORE_X2_DIV_1 << CLKSEL_CORE_SHIFT) |
396             (CLKSEL_L3_CORE_DIV_2 << CLKSEL_L3_SHIFT) |
397             (CLKSEL_L4_L3_DIV_2 << CLKSEL_L4_SHIFT);
398         writel(temp, (*prcm)->cm_clksel_core);
399         debug("Core DPLL configured\n");
400
401         /* lock PER dpll */
402         params = get_per_dpll_params(*dplls_data);
403         do_setup_dpll((*prcm)->cm_clkmode_dpll_per,
404                         params, DPLL_LOCK, "per");
405         debug("PER DPLL locked\n");
406
407         /* MPU dpll */
408         configure_mpu_dpll();
409
410 #if defined(CONFIG_USB_EHCI_OMAP) || defined(CONFIG_USB_XHCI_OMAP) || \
411         defined(CONFIG_USB_MUSB_OMAP2PLUS)
412         setup_usb_dpll();
413 #endif
414         params = get_ddr_dpll_params(*dplls_data);
415         do_setup_dpll((*prcm)->cm_clkmode_dpll_ddrphy,
416                       params, DPLL_LOCK, "ddr");
417
418 #ifdef CONFIG_DRIVER_TI_CPSW
419         params = get_gmac_dpll_params(*dplls_data);
420         do_setup_dpll((*prcm)->cm_clkmode_dpll_gmac, params,
421                       DPLL_LOCK, "gmac");
422 #endif
423 }
424
425 u32 get_offset_code(u32 volt_offset, struct pmic_data *pmic)
426 {
427         u32 offset_code;
428
429         volt_offset -= pmic->base_offset;
430
431         offset_code = (volt_offset + pmic->step - 1) / pmic->step;
432
433         /*
434          * Offset codes 1-6 all give the base voltage in Palmas
435          * Offset code 0 switches OFF the SMPS
436          */
437         return offset_code + pmic->start_code;
438 }
439
440 void do_scale_vcore(u32 vcore_reg, u32 volt_mv, struct pmic_data *pmic)
441 {
442         u32 offset_code;
443         u32 offset = volt_mv;
444 #ifndef CONFIG_DRA7XX
445         int ret = 0;
446 #endif
447
448         if (!volt_mv)
449                 return;
450
451         pmic->pmic_bus_init();
452 #ifndef CONFIG_DRA7XX
453         /* See if we can first get the GPIO if needed */
454         if (pmic->gpio_en)
455                 ret = gpio_request(pmic->gpio, "PMIC_GPIO");
456
457         if (ret < 0) {
458                 printf("%s: gpio %d request failed %d\n", __func__,
459                                                         pmic->gpio, ret);
460                 return;
461         }
462
463         /* Pull the GPIO low to select SET0 register, while we program SET1 */
464         if (pmic->gpio_en)
465                 gpio_direction_output(pmic->gpio, 0);
466 #endif
467         /* convert to uV for better accuracy in the calculations */
468         offset *= 1000;
469
470         offset_code = get_offset_code(offset, pmic);
471
472         debug("do_scale_vcore: volt - %d offset_code - 0x%x\n", volt_mv,
473                 offset_code);
474
475         if (pmic->pmic_write(pmic->i2c_slave_addr, vcore_reg, offset_code))
476                 printf("Scaling voltage failed for 0x%x\n", vcore_reg);
477 #ifndef CONFIG_DRA7XX
478         if (pmic->gpio_en)
479                 gpio_direction_output(pmic->gpio, 1);
480 #endif
481 }
482
483 static u32 optimize_vcore_voltage(struct volts const *v)
484 {
485         u32 val;
486         if (!v->value)
487                 return 0;
488         if (!v->efuse.reg)
489                 return v->value;
490
491         switch (v->efuse.reg_bits) {
492         case 16:
493                 val = readw(v->efuse.reg);
494                 break;
495         case 32:
496                 val = readl(v->efuse.reg);
497                 break;
498         default:
499                 printf("Error: efuse 0x%08x bits=%d unknown\n",
500                        v->efuse.reg, v->efuse.reg_bits);
501                 return v->value;
502         }
503
504         if (!val) {
505                 printf("Error: efuse 0x%08x bits=%d val=0, using %d\n",
506                        v->efuse.reg, v->efuse.reg_bits, v->value);
507                 return v->value;
508         }
509
510         debug("%s:efuse 0x%08x bits=%d Vnom=%d, using efuse value %d\n",
511               __func__, v->efuse.reg, v->efuse.reg_bits, v->value, val);
512         return val;
513 }
514
515 #ifdef CONFIG_IODELAY_RECALIBRATION
516 void __weak recalibrate_iodelay(void)
517 {
518 }
519 #endif
520
521 /*
522  * Setup the voltages for the main SoC core power domains.
523  * We start with the maximum voltages allowed here, as set in the corresponding
524  * vcores_data struct, and then scale (usually down) to the fused values that
525  * are retrieved from the SoC. The scaling happens only if the efuse.reg fields
526  * are initialised.
527  * Rail grouping is supported for the DRA7xx SoCs only, therefore the code is
528  * compiled conditionally. Note that the new code writes the scaled (or zeroed)
529  * values back to the vcores_data struct for eventual reuse. Zero values mean
530  * that the corresponding rails are not controlled separately, and are not sent
531  * to the PMIC.
532  */
533 void scale_vcores(struct vcores_data const *vcores)
534 {
535 #if defined(CONFIG_DRA7XX)
536         int i;
537         struct volts *pv = (struct volts *)vcores;
538         struct volts *px;
539
540         for (i=0; i<(sizeof(struct vcores_data)/sizeof(struct volts)); i++) {
541                 debug("%d -> ", pv->value);
542                 if (pv->value) {
543                         /* Handle non-empty members only */
544                         pv->value = optimize_vcore_voltage(pv);
545                         px = (struct volts *)vcores;
546                         while (px < pv) {
547                                 /*
548                                  * Scan already handled non-empty members to see
549                                  * if we have a group and find the max voltage,
550                                  * which is set to the first occurance of the
551                                  * particular SMPS; the other group voltages are
552                                  * zeroed.
553                                  */
554                                 if (px->value) {
555                                         if ((pv->pmic->i2c_slave_addr ==
556                                              px->pmic->i2c_slave_addr) &&
557                                             (pv->addr == px->addr)) {
558                                                 /* Same PMIC, same SMPS */
559                                                 if (pv->value > px->value)
560                                                         px->value = pv->value;
561
562                                                 pv->value = 0;
563                                         }
564                                 }
565                                 px++;
566                         }
567                 }
568                 debug("%d\n", pv->value);
569                 pv++;
570         }
571
572         debug("cor: %d\n", vcores->core.value);
573         do_scale_vcore(vcores->core.addr, vcores->core.value, vcores->core.pmic);
574         /*
575          * IO delay recalibration should be done immediately after
576          * adjusting AVS voltages for VDD_CORE_L.
577          * Respective boards should call __recalibrate_iodelay()
578          * with proper mux, virtual and manual mode configurations.
579          */
580 #ifdef CONFIG_IODELAY_RECALIBRATION
581         recalibrate_iodelay();
582 #endif
583
584         debug("mpu: %d\n", vcores->mpu.value);
585         do_scale_vcore(vcores->mpu.addr, vcores->mpu.value, vcores->mpu.pmic);
586         /* Configure MPU ABB LDO after scale */
587         abb_setup(vcores->mpu.efuse.reg,
588                   (*ctrl)->control_wkup_ldovbb_mpu_voltage_ctrl,
589                   (*prcm)->prm_abbldo_mpu_setup,
590                   (*prcm)->prm_abbldo_mpu_ctrl,
591                   (*prcm)->prm_irqstatus_mpu_2,
592                   vcores->mpu.abb_tx_done_mask,
593                   OMAP_ABB_FAST_OPP);
594
595         /* The .mm member is not used for the DRA7xx */
596
597         debug("gpu: %d\n", vcores->gpu.value);
598         do_scale_vcore(vcores->gpu.addr, vcores->gpu.value, vcores->gpu.pmic);
599         debug("eve: %d\n", vcores->eve.value);
600         do_scale_vcore(vcores->eve.addr, vcores->eve.value, vcores->eve.pmic);
601         debug("iva: %d\n", vcores->iva.value);
602         do_scale_vcore(vcores->iva.addr, vcores->iva.value, vcores->iva.pmic);
603         /* Might need udelay(1000) here if debug is enabled to see all prints */
604 #else
605         u32 val;
606
607         val = optimize_vcore_voltage(&vcores->core);
608         do_scale_vcore(vcores->core.addr, val, vcores->core.pmic);
609
610         /*
611          * IO delay recalibration should be done immediately after
612          * adjusting AVS voltages for VDD_CORE_L.
613          * Respective boards should call __recalibrate_iodelay()
614          * with proper mux, virtual and manual mode configurations.
615          */
616 #ifdef CONFIG_IODELAY_RECALIBRATION
617         recalibrate_iodelay();
618 #endif
619
620         val = optimize_vcore_voltage(&vcores->mpu);
621         do_scale_vcore(vcores->mpu.addr, val, vcores->mpu.pmic);
622
623         /* Configure MPU ABB LDO after scale */
624         abb_setup(vcores->mpu.efuse.reg,
625                   (*ctrl)->control_wkup_ldovbb_mpu_voltage_ctrl,
626                   (*prcm)->prm_abbldo_mpu_setup,
627                   (*prcm)->prm_abbldo_mpu_ctrl,
628                   (*prcm)->prm_irqstatus_mpu_2,
629                   vcores->mpu.abb_tx_done_mask,
630                   OMAP_ABB_FAST_OPP);
631
632         val = optimize_vcore_voltage(&vcores->mm);
633         do_scale_vcore(vcores->mm.addr, val, vcores->mm.pmic);
634
635         val = optimize_vcore_voltage(&vcores->gpu);
636         do_scale_vcore(vcores->gpu.addr, val, vcores->gpu.pmic);
637
638         val = optimize_vcore_voltage(&vcores->eve);
639         do_scale_vcore(vcores->eve.addr, val, vcores->eve.pmic);
640
641         val = optimize_vcore_voltage(&vcores->iva);
642         do_scale_vcore(vcores->iva.addr, val, vcores->iva.pmic);
643 #endif
644 }
645
646 static inline void enable_clock_domain(u32 const clkctrl_reg, u32 enable_mode)
647 {
648         clrsetbits_le32(clkctrl_reg, CD_CLKCTRL_CLKTRCTRL_MASK,
649                         enable_mode << CD_CLKCTRL_CLKTRCTRL_SHIFT);
650         debug("Enable clock domain - %x\n", clkctrl_reg);
651 }
652
653 static inline void disable_clock_domain(u32 const clkctrl_reg)
654 {
655         clrsetbits_le32(clkctrl_reg, CD_CLKCTRL_CLKTRCTRL_MASK,
656                         CD_CLKCTRL_CLKTRCTRL_SW_SLEEP <<
657                         CD_CLKCTRL_CLKTRCTRL_SHIFT);
658         debug("Disable clock domain - %x\n", clkctrl_reg);
659 }
660
661 static inline void wait_for_clk_enable(u32 clkctrl_addr)
662 {
663         u32 clkctrl, idlest = MODULE_CLKCTRL_IDLEST_DISABLED;
664         u32 bound = LDELAY;
665
666         while ((idlest == MODULE_CLKCTRL_IDLEST_DISABLED) ||
667                 (idlest == MODULE_CLKCTRL_IDLEST_TRANSITIONING)) {
668
669                 clkctrl = readl(clkctrl_addr);
670                 idlest = (clkctrl & MODULE_CLKCTRL_IDLEST_MASK) >>
671                          MODULE_CLKCTRL_IDLEST_SHIFT;
672                 if (--bound == 0) {
673                         printf("Clock enable failed for 0x%x idlest 0x%x\n",
674                                 clkctrl_addr, clkctrl);
675                         return;
676                 }
677         }
678 }
679
680 static inline void enable_clock_module(u32 const clkctrl_addr, u32 enable_mode,
681                                 u32 wait_for_enable)
682 {
683         clrsetbits_le32(clkctrl_addr, MODULE_CLKCTRL_MODULEMODE_MASK,
684                         enable_mode << MODULE_CLKCTRL_MODULEMODE_SHIFT);
685         debug("Enable clock module - %x\n", clkctrl_addr);
686         if (wait_for_enable)
687                 wait_for_clk_enable(clkctrl_addr);
688 }
689
690 static inline void wait_for_clk_disable(u32 clkctrl_addr)
691 {
692         u32 clkctrl, idlest = MODULE_CLKCTRL_IDLEST_FULLY_FUNCTIONAL;
693         u32 bound = LDELAY;
694
695         while ((idlest != MODULE_CLKCTRL_IDLEST_DISABLED)) {
696                 clkctrl = readl(clkctrl_addr);
697                 idlest = (clkctrl & MODULE_CLKCTRL_IDLEST_MASK) >>
698                          MODULE_CLKCTRL_IDLEST_SHIFT;
699                 if (--bound == 0) {
700                         printf("Clock disable failed for 0x%x idlest 0x%x\n",
701                                clkctrl_addr, clkctrl);
702                         return;
703                 }
704         }
705 }
706
707 static inline void disable_clock_module(u32 const clkctrl_addr,
708                                         u32 wait_for_disable)
709 {
710         clrsetbits_le32(clkctrl_addr, MODULE_CLKCTRL_MODULEMODE_MASK,
711                         MODULE_CLKCTRL_MODULEMODE_SW_DISABLE <<
712                         MODULE_CLKCTRL_MODULEMODE_SHIFT);
713         debug("Disable clock module - %x\n", clkctrl_addr);
714         if (wait_for_disable)
715                 wait_for_clk_disable(clkctrl_addr);
716 }
717
718 void freq_update_core(void)
719 {
720         u32 freq_config1 = 0;
721         const struct dpll_params *core_dpll_params;
722         u32 omap_rev = omap_revision();
723
724         core_dpll_params = get_core_dpll_params(*dplls_data);
725         /* Put EMIF clock domain in sw wakeup mode */
726         enable_clock_domain((*prcm)->cm_memif_clkstctrl,
727                                 CD_CLKCTRL_CLKTRCTRL_SW_WKUP);
728         wait_for_clk_enable((*prcm)->cm_memif_emif_1_clkctrl);
729         wait_for_clk_enable((*prcm)->cm_memif_emif_2_clkctrl);
730
731         freq_config1 = SHADOW_FREQ_CONFIG1_FREQ_UPDATE_MASK |
732             SHADOW_FREQ_CONFIG1_DLL_RESET_MASK;
733
734         freq_config1 |= (DPLL_EN_LOCK << SHADOW_FREQ_CONFIG1_DPLL_EN_SHIFT) &
735                                 SHADOW_FREQ_CONFIG1_DPLL_EN_MASK;
736
737         freq_config1 |= (core_dpll_params->m2 <<
738                         SHADOW_FREQ_CONFIG1_M2_DIV_SHIFT) &
739                         SHADOW_FREQ_CONFIG1_M2_DIV_MASK;
740
741         writel(freq_config1, (*prcm)->cm_shadow_freq_config1);
742         if (!wait_on_value(SHADOW_FREQ_CONFIG1_FREQ_UPDATE_MASK, 0,
743                         (u32 *) (*prcm)->cm_shadow_freq_config1, LDELAY)) {
744                 puts("FREQ UPDATE procedure failed!!");
745                 hang();
746         }
747
748         /*
749          * Putting EMIF in HW_AUTO is seen to be causing issues with
750          * EMIF clocks and the master DLL. Keep EMIF in SW_WKUP
751          * in OMAP5430 ES1.0 silicon
752          */
753         if (omap_rev != OMAP5430_ES1_0) {
754                 /* Put EMIF clock domain back in hw auto mode */
755                 enable_clock_domain((*prcm)->cm_memif_clkstctrl,
756                                         CD_CLKCTRL_CLKTRCTRL_HW_AUTO);
757                 wait_for_clk_enable((*prcm)->cm_memif_emif_1_clkctrl);
758                 wait_for_clk_enable((*prcm)->cm_memif_emif_2_clkctrl);
759         }
760 }
761
762 void bypass_dpll(u32 const base)
763 {
764         do_bypass_dpll(base);
765         wait_for_bypass(base);
766 }
767
768 void lock_dpll(u32 const base)
769 {
770         do_lock_dpll(base);
771         wait_for_lock(base);
772 }
773
774 static void setup_clocks_for_console(void)
775 {
776         /* Do not add any spl_debug prints in this function */
777         clrsetbits_le32((*prcm)->cm_l4per_clkstctrl, CD_CLKCTRL_CLKTRCTRL_MASK,
778                         CD_CLKCTRL_CLKTRCTRL_SW_WKUP <<
779                         CD_CLKCTRL_CLKTRCTRL_SHIFT);
780
781         /* Enable all UARTs - console will be on one of them */
782         clrsetbits_le32((*prcm)->cm_l4per_uart1_clkctrl,
783                         MODULE_CLKCTRL_MODULEMODE_MASK,
784                         MODULE_CLKCTRL_MODULEMODE_SW_EXPLICIT_EN <<
785                         MODULE_CLKCTRL_MODULEMODE_SHIFT);
786
787         clrsetbits_le32((*prcm)->cm_l4per_uart2_clkctrl,
788                         MODULE_CLKCTRL_MODULEMODE_MASK,
789                         MODULE_CLKCTRL_MODULEMODE_SW_EXPLICIT_EN <<
790                         MODULE_CLKCTRL_MODULEMODE_SHIFT);
791
792         clrsetbits_le32((*prcm)->cm_l4per_uart3_clkctrl,
793                         MODULE_CLKCTRL_MODULEMODE_MASK,
794                         MODULE_CLKCTRL_MODULEMODE_SW_EXPLICIT_EN <<
795                         MODULE_CLKCTRL_MODULEMODE_SHIFT);
796
797         clrsetbits_le32((*prcm)->cm_l4per_uart4_clkctrl,
798                         MODULE_CLKCTRL_MODULEMODE_MASK,
799                         MODULE_CLKCTRL_MODULEMODE_SW_EXPLICIT_EN <<
800                         MODULE_CLKCTRL_MODULEMODE_SHIFT);
801
802         clrsetbits_le32((*prcm)->cm_l4per_clkstctrl, CD_CLKCTRL_CLKTRCTRL_MASK,
803                         CD_CLKCTRL_CLKTRCTRL_HW_AUTO <<
804                         CD_CLKCTRL_CLKTRCTRL_SHIFT);
805 }
806
807 void do_enable_clocks(u32 const *clk_domains,
808                             u32 const *clk_modules_hw_auto,
809                             u32 const *clk_modules_explicit_en,
810                             u8 wait_for_enable)
811 {
812         u32 i, max = 100;
813
814         /* Put the clock domains in SW_WKUP mode */
815         for (i = 0; (i < max) && clk_domains[i]; i++) {
816                 enable_clock_domain(clk_domains[i],
817                                     CD_CLKCTRL_CLKTRCTRL_SW_WKUP);
818         }
819
820         /* Clock modules that need to be put in HW_AUTO */
821         for (i = 0; (i < max) && clk_modules_hw_auto[i]; i++) {
822                 enable_clock_module(clk_modules_hw_auto[i],
823                                     MODULE_CLKCTRL_MODULEMODE_HW_AUTO,
824                                     wait_for_enable);
825         };
826
827         /* Clock modules that need to be put in SW_EXPLICIT_EN mode */
828         for (i = 0; (i < max) && clk_modules_explicit_en[i]; i++) {
829                 enable_clock_module(clk_modules_explicit_en[i],
830                                     MODULE_CLKCTRL_MODULEMODE_SW_EXPLICIT_EN,
831                                     wait_for_enable);
832         };
833
834         /* Put the clock domains in HW_AUTO mode now */
835         for (i = 0; (i < max) && clk_domains[i]; i++) {
836                 enable_clock_domain(clk_domains[i],
837                                     CD_CLKCTRL_CLKTRCTRL_HW_AUTO);
838         }
839 }
840
841 void do_disable_clocks(u32 const *clk_domains,
842                             u32 const *clk_modules_disable,
843                             u8 wait_for_disable)
844 {
845         u32 i, max = 100;
846
847
848         /* Clock modules that need to be put in SW_DISABLE */
849         for (i = 0; (i < max) && clk_modules_disable[i]; i++)
850                 disable_clock_module(clk_modules_disable[i],
851                                      wait_for_disable);
852
853         /* Put the clock domains in SW_SLEEP mode */
854         for (i = 0; (i < max) && clk_domains[i]; i++)
855                 disable_clock_domain(clk_domains[i]);
856 }
857
858 /**
859  * setup_early_clocks() - Setup early clocks needed for SoC
860  *
861  * Setup clocks for console, SPL basic initialization clocks and initialize
862  * the timer. This is invoked prior prcm_init.
863  */
864 void setup_early_clocks(void)
865 {
866         switch (omap_hw_init_context()) {
867         case OMAP_INIT_CONTEXT_SPL:
868         case OMAP_INIT_CONTEXT_UBOOT_FROM_NOR:
869         case OMAP_INIT_CONTEXT_UBOOT_AFTER_CH:
870                 setup_clocks_for_console();
871                 enable_basic_clocks();
872                 timer_init();
873                 /* Fall through */
874         }
875 }
876
877 void prcm_init(void)
878 {
879         switch (omap_hw_init_context()) {
880         case OMAP_INIT_CONTEXT_SPL:
881         case OMAP_INIT_CONTEXT_UBOOT_FROM_NOR:
882         case OMAP_INIT_CONTEXT_UBOOT_AFTER_CH:
883                 scale_vcores(*omap_vcores);
884                 setup_dplls();
885                 setup_warmreset_time();
886                 break;
887         default:
888                 break;
889         }
890
891         if (OMAP_INIT_CONTEXT_SPL != omap_hw_init_context())
892                 enable_basic_uboot_clocks();
893 }
894
895 void gpi2c_init(void)
896 {
897         static int gpi2c = 1;
898
899         if (gpi2c) {
900                 i2c_init(CONFIG_SYS_OMAP24_I2C_SPEED,
901                          CONFIG_SYS_OMAP24_I2C_SLAVE);
902                 gpi2c = 0;
903         }
904 }