arch/x86/kernel/acpi/boot.c

   1 /*
   2  *  boot.c - Architecture-Specific Low-Level ACPI Boot Support
   3  *
   4  *  Copyright (C) 2001, 2002 Paul Diefenbaugh <paul.s.diefenbaugh@intel.com>
   5  *  Copyright (C) 2001 Jun Nakajima <jun.nakajima@intel.com>
   6  *
   7  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
   8  *
   9  *  This program is free software; you can redistribute it and/or modify
  10  *  it under the terms of the GNU General Public License as published by
  11  *  the Free Software Foundation; either version 2 of the License, or
  12  *  (at your option) any later version.
  13  *
  14  *  This program is distributed in the hope that it will be useful,
  15  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  *  GNU General Public License for more details.
  18  *
  19  *  You should have received a copy of the GNU General Public License
  20  *  along with this program; if not, write to the Free Software
  21  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  22  *
  23  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  24  */
  25
  26 #include <linux/init.h>
  27 #include <linux/acpi.h>
  28 #include <linux/acpi_pmtmr.h>
  29 #include <linux/efi.h>
  30 #include <linux/cpumask.h>
  31 #include <linux/export.h>
  32 #include <linux/dmi.h>
  33 #include <linux/irq.h>
  34 #include <linux/slab.h>
  35 #include <linux/bootmem.h>
  36 #include <linux/ioport.h>
  37 #include <linux/pci.h>
  38 #include <linux/efi-bgrt.h>
  39
  40 #include <asm/e820/api.h>
  41 #include <asm/irqdomain.h>
  42 #include <asm/pci_x86.h>
  43 #include <asm/pgtable.h>
  44 #include <asm/io_apic.h>
  45 #include <asm/apic.h>
  46 #include <asm/io.h>
  47 #include <asm/mpspec.h>
  48 #include <asm/smp.h>
  49 #include <asm/i8259.h>
  50
  51 #include "sleep.h" /* To include x86_acpi_suspend_lowlevel */
  52 static int __initdata acpi_force = 0;
  53 int acpi_disabled;
  54 EXPORT_SYMBOL(acpi_disabled);
  55
  56 #ifdef  CONFIG_X86_64
  57 # include <asm/proto.h>
  58 #endif                          /* X86 */
  59
  60 #define PREFIX                  "ACPI: "
  61
  62 int acpi_noirq;                         /* skip ACPI IRQ initialization */
  63 int acpi_pci_disabled;          /* skip ACPI PCI scan and IRQ initialization */
  64 EXPORT_SYMBOL(acpi_pci_disabled);
  65
  66 int acpi_lapic;
  67 int acpi_ioapic;
  68 int acpi_strict;
  69 int acpi_disable_cmcff;
  70
  71 u8 acpi_sci_flags __initdata;
  72 int acpi_sci_override_gsi __initdata;
  73 int acpi_skip_timer_override __initdata;
  74 int acpi_use_timer_override __initdata;
  75 int acpi_fix_pin2_polarity __initdata;
  76
  77 #ifdef CONFIG_X86_LOCAL_APIC
  78 static u64 acpi_lapic_addr __initdata = APIC_DEFAULT_PHYS_BASE;
  79 #endif
  80
  81 #ifdef CONFIG_X86_IO_APIC
  82 /*
  83  * Locks related to IOAPIC hotplug
  84  * Hotplug side:
  85  *      ->device_hotplug_lock
  86  *              ->acpi_ioapic_lock
  87  *                      ->ioapic_lock
  88  * Interrupt mapping side:
  89  *      ->acpi_ioapic_lock
  90  *              ->ioapic_mutex
  91  *                      ->ioapic_lock
  92  */
  93 static DEFINE_MUTEX(acpi_ioapic_lock);
  94 #endif
  95
  96 /* --------------------------------------------------------------------------
  97                               Boot-time Configuration
  98    -------------------------------------------------------------------------- */
  99
 100 /*
 101  * The default interrupt routing model is PIC (8259).  This gets
 102  * overridden if IOAPICs are enumerated (below).
 103  */
 104 enum acpi_irq_model_id acpi_irq_model = ACPI_IRQ_MODEL_PIC;
 105
 106
 107 /*
 108  * ISA irqs by default are the first 16 gsis but can be
 109  * any gsi as specified by an interrupt source override.
 110  */
 111 static u32 isa_irq_to_gsi[NR_IRQS_LEGACY] __read_mostly = {
 112         0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15
 113 };
 114
 115 #define ACPI_INVALID_GSI                INT_MIN
 116
 117 /*
 118  * This is just a simple wrapper around early_memremap(),
 119  * with sanity checks for phys == 0 and size == 0.
 120  */
 121 void __init __iomem *__acpi_map_table(unsigned long phys, unsigned long size)
 122 {
 123
 124         if (!phys || !size)
 125                 return NULL;
 126
 127         return early_memremap(phys, size);
 128 }
 129
 130 void __init __acpi_unmap_table(void __iomem *map, unsigned long size)
 131 {
 132         if (!map || !size)
 133                 return;
 134
 135         early_memunmap(map, size);
 136 }
 137
 138 #ifdef CONFIG_X86_LOCAL_APIC
 139 static int __init acpi_parse_madt(struct acpi_table_header *table)
 140 {
 141         struct acpi_table_madt *madt = NULL;
 142
 143         if (!boot_cpu_has(X86_FEATURE_APIC))
 144                 return -EINVAL;
 145
 146         madt = (struct acpi_table_madt *)table;
 147         if (!madt) {
 148                 printk(KERN_WARNING PREFIX "Unable to map MADT\n");
 149                 return -ENODEV;
 150         }
 151
 152         if (madt->address) {
 153                 acpi_lapic_addr = (u64) madt->address;
 154
 155                 printk(KERN_DEBUG PREFIX "Local APIC address 0x%08x\n",
 156                        madt->address);
 157         }
 158
 159         default_acpi_madt_oem_check(madt->header.oem_id,
 160                                     madt->header.oem_table_id);
 161
 162         return 0;
 163 }
 164
 165 /**
 166  * acpi_register_lapic - register a local apic and generates a logic cpu number
 167  * @id: local apic id to register
 168  * @acpiid: ACPI id to register
 169  * @enabled: this cpu is enabled or not
 170  *
 171  * Returns the logic cpu number which maps to the local apic
 172  */
 173 static int acpi_register_lapic(int id, u32 acpiid, u8 enabled)
 174 {
 175         unsigned int ver = 0;
 176         int cpu;
 177
 178         if (id >= MAX_LOCAL_APIC) {
 179                 printk(KERN_INFO PREFIX "skipped apicid that is too big\n");
 180                 return -EINVAL;
 181         }
 182
 183         if (!enabled) {
 184                 ++disabled_cpus;
 185                 return -EINVAL;
 186         }
 187
 188         if (boot_cpu_physical_apicid != -1U)
 189                 ver = boot_cpu_apic_version;
 190
 191         cpu = generic_processor_info(id, ver);
 192         if (cpu >= 0)
 193                 early_per_cpu(x86_cpu_to_acpiid, cpu) = acpiid;
 194
 195         return cpu;
 196 }
 197
 198 static int __init
 199 acpi_parse_x2apic(struct acpi_subtable_header *header, const unsigned long end)
 200 {
 201         struct acpi_madt_local_x2apic *processor = NULL;
 202 #ifdef CONFIG_X86_X2APIC
 203         int apic_id;
 204         u8 enabled;
 205 #endif
 206
 207         processor = (struct acpi_madt_local_x2apic *)header;
 208
 209         if (BAD_MADT_ENTRY(processor, end))
 210                 return -EINVAL;
 211
 212         acpi_table_print_madt_entry(header);
 213
 214 #ifdef CONFIG_X86_X2APIC
 215         apic_id = processor->local_apic_id;
 216         enabled = processor->lapic_flags & ACPI_MADT_ENABLED;
 217
 218         /*
 219          * We need to register disabled CPU as well to permit
 220          * counting disabled CPUs. This allows us to size
 221          * cpus_possible_map more accurately, to permit
 222          * to not preallocating memory for all NR_CPUS
 223          * when we use CPU hotplug.
 224          */
 225         if (!apic->apic_id_valid(apic_id) && enabled)
 226                 printk(KERN_WARNING PREFIX "x2apic entry ignored\n");
 227         else
 228                 acpi_register_lapic(apic_id, processor->uid, enabled);
 229 #else
 230         printk(KERN_WARNING PREFIX "x2apic entry ignored\n");
 231 #endif
 232
 233         return 0;
 234 }
 235
 236 static int __init
 237 acpi_parse_lapic(struct acpi_subtable_header * header, const unsigned long end)
 238 {
 239         struct acpi_madt_local_apic *processor = NULL;
 240
 241         processor = (struct acpi_madt_local_apic *)header;
 242
 243         if (BAD_MADT_ENTRY(processor, end))
 244                 return -EINVAL;
 245
 246         acpi_table_print_madt_entry(header);
 247
 248         /* Ignore invalid ID */
 249         if (processor->id == 0xff)
 250                 return 0;
 251
 252         /*
 253          * We need to register disabled CPU as well to permit
 254          * counting disabled CPUs. This allows us to size
 255          * cpus_possible_map more accurately, to permit
 256          * to not preallocating memory for all NR_CPUS
 257          * when we use CPU hotplug.
 258          */
 259         acpi_register_lapic(processor->id,      /* APIC ID */
 260                             processor->processor_id, /* ACPI ID */
 261                             processor->lapic_flags & ACPI_MADT_ENABLED);
 262
 263         return 0;
 264 }
 265
 266 static int __init
 267 acpi_parse_sapic(struct acpi_subtable_header *header, const unsigned long end)
 268 {
 269         struct acpi_madt_local_sapic *processor = NULL;
 270
 271         processor = (struct acpi_madt_local_sapic *)header;
 272
 273         if (BAD_MADT_ENTRY(processor, end))
 274                 return -EINVAL;
 275
 276         acpi_table_print_madt_entry(header);
 277
 278         acpi_register_lapic((processor->id << 8) | processor->eid,/* APIC ID */
 279                             processor->processor_id, /* ACPI ID */
 280                             processor->lapic_flags & ACPI_MADT_ENABLED);
 281
 282         return 0;
 283 }
 284
 285 static int __init
 286 acpi_parse_lapic_addr_ovr(struct acpi_subtable_header * header,
 287                           const unsigned long end)
 288 {
 289         struct acpi_madt_local_apic_override *lapic_addr_ovr = NULL;
 290
 291         lapic_addr_ovr = (struct acpi_madt_local_apic_override *)header;
 292
 293         if (BAD_MADT_ENTRY(lapic_addr_ovr, end))
 294                 return -EINVAL;
 295
 296         acpi_table_print_madt_entry(header);
 297
 298         acpi_lapic_addr = lapic_addr_ovr->address;
 299
 300         return 0;
 301 }
 302
 303 static int __init
 304 acpi_parse_x2apic_nmi(struct acpi_subtable_header *header,
 305                       const unsigned long end)
 306 {
 307         struct acpi_madt_local_x2apic_nmi *x2apic_nmi = NULL;
 308
 309         x2apic_nmi = (struct acpi_madt_local_x2apic_nmi *)header;
 310
 311         if (BAD_MADT_ENTRY(x2apic_nmi, end))
 312                 return -EINVAL;
 313
 314         acpi_table_print_madt_entry(header);
 315
 316         if (x2apic_nmi->lint != 1)
 317                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
 318
 319         return 0;
 320 }
 321
 322 static int __init
 323 acpi_parse_lapic_nmi(struct acpi_subtable_header * header, const unsigned long end)
 324 {
 325         struct acpi_madt_local_apic_nmi *lapic_nmi = NULL;
 326
 327         lapic_nmi = (struct acpi_madt_local_apic_nmi *)header;
 328
 329         if (BAD_MADT_ENTRY(lapic_nmi, end))
 330                 return -EINVAL;
 331
 332         acpi_table_print_madt_entry(header);
 333
 334         if (lapic_nmi->lint != 1)
 335                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
 336
 337         return 0;
 338 }
 339
 340 #endif                          /*CONFIG_X86_LOCAL_APIC */
 341
 342 #ifdef CONFIG_X86_IO_APIC
 343 #define MP_ISA_BUS              0
 344
 345 static void __init mp_override_legacy_irq(u8 bus_irq, u8 polarity, u8 trigger,
 346                                           u32 gsi)
 347 {
 348         int ioapic;
 349         int pin;
 350         struct mpc_intsrc mp_irq;
 351
 352         /*
 353          * Check bus_irq boundary.
 354          */
 355         if (bus_irq >= NR_IRQS_LEGACY) {
 356                 pr_warn("Invalid bus_irq %u for legacy override\n", bus_irq);
 357                 return;
 358         }
 359
 360         /*
 361          * Convert 'gsi' to 'ioapic.pin'.
 362          */
 363         ioapic = mp_find_ioapic(gsi);
 364         if (ioapic < 0)
 365                 return;
 366         pin = mp_find_ioapic_pin(ioapic, gsi);
 367
 368         /*
 369          * TBD: This check is for faulty timer entries, where the override
 370          *      erroneously sets the trigger to level, resulting in a HUGE
 371          *      increase of timer interrupts!
 372          */
 373         if ((bus_irq == 0) && (trigger == 3))
 374                 trigger = 1;
 375
 376         mp_irq.type = MP_INTSRC;
 377         mp_irq.irqtype = mp_INT;
 378         mp_irq.irqflag = (trigger << 2) | polarity;
 379         mp_irq.srcbus = MP_ISA_BUS;
 380         mp_irq.srcbusirq = bus_irq;     /* IRQ */
 381         mp_irq.dstapic = mpc_ioapic_id(ioapic); /* APIC ID */
 382         mp_irq.dstirq = pin;    /* INTIN# */
 383
 384         mp_save_irq(&mp_irq);
 385
 386         /*
 387          * Reset default identity mapping if gsi is also an legacy IRQ,
 388          * otherwise there will be more than one entry with the same GSI
 389          * and acpi_isa_irq_to_gsi() may give wrong result.
 390          */
 391         if (gsi < nr_legacy_irqs() && isa_irq_to_gsi[gsi] == gsi)
 392                 isa_irq_to_gsi[gsi] = ACPI_INVALID_GSI;
 393         isa_irq_to_gsi[bus_irq] = gsi;
 394 }
 395
 396 static int mp_config_acpi_gsi(struct device *dev, u32 gsi, int trigger,
 397                         int polarity)
 398 {
 399 #ifdef CONFIG_X86_MPPARSE
 400         struct mpc_intsrc mp_irq;
 401         struct pci_dev *pdev;
 402         unsigned char number;
 403         unsigned int devfn;
 404         int ioapic;
 405         u8 pin;
 406
 407         if (!acpi_ioapic)
 408                 return 0;
 409         if (!dev || !dev_is_pci(dev))
 410                 return 0;
 411
 412         pdev = to_pci_dev(dev);
 413         number = pdev->bus->number;
 414         devfn = pdev->devfn;
 415         pin = pdev->pin;
 416         /* print the entry should happen on mptable identically */
 417         mp_irq.type = MP_INTSRC;
 418         mp_irq.irqtype = mp_INT;
 419         mp_irq.irqflag = (trigger == ACPI_EDGE_SENSITIVE ? 4 : 0x0c) |
 420                                 (polarity == ACPI_ACTIVE_HIGH ? 1 : 3);
 421         mp_irq.srcbus = number;
 422         mp_irq.srcbusirq = (((devfn >> 3) & 0x1f) << 2) | ((pin - 1) & 3);
 423         ioapic = mp_find_ioapic(gsi);
 424         mp_irq.dstapic = mpc_ioapic_id(ioapic);
 425         mp_irq.dstirq = mp_find_ioapic_pin(ioapic, gsi);
 426
 427         mp_save_irq(&mp_irq);
 428 #endif
 429         return 0;
 430 }
 431
 432 static int __init
 433 acpi_parse_ioapic(struct acpi_subtable_header * header, const unsigned long end)
 434 {
 435         struct acpi_madt_io_apic *ioapic = NULL;
 436         struct ioapic_domain_cfg cfg = {
 437                 .type = IOAPIC_DOMAIN_DYNAMIC,
 438                 .ops = &mp_ioapic_irqdomain_ops,
 439         };
 440
 441         ioapic = (struct acpi_madt_io_apic *)header;
 442
 443         if (BAD_MADT_ENTRY(ioapic, end))
 444                 return -EINVAL;
 445
 446         acpi_table_print_madt_entry(header);
 447
 448         /* Statically assign IRQ numbers for IOAPICs hosting legacy IRQs */
 449         if (ioapic->global_irq_base < nr_legacy_irqs())
 450                 cfg.type = IOAPIC_DOMAIN_LEGACY;
 451
 452         mp_register_ioapic(ioapic->id, ioapic->address, ioapic->global_irq_base,
 453                            &cfg);
 454
 455         return 0;
 456 }
 457
 458 /*
 459  * Parse Interrupt Source Override for the ACPI SCI
 460  */
 461 static void __init acpi_sci_ioapic_setup(u8 bus_irq, u16 polarity, u16 trigger, u32 gsi)
 462 {
 463         if (trigger == 0)       /* compatible SCI trigger is level */
 464                 trigger = 3;
 465
 466         if (polarity == 0)      /* compatible SCI polarity is low */
 467                 polarity = 3;
 468
 469         /* Command-line over-ride via acpi_sci= */
 470         if (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK)
 471                 trigger = (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK) >> 2;
 472
 473         if (acpi_sci_flags & ACPI_MADT_POLARITY_MASK)
 474                 polarity = acpi_sci_flags & ACPI_MADT_POLARITY_MASK;
 475
 476         mp_override_legacy_irq(bus_irq, polarity, trigger, gsi);
 477         acpi_penalize_sci_irq(bus_irq, trigger, polarity);
 478
 479         /*
 480          * stash over-ride to indicate we've been here
 481          * and for later update of acpi_gbl_FADT
 482          */
 483         acpi_sci_override_gsi = gsi;
 484         return;
 485 }
 486
 487 static int __init
 488 acpi_parse_int_src_ovr(struct acpi_subtable_header * header,
 489                        const unsigned long end)
 490 {
 491         struct acpi_madt_interrupt_override *intsrc = NULL;
 492
 493         intsrc = (struct acpi_madt_interrupt_override *)header;
 494
 495         if (BAD_MADT_ENTRY(intsrc, end))
 496                 return -EINVAL;
 497
 498         acpi_table_print_madt_entry(header);
 499
 500         if (intsrc->source_irq == acpi_gbl_FADT.sci_interrupt) {
 501                 acpi_sci_ioapic_setup(intsrc->source_irq,
 502                                       intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 503                                       (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
 504                                       intsrc->global_irq);
 505                 return 0;
 506         }
 507
 508         if (intsrc->source_irq == 0) {
 509                 if (acpi_skip_timer_override) {
 510                         printk(PREFIX "BIOS IRQ0 override ignored.\n");
 511                         return 0;
 512                 }
 513
 514                 if ((intsrc->global_irq == 2) && acpi_fix_pin2_polarity
 515                         && (intsrc->inti_flags & ACPI_MADT_POLARITY_MASK)) {
 516                         intsrc->inti_flags &= ~ACPI_MADT_POLARITY_MASK;
 517                         printk(PREFIX "BIOS IRQ0 pin2 override: forcing polarity to high active.\n");
 518                 }
 519         }
 520
 521         mp_override_legacy_irq(intsrc->source_irq,
 522                                 intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 523                                 (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
 524                                 intsrc->global_irq);
 525
 526         return 0;
 527 }
 528
 529 static int __init
 530 acpi_parse_nmi_src(struct acpi_subtable_header * header, const unsigned long end)
 531 {
 532         struct acpi_madt_nmi_source *nmi_src = NULL;
 533
 534         nmi_src = (struct acpi_madt_nmi_source *)header;
 535
 536         if (BAD_MADT_ENTRY(nmi_src, end))
 537                 return -EINVAL;
 538
 539         acpi_table_print_madt_entry(header);
 540
 541         /* TBD: Support nimsrc entries? */
 542
 543         return 0;
 544 }
 545
 546 #endif                          /* CONFIG_X86_IO_APIC */
 547
 548 /*
 549  * acpi_pic_sci_set_trigger()
 550  *
 551  * use ELCR to set PIC-mode trigger type for SCI
 552  *
 553  * If a PIC-mode SCI is not recognized or gives spurious IRQ7's
 554  * it may require Edge Trigger -- use "acpi_sci=edge"
 555  *
 556  * Port 0x4d0-4d1 are ECLR1 and ECLR2, the Edge/Level Control Registers
 557  * for the 8259 PIC.  bit[n] = 1 means irq[n] is Level, otherwise Edge.
 558  * ECLR1 is IRQs 0-7 (IRQ 0, 1, 2 must be 0)
 559  * ECLR2 is IRQs 8-15 (IRQ 8, 13 must be 0)
 560  */
 561
 562 void __init acpi_pic_sci_set_trigger(unsigned int irq, u16 trigger)
 563 {
 564         unsigned int mask = 1 << irq;
 565         unsigned int old, new;
 566
 567         /* Real old ELCR mask */
 568         old = inb(0x4d0) | (inb(0x4d1) << 8);
 569
 570         /*
 571          * If we use ACPI to set PCI IRQs, then we should clear ELCR
 572          * since we will set it correctly as we enable the PCI irq
 573          * routing.
 574          */
 575         new = acpi_noirq ? old : 0;
 576
 577         /*
 578          * Update SCI information in the ELCR, it isn't in the PCI
 579          * routing tables..
 580          */
 581         switch (trigger) {
 582         case 1:         /* Edge - clear */
 583                 new &= ~mask;
 584                 break;
 585         case 3:         /* Level - set */
 586                 new |= mask;
 587                 break;
 588         }
 589
 590         if (old == new)
 591                 return;
 592
 593         printk(PREFIX "setting ELCR to %04x (from %04x)\n", new, old);
 594         outb(new, 0x4d0);
 595         outb(new >> 8, 0x4d1);
 596 }
 597
 598 int acpi_gsi_to_irq(u32 gsi, unsigned int *irqp)
 599 {
 600         int rc, irq, trigger, polarity;
 601
 602         if (acpi_irq_model == ACPI_IRQ_MODEL_PIC) {
 603                 *irqp = gsi;
 604                 return 0;
 605         }
 606
 607         rc = acpi_get_override_irq(gsi, &trigger, &polarity);
 608         if (rc == 0) {
 609                 trigger = trigger ? ACPI_LEVEL_SENSITIVE : ACPI_EDGE_SENSITIVE;
 610                 polarity = polarity ? ACPI_ACTIVE_LOW : ACPI_ACTIVE_HIGH;
 611                 irq = acpi_register_gsi(NULL, gsi, trigger, polarity);
 612                 if (irq >= 0) {
 613                         *irqp = irq;
 614                         return 0;
 615                 }
 616         }
 617
 618         return -1;
 619 }
 620 EXPORT_SYMBOL_GPL(acpi_gsi_to_irq);
 621
 622 int acpi_isa_irq_to_gsi(unsigned isa_irq, u32 *gsi)
 623 {
 624         if (isa_irq < nr_legacy_irqs() &&
 625             isa_irq_to_gsi[isa_irq] != ACPI_INVALID_GSI) {
 626                 *gsi = isa_irq_to_gsi[isa_irq];
 627                 return 0;
 628         }
 629
 630         return -1;
 631 }
 632
 633 static int acpi_register_gsi_pic(struct device *dev, u32 gsi,
 634                                  int trigger, int polarity)
 635 {
 636 #ifdef CONFIG_PCI
 637         /*
 638          * Make sure all (legacy) PCI IRQs are set as level-triggered.
 639          */
 640         if (trigger == ACPI_LEVEL_SENSITIVE)
 641                 elcr_set_level_irq(gsi);
 642 #endif
 643
 644         return gsi;
 645 }
 646
 647 #ifdef CONFIG_X86_LOCAL_APIC
 648 static int acpi_register_gsi_ioapic(struct device *dev, u32 gsi,
 649                                     int trigger, int polarity)
 650 {
 651         int irq = gsi;
 652 #ifdef CONFIG_X86_IO_APIC
 653         int node;
 654         struct irq_alloc_info info;
 655
 656         node = dev ? dev_to_node(dev) : NUMA_NO_NODE;
 657         trigger = trigger == ACPI_EDGE_SENSITIVE ? 0 : 1;
 658         polarity = polarity == ACPI_ACTIVE_HIGH ? 0 : 1;
 659         ioapic_set_alloc_attr(&info, node, trigger, polarity);
 660
 661         mutex_lock(&acpi_ioapic_lock);
 662         irq = mp_map_gsi_to_irq(gsi, IOAPIC_MAP_ALLOC, &info);
 663         /* Don't set up the ACPI SCI because it's already set up */
 664         if (irq >= 0 && enable_update_mptable &&
 665             acpi_gbl_FADT.sci_interrupt != gsi)
 666                 mp_config_acpi_gsi(dev, gsi, trigger, polarity);
 667         mutex_unlock(&acpi_ioapic_lock);
 668 #endif
 669
 670         return irq;
 671 }
 672
 673 static void acpi_unregister_gsi_ioapic(u32 gsi)
 674 {
 675 #ifdef CONFIG_X86_IO_APIC
 676         int irq;
 677
 678         mutex_lock(&acpi_ioapic_lock);
 679         irq = mp_map_gsi_to_irq(gsi, 0, NULL);
 680         if (irq > 0)
 681                 mp_unmap_irq(irq);
 682         mutex_unlock(&acpi_ioapic_lock);
 683 #endif
 684 }
 685 #endif
 686
 687 int (*__acpi_register_gsi)(struct device *dev, u32 gsi,
 688                            int trigger, int polarity) = acpi_register_gsi_pic;
 689 void (*__acpi_unregister_gsi)(u32 gsi) = NULL;
 690
 691 #ifdef CONFIG_ACPI_SLEEP
 692 int (*acpi_suspend_lowlevel)(void) = x86_acpi_suspend_lowlevel;
 693 #else
 694 int (*acpi_suspend_lowlevel)(void);
 695 #endif
 696
 697 /*
 698  * success: return IRQ number (>=0)
 699  * failure: return < 0
 700  */
 701 int acpi_register_gsi(struct device *dev, u32 gsi, int trigger, int polarity)
 702 {
 703         return __acpi_register_gsi(dev, gsi, trigger, polarity);
 704 }
 705 EXPORT_SYMBOL_GPL(acpi_register_gsi);
 706
 707 void acpi_unregister_gsi(u32 gsi)
 708 {
 709         if (__acpi_unregister_gsi)
 710                 __acpi_unregister_gsi(gsi);
 711 }
 712 EXPORT_SYMBOL_GPL(acpi_unregister_gsi);
 713
 714 #ifdef CONFIG_X86_LOCAL_APIC
 715 static void __init acpi_set_irq_model_ioapic(void)
 716 {
 717         acpi_irq_model = ACPI_IRQ_MODEL_IOAPIC;
 718         __acpi_register_gsi = acpi_register_gsi_ioapic;
 719         __acpi_unregister_gsi = acpi_unregister_gsi_ioapic;
 720         acpi_ioapic = 1;
 721 }
 722 #endif
 723
 724 /*
 725  *  ACPI based hotplug support for CPU
 726  */
 727 #ifdef CONFIG_ACPI_HOTPLUG_CPU
 728 #include <acpi/processor.h>
 729
 730 static int acpi_map_cpu2node(acpi_handle handle, int cpu, int physid)
 731 {
 732 #ifdef CONFIG_ACPI_NUMA
 733         int nid;
 734
 735         nid = acpi_get_node(handle);
 736         if (nid != NUMA_NO_NODE) {
 737                 set_apicid_to_node(physid, nid);
 738                 numa_set_node(cpu, nid);
 739         }
 740 #endif
 741         return 0;
 742 }
 743
 744 int acpi_map_cpu(acpi_handle handle, phys_cpuid_t physid, u32 acpi_id,
 745                  int *pcpu)
 746 {
 747         int cpu;
 748
 749         cpu = acpi_register_lapic(physid, acpi_id, ACPI_MADT_ENABLED);
 750         if (cpu < 0) {
 751                 pr_info(PREFIX "Unable to map lapic to logical cpu number\n");
 752                 return cpu;
 753         }
 754
 755         acpi_processor_set_pdc(handle);
 756         acpi_map_cpu2node(handle, cpu, physid);
 757
 758         *pcpu = cpu;
 759         return 0;
 760 }
 761 EXPORT_SYMBOL(acpi_map_cpu);
 762
 763 int acpi_unmap_cpu(int cpu)
 764 {
 765 #ifdef CONFIG_ACPI_NUMA
 766         set_apicid_to_node(per_cpu(x86_cpu_to_apicid, cpu), NUMA_NO_NODE);
 767 #endif
 768
 769         per_cpu(x86_cpu_to_apicid, cpu) = -1;
 770         set_cpu_present(cpu, false);
 771         num_processors--;
 772
 773         return (0);
 774 }
 775 EXPORT_SYMBOL(acpi_unmap_cpu);
 776 #endif                          /* CONFIG_ACPI_HOTPLUG_CPU */
 777
 778 int acpi_register_ioapic(acpi_handle handle, u64 phys_addr, u32 gsi_base)
 779 {
 780         int ret = -ENOSYS;
 781 #ifdef CONFIG_ACPI_HOTPLUG_IOAPIC
 782         int ioapic_id;
 783         u64 addr;
 784         struct ioapic_domain_cfg cfg = {
 785                 .type = IOAPIC_DOMAIN_DYNAMIC,
 786                 .ops = &mp_ioapic_irqdomain_ops,
 787         };
 788
 789         ioapic_id = acpi_get_ioapic_id(handle, gsi_base, &addr);
 790         if (ioapic_id < 0) {
 791                 unsigned long long uid;
 792                 acpi_status status;
 793
 794                 status = acpi_evaluate_integer(handle, METHOD_NAME__UID,
 795                                                NULL, &uid);
 796                 if (ACPI_FAILURE(status)) {
 797                         acpi_handle_warn(handle, "failed to get IOAPIC ID.\n");
 798                         return -EINVAL;
 799                 }
 800                 ioapic_id = (int)uid;
 801         }
 802
 803         mutex_lock(&acpi_ioapic_lock);
 804         ret  = mp_register_ioapic(ioapic_id, phys_addr, gsi_base, &cfg);
 805         mutex_unlock(&acpi_ioapic_lock);
 806 #endif
 807
 808         return ret;
 809 }
 810 EXPORT_SYMBOL(acpi_register_ioapic);
 811
 812 int acpi_unregister_ioapic(acpi_handle handle, u32 gsi_base)
 813 {
 814         int ret = -ENOSYS;
 815
 816 #ifdef CONFIG_ACPI_HOTPLUG_IOAPIC
 817         mutex_lock(&acpi_ioapic_lock);
 818         ret  = mp_unregister_ioapic(gsi_base);
 819         mutex_unlock(&acpi_ioapic_lock);
 820 #endif
 821
 822         return ret;
 823 }
 824 EXPORT_SYMBOL(acpi_unregister_ioapic);
 825
 826 /**
 827  * acpi_ioapic_registered - Check whether IOAPIC assoicatied with @gsi_base
 828  *                          has been registered
 829  * @handle:     ACPI handle of the IOAPIC deivce
 830  * @gsi_base:   GSI base associated with the IOAPIC
 831  *
 832  * Assume caller holds some type of lock to serialize acpi_ioapic_registered()
 833  * with acpi_register_ioapic()/acpi_unregister_ioapic().
 834  */
 835 int acpi_ioapic_registered(acpi_handle handle, u32 gsi_base)
 836 {
 837         int ret = 0;
 838
 839 #ifdef CONFIG_ACPI_HOTPLUG_IOAPIC
 840         mutex_lock(&acpi_ioapic_lock);
 841         ret  = mp_ioapic_registered(gsi_base);
 842         mutex_unlock(&acpi_ioapic_lock);
 843 #endif
 844
 845         return ret;
 846 }
 847
 848 static int __init acpi_parse_sbf(struct acpi_table_header *table)
 849 {
 850         struct acpi_table_boot *sb = (struct acpi_table_boot *)table;
 851
 852         sbf_port = sb->cmos_index;      /* Save CMOS port */
 853
 854         return 0;
 855 }
 856
 857 #ifdef CONFIG_HPET_TIMER
 858 #include <asm/hpet.h>
 859
 860 static struct resource *hpet_res __initdata;
 861
 862 static int __init acpi_parse_hpet(struct acpi_table_header *table)
 863 {
 864         struct acpi_table_hpet *hpet_tbl = (struct acpi_table_hpet *)table;
 865
 866         if (hpet_tbl->address.space_id != ACPI_SPACE_MEM) {
 867                 printk(KERN_WARNING PREFIX "HPET timers must be located in "
 868                        "memory.\n");
 869                 return -1;
 870         }
 871
 872         hpet_address = hpet_tbl->address.address;
 873         hpet_blockid = hpet_tbl->sequence;
 874
 875         /*
 876          * Some broken BIOSes advertise HPET at 0x0. We really do not
 877          * want to allocate a resource there.
 878          */
 879         if (!hpet_address) {
 880                 printk(KERN_WARNING PREFIX
 881                        "HPET id: %#x base: %#lx is invalid\n",
 882                        hpet_tbl->id, hpet_address);
 883                 return 0;
 884         }
 885 #ifdef CONFIG_X86_64
 886         /*
 887          * Some even more broken BIOSes advertise HPET at
 888          * 0xfed0000000000000 instead of 0xfed00000. Fix it up and add
 889          * some noise:
 890          */
 891         if (hpet_address == 0xfed0000000000000UL) {
 892                 if (!hpet_force_user) {
 893                         printk(KERN_WARNING PREFIX "HPET id: %#x "
 894                                "base: 0xfed0000000000000 is bogus\n "
 895                                "try hpet=force on the kernel command line to "
 896                                "fix it up to 0xfed00000.\n", hpet_tbl->id);
 897                         hpet_address = 0;
 898                         return 0;
 899                 }
 900                 printk(KERN_WARNING PREFIX
 901                        "HPET id: %#x base: 0xfed0000000000000 fixed up "
 902                        "to 0xfed00000.\n", hpet_tbl->id);
 903                 hpet_address >>= 32;
 904         }
 905 #endif
 906         printk(KERN_INFO PREFIX "HPET id: %#x base: %#lx\n",
 907                hpet_tbl->id, hpet_address);
 908
 909         /*
 910          * Allocate and initialize the HPET firmware resource for adding into
 911          * the resource tree during the lateinit timeframe.
 912          */
 913 #define HPET_RESOURCE_NAME_SIZE 9
 914         hpet_res = alloc_bootmem(sizeof(*hpet_res) + HPET_RESOURCE_NAME_SIZE);
 915
 916         hpet_res->name = (void *)&hpet_res[1];
 917         hpet_res->flags = IORESOURCE_MEM;
 918         snprintf((char *)hpet_res->name, HPET_RESOURCE_NAME_SIZE, "HPET %u",
 919                  hpet_tbl->sequence);
 920
 921         hpet_res->start = hpet_address;
 922         hpet_res->end = hpet_address + (1 * 1024) - 1;
 923
 924         return 0;
 925 }
 926
 927 /*
 928  * hpet_insert_resource inserts the HPET resources used into the resource
 929  * tree.
 930  */
 931 static __init int hpet_insert_resource(void)
 932 {
 933         if (!hpet_res)
 934                 return 1;
 935
 936         return insert_resource(&iomem_resource, hpet_res);
 937 }
 938
 939 late_initcall(hpet_insert_resource);
 940
 941 #else
 942 #define acpi_parse_hpet NULL
 943 #endif
 944
 945 static int __init acpi_parse_fadt(struct acpi_table_header *table)
 946 {
 947         if (!(acpi_gbl_FADT.boot_flags & ACPI_FADT_LEGACY_DEVICES)) {
 948                 pr_debug("ACPI: no legacy devices present\n");
 949                 x86_platform.legacy.devices.pnpbios = 0;
 950         }
 951
 952         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID &&
 953             !(acpi_gbl_FADT.boot_flags & ACPI_FADT_8042) &&
 954             x86_platform.legacy.i8042 != X86_LEGACY_I8042_PLATFORM_ABSENT) {
 955                 pr_debug("ACPI: i8042 controller is absent\n");
 956                 x86_platform.legacy.i8042 = X86_LEGACY_I8042_FIRMWARE_ABSENT;
 957         }
 958
 959         if (acpi_gbl_FADT.boot_flags & ACPI_FADT_NO_CMOS_RTC) {
 960                 pr_debug("ACPI: not registering RTC platform device\n");
 961                 x86_platform.legacy.rtc = 0;
 962         }
 963
 964 #ifdef CONFIG_X86_PM_TIMER
 965         /* detect the location of the ACPI PM Timer */
 966         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID) {
 967                 /* FADT rev. 2 */
 968                 if (acpi_gbl_FADT.xpm_timer_block.space_id !=
 969                     ACPI_ADR_SPACE_SYSTEM_IO)
 970                         return 0;
 971
 972                 pmtmr_ioport = acpi_gbl_FADT.xpm_timer_block.address;
 973                 /*
 974                  * "X" fields are optional extensions to the original V1.0
 975                  * fields, so we must selectively expand V1.0 fields if the
 976                  * corresponding X field is zero.
 977                  */
 978                 if (!pmtmr_ioport)
 979                         pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
 980         } else {
 981                 /* FADT rev. 1 */
 982                 pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
 983         }
 984         if (pmtmr_ioport)
 985                 printk(KERN_INFO PREFIX "PM-Timer IO Port: %#x\n",
 986                        pmtmr_ioport);
 987 #endif
 988         return 0;
 989 }
 990
 991 #ifdef  CONFIG_X86_LOCAL_APIC
 992 /*
 993  * Parse LAPIC entries in MADT
 994  * returns 0 on success, < 0 on error
 995  */
 996
 997 static int __init early_acpi_parse_madt_lapic_addr_ovr(void)
 998 {
 999         int count;
1000
1001         if (!boot_cpu_has(X86_FEATURE_APIC))
1002                 return -ENODEV;
1003
1004         /*
1005          * Note that the LAPIC address is obtained from the MADT (32-bit value)
1006          * and (optionally) overridden by a LAPIC_ADDR_OVR entry (64-bit value).
1007          */
1008
1009         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
1010                                       acpi_parse_lapic_addr_ovr, 0);
1011         if (count < 0) {
1012                 printk(KERN_ERR PREFIX
1013                        "Error parsing LAPIC address override entry\n");
1014                 return count;
1015         }
1016
1017         register_lapic_address(acpi_lapic_addr);
1018
1019         return count;
1020 }
1021
1022 static int __init acpi_parse_madt_lapic_entries(void)
1023 {
1024         int count;
1025         int x2count = 0;
1026         int ret;
1027         struct acpi_subtable_proc madt_proc[2];
1028
1029         if (!boot_cpu_has(X86_FEATURE_APIC))
1030                 return -ENODEV;
1031
1032         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_SAPIC,
1033                                       acpi_parse_sapic, MAX_LOCAL_APIC);
1034
1035         if (!count) {
1036                 memset(madt_proc, 0, sizeof(madt_proc));
1037                 madt_proc[0].id = ACPI_MADT_TYPE_LOCAL_APIC;
1038                 madt_proc[0].handler = acpi_parse_lapic;
1039                 madt_proc[1].id = ACPI_MADT_TYPE_LOCAL_X2APIC;
1040                 madt_proc[1].handler = acpi_parse_x2apic;
1041                 ret = acpi_table_parse_entries_array(ACPI_SIG_MADT,
1042                                 sizeof(struct acpi_table_madt),
1043                                 madt_proc, ARRAY_SIZE(madt_proc), MAX_LOCAL_APIC);
1044                 if (ret < 0) {
1045                         printk(KERN_ERR PREFIX
1046                                         "Error parsing LAPIC/X2APIC entries\n");
1047                         return ret;
1048                 }
1049
1050                 count = madt_proc[0].count;
1051                 x2count = madt_proc[1].count;
1052         }
1053         if (!count && !x2count) {
1054                 printk(KERN_ERR PREFIX "No LAPIC entries present\n");
1055                 /* TBD: Cleanup to allow fallback to MPS */
1056                 return -ENODEV;
1057         } else if (count < 0 || x2count < 0) {
1058                 printk(KERN_ERR PREFIX "Error parsing LAPIC entry\n");
1059                 /* TBD: Cleanup to allow fallback to MPS */
1060                 return count;
1061         }
1062
1063         x2count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_X2APIC_NMI,
1064                                         acpi_parse_x2apic_nmi, 0);
1065         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_NMI,
1066                                       acpi_parse_lapic_nmi, 0);
1067         if (count < 0 || x2count < 0) {
1068                 printk(KERN_ERR PREFIX "Error parsing LAPIC NMI entry\n");
1069                 /* TBD: Cleanup to allow fallback to MPS */
1070                 return count;
1071         }
1072         return 0;
1073 }
1074 #endif                          /* CONFIG_X86_LOCAL_APIC */
1075
1076 #ifdef  CONFIG_X86_IO_APIC
1077 static void __init mp_config_acpi_legacy_irqs(void)
1078 {
1079         int i;
1080         struct mpc_intsrc mp_irq;
1081
1082 #ifdef CONFIG_EISA
1083         /*
1084          * Fabricate the legacy ISA bus (bus #31).
1085          */
1086         mp_bus_id_to_type[MP_ISA_BUS] = MP_BUS_ISA;
1087 #endif
1088         set_bit(MP_ISA_BUS, mp_bus_not_pci);
1089         pr_debug("Bus #%d is ISA (nIRQs: %d)\n", MP_ISA_BUS, nr_legacy_irqs());
1090
1091         /*
1092          * Use the default configuration for the IRQs 0-15.  Unless
1093          * overridden by (MADT) interrupt source override entries.
1094          */
1095         for (i = 0; i < nr_legacy_irqs(); i++) {
1096                 int ioapic, pin;
1097                 unsigned int dstapic;
1098                 int idx;
1099                 u32 gsi;
1100
1101                 /* Locate the gsi that irq i maps to. */
1102                 if (acpi_isa_irq_to_gsi(i, &gsi))
1103                         continue;
1104
1105                 /*
1106                  * Locate the IOAPIC that manages the ISA IRQ.
1107                  */
1108                 ioapic = mp_find_ioapic(gsi);
1109                 if (ioapic < 0)
1110                         continue;
1111                 pin = mp_find_ioapic_pin(ioapic, gsi);
1112                 dstapic = mpc_ioapic_id(ioapic);
1113
1114                 for (idx = 0; idx < mp_irq_entries; idx++) {
1115                         struct mpc_intsrc *irq = mp_irqs + idx;
1116
1117                         /* Do we already have a mapping for this ISA IRQ? */
1118                         if (irq->srcbus == MP_ISA_BUS && irq->srcbusirq == i)
1119                                 break;
1120
1121                         /* Do we already have a mapping for this IOAPIC pin */
1122                         if (irq->dstapic == dstapic && irq->dstirq == pin)
1123                                 break;
1124                 }
1125
1126                 if (idx != mp_irq_entries) {
1127                         printk(KERN_DEBUG "ACPI: IRQ%d used by override.\n", i);
1128                         continue;       /* IRQ already used */
1129                 }
1130
1131                 mp_irq.type = MP_INTSRC;
1132                 mp_irq.irqflag = 0;     /* Conforming */
1133                 mp_irq.srcbus = MP_ISA_BUS;
1134                 mp_irq.dstapic = dstapic;
1135                 mp_irq.irqtype = mp_INT;
1136                 mp_irq.srcbusirq = i; /* Identity mapped */
1137                 mp_irq.dstirq = pin;
1138
1139                 mp_save_irq(&mp_irq);
1140         }
1141 }
1142
1143 /*
1144  * Parse IOAPIC related entries in MADT
1145  * returns 0 on success, < 0 on error
1146  */
1147 static int __init acpi_parse_madt_ioapic_entries(void)
1148 {
1149         int count;
1150
1151         /*
1152          * ACPI interpreter is required to complete interrupt setup,
1153          * so if it is off, don't enumerate the io-apics with ACPI.
1154          * If MPS is present, it will handle them,
1155          * otherwise the system will stay in PIC mode
1156          */
1157         if (acpi_disabled || acpi_noirq)
1158                 return -ENODEV;
1159
1160         if (!boot_cpu_has(X86_FEATURE_APIC))
1161                 return -ENODEV;
1162
1163         /*
1164          * if "noapic" boot option, don't look for IO-APICs
1165          */
1166         if (skip_ioapic_setup) {
1167                 printk(KERN_INFO PREFIX "Skipping IOAPIC probe "
1168                        "due to 'noapic' option.\n");
1169                 return -ENODEV;
1170         }
1171
1172         count = acpi_table_parse_madt(ACPI_MADT_TYPE_IO_APIC, acpi_parse_ioapic,
1173                                       MAX_IO_APICS);
1174         if (!count) {
1175                 printk(KERN_ERR PREFIX "No IOAPIC entries present\n");
1176                 return -ENODEV;
1177         } else if (count < 0) {
1178                 printk(KERN_ERR PREFIX "Error parsing IOAPIC entry\n");
1179                 return count;
1180         }
1181
1182         count = acpi_table_parse_madt(ACPI_MADT_TYPE_INTERRUPT_OVERRIDE,
1183                                       acpi_parse_int_src_ovr, nr_irqs);
1184         if (count < 0) {
1185                 printk(KERN_ERR PREFIX
1186                        "Error parsing interrupt source overrides entry\n");
1187                 /* TBD: Cleanup to allow fallback to MPS */
1188                 return count;
1189         }
1190
1191         /*
1192          * If BIOS did not supply an INT_SRC_OVR for the SCI
1193          * pretend we got one so we can set the SCI flags.
1194          */
1195         if (!acpi_sci_override_gsi)
1196                 acpi_sci_ioapic_setup(acpi_gbl_FADT.sci_interrupt, 0, 0,
1197                                       acpi_gbl_FADT.sci_interrupt);
1198
1199         /* Fill in identity legacy mappings where no override */
1200         mp_config_acpi_legacy_irqs();
1201
1202         count = acpi_table_parse_madt(ACPI_MADT_TYPE_NMI_SOURCE,
1203                                       acpi_parse_nmi_src, nr_irqs);
1204         if (count < 0) {
1205                 printk(KERN_ERR PREFIX "Error parsing NMI SRC entry\n");
1206                 /* TBD: Cleanup to allow fallback to MPS */
1207                 return count;
1208         }
1209
1210         return 0;
1211 }
1212 #else
1213 static inline int acpi_parse_madt_ioapic_entries(void)
1214 {
1215         return -1;
1216 }
1217 #endif  /* !CONFIG_X86_IO_APIC */
1218
1219 static void __init early_acpi_process_madt(void)
1220 {
1221 #ifdef CONFIG_X86_LOCAL_APIC
1222         int error;
1223
1224         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1225
1226                 /*
1227                  * Parse MADT LAPIC entries
1228                  */
1229                 error = early_acpi_parse_madt_lapic_addr_ovr();
1230                 if (!error) {
1231                         acpi_lapic = 1;
1232                         smp_found_config = 1;
1233                 }
1234                 if (error == -EINVAL) {
1235                         /*
1236                          * Dell Precision Workstation 410, 610 come here.
1237                          */
1238                         printk(KERN_ERR PREFIX
1239                                "Invalid BIOS MADT, disabling ACPI\n");
1240                         disable_acpi();
1241                 }
1242         }
1243 #endif
1244 }
1245
1246 static void __init acpi_process_madt(void)
1247 {
1248 #ifdef CONFIG_X86_LOCAL_APIC
1249         int error;
1250
1251         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1252
1253                 /*
1254                  * Parse MADT LAPIC entries
1255                  */
1256                 error = acpi_parse_madt_lapic_entries();
1257                 if (!error) {
1258                         acpi_lapic = 1;
1259
1260                         /*
1261                          * Parse MADT IO-APIC entries
1262                          */
1263                         mutex_lock(&acpi_ioapic_lock);
1264                         error = acpi_parse_madt_ioapic_entries();
1265                         mutex_unlock(&acpi_ioapic_lock);
1266                         if (!error) {
1267                                 acpi_set_irq_model_ioapic();
1268
1269                                 smp_found_config = 1;
1270                         }
1271                 }
1272                 if (error == -EINVAL) {
1273                         /*
1274                          * Dell Precision Workstation 410, 610 come here.
1275                          */
1276                         printk(KERN_ERR PREFIX
1277                                "Invalid BIOS MADT, disabling ACPI\n");
1278                         disable_acpi();
1279                 }
1280         } else {
1281                 /*
1282                  * ACPI found no MADT, and so ACPI wants UP PIC mode.
1283                  * In the event an MPS table was found, forget it.
1284                  * Boot with "acpi=off" to use MPS on such a system.
1285                  */
1286                 if (smp_found_config) {
1287                         printk(KERN_WARNING PREFIX
1288                                 "No APIC-table, disabling MPS\n");
1289                         smp_found_config = 0;
1290                 }
1291         }
1292
1293         /*
1294          * ACPI supports both logical (e.g. Hyper-Threading) and physical
1295          * processors, where MPS only supports physical.
1296          */
1297         if (acpi_lapic && acpi_ioapic)
1298                 printk(KERN_INFO "Using ACPI (MADT) for SMP configuration "
1299                        "information\n");
1300         else if (acpi_lapic)
1301                 printk(KERN_INFO "Using ACPI for processor (LAPIC) "
1302                        "configuration information\n");
1303 #endif
1304         return;
1305 }
1306
1307 static int __init disable_acpi_irq(const struct dmi_system_id *d)
1308 {
1309         if (!acpi_force) {
1310                 printk(KERN_NOTICE "%s detected: force use of acpi=noirq\n",
1311                        d->ident);
1312                 acpi_noirq_set();
1313         }
1314         return 0;
1315 }
1316
1317 static int __init disable_acpi_pci(const struct dmi_system_id *d)
1318 {
1319         if (!acpi_force) {
1320                 printk(KERN_NOTICE "%s detected: force use of pci=noacpi\n",
1321                        d->ident);
1322                 acpi_disable_pci();
1323         }
1324         return 0;
1325 }
1326
1327 static int __init dmi_disable_acpi(const struct dmi_system_id *d)
1328 {
1329         if (!acpi_force) {
1330                 printk(KERN_NOTICE "%s detected: acpi off\n", d->ident);
1331                 disable_acpi();
1332         } else {
1333                 printk(KERN_NOTICE
1334                        "Warning: DMI blacklist says broken, but acpi forced\n");
1335         }
1336         return 0;
1337 }
1338
1339 /*
1340  * Force ignoring BIOS IRQ0 override
1341  */
1342 static int __init dmi_ignore_irq0_timer_override(const struct dmi_system_id *d)
1343 {
1344         if (!acpi_skip_timer_override) {
1345                 pr_notice("%s detected: Ignoring BIOS IRQ0 override\n",
1346                         d->ident);
1347                 acpi_skip_timer_override = 1;
1348         }
1349         return 0;
1350 }
1351
1352 /*
1353  * ACPI offers an alternative platform interface model that removes
1354  * ACPI hardware requirements for platforms that do not implement
1355  * the PC Architecture.
1356  *
1357  * We initialize the Hardware-reduced ACPI model here:
1358  */
1359 static void __init acpi_reduced_hw_init(void)
1360 {
1361         if (acpi_gbl_reduced_hardware) {
1362                 /*
1363                  * Override x86_init functions and bypass legacy pic
1364                  * in Hardware-reduced ACPI mode
1365                  */
1366                 x86_init.timers.timer_init      = x86_init_noop;
1367                 x86_init.irqs.pre_vector_init   = x86_init_noop;
1368                 legacy_pic                      = &null_legacy_pic;
1369         }
1370 }
1371
1372 /*
1373  * If your system is blacklisted here, but you find that acpi=force
1374  * works for you, please contact linux-acpi@vger.kernel.org
1375  */
1376 static struct dmi_system_id __initdata acpi_dmi_table[] = {
1377         /*
1378          * Boxes that need ACPI disabled
1379          */
1380         {
1381          .callback = dmi_disable_acpi,
1382          .ident = "IBM Thinkpad",
1383          .matches = {
1384                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1385                      DMI_MATCH(DMI_BOARD_NAME, "2629H1G"),
1386                      },
1387          },
1388
1389         /*
1390          * Boxes that need ACPI PCI IRQ routing disabled
1391          */
1392         {
1393          .callback = disable_acpi_irq,
1394          .ident = "ASUS A7V",
1395          .matches = {
1396                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC"),
1397                      DMI_MATCH(DMI_BOARD_NAME, "<A7V>"),
1398                      /* newer BIOS, Revision 1011, does work */
1399                      DMI_MATCH(DMI_BIOS_VERSION,
1400                                "ASUS A7V ACPI BIOS Revision 1007"),
1401                      },
1402          },
1403         {
1404                 /*
1405                  * Latest BIOS for IBM 600E (1.16) has bad pcinum
1406                  * for LPC bridge, which is needed for the PCI
1407                  * interrupt links to work. DSDT fix is in bug 5966.
1408                  * 2645, 2646 model numbers are shared with 600/600E/600X
1409                  */
1410          .callback = disable_acpi_irq,
1411          .ident = "IBM Thinkpad 600 Series 2645",
1412          .matches = {
1413                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1414                      DMI_MATCH(DMI_BOARD_NAME, "2645"),
1415                      },
1416          },
1417         {
1418          .callback = disable_acpi_irq,
1419          .ident = "IBM Thinkpad 600 Series 2646",
1420          .matches = {
1421                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1422                      DMI_MATCH(DMI_BOARD_NAME, "2646"),
1423                      },
1424          },
1425         /*
1426          * Boxes that need ACPI PCI IRQ routing and PCI scan disabled
1427          */
1428         {                       /* _BBN 0 bug */
1429          .callback = disable_acpi_pci,
1430          .ident = "ASUS PR-DLS",
1431          .matches = {
1432                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1433                      DMI_MATCH(DMI_BOARD_NAME, "PR-DLS"),
1434                      DMI_MATCH(DMI_BIOS_VERSION,
1435                                "ASUS PR-DLS ACPI BIOS Revision 1010"),
1436                      DMI_MATCH(DMI_BIOS_DATE, "03/21/2003")
1437                      },
1438          },
1439         {
1440          .callback = disable_acpi_pci,
1441          .ident = "Acer TravelMate 36x Laptop",
1442          .matches = {
1443                      DMI_MATCH(DMI_SYS_VENDOR, "Acer"),
1444                      DMI_MATCH(DMI_PRODUCT_NAME, "TravelMate 360"),
1445                      },
1446          },
1447         {}
1448 };
1449
1450 /* second table for DMI checks that should run after early-quirks */
1451 static struct dmi_system_id __initdata acpi_dmi_table_late[] = {
1452         /*
1453          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1454          * which includes some code which overrides all temperature
1455          * trip points to 16C if the INTIN2 input of the I/O APIC
1456          * is enabled.  This input is incorrectly designated the
1457          * ISA IRQ 0 via an interrupt source override even though
1458          * it is wired to the output of the master 8259A and INTIN0
1459          * is not connected at all.  Force ignoring BIOS IRQ0
1460          * override in that cases.
1461          */
1462         {
1463          .callback = dmi_ignore_irq0_timer_override,
1464          .ident = "HP nx6115 laptop",
1465          .matches = {
1466                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1467                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6115"),
1468                      },
1469          },
1470         {
1471          .callback = dmi_ignore_irq0_timer_override,
1472          .ident = "HP NX6125 laptop",
1473          .matches = {
1474                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1475                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1476                      },
1477          },
1478         {
1479          .callback = dmi_ignore_irq0_timer_override,
1480          .ident = "HP NX6325 laptop",
1481          .matches = {
1482                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1483                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1484                      },
1485          },
1486         {
1487          .callback = dmi_ignore_irq0_timer_override,
1488          .ident = "HP 6715b laptop",
1489          .matches = {
1490                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1491                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq 6715b"),
1492                      },
1493          },
1494         {
1495          .callback = dmi_ignore_irq0_timer_override,
1496          .ident = "FUJITSU SIEMENS",
1497          .matches = {
1498                      DMI_MATCH(DMI_SYS_VENDOR, "FUJITSU SIEMENS"),
1499                      DMI_MATCH(DMI_PRODUCT_NAME, "AMILO PRO V2030"),
1500                      },
1501          },
1502         {}
1503 };
1504
1505 /*
1506  * acpi_boot_table_init() and acpi_boot_init()
1507  *  called from setup_arch(), always.
1508  *      1. checksums all tables
1509  *      2. enumerates lapics
1510  *      3. enumerates io-apics
1511  *
1512  * acpi_table_init() is separate to allow reading SRAT without
1513  * other side effects.
1514  *
1515  * side effects of acpi_boot_init:
1516  *      acpi_lapic = 1 if LAPIC found
1517  *      acpi_ioapic = 1 if IOAPIC found
1518  *      if (acpi_lapic && acpi_ioapic) smp_found_config = 1;
1519  *      if acpi_blacklisted() acpi_disabled = 1;
1520  *      acpi_irq_model=...
1521  *      ...
1522  */
1523
1524 void __init acpi_boot_table_init(void)
1525 {
1526         dmi_check_system(acpi_dmi_table);
1527
1528         /*
1529          * If acpi_disabled, bail out
1530          */
1531         if (acpi_disabled)
1532                 return;
1533
1534         /*
1535          * Initialize the ACPI boot-time table parser.
1536          */
1537         if (acpi_table_init()) {
1538                 disable_acpi();
1539                 return;
1540         }
1541
1542         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1543
1544         /*
1545          * blacklist may disable ACPI entirely
1546          */
1547         if (acpi_blacklisted()) {
1548                 if (acpi_force) {
1549                         printk(KERN_WARNING PREFIX "acpi=force override\n");
1550                 } else {
1551                         printk(KERN_WARNING PREFIX "Disabling ACPI support\n");
1552                         disable_acpi();
1553                         return;
1554                 }
1555         }
1556 }
1557
1558 int __init early_acpi_boot_init(void)
1559 {
1560         /*
1561          * If acpi_disabled, bail out
1562          */
1563         if (acpi_disabled)
1564                 return 1;
1565
1566         /*
1567          * Process the Multiple APIC Description Table (MADT), if present
1568          */
1569         early_acpi_process_madt();
1570
1571         /*
1572          * Hardware-reduced ACPI mode initialization:
1573          */
1574         acpi_reduced_hw_init();
1575
1576         return 0;
1577 }
1578
1579 int __init acpi_boot_init(void)
1580 {
1581         /* those are executed after early-quirks are executed */
1582         dmi_check_system(acpi_dmi_table_late);
1583
1584         /*
1585          * If acpi_disabled, bail out
1586          */
1587         if (acpi_disabled)
1588                 return 1;
1589
1590         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1591
1592         /*
1593          * set sci_int and PM timer address
1594          */
1595         acpi_table_parse(ACPI_SIG_FADT, acpi_parse_fadt);
1596
1597         /*
1598          * Process the Multiple APIC Description Table (MADT), if present
1599          */
1600         acpi_process_madt();
1601
1602         acpi_table_parse(ACPI_SIG_HPET, acpi_parse_hpet);
1603         if (IS_ENABLED(CONFIG_ACPI_BGRT))
1604                 acpi_table_parse(ACPI_SIG_BGRT, acpi_parse_bgrt);
1605
1606         if (!acpi_noirq)
1607                 x86_init.pci.init = pci_acpi_init;
1608
1609         return 0;
1610 }
1611
1612 static int __init parse_acpi(char *arg)
1613 {
1614         if (!arg)
1615                 return -EINVAL;
1616
1617         /* "acpi=off" disables both ACPI table parsing and interpreter */
1618         if (strcmp(arg, "off") == 0) {
1619                 disable_acpi();
1620         }
1621         /* acpi=force to over-ride black-list */
1622         else if (strcmp(arg, "force") == 0) {
1623                 acpi_force = 1;
1624                 acpi_disabled = 0;
1625         }
1626         /* acpi=strict disables out-of-spec workarounds */
1627         else if (strcmp(arg, "strict") == 0) {
1628                 acpi_strict = 1;
1629         }
1630         /* acpi=rsdt use RSDT instead of XSDT */
1631         else if (strcmp(arg, "rsdt") == 0) {
1632                 acpi_gbl_do_not_use_xsdt = TRUE;
1633         }
1634         /* "acpi=noirq" disables ACPI interrupt routing */
1635         else if (strcmp(arg, "noirq") == 0) {
1636                 acpi_noirq_set();
1637         }
1638         /* "acpi=copy_dsdt" copys DSDT */
1639         else if (strcmp(arg, "copy_dsdt") == 0) {
1640                 acpi_gbl_copy_dsdt_locally = 1;
1641         }
1642         /* "acpi=nocmcff" disables FF mode for corrected errors */
1643         else if (strcmp(arg, "nocmcff") == 0) {
1644                 acpi_disable_cmcff = 1;
1645         } else {
1646                 /* Core will printk when we return error. */
1647                 return -EINVAL;
1648         }
1649         return 0;
1650 }
1651 early_param("acpi", parse_acpi);
1652
1653 /* FIXME: Using pci= for an ACPI parameter is a travesty. */
1654 static int __init parse_pci(char *arg)
1655 {
1656         if (arg && strcmp(arg, "noacpi") == 0)
1657                 acpi_disable_pci();
1658         return 0;
1659 }
1660 early_param("pci", parse_pci);
1661
1662 int __init acpi_mps_check(void)
1663 {
1664 #if defined(CONFIG_X86_LOCAL_APIC) && !defined(CONFIG_X86_MPPARSE)
1665 /* mptable code is not built-in*/
1666         if (acpi_disabled || acpi_noirq) {
1667                 printk(KERN_WARNING "MPS support code is not built-in.\n"
1668                        "Using acpi=off or acpi=noirq or pci=noacpi "
1669                        "may have problem\n");
1670                 return 1;
1671         }
1672 #endif
1673         return 0;
1674 }
1675
1676 #ifdef CONFIG_X86_IO_APIC
1677 static int __init parse_acpi_skip_timer_override(char *arg)
1678 {
1679         acpi_skip_timer_override = 1;
1680         return 0;
1681 }
1682 early_param("acpi_skip_timer_override", parse_acpi_skip_timer_override);
1683
1684 static int __init parse_acpi_use_timer_override(char *arg)
1685 {
1686         acpi_use_timer_override = 1;
1687         return 0;
1688 }
1689 early_param("acpi_use_timer_override", parse_acpi_use_timer_override);
1690 #endif /* CONFIG_X86_IO_APIC */
1691
1692 static int __init setup_acpi_sci(char *s)
1693 {
1694         if (!s)
1695                 return -EINVAL;
1696         if (!strcmp(s, "edge"))
1697                 acpi_sci_flags =  ACPI_MADT_TRIGGER_EDGE |
1698                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1699         else if (!strcmp(s, "level"))
1700                 acpi_sci_flags = ACPI_MADT_TRIGGER_LEVEL |
1701                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1702         else if (!strcmp(s, "high"))
1703                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_HIGH |
1704                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1705         else if (!strcmp(s, "low"))
1706                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_LOW |
1707                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1708         else
1709                 return -EINVAL;
1710         return 0;
1711 }
1712 early_param("acpi_sci", setup_acpi_sci);
1713
1714 int __acpi_acquire_global_lock(unsigned int *lock)
1715 {
1716         unsigned int old, new, val;
1717         do {
1718                 old = *lock;
1719                 new = (((old & ~0x3) + 2) + ((old >> 1) & 0x1));
1720                 val = cmpxchg(lock, old, new);
1721         } while (unlikely (val != old));
1722         return (new < 3) ? -1 : 0;
1723 }
1724
1725 int __acpi_release_global_lock(unsigned int *lock)
1726 {
1727         unsigned int old, new, val;
1728         do {
1729                 old = *lock;
1730                 new = old & ~0x3;
1731                 val = cmpxchg(lock, old, new);
1732         } while (unlikely (val != old));
1733         return old & 0x1;
1734 }
1735
1736 void __init arch_reserve_mem_area(acpi_physical_address addr, size_t size)
1737 {
1738         e820__range_add(addr, size, E820_TYPE_ACPI);
1739         e820__update_table_print();
1740 }