]> git.kernelconcepts.de Git - karo-tx-linux.git/blob - arch/microblaze/pci/pci-common.c
bna: add missing iounmap() on error in bnad_init()
[karo-tx-linux.git] / arch / microblaze / pci / pci-common.c
1 /*
2  * Contains common pci routines for ALL ppc platform
3  * (based on pci_32.c and pci_64.c)
4  *
5  * Port for PPC64 David Engebretsen, IBM Corp.
6  * Contains common pci routines for ppc64 platform, pSeries and iSeries brands.
7  *
8  * Copyright (C) 2003 Anton Blanchard <anton@au.ibm.com>, IBM
9  *   Rework, based on alpha PCI code.
10  *
11  * Common pmac/prep/chrp pci routines. -- Cort
12  *
13  * This program is free software; you can redistribute it and/or
14  * modify it under the terms of the GNU General Public License
15  * as published by the Free Software Foundation; either version
16  * 2 of the License, or (at your option) any later version.
17  */
18
19 #include <linux/kernel.h>
20 #include <linux/pci.h>
21 #include <linux/string.h>
22 #include <linux/init.h>
23 #include <linux/bootmem.h>
24 #include <linux/mm.h>
25 #include <linux/list.h>
26 #include <linux/syscalls.h>
27 #include <linux/irq.h>
28 #include <linux/vmalloc.h>
29 #include <linux/slab.h>
30 #include <linux/of.h>
31 #include <linux/of_address.h>
32 #include <linux/of_pci.h>
33 #include <linux/pci.h>
34 #include <linux/export.h>
35
36 #include <asm/processor.h>
37 #include <linux/io.h>
38 #include <asm/pci-bridge.h>
39 #include <asm/byteorder.h>
40
41 static DEFINE_SPINLOCK(hose_spinlock);
42 LIST_HEAD(hose_list);
43
44 /* XXX kill that some day ... */
45 static int global_phb_number;           /* Global phb counter */
46
47 /* ISA Memory physical address */
48 resource_size_t isa_mem_base;
49
50 static struct dma_map_ops *pci_dma_ops = &dma_direct_ops;
51
52 unsigned long isa_io_base;
53 unsigned long pci_dram_offset;
54 static int pci_bus_count;
55
56
57 void set_pci_dma_ops(struct dma_map_ops *dma_ops)
58 {
59         pci_dma_ops = dma_ops;
60 }
61
62 struct dma_map_ops *get_pci_dma_ops(void)
63 {
64         return pci_dma_ops;
65 }
66 EXPORT_SYMBOL(get_pci_dma_ops);
67
68 struct pci_controller *pcibios_alloc_controller(struct device_node *dev)
69 {
70         struct pci_controller *phb;
71
72         phb = zalloc_maybe_bootmem(sizeof(struct pci_controller), GFP_KERNEL);
73         if (!phb)
74                 return NULL;
75         spin_lock(&hose_spinlock);
76         phb->global_number = global_phb_number++;
77         list_add_tail(&phb->list_node, &hose_list);
78         spin_unlock(&hose_spinlock);
79         phb->dn = dev;
80         phb->is_dynamic = mem_init_done;
81         return phb;
82 }
83
84 void pcibios_free_controller(struct pci_controller *phb)
85 {
86         spin_lock(&hose_spinlock);
87         list_del(&phb->list_node);
88         spin_unlock(&hose_spinlock);
89
90         if (phb->is_dynamic)
91                 kfree(phb);
92 }
93
94 static resource_size_t pcibios_io_size(const struct pci_controller *hose)
95 {
96         return resource_size(&hose->io_resource);
97 }
98
99 int pcibios_vaddr_is_ioport(void __iomem *address)
100 {
101         int ret = 0;
102         struct pci_controller *hose;
103         resource_size_t size;
104
105         spin_lock(&hose_spinlock);
106         list_for_each_entry(hose, &hose_list, list_node) {
107                 size = pcibios_io_size(hose);
108                 if (address >= hose->io_base_virt &&
109                     address < (hose->io_base_virt + size)) {
110                         ret = 1;
111                         break;
112                 }
113         }
114         spin_unlock(&hose_spinlock);
115         return ret;
116 }
117
118 unsigned long pci_address_to_pio(phys_addr_t address)
119 {
120         struct pci_controller *hose;
121         resource_size_t size;
122         unsigned long ret = ~0;
123
124         spin_lock(&hose_spinlock);
125         list_for_each_entry(hose, &hose_list, list_node) {
126                 size = pcibios_io_size(hose);
127                 if (address >= hose->io_base_phys &&
128                     address < (hose->io_base_phys + size)) {
129                         unsigned long base =
130                                 (unsigned long)hose->io_base_virt - _IO_BASE;
131                         ret = base + (address - hose->io_base_phys);
132                         break;
133                 }
134         }
135         spin_unlock(&hose_spinlock);
136
137         return ret;
138 }
139 EXPORT_SYMBOL_GPL(pci_address_to_pio);
140
141 /*
142  * Return the domain number for this bus.
143  */
144 int pci_domain_nr(struct pci_bus *bus)
145 {
146         struct pci_controller *hose = pci_bus_to_host(bus);
147
148         return hose->global_number;
149 }
150 EXPORT_SYMBOL(pci_domain_nr);
151
152 /* This routine is meant to be used early during boot, when the
153  * PCI bus numbers have not yet been assigned, and you need to
154  * issue PCI config cycles to an OF device.
155  * It could also be used to "fix" RTAS config cycles if you want
156  * to set pci_assign_all_buses to 1 and still use RTAS for PCI
157  * config cycles.
158  */
159 struct pci_controller *pci_find_hose_for_OF_device(struct device_node *node)
160 {
161         while (node) {
162                 struct pci_controller *hose, *tmp;
163                 list_for_each_entry_safe(hose, tmp, &hose_list, list_node)
164                         if (hose->dn == node)
165                                 return hose;
166                 node = node->parent;
167         }
168         return NULL;
169 }
170
171 static ssize_t pci_show_devspec(struct device *dev,
172                 struct device_attribute *attr, char *buf)
173 {
174         struct pci_dev *pdev;
175         struct device_node *np;
176
177         pdev = to_pci_dev(dev);
178         np = pci_device_to_OF_node(pdev);
179         if (np == NULL || np->full_name == NULL)
180                 return 0;
181         return sprintf(buf, "%s", np->full_name);
182 }
183 static DEVICE_ATTR(devspec, S_IRUGO, pci_show_devspec, NULL);
184
185 /* Add sysfs properties */
186 int pcibios_add_platform_entries(struct pci_dev *pdev)
187 {
188         return device_create_file(&pdev->dev, &dev_attr_devspec);
189 }
190
191 void pcibios_set_master(struct pci_dev *dev)
192 {
193         /* No special bus mastering setup handling */
194 }
195
196 /*
197  * Reads the interrupt pin to determine if interrupt is use by card.
198  * If the interrupt is used, then gets the interrupt line from the
199  * openfirmware and sets it in the pci_dev and pci_config line.
200  */
201 int pci_read_irq_line(struct pci_dev *pci_dev)
202 {
203         struct of_irq oirq;
204         unsigned int virq;
205
206         /* The current device-tree that iSeries generates from the HV
207          * PCI informations doesn't contain proper interrupt routing,
208          * and all the fallback would do is print out crap, so we
209          * don't attempt to resolve the interrupts here at all, some
210          * iSeries specific fixup does it.
211          *
212          * In the long run, we will hopefully fix the generated device-tree
213          * instead.
214          */
215         pr_debug("PCI: Try to map irq for %s...\n", pci_name(pci_dev));
216
217 #ifdef DEBUG
218         memset(&oirq, 0xff, sizeof(oirq));
219 #endif
220         /* Try to get a mapping from the device-tree */
221         if (of_irq_map_pci(pci_dev, &oirq)) {
222                 u8 line, pin;
223
224                 /* If that fails, lets fallback to what is in the config
225                  * space and map that through the default controller. We
226                  * also set the type to level low since that's what PCI
227                  * interrupts are. If your platform does differently, then
228                  * either provide a proper interrupt tree or don't use this
229                  * function.
230                  */
231                 if (pci_read_config_byte(pci_dev, PCI_INTERRUPT_PIN, &pin))
232                         return -1;
233                 if (pin == 0)
234                         return -1;
235                 if (pci_read_config_byte(pci_dev, PCI_INTERRUPT_LINE, &line) ||
236                     line == 0xff || line == 0) {
237                         return -1;
238                 }
239                 pr_debug(" No map ! Using line %d (pin %d) from PCI config\n",
240                          line, pin);
241
242                 virq = irq_create_mapping(NULL, line);
243                 if (virq)
244                         irq_set_irq_type(virq, IRQ_TYPE_LEVEL_LOW);
245         } else {
246                 pr_debug(" Got one, spec %d cells (0x%08x 0x%08x...) on %s\n",
247                          oirq.size, oirq.specifier[0], oirq.specifier[1],
248                          of_node_full_name(oirq.controller));
249
250                 virq = irq_create_of_mapping(oirq.controller, oirq.specifier,
251                                              oirq.size);
252         }
253         if (!virq) {
254                 pr_debug(" Failed to map !\n");
255                 return -1;
256         }
257
258         pr_debug(" Mapped to linux irq %d\n", virq);
259
260         pci_dev->irq = virq;
261
262         return 0;
263 }
264 EXPORT_SYMBOL(pci_read_irq_line);
265
266 /*
267  * Platform support for /proc/bus/pci/X/Y mmap()s,
268  * modelled on the sparc64 implementation by Dave Miller.
269  *  -- paulus.
270  */
271
272 /*
273  * Adjust vm_pgoff of VMA such that it is the physical page offset
274  * corresponding to the 32-bit pci bus offset for DEV requested by the user.
275  *
276  * Basically, the user finds the base address for his device which he wishes
277  * to mmap.  They read the 32-bit value from the config space base register,
278  * add whatever PAGE_SIZE multiple offset they wish, and feed this into the
279  * offset parameter of mmap on /proc/bus/pci/XXX for that device.
280  *
281  * Returns negative error code on failure, zero on success.
282  */
283 static struct resource *__pci_mmap_make_offset(struct pci_dev *dev,
284                                                resource_size_t *offset,
285                                                enum pci_mmap_state mmap_state)
286 {
287         struct pci_controller *hose = pci_bus_to_host(dev->bus);
288         unsigned long io_offset = 0;
289         int i, res_bit;
290
291         if (!hose)
292                 return NULL;            /* should never happen */
293
294         /* If memory, add on the PCI bridge address offset */
295         if (mmap_state == pci_mmap_mem) {
296 #if 0 /* See comment in pci_resource_to_user() for why this is disabled */
297                 *offset += hose->pci_mem_offset;
298 #endif
299                 res_bit = IORESOURCE_MEM;
300         } else {
301                 io_offset = (unsigned long)hose->io_base_virt - _IO_BASE;
302                 *offset += io_offset;
303                 res_bit = IORESOURCE_IO;
304         }
305
306         /*
307          * Check that the offset requested corresponds to one of the
308          * resources of the device.
309          */
310         for (i = 0; i <= PCI_ROM_RESOURCE; i++) {
311                 struct resource *rp = &dev->resource[i];
312                 int flags = rp->flags;
313
314                 /* treat ROM as memory (should be already) */
315                 if (i == PCI_ROM_RESOURCE)
316                         flags |= IORESOURCE_MEM;
317
318                 /* Active and same type? */
319                 if ((flags & res_bit) == 0)
320                         continue;
321
322                 /* In the range of this resource? */
323                 if (*offset < (rp->start & PAGE_MASK) || *offset > rp->end)
324                         continue;
325
326                 /* found it! construct the final physical address */
327                 if (mmap_state == pci_mmap_io)
328                         *offset += hose->io_base_phys - io_offset;
329                 return rp;
330         }
331
332         return NULL;
333 }
334
335 /*
336  * Set vm_page_prot of VMA, as appropriate for this architecture, for a pci
337  * device mapping.
338  */
339 static pgprot_t __pci_mmap_set_pgprot(struct pci_dev *dev, struct resource *rp,
340                                       pgprot_t protection,
341                                       enum pci_mmap_state mmap_state,
342                                       int write_combine)
343 {
344         pgprot_t prot = protection;
345
346         /* Write combine is always 0 on non-memory space mappings. On
347          * memory space, if the user didn't pass 1, we check for a
348          * "prefetchable" resource. This is a bit hackish, but we use
349          * this to workaround the inability of /sysfs to provide a write
350          * combine bit
351          */
352         if (mmap_state != pci_mmap_mem)
353                 write_combine = 0;
354         else if (write_combine == 0) {
355                 if (rp->flags & IORESOURCE_PREFETCH)
356                         write_combine = 1;
357         }
358
359         return pgprot_noncached(prot);
360 }
361
362 /*
363  * This one is used by /dev/mem and fbdev who have no clue about the
364  * PCI device, it tries to find the PCI device first and calls the
365  * above routine
366  */
367 pgprot_t pci_phys_mem_access_prot(struct file *file,
368                                   unsigned long pfn,
369                                   unsigned long size,
370                                   pgprot_t prot)
371 {
372         struct pci_dev *pdev = NULL;
373         struct resource *found = NULL;
374         resource_size_t offset = ((resource_size_t)pfn) << PAGE_SHIFT;
375         int i;
376
377         if (page_is_ram(pfn))
378                 return prot;
379
380         prot = pgprot_noncached(prot);
381         for_each_pci_dev(pdev) {
382                 for (i = 0; i <= PCI_ROM_RESOURCE; i++) {
383                         struct resource *rp = &pdev->resource[i];
384                         int flags = rp->flags;
385
386                         /* Active and same type? */
387                         if ((flags & IORESOURCE_MEM) == 0)
388                                 continue;
389                         /* In the range of this resource? */
390                         if (offset < (rp->start & PAGE_MASK) ||
391                             offset > rp->end)
392                                 continue;
393                         found = rp;
394                         break;
395                 }
396                 if (found)
397                         break;
398         }
399         if (found) {
400                 if (found->flags & IORESOURCE_PREFETCH)
401                         prot = pgprot_noncached_wc(prot);
402                 pci_dev_put(pdev);
403         }
404
405         pr_debug("PCI: Non-PCI map for %llx, prot: %lx\n",
406                  (unsigned long long)offset, pgprot_val(prot));
407
408         return prot;
409 }
410
411 /*
412  * Perform the actual remap of the pages for a PCI device mapping, as
413  * appropriate for this architecture.  The region in the process to map
414  * is described by vm_start and vm_end members of VMA, the base physical
415  * address is found in vm_pgoff.
416  * The pci device structure is provided so that architectures may make mapping
417  * decisions on a per-device or per-bus basis.
418  *
419  * Returns a negative error code on failure, zero on success.
420  */
421 int pci_mmap_page_range(struct pci_dev *dev, struct vm_area_struct *vma,
422                         enum pci_mmap_state mmap_state, int write_combine)
423 {
424         resource_size_t offset =
425                 ((resource_size_t)vma->vm_pgoff) << PAGE_SHIFT;
426         struct resource *rp;
427         int ret;
428
429         rp = __pci_mmap_make_offset(dev, &offset, mmap_state);
430         if (rp == NULL)
431                 return -EINVAL;
432
433         vma->vm_pgoff = offset >> PAGE_SHIFT;
434         vma->vm_page_prot = __pci_mmap_set_pgprot(dev, rp,
435                                                   vma->vm_page_prot,
436                                                   mmap_state, write_combine);
437
438         ret = remap_pfn_range(vma, vma->vm_start, vma->vm_pgoff,
439                                vma->vm_end - vma->vm_start, vma->vm_page_prot);
440
441         return ret;
442 }
443
444 /* This provides legacy IO read access on a bus */
445 int pci_legacy_read(struct pci_bus *bus, loff_t port, u32 *val, size_t size)
446 {
447         unsigned long offset;
448         struct pci_controller *hose = pci_bus_to_host(bus);
449         struct resource *rp = &hose->io_resource;
450         void __iomem *addr;
451
452         /* Check if port can be supported by that bus. We only check
453          * the ranges of the PHB though, not the bus itself as the rules
454          * for forwarding legacy cycles down bridges are not our problem
455          * here. So if the host bridge supports it, we do it.
456          */
457         offset = (unsigned long)hose->io_base_virt - _IO_BASE;
458         offset += port;
459
460         if (!(rp->flags & IORESOURCE_IO))
461                 return -ENXIO;
462         if (offset < rp->start || (offset + size) > rp->end)
463                 return -ENXIO;
464         addr = hose->io_base_virt + port;
465
466         switch (size) {
467         case 1:
468                 *((u8 *)val) = in_8(addr);
469                 return 1;
470         case 2:
471                 if (port & 1)
472                         return -EINVAL;
473                 *((u16 *)val) = in_le16(addr);
474                 return 2;
475         case 4:
476                 if (port & 3)
477                         return -EINVAL;
478                 *((u32 *)val) = in_le32(addr);
479                 return 4;
480         }
481         return -EINVAL;
482 }
483
484 /* This provides legacy IO write access on a bus */
485 int pci_legacy_write(struct pci_bus *bus, loff_t port, u32 val, size_t size)
486 {
487         unsigned long offset;
488         struct pci_controller *hose = pci_bus_to_host(bus);
489         struct resource *rp = &hose->io_resource;
490         void __iomem *addr;
491
492         /* Check if port can be supported by that bus. We only check
493          * the ranges of the PHB though, not the bus itself as the rules
494          * for forwarding legacy cycles down bridges are not our problem
495          * here. So if the host bridge supports it, we do it.
496          */
497         offset = (unsigned long)hose->io_base_virt - _IO_BASE;
498         offset += port;
499
500         if (!(rp->flags & IORESOURCE_IO))
501                 return -ENXIO;
502         if (offset < rp->start || (offset + size) > rp->end)
503                 return -ENXIO;
504         addr = hose->io_base_virt + port;
505
506         /* WARNING: The generic code is idiotic. It gets passed a pointer
507          * to what can be a 1, 2 or 4 byte quantity and always reads that
508          * as a u32, which means that we have to correct the location of
509          * the data read within those 32 bits for size 1 and 2
510          */
511         switch (size) {
512         case 1:
513                 out_8(addr, val >> 24);
514                 return 1;
515         case 2:
516                 if (port & 1)
517                         return -EINVAL;
518                 out_le16(addr, val >> 16);
519                 return 2;
520         case 4:
521                 if (port & 3)
522                         return -EINVAL;
523                 out_le32(addr, val);
524                 return 4;
525         }
526         return -EINVAL;
527 }
528
529 /* This provides legacy IO or memory mmap access on a bus */
530 int pci_mmap_legacy_page_range(struct pci_bus *bus,
531                                struct vm_area_struct *vma,
532                                enum pci_mmap_state mmap_state)
533 {
534         struct pci_controller *hose = pci_bus_to_host(bus);
535         resource_size_t offset =
536                 ((resource_size_t)vma->vm_pgoff) << PAGE_SHIFT;
537         resource_size_t size = vma->vm_end - vma->vm_start;
538         struct resource *rp;
539
540         pr_debug("pci_mmap_legacy_page_range(%04x:%02x, %s @%llx..%llx)\n",
541                  pci_domain_nr(bus), bus->number,
542                  mmap_state == pci_mmap_mem ? "MEM" : "IO",
543                  (unsigned long long)offset,
544                  (unsigned long long)(offset + size - 1));
545
546         if (mmap_state == pci_mmap_mem) {
547                 /* Hack alert !
548                  *
549                  * Because X is lame and can fail starting if it gets an error
550                  * trying to mmap legacy_mem (instead of just moving on without
551                  * legacy memory access) we fake it here by giving it anonymous
552                  * memory, effectively behaving just like /dev/zero
553                  */
554                 if ((offset + size) > hose->isa_mem_size) {
555 #ifdef CONFIG_MMU
556                         pr_debug("Process %s (pid:%d) mapped non-existing PCI",
557                                 current->comm, current->pid);
558                         pr_debug("legacy memory for 0%04x:%02x\n",
559                                 pci_domain_nr(bus), bus->number);
560 #endif
561                         if (vma->vm_flags & VM_SHARED)
562                                 return shmem_zero_setup(vma);
563                         return 0;
564                 }
565                 offset += hose->isa_mem_phys;
566         } else {
567                 unsigned long io_offset = (unsigned long)hose->io_base_virt -
568                                                                 _IO_BASE;
569                 unsigned long roffset = offset + io_offset;
570                 rp = &hose->io_resource;
571                 if (!(rp->flags & IORESOURCE_IO))
572                         return -ENXIO;
573                 if (roffset < rp->start || (roffset + size) > rp->end)
574                         return -ENXIO;
575                 offset += hose->io_base_phys;
576         }
577         pr_debug(" -> mapping phys %llx\n", (unsigned long long)offset);
578
579         vma->vm_pgoff = offset >> PAGE_SHIFT;
580         vma->vm_page_prot = pgprot_noncached(vma->vm_page_prot);
581         return remap_pfn_range(vma, vma->vm_start, vma->vm_pgoff,
582                                vma->vm_end - vma->vm_start,
583                                vma->vm_page_prot);
584 }
585
586 void pci_resource_to_user(const struct pci_dev *dev, int bar,
587                           const struct resource *rsrc,
588                           resource_size_t *start, resource_size_t *end)
589 {
590         struct pci_controller *hose = pci_bus_to_host(dev->bus);
591         resource_size_t offset = 0;
592
593         if (hose == NULL)
594                 return;
595
596         if (rsrc->flags & IORESOURCE_IO)
597                 offset = (unsigned long)hose->io_base_virt - _IO_BASE;
598
599         /* We pass a fully fixed up address to userland for MMIO instead of
600          * a BAR value because X is lame and expects to be able to use that
601          * to pass to /dev/mem !
602          *
603          * That means that we'll have potentially 64 bits values where some
604          * userland apps only expect 32 (like X itself since it thinks only
605          * Sparc has 64 bits MMIO) but if we don't do that, we break it on
606          * 32 bits CHRPs :-(
607          *
608          * Hopefully, the sysfs insterface is immune to that gunk. Once X
609          * has been fixed (and the fix spread enough), we can re-enable the
610          * 2 lines below and pass down a BAR value to userland. In that case
611          * we'll also have to re-enable the matching code in
612          * __pci_mmap_make_offset().
613          *
614          * BenH.
615          */
616 #if 0
617         else if (rsrc->flags & IORESOURCE_MEM)
618                 offset = hose->pci_mem_offset;
619 #endif
620
621         *start = rsrc->start - offset;
622         *end = rsrc->end - offset;
623 }
624
625 /**
626  * pci_process_bridge_OF_ranges - Parse PCI bridge resources from device tree
627  * @hose: newly allocated pci_controller to be setup
628  * @dev: device node of the host bridge
629  * @primary: set if primary bus (32 bits only, soon to be deprecated)
630  *
631  * This function will parse the "ranges" property of a PCI host bridge device
632  * node and setup the resource mapping of a pci controller based on its
633  * content.
634  *
635  * Life would be boring if it wasn't for a few issues that we have to deal
636  * with here:
637  *
638  *   - We can only cope with one IO space range and up to 3 Memory space
639  *     ranges. However, some machines (thanks Apple !) tend to split their
640  *     space into lots of small contiguous ranges. So we have to coalesce.
641  *
642  *   - We can only cope with all memory ranges having the same offset
643  *     between CPU addresses and PCI addresses. Unfortunately, some bridges
644  *     are setup for a large 1:1 mapping along with a small "window" which
645  *     maps PCI address 0 to some arbitrary high address of the CPU space in
646  *     order to give access to the ISA memory hole.
647  *     The way out of here that I've chosen for now is to always set the
648  *     offset based on the first resource found, then override it if we
649  *     have a different offset and the previous was set by an ISA hole.
650  *
651  *   - Some busses have IO space not starting at 0, which causes trouble with
652  *     the way we do our IO resource renumbering. The code somewhat deals with
653  *     it for 64 bits but I would expect problems on 32 bits.
654  *
655  *   - Some 32 bits platforms such as 4xx can have physical space larger than
656  *     32 bits so we need to use 64 bits values for the parsing
657  */
658 void pci_process_bridge_OF_ranges(struct pci_controller *hose,
659                                   struct device_node *dev, int primary)
660 {
661         const u32 *ranges;
662         int rlen;
663         int pna = of_n_addr_cells(dev);
664         int np = pna + 5;
665         int memno = 0, isa_hole = -1;
666         u32 pci_space;
667         unsigned long long pci_addr, cpu_addr, pci_next, cpu_next, size;
668         unsigned long long isa_mb = 0;
669         struct resource *res;
670
671         pr_info("PCI host bridge %s %s ranges:\n",
672                dev->full_name, primary ? "(primary)" : "");
673
674         /* Get ranges property */
675         ranges = of_get_property(dev, "ranges", &rlen);
676         if (ranges == NULL)
677                 return;
678
679         /* Parse it */
680         pr_debug("Parsing ranges property...\n");
681         while ((rlen -= np * 4) >= 0) {
682                 /* Read next ranges element */
683                 pci_space = ranges[0];
684                 pci_addr = of_read_number(ranges + 1, 2);
685                 cpu_addr = of_translate_address(dev, ranges + 3);
686                 size = of_read_number(ranges + pna + 3, 2);
687
688                 pr_debug("pci_space: 0x%08x pci_addr:0x%016llx ",
689                                 pci_space, pci_addr);
690                 pr_debug("cpu_addr:0x%016llx size:0x%016llx\n",
691                                         cpu_addr, size);
692
693                 ranges += np;
694
695                 /* If we failed translation or got a zero-sized region
696                  * (some FW try to feed us with non sensical zero sized regions
697                  * such as power3 which look like some kind of attempt
698                  * at exposing the VGA memory hole)
699                  */
700                 if (cpu_addr == OF_BAD_ADDR || size == 0)
701                         continue;
702
703                 /* Now consume following elements while they are contiguous */
704                 for (; rlen >= np * sizeof(u32);
705                      ranges += np, rlen -= np * 4) {
706                         if (ranges[0] != pci_space)
707                                 break;
708                         pci_next = of_read_number(ranges + 1, 2);
709                         cpu_next = of_translate_address(dev, ranges + 3);
710                         if (pci_next != pci_addr + size ||
711                             cpu_next != cpu_addr + size)
712                                 break;
713                         size += of_read_number(ranges + pna + 3, 2);
714                 }
715
716                 /* Act based on address space type */
717                 res = NULL;
718                 switch ((pci_space >> 24) & 0x3) {
719                 case 1:         /* PCI IO space */
720                         pr_info("  IO 0x%016llx..0x%016llx -> 0x%016llx\n",
721                                cpu_addr, cpu_addr + size - 1, pci_addr);
722
723                         /* We support only one IO range */
724                         if (hose->pci_io_size) {
725                                 pr_info(" \\--> Skipped (too many) !\n");
726                                 continue;
727                         }
728                         /* On 32 bits, limit I/O space to 16MB */
729                         if (size > 0x01000000)
730                                 size = 0x01000000;
731
732                         /* 32 bits needs to map IOs here */
733                         hose->io_base_virt = ioremap(cpu_addr, size);
734
735                         /* Expect trouble if pci_addr is not 0 */
736                         if (primary)
737                                 isa_io_base =
738                                         (unsigned long)hose->io_base_virt;
739                         /* pci_io_size and io_base_phys always represent IO
740                          * space starting at 0 so we factor in pci_addr
741                          */
742                         hose->pci_io_size = pci_addr + size;
743                         hose->io_base_phys = cpu_addr - pci_addr;
744
745                         /* Build resource */
746                         res = &hose->io_resource;
747                         res->flags = IORESOURCE_IO;
748                         res->start = pci_addr;
749                         break;
750                 case 2:         /* PCI Memory space */
751                 case 3:         /* PCI 64 bits Memory space */
752                         pr_info(" MEM 0x%016llx..0x%016llx -> 0x%016llx %s\n",
753                                cpu_addr, cpu_addr + size - 1, pci_addr,
754                                (pci_space & 0x40000000) ? "Prefetch" : "");
755
756                         /* We support only 3 memory ranges */
757                         if (memno >= 3) {
758                                 pr_info(" \\--> Skipped (too many) !\n");
759                                 continue;
760                         }
761                         /* Handles ISA memory hole space here */
762                         if (pci_addr == 0) {
763                                 isa_mb = cpu_addr;
764                                 isa_hole = memno;
765                                 if (primary || isa_mem_base == 0)
766                                         isa_mem_base = cpu_addr;
767                                 hose->isa_mem_phys = cpu_addr;
768                                 hose->isa_mem_size = size;
769                         }
770
771                         /* We get the PCI/Mem offset from the first range or
772                          * the, current one if the offset came from an ISA
773                          * hole. If they don't match, bugger.
774                          */
775                         if (memno == 0 ||
776                             (isa_hole >= 0 && pci_addr != 0 &&
777                              hose->pci_mem_offset == isa_mb))
778                                 hose->pci_mem_offset = cpu_addr - pci_addr;
779                         else if (pci_addr != 0 &&
780                                  hose->pci_mem_offset != cpu_addr - pci_addr) {
781                                 pr_info(" \\--> Skipped (offset mismatch) !\n");
782                                 continue;
783                         }
784
785                         /* Build resource */
786                         res = &hose->mem_resources[memno++];
787                         res->flags = IORESOURCE_MEM;
788                         if (pci_space & 0x40000000)
789                                 res->flags |= IORESOURCE_PREFETCH;
790                         res->start = cpu_addr;
791                         break;
792                 }
793                 if (res != NULL) {
794                         res->name = dev->full_name;
795                         res->end = res->start + size - 1;
796                         res->parent = NULL;
797                         res->sibling = NULL;
798                         res->child = NULL;
799                 }
800         }
801
802         /* If there's an ISA hole and the pci_mem_offset is -not- matching
803          * the ISA hole offset, then we need to remove the ISA hole from
804          * the resource list for that brige
805          */
806         if (isa_hole >= 0 && hose->pci_mem_offset != isa_mb) {
807                 unsigned int next = isa_hole + 1;
808                 pr_info(" Removing ISA hole at 0x%016llx\n", isa_mb);
809                 if (next < memno)
810                         memmove(&hose->mem_resources[isa_hole],
811                                 &hose->mem_resources[next],
812                                 sizeof(struct resource) * (memno - next));
813                 hose->mem_resources[--memno].flags = 0;
814         }
815 }
816
817 /* Decide whether to display the domain number in /proc */
818 int pci_proc_domain(struct pci_bus *bus)
819 {
820         return 0;
821 }
822
823 /* This header fixup will do the resource fixup for all devices as they are
824  * probed, but not for bridge ranges
825  */
826 static void pcibios_fixup_resources(struct pci_dev *dev)
827 {
828         struct pci_controller *hose = pci_bus_to_host(dev->bus);
829         int i;
830
831         if (!hose) {
832                 pr_err("No host bridge for PCI dev %s !\n",
833                        pci_name(dev));
834                 return;
835         }
836         for (i = 0; i < DEVICE_COUNT_RESOURCE; i++) {
837                 struct resource *res = dev->resource + i;
838                 if (!res->flags)
839                         continue;
840                 if (res->start == 0) {
841                         pr_debug("PCI:%s Resource %d %016llx-%016llx [%x]",
842                                  pci_name(dev), i,
843                                  (unsigned long long)res->start,
844                                  (unsigned long long)res->end,
845                                  (unsigned int)res->flags);
846                         pr_debug("is unassigned\n");
847                         res->end -= res->start;
848                         res->start = 0;
849                         res->flags |= IORESOURCE_UNSET;
850                         continue;
851                 }
852
853                 pr_debug("PCI:%s Resource %d %016llx-%016llx [%x]\n",
854                          pci_name(dev), i,
855                          (unsigned long long)res->start,
856                          (unsigned long long)res->end,
857                          (unsigned int)res->flags);
858         }
859 }
860 DECLARE_PCI_FIXUP_HEADER(PCI_ANY_ID, PCI_ANY_ID, pcibios_fixup_resources);
861
862 /* This function tries to figure out if a bridge resource has been initialized
863  * by the firmware or not. It doesn't have to be absolutely bullet proof, but
864  * things go more smoothly when it gets it right. It should covers cases such
865  * as Apple "closed" bridge resources and bare-metal pSeries unassigned bridges
866  */
867 static int pcibios_uninitialized_bridge_resource(struct pci_bus *bus,
868                                                  struct resource *res)
869 {
870         struct pci_controller *hose = pci_bus_to_host(bus);
871         struct pci_dev *dev = bus->self;
872         resource_size_t offset;
873         u16 command;
874         int i;
875
876         /* Job is a bit different between memory and IO */
877         if (res->flags & IORESOURCE_MEM) {
878                 /* If the BAR is non-0 (res != pci_mem_offset) then it's
879                  * probably been initialized by somebody
880                  */
881                 if (res->start != hose->pci_mem_offset)
882                         return 0;
883
884                 /* The BAR is 0, let's check if memory decoding is enabled on
885                  * the bridge. If not, we consider it unassigned
886                  */
887                 pci_read_config_word(dev, PCI_COMMAND, &command);
888                 if ((command & PCI_COMMAND_MEMORY) == 0)
889                         return 1;
890
891                 /* Memory decoding is enabled and the BAR is 0. If any of
892                  * the bridge resources covers that starting address (0 then
893                  * it's good enough for us for memory
894                  */
895                 for (i = 0; i < 3; i++) {
896                         if ((hose->mem_resources[i].flags & IORESOURCE_MEM) &&
897                            hose->mem_resources[i].start == hose->pci_mem_offset)
898                                 return 0;
899                 }
900
901                 /* Well, it starts at 0 and we know it will collide so we may as
902                  * well consider it as unassigned. That covers the Apple case.
903                  */
904                 return 1;
905         } else {
906                 /* If the BAR is non-0, then we consider it assigned */
907                 offset = (unsigned long)hose->io_base_virt - _IO_BASE;
908                 if (((res->start - offset) & 0xfffffffful) != 0)
909                         return 0;
910
911                 /* Here, we are a bit different than memory as typically IO
912                  * space starting at low addresses -is- valid. What we do
913                  * instead if that we consider as unassigned anything that
914                  * doesn't have IO enabled in the PCI command register,
915                  * and that's it.
916                  */
917                 pci_read_config_word(dev, PCI_COMMAND, &command);
918                 if (command & PCI_COMMAND_IO)
919                         return 0;
920
921                 /* It's starting at 0 and IO is disabled in the bridge, consider
922                  * it unassigned
923                  */
924                 return 1;
925         }
926 }
927
928 /* Fixup resources of a PCI<->PCI bridge */
929 static void pcibios_fixup_bridge(struct pci_bus *bus)
930 {
931         struct resource *res;
932         int i;
933
934         struct pci_dev *dev = bus->self;
935
936         pci_bus_for_each_resource(bus, res, i) {
937                 if (!res)
938                         continue;
939                 if (!res->flags)
940                         continue;
941                 if (i >= 3 && bus->self->transparent)
942                         continue;
943
944                 pr_debug("PCI:%s Bus rsrc %d %016llx-%016llx [%x] fixup...\n",
945                          pci_name(dev), i,
946                          (unsigned long long)res->start,
947                          (unsigned long long)res->end,
948                          (unsigned int)res->flags);
949
950                 /* Try to detect uninitialized P2P bridge resources,
951                  * and clear them out so they get re-assigned later
952                  */
953                 if (pcibios_uninitialized_bridge_resource(bus, res)) {
954                         res->flags = 0;
955                         pr_debug("PCI:%s            (unassigned)\n",
956                                                                 pci_name(dev));
957                 } else {
958                         pr_debug("PCI:%s            %016llx-%016llx\n",
959                                  pci_name(dev),
960                                  (unsigned long long)res->start,
961                                  (unsigned long long)res->end);
962                 }
963         }
964 }
965
966 void pcibios_setup_bus_self(struct pci_bus *bus)
967 {
968         /* Fix up the bus resources for P2P bridges */
969         if (bus->self != NULL)
970                 pcibios_fixup_bridge(bus);
971 }
972
973 void pcibios_setup_bus_devices(struct pci_bus *bus)
974 {
975         struct pci_dev *dev;
976
977         pr_debug("PCI: Fixup bus devices %d (%s)\n",
978                  bus->number, bus->self ? pci_name(bus->self) : "PHB");
979
980         list_for_each_entry(dev, &bus->devices, bus_list) {
981                 /* Setup OF node pointer in archdata */
982                 dev->dev.of_node = pci_device_to_OF_node(dev);
983
984                 /* Fixup NUMA node as it may not be setup yet by the generic
985                  * code and is needed by the DMA init
986                  */
987                 set_dev_node(&dev->dev, pcibus_to_node(dev->bus));
988
989                 /* Hook up default DMA ops */
990                 set_dma_ops(&dev->dev, pci_dma_ops);
991                 dev->dev.archdata.dma_data = (void *)PCI_DRAM_OFFSET;
992
993                 /* Read default IRQs and fixup if necessary */
994                 pci_read_irq_line(dev);
995         }
996 }
997
998 void pcibios_fixup_bus(struct pci_bus *bus)
999 {
1000         /* When called from the generic PCI probe, read PCI<->PCI bridge
1001          * bases. This is -not- called when generating the PCI tree from
1002          * the OF device-tree.
1003          */
1004         if (bus->self != NULL)
1005                 pci_read_bridge_bases(bus);
1006
1007         /* Now fixup the bus bus */
1008         pcibios_setup_bus_self(bus);
1009
1010         /* Now fixup devices on that bus */
1011         pcibios_setup_bus_devices(bus);
1012 }
1013 EXPORT_SYMBOL(pcibios_fixup_bus);
1014
1015 static int skip_isa_ioresource_align(struct pci_dev *dev)
1016 {
1017         return 0;
1018 }
1019
1020 /*
1021  * We need to avoid collisions with `mirrored' VGA ports
1022  * and other strange ISA hardware, so we always want the
1023  * addresses to be allocated in the 0x000-0x0ff region
1024  * modulo 0x400.
1025  *
1026  * Why? Because some silly external IO cards only decode
1027  * the low 10 bits of the IO address. The 0x00-0xff region
1028  * is reserved for motherboard devices that decode all 16
1029  * bits, so it's ok to allocate at, say, 0x2800-0x28ff,
1030  * but we want to try to avoid allocating at 0x2900-0x2bff
1031  * which might have be mirrored at 0x0100-0x03ff..
1032  */
1033 resource_size_t pcibios_align_resource(void *data, const struct resource *res,
1034                                 resource_size_t size, resource_size_t align)
1035 {
1036         struct pci_dev *dev = data;
1037         resource_size_t start = res->start;
1038
1039         if (res->flags & IORESOURCE_IO) {
1040                 if (skip_isa_ioresource_align(dev))
1041                         return start;
1042                 if (start & 0x300)
1043                         start = (start + 0x3ff) & ~0x3ff;
1044         }
1045
1046         return start;
1047 }
1048 EXPORT_SYMBOL(pcibios_align_resource);
1049
1050 /*
1051  * Reparent resource children of pr that conflict with res
1052  * under res, and make res replace those children.
1053  */
1054 static int __init reparent_resources(struct resource *parent,
1055                                      struct resource *res)
1056 {
1057         struct resource *p, **pp;
1058         struct resource **firstpp = NULL;
1059
1060         for (pp = &parent->child; (p = *pp) != NULL; pp = &p->sibling) {
1061                 if (p->end < res->start)
1062                         continue;
1063                 if (res->end < p->start)
1064                         break;
1065                 if (p->start < res->start || p->end > res->end)
1066                         return -1;      /* not completely contained */
1067                 if (firstpp == NULL)
1068                         firstpp = pp;
1069         }
1070         if (firstpp == NULL)
1071                 return -1;      /* didn't find any conflicting entries? */
1072         res->parent = parent;
1073         res->child = *firstpp;
1074         res->sibling = *pp;
1075         *firstpp = res;
1076         *pp = NULL;
1077         for (p = res->child; p != NULL; p = p->sibling) {
1078                 p->parent = res;
1079                 pr_debug("PCI: Reparented %s [%llx..%llx] under %s\n",
1080                          p->name,
1081                          (unsigned long long)p->start,
1082                          (unsigned long long)p->end, res->name);
1083         }
1084         return 0;
1085 }
1086
1087 /*
1088  *  Handle resources of PCI devices.  If the world were perfect, we could
1089  *  just allocate all the resource regions and do nothing more.  It isn't.
1090  *  On the other hand, we cannot just re-allocate all devices, as it would
1091  *  require us to know lots of host bridge internals.  So we attempt to
1092  *  keep as much of the original configuration as possible, but tweak it
1093  *  when it's found to be wrong.
1094  *
1095  *  Known BIOS problems we have to work around:
1096  *      - I/O or memory regions not configured
1097  *      - regions configured, but not enabled in the command register
1098  *      - bogus I/O addresses above 64K used
1099  *      - expansion ROMs left enabled (this may sound harmless, but given
1100  *        the fact the PCI specs explicitly allow address decoders to be
1101  *        shared between expansion ROMs and other resource regions, it's
1102  *        at least dangerous)
1103  *
1104  *  Our solution:
1105  *      (1) Allocate resources for all buses behind PCI-to-PCI bridges.
1106  *          This gives us fixed barriers on where we can allocate.
1107  *      (2) Allocate resources for all enabled devices.  If there is
1108  *          a collision, just mark the resource as unallocated. Also
1109  *          disable expansion ROMs during this step.
1110  *      (3) Try to allocate resources for disabled devices.  If the
1111  *          resources were assigned correctly, everything goes well,
1112  *          if they weren't, they won't disturb allocation of other
1113  *          resources.
1114  *      (4) Assign new addresses to resources which were either
1115  *          not configured at all or misconfigured.  If explicitly
1116  *          requested by the user, configure expansion ROM address
1117  *          as well.
1118  */
1119
1120 static void pcibios_allocate_bus_resources(struct pci_bus *bus)
1121 {
1122         struct pci_bus *b;
1123         int i;
1124         struct resource *res, *pr;
1125
1126         pr_debug("PCI: Allocating bus resources for %04x:%02x...\n",
1127                  pci_domain_nr(bus), bus->number);
1128
1129         pci_bus_for_each_resource(bus, res, i) {
1130                 if (!res || !res->flags
1131                     || res->start > res->end || res->parent)
1132                         continue;
1133                 if (bus->parent == NULL)
1134                         pr = (res->flags & IORESOURCE_IO) ?
1135                                 &ioport_resource : &iomem_resource;
1136                 else {
1137                         /* Don't bother with non-root busses when
1138                          * re-assigning all resources. We clear the
1139                          * resource flags as if they were colliding
1140                          * and as such ensure proper re-allocation
1141                          * later.
1142                          */
1143                         pr = pci_find_parent_resource(bus->self, res);
1144                         if (pr == res) {
1145                                 /* this happens when the generic PCI
1146                                  * code (wrongly) decides that this
1147                                  * bridge is transparent  -- paulus
1148                                  */
1149                                 continue;
1150                         }
1151                 }
1152
1153                 pr_debug("PCI: %s (bus %d) bridge rsrc %d: %016llx-%016llx ",
1154                          bus->self ? pci_name(bus->self) : "PHB",
1155                          bus->number, i,
1156                          (unsigned long long)res->start,
1157                          (unsigned long long)res->end);
1158                 pr_debug("[0x%x], parent %p (%s)\n",
1159                          (unsigned int)res->flags,
1160                          pr, (pr && pr->name) ? pr->name : "nil");
1161
1162                 if (pr && !(pr->flags & IORESOURCE_UNSET)) {
1163                         if (request_resource(pr, res) == 0)
1164                                 continue;
1165                         /*
1166                          * Must be a conflict with an existing entry.
1167                          * Move that entry (or entries) under the
1168                          * bridge resource and try again.
1169                          */
1170                         if (reparent_resources(pr, res) == 0)
1171                                 continue;
1172                 }
1173                 pr_warn("PCI: Cannot allocate resource region ");
1174                 pr_cont("%d of PCI bridge %d, will remap\n", i, bus->number);
1175                 res->start = res->end = 0;
1176                 res->flags = 0;
1177         }
1178
1179         list_for_each_entry(b, &bus->children, node)
1180                 pcibios_allocate_bus_resources(b);
1181 }
1182
1183 static inline void alloc_resource(struct pci_dev *dev, int idx)
1184 {
1185         struct resource *pr, *r = &dev->resource[idx];
1186
1187         pr_debug("PCI: Allocating %s: Resource %d: %016llx..%016llx [%x]\n",
1188                  pci_name(dev), idx,
1189                  (unsigned long long)r->start,
1190                  (unsigned long long)r->end,
1191                  (unsigned int)r->flags);
1192
1193         pr = pci_find_parent_resource(dev, r);
1194         if (!pr || (pr->flags & IORESOURCE_UNSET) ||
1195             request_resource(pr, r) < 0) {
1196                 pr_warn("PCI: Cannot allocate resource region %d ", idx);
1197                 pr_cont("of device %s, will remap\n", pci_name(dev));
1198                 if (pr)
1199                         pr_debug("PCI:  parent is %p: %016llx-%016llx [%x]\n",
1200                                  pr,
1201                                  (unsigned long long)pr->start,
1202                                  (unsigned long long)pr->end,
1203                                  (unsigned int)pr->flags);
1204                 /* We'll assign a new address later */
1205                 r->flags |= IORESOURCE_UNSET;
1206                 r->end -= r->start;
1207                 r->start = 0;
1208         }
1209 }
1210
1211 static void __init pcibios_allocate_resources(int pass)
1212 {
1213         struct pci_dev *dev = NULL;
1214         int idx, disabled;
1215         u16 command;
1216         struct resource *r;
1217
1218         for_each_pci_dev(dev) {
1219                 pci_read_config_word(dev, PCI_COMMAND, &command);
1220                 for (idx = 0; idx <= PCI_ROM_RESOURCE; idx++) {
1221                         r = &dev->resource[idx];
1222                         if (r->parent)          /* Already allocated */
1223                                 continue;
1224                         if (!r->flags || (r->flags & IORESOURCE_UNSET))
1225                                 continue;       /* Not assigned at all */
1226                         /* We only allocate ROMs on pass 1 just in case they
1227                          * have been screwed up by firmware
1228                          */
1229                         if (idx == PCI_ROM_RESOURCE)
1230                                 disabled = 1;
1231                         if (r->flags & IORESOURCE_IO)
1232                                 disabled = !(command & PCI_COMMAND_IO);
1233                         else
1234                                 disabled = !(command & PCI_COMMAND_MEMORY);
1235                         if (pass == disabled)
1236                                 alloc_resource(dev, idx);
1237                 }
1238                 if (pass)
1239                         continue;
1240                 r = &dev->resource[PCI_ROM_RESOURCE];
1241                 if (r->flags) {
1242                         /* Turn the ROM off, leave the resource region,
1243                          * but keep it unregistered.
1244                          */
1245                         u32 reg;
1246                         pci_read_config_dword(dev, dev->rom_base_reg, &reg);
1247                         if (reg & PCI_ROM_ADDRESS_ENABLE) {
1248                                 pr_debug("PCI: Switching off ROM of %s\n",
1249                                          pci_name(dev));
1250                                 r->flags &= ~IORESOURCE_ROM_ENABLE;
1251                                 pci_write_config_dword(dev, dev->rom_base_reg,
1252                                                 reg & ~PCI_ROM_ADDRESS_ENABLE);
1253                         }
1254                 }
1255         }
1256 }
1257
1258 static void __init pcibios_reserve_legacy_regions(struct pci_bus *bus)
1259 {
1260         struct pci_controller *hose = pci_bus_to_host(bus);
1261         resource_size_t offset;
1262         struct resource *res, *pres;
1263         int i;
1264
1265         pr_debug("Reserving legacy ranges for domain %04x\n",
1266                                                         pci_domain_nr(bus));
1267
1268         /* Check for IO */
1269         if (!(hose->io_resource.flags & IORESOURCE_IO))
1270                 goto no_io;
1271         offset = (unsigned long)hose->io_base_virt - _IO_BASE;
1272         res = kzalloc(sizeof(struct resource), GFP_KERNEL);
1273         BUG_ON(res == NULL);
1274         res->name = "Legacy IO";
1275         res->flags = IORESOURCE_IO;
1276         res->start = offset;
1277         res->end = (offset + 0xfff) & 0xfffffffful;
1278         pr_debug("Candidate legacy IO: %pR\n", res);
1279         if (request_resource(&hose->io_resource, res)) {
1280                 pr_debug("PCI %04x:%02x Cannot reserve Legacy IO %pR\n",
1281                        pci_domain_nr(bus), bus->number, res);
1282                 kfree(res);
1283         }
1284
1285  no_io:
1286         /* Check for memory */
1287         offset = hose->pci_mem_offset;
1288         pr_debug("hose mem offset: %016llx\n", (unsigned long long)offset);
1289         for (i = 0; i < 3; i++) {
1290                 pres = &hose->mem_resources[i];
1291                 if (!(pres->flags & IORESOURCE_MEM))
1292                         continue;
1293                 pr_debug("hose mem res: %pR\n", pres);
1294                 if ((pres->start - offset) <= 0xa0000 &&
1295                     (pres->end - offset) >= 0xbffff)
1296                         break;
1297         }
1298         if (i >= 3)
1299                 return;
1300         res = kzalloc(sizeof(struct resource), GFP_KERNEL);
1301         BUG_ON(res == NULL);
1302         res->name = "Legacy VGA memory";
1303         res->flags = IORESOURCE_MEM;
1304         res->start = 0xa0000 + offset;
1305         res->end = 0xbffff + offset;
1306         pr_debug("Candidate VGA memory: %pR\n", res);
1307         if (request_resource(pres, res)) {
1308                 pr_debug("PCI %04x:%02x Cannot reserve VGA memory %pR\n",
1309                        pci_domain_nr(bus), bus->number, res);
1310                 kfree(res);
1311         }
1312 }
1313
1314 void __init pcibios_resource_survey(void)
1315 {
1316         struct pci_bus *b;
1317
1318         /* Allocate and assign resources. If we re-assign everything, then
1319          * we skip the allocate phase
1320          */
1321         list_for_each_entry(b, &pci_root_buses, node)
1322                 pcibios_allocate_bus_resources(b);
1323
1324         pcibios_allocate_resources(0);
1325         pcibios_allocate_resources(1);
1326
1327         /* Before we start assigning unassigned resource, we try to reserve
1328          * the low IO area and the VGA memory area if they intersect the
1329          * bus available resources to avoid allocating things on top of them
1330          */
1331         list_for_each_entry(b, &pci_root_buses, node)
1332                 pcibios_reserve_legacy_regions(b);
1333
1334         /* Now proceed to assigning things that were left unassigned */
1335         pr_debug("PCI: Assigning unassigned resources...\n");
1336         pci_assign_unassigned_resources();
1337 }
1338
1339 /* This is used by the PCI hotplug driver to allocate resource
1340  * of newly plugged busses. We can try to consolidate with the
1341  * rest of the code later, for now, keep it as-is as our main
1342  * resource allocation function doesn't deal with sub-trees yet.
1343  */
1344 void pcibios_claim_one_bus(struct pci_bus *bus)
1345 {
1346         struct pci_dev *dev;
1347         struct pci_bus *child_bus;
1348
1349         list_for_each_entry(dev, &bus->devices, bus_list) {
1350                 int i;
1351
1352                 for (i = 0; i < PCI_NUM_RESOURCES; i++) {
1353                         struct resource *r = &dev->resource[i];
1354
1355                         if (r->parent || !r->start || !r->flags)
1356                                 continue;
1357
1358                         pr_debug("PCI: Claiming %s: ", pci_name(dev));
1359                         pr_debug("Resource %d: %016llx..%016llx [%x]\n",
1360                                  i, (unsigned long long)r->start,
1361                                  (unsigned long long)r->end,
1362                                  (unsigned int)r->flags);
1363
1364                         pci_claim_resource(dev, i);
1365                 }
1366         }
1367
1368         list_for_each_entry(child_bus, &bus->children, node)
1369                 pcibios_claim_one_bus(child_bus);
1370 }
1371 EXPORT_SYMBOL_GPL(pcibios_claim_one_bus);
1372
1373
1374 /* pcibios_finish_adding_to_bus
1375  *
1376  * This is to be called by the hotplug code after devices have been
1377  * added to a bus, this include calling it for a PHB that is just
1378  * being added
1379  */
1380 void pcibios_finish_adding_to_bus(struct pci_bus *bus)
1381 {
1382         pr_debug("PCI: Finishing adding to hotplug bus %04x:%02x\n",
1383                  pci_domain_nr(bus), bus->number);
1384
1385         /* Allocate bus and devices resources */
1386         pcibios_allocate_bus_resources(bus);
1387         pcibios_claim_one_bus(bus);
1388
1389         /* Add new devices to global lists.  Register in proc, sysfs. */
1390         pci_bus_add_devices(bus);
1391
1392         /* Fixup EEH */
1393         /* eeh_add_device_tree_late(bus); */
1394 }
1395 EXPORT_SYMBOL_GPL(pcibios_finish_adding_to_bus);
1396
1397 int pcibios_enable_device(struct pci_dev *dev, int mask)
1398 {
1399         return pci_enable_resources(dev, mask);
1400 }
1401
1402 static void pcibios_setup_phb_resources(struct pci_controller *hose,
1403                                         struct list_head *resources)
1404 {
1405         unsigned long io_offset;
1406         struct resource *res;
1407         int i;
1408
1409         /* Hookup PHB IO resource */
1410         res = &hose->io_resource;
1411
1412         /* Fixup IO space offset */
1413         io_offset = (unsigned long)hose->io_base_virt - isa_io_base;
1414         res->start = (res->start + io_offset) & 0xffffffffu;
1415         res->end = (res->end + io_offset) & 0xffffffffu;
1416
1417         if (!res->flags) {
1418                 pr_warn("PCI: I/O resource not set for host ");
1419                 pr_cont("bridge %s (domain %d)\n",
1420                         hose->dn->full_name, hose->global_number);
1421                 /* Workaround for lack of IO resource only on 32-bit */
1422                 res->start = (unsigned long)hose->io_base_virt - isa_io_base;
1423                 res->end = res->start + IO_SPACE_LIMIT;
1424                 res->flags = IORESOURCE_IO;
1425         }
1426         pci_add_resource_offset(resources, res,
1427                 (__force resource_size_t)(hose->io_base_virt - _IO_BASE));
1428
1429         pr_debug("PCI: PHB IO resource    = %016llx-%016llx [%lx]\n",
1430                  (unsigned long long)res->start,
1431                  (unsigned long long)res->end,
1432                  (unsigned long)res->flags);
1433
1434         /* Hookup PHB Memory resources */
1435         for (i = 0; i < 3; ++i) {
1436                 res = &hose->mem_resources[i];
1437                 if (!res->flags) {
1438                         if (i > 0)
1439                                 continue;
1440                         pr_err("PCI: Memory resource 0 not set for ");
1441                         pr_cont("host bridge %s (domain %d)\n",
1442                                 hose->dn->full_name, hose->global_number);
1443
1444                         /* Workaround for lack of MEM resource only on 32-bit */
1445                         res->start = hose->pci_mem_offset;
1446                         res->end = (resource_size_t)-1LL;
1447                         res->flags = IORESOURCE_MEM;
1448
1449                 }
1450                 pci_add_resource_offset(resources, res, hose->pci_mem_offset);
1451
1452                 pr_debug("PCI: PHB MEM resource %d = %016llx-%016llx [%lx]\n",
1453                         i, (unsigned long long)res->start,
1454                         (unsigned long long)res->end,
1455                         (unsigned long)res->flags);
1456         }
1457
1458         pr_debug("PCI: PHB MEM offset     = %016llx\n",
1459                  (unsigned long long)hose->pci_mem_offset);
1460         pr_debug("PCI: PHB IO  offset     = %08lx\n",
1461                  (unsigned long)hose->io_base_virt - _IO_BASE);
1462 }
1463
1464 struct device_node *pcibios_get_phb_of_node(struct pci_bus *bus)
1465 {
1466         struct pci_controller *hose = bus->sysdata;
1467
1468         return of_node_get(hose->dn);
1469 }
1470
1471 static void pcibios_scan_phb(struct pci_controller *hose)
1472 {
1473         LIST_HEAD(resources);
1474         struct pci_bus *bus;
1475         struct device_node *node = hose->dn;
1476
1477         pr_debug("PCI: Scanning PHB %s\n", of_node_full_name(node));
1478
1479         pcibios_setup_phb_resources(hose, &resources);
1480
1481         bus = pci_scan_root_bus(hose->parent, hose->first_busno,
1482                                 hose->ops, hose, &resources);
1483         if (bus == NULL) {
1484                 pr_err("Failed to create bus for PCI domain %04x\n",
1485                        hose->global_number);
1486                 pci_free_resource_list(&resources);
1487                 return;
1488         }
1489         bus->busn_res.start = hose->first_busno;
1490         hose->bus = bus;
1491
1492         hose->last_busno = bus->busn_res.end;
1493 }
1494
1495 static int __init pcibios_init(void)
1496 {
1497         struct pci_controller *hose, *tmp;
1498         int next_busno = 0;
1499
1500         pr_info("PCI: Probing PCI hardware\n");
1501
1502         /* Scan all of the recorded PCI controllers.  */
1503         list_for_each_entry_safe(hose, tmp, &hose_list, list_node) {
1504                 hose->last_busno = 0xff;
1505                 pcibios_scan_phb(hose);
1506                 if (next_busno <= hose->last_busno)
1507                         next_busno = hose->last_busno + 1;
1508         }
1509         pci_bus_count = next_busno;
1510
1511         /* Call common code to handle resource allocation */
1512         pcibios_resource_survey();
1513
1514         return 0;
1515 }
1516
1517 subsys_initcall(pcibios_init);
1518
1519 static struct pci_controller *pci_bus_to_hose(int bus)
1520 {
1521         struct pci_controller *hose, *tmp;
1522
1523         list_for_each_entry_safe(hose, tmp, &hose_list, list_node)
1524                 if (bus >= hose->first_busno && bus <= hose->last_busno)
1525                         return hose;
1526         return NULL;
1527 }
1528
1529 /* Provide information on locations of various I/O regions in physical
1530  * memory.  Do this on a per-card basis so that we choose the right
1531  * root bridge.
1532  * Note that the returned IO or memory base is a physical address
1533  */
1534
1535 long sys_pciconfig_iobase(long which, unsigned long bus, unsigned long devfn)
1536 {
1537         struct pci_controller *hose;
1538         long result = -EOPNOTSUPP;
1539
1540         hose = pci_bus_to_hose(bus);
1541         if (!hose)
1542                 return -ENODEV;
1543
1544         switch (which) {
1545         case IOBASE_BRIDGE_NUMBER:
1546                 return (long)hose->first_busno;
1547         case IOBASE_MEMORY:
1548                 return (long)hose->pci_mem_offset;
1549         case IOBASE_IO:
1550                 return (long)hose->io_base_phys;
1551         case IOBASE_ISA_IO:
1552                 return (long)isa_io_base;
1553         case IOBASE_ISA_MEM:
1554                 return (long)isa_mem_base;
1555         }
1556
1557         return result;
1558 }
1559
1560 /*
1561  * Null PCI config access functions, for the case when we can't
1562  * find a hose.
1563  */
1564 #define NULL_PCI_OP(rw, size, type)                                     \
1565 static int                                                              \
1566 null_##rw##_config_##size(struct pci_dev *dev, int offset, type val)    \
1567 {                                                                       \
1568         return PCIBIOS_DEVICE_NOT_FOUND;                                \
1569 }
1570
1571 static int
1572 null_read_config(struct pci_bus *bus, unsigned int devfn, int offset,
1573                  int len, u32 *val)
1574 {
1575         return PCIBIOS_DEVICE_NOT_FOUND;
1576 }
1577
1578 static int
1579 null_write_config(struct pci_bus *bus, unsigned int devfn, int offset,
1580                   int len, u32 val)
1581 {
1582         return PCIBIOS_DEVICE_NOT_FOUND;
1583 }
1584
1585 static struct pci_ops null_pci_ops = {
1586         .read = null_read_config,
1587         .write = null_write_config,
1588 };
1589
1590 /*
1591  * These functions are used early on before PCI scanning is done
1592  * and all of the pci_dev and pci_bus structures have been created.
1593  */
1594 static struct pci_bus *
1595 fake_pci_bus(struct pci_controller *hose, int busnr)
1596 {
1597         static struct pci_bus bus;
1598
1599         if (!hose)
1600                 pr_err("Can't find hose for PCI bus %d!\n", busnr);
1601
1602         bus.number = busnr;
1603         bus.sysdata = hose;
1604         bus.ops = hose ? hose->ops : &null_pci_ops;
1605         return &bus;
1606 }
1607
1608 #define EARLY_PCI_OP(rw, size, type)                                    \
1609 int early_##rw##_config_##size(struct pci_controller *hose, int bus,    \
1610                                int devfn, int offset, type value)       \
1611 {                                                                       \
1612         return pci_bus_##rw##_config_##size(fake_pci_bus(hose, bus),    \
1613                                             devfn, offset, value);      \
1614 }
1615
1616 EARLY_PCI_OP(read, byte, u8 *)
1617 EARLY_PCI_OP(read, word, u16 *)
1618 EARLY_PCI_OP(read, dword, u32 *)
1619 EARLY_PCI_OP(write, byte, u8)
1620 EARLY_PCI_OP(write, word, u16)
1621 EARLY_PCI_OP(write, dword, u32)
1622
1623 int early_find_capability(struct pci_controller *hose, int bus, int devfn,
1624                           int cap)
1625 {
1626         return pci_bus_find_capability(fake_pci_bus(hose, bus), devfn, cap);
1627 }
1628