include/linux/memblock.h

   1 #ifndef _LINUX_MEMBLOCK_H
   2 #define _LINUX_MEMBLOCK_H
   3 #ifdef __KERNEL__
   4
   5 #ifdef CONFIG_HAVE_MEMBLOCK
   6 /*
   7  * Logical memory blocks.
   8  *
   9  * Copyright (C) 2001 Peter Bergner, IBM Corp.
  10  *
  11  * This program is free software; you can redistribute it and/or
  12  * modify it under the terms of the GNU General Public License
  13  * as published by the Free Software Foundation; either version
  14  * 2 of the License, or (at your option) any later version.
  15  */
  16
  17 #include <linux/init.h>
  18 #include <linux/mm.h>
  19
  20 #define INIT_MEMBLOCK_REGIONS   128
  21
  22 struct memblock_region {
  23         phys_addr_t base;
  24         phys_addr_t size;
  25         unsigned long flags;
  26 #ifdef CONFIG_HAVE_MEMBLOCK_NODE_MAP
  27         int nid;
  28 #endif
  29 };
  30
  31 struct memblock_type {
  32         unsigned long cnt;      /* number of regions */
  33         unsigned long max;      /* size of the allocated array */
  34         phys_addr_t total_size; /* size of all regions */
  35         struct memblock_region *regions;
  36 };
  37
  38 struct memblock {
  39         bool bottom_up;  /* is bottom up direction? */
  40         phys_addr_t current_limit;
  41         struct memblock_type memory;
  42         struct memblock_type reserved;
  43 };
  44
  45 extern struct memblock memblock;
  46 extern int memblock_debug;
  47
  48 #define memblock_dbg(fmt, ...) \
  49         if (memblock_debug) printk(KERN_INFO pr_fmt(fmt), ##__VA_ARGS__)
  50
  51 phys_addr_t memblock_find_in_range_node(phys_addr_t start, phys_addr_t end,
  52                                 phys_addr_t size, phys_addr_t align, int nid);
  53 phys_addr_t memblock_find_in_range(phys_addr_t start, phys_addr_t end,
  54                                    phys_addr_t size, phys_addr_t align);
  55 phys_addr_t get_allocated_memblock_reserved_regions_info(phys_addr_t *addr);
  56 void memblock_allow_resize(void);
  57 int memblock_add_node(phys_addr_t base, phys_addr_t size, int nid);
  58 int memblock_add(phys_addr_t base, phys_addr_t size);
  59 int memblock_remove(phys_addr_t base, phys_addr_t size);
  60 int memblock_free(phys_addr_t base, phys_addr_t size);
  61 int memblock_reserve(phys_addr_t base, phys_addr_t size);
  62 void memblock_trim_memory(phys_addr_t align);
  63
  64 #ifdef CONFIG_HAVE_MEMBLOCK_NODE_MAP
  65 int memblock_search_pfn_nid(unsigned long pfn, unsigned long *start_pfn,
  66                             unsigned long  *end_pfn);
  67 void __next_mem_pfn_range(int *idx, int nid, unsigned long *out_start_pfn,
  68                           unsigned long *out_end_pfn, int *out_nid);
  69
  70 /**
  71  * for_each_mem_pfn_range - early memory pfn range iterator
  72  * @i: an integer used as loop variable
  73  * @nid: node selector, %MAX_NUMNODES for all nodes
  74  * @p_start: ptr to ulong for start pfn of the range, can be %NULL
  75  * @p_end: ptr to ulong for end pfn of the range, can be %NULL
  76  * @p_nid: ptr to int for nid of the range, can be %NULL
  77  *
  78  * Walks over configured memory ranges.
  79  */
  80 #define for_each_mem_pfn_range(i, nid, p_start, p_end, p_nid)           \
  81         for (i = -1, __next_mem_pfn_range(&i, nid, p_start, p_end, p_nid); \
  82              i >= 0; __next_mem_pfn_range(&i, nid, p_start, p_end, p_nid))
  83 #endif /* CONFIG_HAVE_MEMBLOCK_NODE_MAP */
  84
  85 void __next_free_mem_range(u64 *idx, int nid, phys_addr_t *out_start,
  86                            phys_addr_t *out_end, int *out_nid);
  87
  88 /**
  89  * for_each_free_mem_range - iterate through free memblock areas
  90  * @i: u64 used as loop variable
  91  * @nid: node selector, %MAX_NUMNODES for all nodes
  92  * @p_start: ptr to phys_addr_t for start address of the range, can be %NULL
  93  * @p_end: ptr to phys_addr_t for end address of the range, can be %NULL
  94  * @p_nid: ptr to int for nid of the range, can be %NULL
  95  *
  96  * Walks over free (memory && !reserved) areas of memblock.  Available as
  97  * soon as memblock is initialized.
  98  */
  99 #define for_each_free_mem_range(i, nid, p_start, p_end, p_nid)          \
 100         for (i = 0,                                                     \
 101              __next_free_mem_range(&i, nid, p_start, p_end, p_nid);     \
 102              i != (u64)ULLONG_MAX;                                      \
 103              __next_free_mem_range(&i, nid, p_start, p_end, p_nid))
 104
 105 void __next_free_mem_range_rev(u64 *idx, int nid, phys_addr_t *out_start,
 106                                phys_addr_t *out_end, int *out_nid);
 107
 108 /**
 109  * for_each_free_mem_range_reverse - rev-iterate through free memblock areas
 110  * @i: u64 used as loop variable
 111  * @nid: node selector, %MAX_NUMNODES for all nodes
 112  * @p_start: ptr to phys_addr_t for start address of the range, can be %NULL
 113  * @p_end: ptr to phys_addr_t for end address of the range, can be %NULL
 114  * @p_nid: ptr to int for nid of the range, can be %NULL
 115  *
 116  * Walks over free (memory && !reserved) areas of memblock in reverse
 117  * order.  Available as soon as memblock is initialized.
 118  */
 119 #define for_each_free_mem_range_reverse(i, nid, p_start, p_end, p_nid)  \
 120         for (i = (u64)ULLONG_MAX,                                       \
 121              __next_free_mem_range_rev(&i, nid, p_start, p_end, p_nid); \
 122              i != (u64)ULLONG_MAX;                                      \
 123              __next_free_mem_range_rev(&i, nid, p_start, p_end, p_nid))
 124
 125 #ifdef CONFIG_HAVE_MEMBLOCK_NODE_MAP
 126 int memblock_set_node(phys_addr_t base, phys_addr_t size, int nid);
 127
 128 static inline void memblock_set_region_node(struct memblock_region *r, int nid)
 129 {
 130         r->nid = nid;
 131 }
 132
 133 static inline int memblock_get_region_node(const struct memblock_region *r)
 134 {
 135         return r->nid;
 136 }
 137 #else
 138 static inline void memblock_set_region_node(struct memblock_region *r, int nid)
 139 {
 140 }
 141
 142 static inline int memblock_get_region_node(const struct memblock_region *r)
 143 {
 144         return 0;
 145 }
 146 #endif /* CONFIG_HAVE_MEMBLOCK_NODE_MAP */
 147
 148 phys_addr_t memblock_alloc_nid(phys_addr_t size, phys_addr_t align, int nid);
 149 phys_addr_t memblock_alloc_try_nid(phys_addr_t size, phys_addr_t align, int nid);
 150
 151 phys_addr_t memblock_alloc(phys_addr_t size, phys_addr_t align);
 152
 153 #ifdef CONFIG_MOVABLE_NODE
 154 /*
 155  * Set the allocation direction to bottom-up or top-down.
 156  */
 157 static inline void memblock_set_bottom_up(bool enable)
 158 {
 159         memblock.bottom_up = enable;
 160 }
 161
 162 /*
 163  * Check if the allocation direction is bottom-up or not.
 164  * if this is true, that said, memblock will allocate memory
 165  * in bottom-up direction.
 166  */
 167 static inline bool memblock_bottom_up(void)
 168 {
 169         return memblock.bottom_up;
 170 }
 171 #else
 172 static inline void memblock_set_bottom_up(bool enable) {}
 173 static inline bool memblock_bottom_up(void) { return false; }
 174 #endif
 175
 176 /* Flags for memblock_alloc_base() amd __memblock_alloc_base() */
 177 #define MEMBLOCK_ALLOC_ANYWHERE (~(phys_addr_t)0)
 178 #define MEMBLOCK_ALLOC_ACCESSIBLE       0
 179
 180 phys_addr_t memblock_alloc_base(phys_addr_t size, phys_addr_t align,
 181                                 phys_addr_t max_addr);
 182 phys_addr_t __memblock_alloc_base(phys_addr_t size, phys_addr_t align,
 183                                   phys_addr_t max_addr);
 184 phys_addr_t memblock_phys_mem_size(void);
 185 phys_addr_t memblock_mem_size(unsigned long limit_pfn);
 186 phys_addr_t memblock_start_of_DRAM(void);
 187 phys_addr_t memblock_end_of_DRAM(void);
 188 void memblock_enforce_memory_limit(phys_addr_t memory_limit);
 189 int memblock_is_memory(phys_addr_t addr);
 190 int memblock_is_region_memory(phys_addr_t base, phys_addr_t size);
 191 int memblock_is_reserved(phys_addr_t addr);
 192 int memblock_is_region_reserved(phys_addr_t base, phys_addr_t size);
 193
 194 extern void __memblock_dump_all(void);
 195
 196 static inline void memblock_dump_all(void)
 197 {
 198         if (memblock_debug)
 199                 __memblock_dump_all();
 200 }
 201
 202 /**
 203  * memblock_set_current_limit - Set the current allocation limit to allow
 204  *                         limiting allocations to what is currently
 205  *                         accessible during boot
 206  * @limit: New limit value (physical address)
 207  */
 208 void memblock_set_current_limit(phys_addr_t limit);
 209
 210
 211 /*
 212  * pfn conversion functions
 213  *
 214  * While the memory MEMBLOCKs should always be page aligned, the reserved
 215  * MEMBLOCKs may not be. This accessor attempt to provide a very clear
 216  * idea of what they return for such non aligned MEMBLOCKs.
 217  */
 218
 219 /**
 220  * memblock_region_memory_base_pfn - Return the lowest pfn intersecting with the memory region
 221  * @reg: memblock_region structure
 222  */
 223 static inline unsigned long memblock_region_memory_base_pfn(const struct memblock_region *reg)
 224 {
 225         return PFN_UP(reg->base);
 226 }
 227
 228 /**
 229  * memblock_region_memory_end_pfn - Return the end_pfn this region
 230  * @reg: memblock_region structure
 231  */
 232 static inline unsigned long memblock_region_memory_end_pfn(const struct memblock_region *reg)
 233 {
 234         return PFN_DOWN(reg->base + reg->size);
 235 }
 236
 237 /**
 238  * memblock_region_reserved_base_pfn - Return the lowest pfn intersecting with the reserved region
 239  * @reg: memblock_region structure
 240  */
 241 static inline unsigned long memblock_region_reserved_base_pfn(const struct memblock_region *reg)
 242 {
 243         return PFN_DOWN(reg->base);
 244 }
 245
 246 /**
 247  * memblock_region_reserved_end_pfn - Return the end_pfn this region
 248  * @reg: memblock_region structure
 249  */
 250 static inline unsigned long memblock_region_reserved_end_pfn(const struct memblock_region *reg)
 251 {
 252         return PFN_UP(reg->base + reg->size);
 253 }
 254
 255 #define for_each_memblock(memblock_type, region)                                        \
 256         for (region = memblock.memblock_type.regions;                           \
 257              region < (memblock.memblock_type.regions + memblock.memblock_type.cnt);    \
 258              region++)
 259
 260
 261 #ifdef CONFIG_ARCH_DISCARD_MEMBLOCK
 262 #define __init_memblock __meminit
 263 #define __initdata_memblock __meminitdata
 264 #else
 265 #define __init_memblock
 266 #define __initdata_memblock
 267 #endif
 268
 269 #else
 270 static inline phys_addr_t memblock_alloc(phys_addr_t size, phys_addr_t align)
 271 {
 272         return 0;
 273 }
 274
 275 #endif /* CONFIG_HAVE_MEMBLOCK */
 276
 277 #endif /* __KERNEL__ */
 278
 279 #endif /* _LINUX_MEMBLOCK_H */