mm: make per-memcg LRU lists exclusive
[platform/adaptation/renesas_rcar/renesas_kernel.git] / include / linux / mm_inline.h
1 #ifndef LINUX_MM_INLINE_H
2 #define LINUX_MM_INLINE_H
3
4 #include <linux/huge_mm.h>
5
6 /**
7  * page_is_file_cache - should the page be on a file LRU or anon LRU?
8  * @page: the page to test
9  *
10  * Returns 1 if @page is page cache page backed by a regular filesystem,
11  * or 0 if @page is anonymous, tmpfs or otherwise ram or swap backed.
12  * Used by functions that manipulate the LRU lists, to sort a page
13  * onto the right LRU list.
14  *
15  * We would like to get this info without a page flag, but the state
16  * needs to survive until the page is last deleted from the LRU, which
17  * could be as far down as __page_cache_release.
18  */
19 static inline int page_is_file_cache(struct page *page)
20 {
21         return !PageSwapBacked(page);
22 }
23
24 static inline void
25 add_page_to_lru_list(struct zone *zone, struct page *page, enum lru_list l)
26 {
27         struct lruvec *lruvec;
28
29         lruvec = mem_cgroup_lru_add_list(zone, page, l);
30         list_add(&page->lru, &lruvec->lists[l]);
31         __mod_zone_page_state(zone, NR_LRU_BASE + l, hpage_nr_pages(page));
32 }
33
34 static inline void
35 del_page_from_lru_list(struct zone *zone, struct page *page, enum lru_list l)
36 {
37         mem_cgroup_lru_del_list(page, l);
38         list_del(&page->lru);
39         __mod_zone_page_state(zone, NR_LRU_BASE + l, -hpage_nr_pages(page));
40 }
41
42 /**
43  * page_lru_base_type - which LRU list type should a page be on?
44  * @page: the page to test
45  *
46  * Used for LRU list index arithmetic.
47  *
48  * Returns the base LRU type - file or anon - @page should be on.
49  */
50 static inline enum lru_list page_lru_base_type(struct page *page)
51 {
52         if (page_is_file_cache(page))
53                 return LRU_INACTIVE_FILE;
54         return LRU_INACTIVE_ANON;
55 }
56
57 static inline void
58 del_page_from_lru(struct zone *zone, struct page *page)
59 {
60         enum lru_list l;
61
62         if (PageUnevictable(page)) {
63                 __ClearPageUnevictable(page);
64                 l = LRU_UNEVICTABLE;
65         } else {
66                 l = page_lru_base_type(page);
67                 if (PageActive(page)) {
68                         __ClearPageActive(page);
69                         l += LRU_ACTIVE;
70                 }
71         }
72         mem_cgroup_lru_del_list(page, l);
73         list_del(&page->lru);
74         __mod_zone_page_state(zone, NR_LRU_BASE + l, -hpage_nr_pages(page));
75 }
76
77 /**
78  * page_lru - which LRU list should a page be on?
79  * @page: the page to test
80  *
81  * Returns the LRU list a page should be on, as an index
82  * into the array of LRU lists.
83  */
84 static inline enum lru_list page_lru(struct page *page)
85 {
86         enum lru_list lru;
87
88         if (PageUnevictable(page))
89                 lru = LRU_UNEVICTABLE;
90         else {
91                 lru = page_lru_base_type(page);
92                 if (PageActive(page))
93                         lru += LRU_ACTIVE;
94         }
95
96         return lru;
97 }
98
99 #endif