]> git.karo-electronics.de Git - karo-tx-linux.git/blob - arch/arm/include/asm/pgalloc.h
ARM: pgtable: get rid of get_pgd_slow()/free_pgd_slow()
[karo-tx-linux.git] / arch / arm / include / asm / pgalloc.h
1 /*
2  *  arch/arm/include/asm/pgalloc.h
3  *
4  *  Copyright (C) 2000-2001 Russell King
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 as
8  * published by the Free Software Foundation.
9  */
10 #ifndef _ASMARM_PGALLOC_H
11 #define _ASMARM_PGALLOC_H
12
13 #include <asm/domain.h>
14 #include <asm/pgtable-hwdef.h>
15 #include <asm/processor.h>
16 #include <asm/cacheflush.h>
17 #include <asm/tlbflush.h>
18
19 #define check_pgt_cache()               do { } while (0)
20
21 #ifdef CONFIG_MMU
22
23 #define _PAGE_USER_TABLE        (PMD_TYPE_TABLE | PMD_BIT4 | PMD_DOMAIN(DOMAIN_USER))
24 #define _PAGE_KERNEL_TABLE      (PMD_TYPE_TABLE | PMD_BIT4 | PMD_DOMAIN(DOMAIN_KERNEL))
25
26 /*
27  * Since we have only two-level page tables, these are trivial
28  */
29 #define pmd_alloc_one(mm,addr)          ({ BUG(); ((pmd_t *)2); })
30 #define pmd_free(mm, pmd)               do { } while (0)
31 #define pgd_populate(mm,pmd,pte)        BUG()
32
33 extern pgd_t *pgd_alloc(struct mm_struct *mm);
34 extern void pgd_free(struct mm_struct *mm, pgd_t *pgd);
35
36 #define PGALLOC_GFP     (GFP_KERNEL | __GFP_NOTRACK | __GFP_REPEAT | __GFP_ZERO)
37
38 /*
39  * Allocate one PTE table.
40  *
41  * This actually allocates two hardware PTE tables, but we wrap this up
42  * into one table thus:
43  *
44  *  +------------+
45  *  |  h/w pt 0  |
46  *  +------------+
47  *  |  h/w pt 1  |
48  *  +------------+
49  *  | Linux pt 0 |
50  *  +------------+
51  *  | Linux pt 1 |
52  *  +------------+
53  */
54 static inline pte_t *
55 pte_alloc_one_kernel(struct mm_struct *mm, unsigned long addr)
56 {
57         pte_t *pte;
58
59         pte = (pte_t *)__get_free_page(PGALLOC_GFP);
60         if (pte) {
61                 clean_dcache_area(pte, sizeof(pte_t) * PTRS_PER_PTE);
62                 pte += PTRS_PER_PTE;
63         }
64
65         return pte;
66 }
67
68 static inline pgtable_t
69 pte_alloc_one(struct mm_struct *mm, unsigned long addr)
70 {
71         struct page *pte;
72
73 #ifdef CONFIG_HIGHPTE
74         pte = alloc_pages(PGALLOC_GFP | __GFP_HIGHMEM, 0);
75 #else
76         pte = alloc_pages(PGALLOC_GFP, 0);
77 #endif
78         if (pte) {
79                 if (!PageHighMem(pte)) {
80                         void *page = page_address(pte);
81                         clean_dcache_area(page, sizeof(pte_t) * PTRS_PER_PTE);
82                 }
83                 pgtable_page_ctor(pte);
84         }
85
86         return pte;
87 }
88
89 /*
90  * Free one PTE table.
91  */
92 static inline void pte_free_kernel(struct mm_struct *mm, pte_t *pte)
93 {
94         if (pte) {
95                 pte -= PTRS_PER_PTE;
96                 free_page((unsigned long)pte);
97         }
98 }
99
100 static inline void pte_free(struct mm_struct *mm, pgtable_t pte)
101 {
102         pgtable_page_dtor(pte);
103         __free_page(pte);
104 }
105
106 static inline void __pmd_populate(pmd_t *pmdp, unsigned long pmdval)
107 {
108         pmdp[0] = __pmd(pmdval);
109         pmdp[1] = __pmd(pmdval + 256 * sizeof(pte_t));
110         flush_pmd_entry(pmdp);
111 }
112
113 /*
114  * Populate the pmdp entry with a pointer to the pte.  This pmd is part
115  * of the mm address space.
116  *
117  * Ensure that we always set both PMD entries.
118  */
119 static inline void
120 pmd_populate_kernel(struct mm_struct *mm, pmd_t *pmdp, pte_t *ptep)
121 {
122         unsigned long pte_ptr = (unsigned long)ptep;
123
124         /*
125          * The pmd must be loaded with the physical
126          * address of the PTE table
127          */
128         pte_ptr -= PTRS_PER_PTE * sizeof(void *);
129         __pmd_populate(pmdp, __pa(pte_ptr) | _PAGE_KERNEL_TABLE);
130 }
131
132 static inline void
133 pmd_populate(struct mm_struct *mm, pmd_t *pmdp, pgtable_t ptep)
134 {
135         __pmd_populate(pmdp, page_to_pfn(ptep) << PAGE_SHIFT | _PAGE_USER_TABLE);
136 }
137 #define pmd_pgtable(pmd) pmd_page(pmd)
138
139 #endif /* CONFIG_MMU */
140
141 #endif