arch/arm/mm/fault.c

   1 /*
   2  *  linux/arch/arm/mm/fault.c
   3  *
   4  *  Copyright (C) 1995  Linus Torvalds
   5  *  Modifications for ARM processor (c) 1995-2004 Russell King
   6  *
   7  * This program is free software; you can redistribute it and/or modify
   8  * it under the terms of the GNU General Public License version 2 as
   9  * published by the Free Software Foundation.
  10  */
  11 #include <linux/module.h>
  12 #include <linux/signal.h>
  13 #include <linux/mm.h>
  14 #include <linux/hardirq.h>
  15 #include <linux/init.h>
  16 #include <linux/kprobes.h>
  17 #include <linux/uaccess.h>
  18 #include <linux/page-flags.h>
  19 #include <linux/sched.h>
  20 #include <linux/highmem.h>
  21 #include <linux/perf_event.h>
  22
  23 #include <asm/exception.h>
  24 #include <asm/system.h>
  25 #include <asm/pgtable.h>
  26 #include <asm/tlbflush.h>
  27
  28 #include "fault.h"
  29
  30 /*
  31  * Fault status register encodings.  We steal bit 31 for our own purposes.
  32  */
  33 #define FSR_LNX_PF              (1 << 31)
  34 #define FSR_WRITE               (1 << 11)
  35 #define FSR_FS4                 (1 << 10)
  36 #define FSR_FS3_0               (15)
  37
  38 static inline int fsr_fs(unsigned int fsr)
  39 {
  40         return (fsr & FSR_FS3_0) | (fsr & FSR_FS4) >> 6;
  41 }
  42
  43 #ifdef CONFIG_MMU
  44
  45 #ifdef CONFIG_KPROBES
  46 static inline int notify_page_fault(struct pt_regs *regs, unsigned int fsr)
  47 {
  48         int ret = 0;
  49
  50         if (!user_mode(regs)) {
  51                 /* kprobe_running() needs smp_processor_id() */
  52                 preempt_disable();
  53                 if (kprobe_running() && kprobe_fault_handler(regs, fsr))
  54                         ret = 1;
  55                 preempt_enable();
  56         }
  57
  58         return ret;
  59 }
  60 #else
  61 static inline int notify_page_fault(struct pt_regs *regs, unsigned int fsr)
  62 {
  63         return 0;
  64 }
  65 #endif
  66
  67 /*
  68  * This is useful to dump out the page tables associated with
  69  * 'addr' in mm 'mm'.
  70  */
  71 void show_pte(struct mm_struct *mm, unsigned long addr)
  72 {
  73         pgd_t *pgd;
  74
  75         if (!mm)
  76                 mm = &init_mm;
  77
  78         printk(KERN_ALERT "pgd = %p\n", mm->pgd);
  79         pgd = pgd_offset(mm, addr);
  80         printk(KERN_ALERT "[%08lx] *pgd=%08llx",
  81                         addr, (long long)pgd_val(*pgd));
  82
  83         do {
  84                 pud_t *pud;
  85                 pmd_t *pmd;
  86                 pte_t *pte;
  87
  88                 if (pgd_none(*pgd))
  89                         break;
  90
  91                 if (pgd_bad(*pgd)) {
  92                         printk("(bad)");
  93                         break;
  94                 }
  95
  96                 pud = pud_offset(pgd, addr);
  97                 if (PTRS_PER_PUD != 1)
  98                         printk(", *pud=%08llx", (long long)pud_val(*pud));
  99
 100                 if (pud_none(*pud))
 101                         break;
 102
 103                 if (pud_bad(*pud)) {
 104                         printk("(bad)");
 105                         break;
 106                 }
 107
 108                 pmd = pmd_offset(pud, addr);
 109                 if (PTRS_PER_PMD != 1)
 110                         printk(", *pmd=%08llx", (long long)pmd_val(*pmd));
 111
 112                 if (pmd_none(*pmd))
 113                         break;
 114
 115                 if (pmd_bad(*pmd)) {
 116                         printk("(bad)");
 117                         break;
 118                 }
 119
 120                 /* We must not map this if we have highmem enabled */
 121                 if (PageHighMem(pfn_to_page(pmd_val(*pmd) >> PAGE_SHIFT)))
 122                         break;
 123
 124                 pte = pte_offset_map(pmd, addr);
 125                 printk(", *pte=%08llx", (long long)pte_val(*pte));
 126                 printk(", *ppte=%08llx",
 127                        (long long)pte_val(pte[PTE_HWTABLE_PTRS]));
 128                 pte_unmap(pte);
 129         } while(0);
 130
 131         printk("\n");
 132 }
 133 #else                                   /* CONFIG_MMU */
 134 void show_pte(struct mm_struct *mm, unsigned long addr)
 135 { }
 136 #endif                                  /* CONFIG_MMU */
 137
 138 /*
 139  * Oops.  The kernel tried to access some page that wasn't present.
 140  */
 141 static void
 142 __do_kernel_fault(struct mm_struct *mm, unsigned long addr, unsigned int fsr,
 143                   struct pt_regs *regs)
 144 {
 145         /*
 146          * Are we prepared to handle this kernel fault?
 147          */
 148         if (fixup_exception(regs))
 149                 return;
 150
 151         /*
 152          * No handler, we'll have to terminate things with extreme prejudice.
 153          */
 154         bust_spinlocks(1);
 155         printk(KERN_ALERT
 156                 "Unable to handle kernel %s at virtual address %08lx\n",
 157                 (addr < PAGE_SIZE) ? "NULL pointer dereference" :
 158                 "paging request", addr);
 159
 160         show_pte(mm, addr);
 161         die("Oops", regs, fsr);
 162         bust_spinlocks(0);
 163         do_exit(SIGKILL);
 164 }
 165
 166 /*
 167  * Something tried to access memory that isn't in our memory map..
 168  * User mode accesses just cause a SIGSEGV
 169  */
 170 static void
 171 __do_user_fault(struct task_struct *tsk, unsigned long addr,
 172                 unsigned int fsr, unsigned int sig, int code,
 173                 struct pt_regs *regs)
 174 {
 175         struct siginfo si;
 176
 177 #ifdef CONFIG_DEBUG_USER
 178         if (user_debug & UDBG_SEGV) {
 179                 printk(KERN_DEBUG "%s: unhandled page fault (%d) at 0x%08lx, code 0x%03x\n",
 180                        tsk->comm, sig, addr, fsr);
 181                 show_pte(tsk->mm, addr);
 182                 show_regs(regs);
 183         }
 184 #endif
 185
 186         tsk->thread.address = addr;
 187         tsk->thread.error_code = fsr;
 188         tsk->thread.trap_no = 14;
 189         si.si_signo = sig;
 190         si.si_errno = 0;
 191         si.si_code = code;
 192         si.si_addr = (void __user *)addr;
 193         force_sig_info(sig, &si, tsk);
 194 }
 195
 196 void do_bad_area(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 197 {
 198         struct task_struct *tsk = current;
 199         struct mm_struct *mm = tsk->active_mm;
 200
 201         /*
 202          * If we are in kernel mode at this point, we
 203          * have no context to handle this fault with.
 204          */
 205         if (user_mode(regs))
 206                 __do_user_fault(tsk, addr, fsr, SIGSEGV, SEGV_MAPERR, regs);
 207         else
 208                 __do_kernel_fault(mm, addr, fsr, regs);
 209 }
 210
 211 #ifdef CONFIG_MMU
 212 #define VM_FAULT_BADMAP         0x010000
 213 #define VM_FAULT_BADACCESS      0x020000
 214
 215 /*
 216  * Check that the permissions on the VMA allow for the fault which occurred.
 217  * If we encountered a write fault, we must have write permission, otherwise
 218  * we allow any permission.
 219  */
 220 static inline bool access_error(unsigned int fsr, struct vm_area_struct *vma)
 221 {
 222         unsigned int mask = VM_READ | VM_WRITE | VM_EXEC;
 223
 224         if (fsr & FSR_WRITE)
 225                 mask = VM_WRITE;
 226         if (fsr & FSR_LNX_PF)
 227                 mask = VM_EXEC;
 228
 229         return vma->vm_flags & mask ? false : true;
 230 }
 231
 232 static int __kprobes
 233 __do_page_fault(struct mm_struct *mm, unsigned long addr, unsigned int fsr,
 234                 unsigned int flags, struct task_struct *tsk)
 235 {
 236         struct vm_area_struct *vma;
 237         int fault;
 238
 239         vma = find_vma(mm, addr);
 240         fault = VM_FAULT_BADMAP;
 241         if (unlikely(!vma))
 242                 goto out;
 243         if (unlikely(vma->vm_start > addr))
 244                 goto check_stack;
 245
 246         /*
 247          * Ok, we have a good vm_area for this
 248          * memory access, so we can handle it.
 249          */
 250 good_area:
 251         if (access_error(fsr, vma)) {
 252                 fault = VM_FAULT_BADACCESS;
 253                 goto out;
 254         }
 255
 256         return handle_mm_fault(mm, vma, addr & PAGE_MASK, flags);
 257
 258 check_stack:
 259         if (vma->vm_flags & VM_GROWSDOWN && !expand_stack(vma, addr))
 260                 goto good_area;
 261 out:
 262         return fault;
 263 }
 264
 265 static int __kprobes
 266 do_page_fault(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 267 {
 268         struct task_struct *tsk;
 269         struct mm_struct *mm;
 270         int fault, sig, code;
 271         int write = fsr & FSR_WRITE;
 272         unsigned int flags = FAULT_FLAG_ALLOW_RETRY | FAULT_FLAG_KILLABLE |
 273                                 (write ? FAULT_FLAG_WRITE : 0);
 274
 275         if (notify_page_fault(regs, fsr))
 276                 return 0;
 277
 278         tsk = current;
 279         mm  = tsk->mm;
 280
 281         /* Enable interrupts if they were enabled in the parent context. */
 282         if (interrupts_enabled(regs))
 283                 local_irq_enable();
 284
 285         /*
 286          * If we're in an interrupt or have no user
 287          * context, we must not take the fault..
 288          */
 289         if (in_atomic() || !mm)
 290                 goto no_context;
 291
 292         /*
 293          * As per x86, we may deadlock here.  However, since the kernel only
 294          * validly references user space from well defined areas of the code,
 295          * we can bug out early if this is from code which shouldn't.
 296          */
 297         if (!down_read_trylock(&mm->mmap_sem)) {
 298                 if (!user_mode(regs) && !search_exception_tables(regs->ARM_pc))
 299                         goto no_context;
 300 retry:
 301                 down_read(&mm->mmap_sem);
 302         } else {
 303                 /*
 304                  * The above down_read_trylock() might have succeeded in
 305                  * which case, we'll have missed the might_sleep() from
 306                  * down_read()
 307                  */
 308                 might_sleep();
 309 #ifdef CONFIG_DEBUG_VM
 310                 if (!user_mode(regs) &&
 311                     !search_exception_tables(regs->ARM_pc))
 312                         goto no_context;
 313 #endif
 314         }
 315
 316         fault = __do_page_fault(mm, addr, fsr, flags, tsk);
 317
 318         /* If we need to retry but a fatal signal is pending, handle the
 319          * signal first. We do not need to release the mmap_sem because
 320          * it would already be released in __lock_page_or_retry in
 321          * mm/filemap.c. */
 322         if ((fault & VM_FAULT_RETRY) && fatal_signal_pending(current))
 323                 return 0;
 324
 325         /*
 326          * Major/minor page fault accounting is only done on the
 327          * initial attempt. If we go through a retry, it is extremely
 328          * likely that the page will be found in page cache at that point.
 329          */
 330
 331         perf_sw_event(PERF_COUNT_SW_PAGE_FAULTS, 1, regs, addr);
 332         if (flags & FAULT_FLAG_ALLOW_RETRY) {
 333                 if (fault & VM_FAULT_MAJOR) {
 334                         tsk->maj_flt++;
 335                         perf_sw_event(PERF_COUNT_SW_PAGE_FAULTS_MAJ, 1,
 336                                         regs, addr);
 337                 } else {
 338                         tsk->min_flt++;
 339                         perf_sw_event(PERF_COUNT_SW_PAGE_FAULTS_MIN, 1,
 340                                         regs, addr);
 341                 }
 342                 if (fault & VM_FAULT_RETRY) {
 343                         /* Clear FAULT_FLAG_ALLOW_RETRY to avoid any risk
 344                         * of starvation. */
 345                         flags &= ~FAULT_FLAG_ALLOW_RETRY;
 346                         goto retry;
 347                 }
 348         }
 349
 350         up_read(&mm->mmap_sem);
 351
 352         /*
 353          * Handle the "normal" case first - VM_FAULT_MAJOR / VM_FAULT_MINOR
 354          */
 355         if (likely(!(fault & (VM_FAULT_ERROR | VM_FAULT_BADMAP | VM_FAULT_BADACCESS))))
 356                 return 0;
 357
 358         if (fault & VM_FAULT_OOM) {
 359                 /*
 360                  * We ran out of memory, call the OOM killer, and return to
 361                  * userspace (which will retry the fault, or kill us if we
 362                  * got oom-killed)
 363                  */
 364                 pagefault_out_of_memory();
 365                 return 0;
 366         }
 367
 368         /*
 369          * If we are in kernel mode at this point, we
 370          * have no context to handle this fault with.
 371          */
 372         if (!user_mode(regs))
 373                 goto no_context;
 374
 375         if (fault & VM_FAULT_SIGBUS) {
 376                 /*
 377                  * We had some memory, but were unable to
 378                  * successfully fix up this page fault.
 379                  */
 380                 sig = SIGBUS;
 381                 code = BUS_ADRERR;
 382         } else {
 383                 /*
 384                  * Something tried to access memory that
 385                  * isn't in our memory map..
 386                  */
 387                 sig = SIGSEGV;
 388                 code = fault == VM_FAULT_BADACCESS ?
 389                         SEGV_ACCERR : SEGV_MAPERR;
 390         }
 391
 392         __do_user_fault(tsk, addr, fsr, sig, code, regs);
 393         return 0;
 394
 395 no_context:
 396         __do_kernel_fault(mm, addr, fsr, regs);
 397         return 0;
 398 }
 399 #else                                   /* CONFIG_MMU */
 400 static int
 401 do_page_fault(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 402 {
 403         return 0;
 404 }
 405 #endif                                  /* CONFIG_MMU */
 406
 407 /*
 408  * First Level Translation Fault Handler
 409  *
 410  * We enter here because the first level page table doesn't contain
 411  * a valid entry for the address.
 412  *
 413  * If the address is in kernel space (>= TASK_SIZE), then we are
 414  * probably faulting in the vmalloc() area.
 415  *
 416  * If the init_task's first level page tables contains the relevant
 417  * entry, we copy the it to this task.  If not, we send the process
 418  * a signal, fixup the exception, or oops the kernel.
 419  *
 420  * NOTE! We MUST NOT take any locks for this case. We may be in an
 421  * interrupt or a critical region, and should only copy the information
 422  * from the master page table, nothing more.
 423  */
 424 #ifdef CONFIG_MMU
 425 static int __kprobes
 426 do_translation_fault(unsigned long addr, unsigned int fsr,
 427                      struct pt_regs *regs)
 428 {
 429         unsigned int index;
 430         pgd_t *pgd, *pgd_k;
 431         pud_t *pud, *pud_k;
 432         pmd_t *pmd, *pmd_k;
 433
 434         if (addr < TASK_SIZE)
 435                 return do_page_fault(addr, fsr, regs);
 436
 437         if (user_mode(regs))
 438                 goto bad_area;
 439
 440         index = pgd_index(addr);
 441
 442         /*
 443          * FIXME: CP15 C1 is write only on ARMv3 architectures.
 444          */
 445         pgd = cpu_get_pgd() + index;
 446         pgd_k = init_mm.pgd + index;
 447
 448         if (pgd_none(*pgd_k))
 449                 goto bad_area;
 450         if (!pgd_present(*pgd))
 451                 set_pgd(pgd, *pgd_k);
 452
 453         pud = pud_offset(pgd, addr);
 454         pud_k = pud_offset(pgd_k, addr);
 455
 456         if (pud_none(*pud_k))
 457                 goto bad_area;
 458         if (!pud_present(*pud))
 459                 set_pud(pud, *pud_k);
 460
 461         pmd = pmd_offset(pud, addr);
 462         pmd_k = pmd_offset(pud_k, addr);
 463
 464         /*
 465          * On ARM one Linux PGD entry contains two hardware entries (see page
 466          * tables layout in pgtable.h). We normally guarantee that we always
 467          * fill both L1 entries. But create_mapping() doesn't follow the rule.
 468          * It can create inidividual L1 entries, so here we have to call
 469          * pmd_none() check for the entry really corresponded to address, not
 470          * for the first of pair.
 471          */
 472         index = (addr >> SECTION_SHIFT) & 1;
 473         if (pmd_none(pmd_k[index]))
 474                 goto bad_area;
 475
 476         copy_pmd(pmd, pmd_k);
 477         return 0;
 478
 479 bad_area:
 480         do_bad_area(addr, fsr, regs);
 481         return 0;
 482 }
 483 #else                                   /* CONFIG_MMU */
 484 static int
 485 do_translation_fault(unsigned long addr, unsigned int fsr,
 486                      struct pt_regs *regs)
 487 {
 488         return 0;
 489 }
 490 #endif                                  /* CONFIG_MMU */
 491
 492 /*
 493  * Some section permission faults need to be handled gracefully.
 494  * They can happen due to a __{get,put}_user during an oops.
 495  */
 496 static int
 497 do_sect_fault(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 498 {
 499         do_bad_area(addr, fsr, regs);
 500         return 0;
 501 }
 502
 503 /*
 504  * This abort handler always returns "fault".
 505  */
 506 static int
 507 do_bad(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 508 {
 509         return 1;
 510 }
 511
 512 static struct fsr_info {
 513         int     (*fn)(unsigned long addr, unsigned int fsr, struct pt_regs *regs);
 514         int     sig;
 515         int     code;
 516         const char *name;
 517 } fsr_info[] = {
 518         /*
 519          * The following are the standard ARMv3 and ARMv4 aborts.  ARMv5
 520          * defines these to be "precise" aborts.
 521          */
 522         { do_bad,               SIGSEGV, 0,             "vector exception"                 },
 523         { do_bad,               SIGBUS,  BUS_ADRALN,    "alignment exception"              },
 524         { do_bad,               SIGKILL, 0,             "terminal exception"               },
 525         { do_bad,               SIGBUS,  BUS_ADRALN,    "alignment exception"              },
 526         { do_bad,               SIGBUS,  0,             "external abort on linefetch"      },
 527         { do_translation_fault, SIGSEGV, SEGV_MAPERR,   "section translation fault"        },
 528         { do_bad,               SIGBUS,  0,             "external abort on linefetch"      },
 529         { do_page_fault,        SIGSEGV, SEGV_MAPERR,   "page translation fault"           },
 530         { do_bad,               SIGBUS,  0,             "external abort on non-linefetch"  },
 531         { do_bad,               SIGSEGV, SEGV_ACCERR,   "section domain fault"             },
 532         { do_bad,               SIGBUS,  0,             "external abort on non-linefetch"  },
 533         { do_bad,               SIGSEGV, SEGV_ACCERR,   "page domain fault"                },
 534         { do_bad,               SIGBUS,  0,             "external abort on translation"    },
 535         { do_sect_fault,        SIGSEGV, SEGV_ACCERR,   "section permission fault"         },
 536         { do_bad,               SIGBUS,  0,             "external abort on translation"    },
 537         { do_page_fault,        SIGSEGV, SEGV_ACCERR,   "page permission fault"            },
 538         /*
 539          * The following are "imprecise" aborts, which are signalled by bit
 540          * 10 of the FSR, and may not be recoverable.  These are only
 541          * supported if the CPU abort handler supports bit 10.
 542          */
 543         { do_bad,               SIGBUS,  0,             "unknown 16"                       },
 544         { do_bad,               SIGBUS,  0,             "unknown 17"                       },
 545         { do_bad,               SIGBUS,  0,             "unknown 18"                       },
 546         { do_bad,               SIGBUS,  0,             "unknown 19"                       },
 547         { do_bad,               SIGBUS,  0,             "lock abort"                       }, /* xscale */
 548         { do_bad,               SIGBUS,  0,             "unknown 21"                       },
 549         { do_bad,               SIGBUS,  BUS_OBJERR,    "imprecise external abort"         }, /* xscale */
 550         { do_bad,               SIGBUS,  0,             "unknown 23"                       },
 551         { do_bad,               SIGBUS,  0,             "dcache parity error"              }, /* xscale */
 552         { do_bad,               SIGBUS,  0,             "unknown 25"                       },
 553         { do_bad,               SIGBUS,  0,             "unknown 26"                       },
 554         { do_bad,               SIGBUS,  0,             "unknown 27"                       },
 555         { do_bad,               SIGBUS,  0,             "unknown 28"                       },
 556         { do_bad,               SIGBUS,  0,             "unknown 29"                       },
 557         { do_bad,               SIGBUS,  0,             "unknown 30"                       },
 558         { do_bad,               SIGBUS,  0,             "unknown 31"                       }
 559 };
 560
 561 void __init
 562 hook_fault_code(int nr, int (*fn)(unsigned long, unsigned int, struct pt_regs *),
 563                 int sig, int code, const char *name)
 564 {
 565         if (nr < 0 || nr >= ARRAY_SIZE(fsr_info))
 566                 BUG();
 567
 568         fsr_info[nr].fn   = fn;
 569         fsr_info[nr].sig  = sig;
 570         fsr_info[nr].code = code;
 571         fsr_info[nr].name = name;
 572 }
 573
 574 /*
 575  * Dispatch a data abort to the relevant handler.
 576  */
 577 asmlinkage void __exception
 578 do_DataAbort(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 579 {
 580         const struct fsr_info *inf = fsr_info + fsr_fs(fsr);
 581         struct siginfo info;
 582
 583         if (!inf->fn(addr, fsr & ~FSR_LNX_PF, regs))
 584                 return;
 585
 586         printk(KERN_ALERT "Unhandled fault: %s (0x%03x) at 0x%08lx\n",
 587                 inf->name, fsr, addr);
 588
 589         info.si_signo = inf->sig;
 590         info.si_errno = 0;
 591         info.si_code  = inf->code;
 592         info.si_addr  = (void __user *)addr;
 593         arm_notify_die("", regs, &info, fsr, 0);
 594 }
 595
 596
 597 static struct fsr_info ifsr_info[] = {
 598         { do_bad,               SIGBUS,  0,             "unknown 0"                        },
 599         { do_bad,               SIGBUS,  0,             "unknown 1"                        },
 600         { do_bad,               SIGBUS,  0,             "debug event"                      },
 601         { do_bad,               SIGSEGV, SEGV_ACCERR,   "section access flag fault"        },
 602         { do_bad,               SIGBUS,  0,             "unknown 4"                        },
 603         { do_translation_fault, SIGSEGV, SEGV_MAPERR,   "section translation fault"        },
 604         { do_bad,               SIGSEGV, SEGV_ACCERR,   "page access flag fault"           },
 605         { do_page_fault,        SIGSEGV, SEGV_MAPERR,   "page translation fault"           },
 606         { do_bad,               SIGBUS,  0,             "external abort on non-linefetch"  },
 607         { do_bad,               SIGSEGV, SEGV_ACCERR,   "section domain fault"             },
 608         { do_bad,               SIGBUS,  0,             "unknown 10"                       },
 609         { do_bad,               SIGSEGV, SEGV_ACCERR,   "page domain fault"                },
 610         { do_bad,               SIGBUS,  0,             "external abort on translation"    },
 611         { do_sect_fault,        SIGSEGV, SEGV_ACCERR,   "section permission fault"         },
 612         { do_bad,               SIGBUS,  0,             "external abort on translation"    },
 613         { do_page_fault,        SIGSEGV, SEGV_ACCERR,   "page permission fault"            },
 614         { do_bad,               SIGBUS,  0,             "unknown 16"                       },
 615         { do_bad,               SIGBUS,  0,             "unknown 17"                       },
 616         { do_bad,               SIGBUS,  0,             "unknown 18"                       },
 617         { do_bad,               SIGBUS,  0,             "unknown 19"                       },
 618         { do_bad,               SIGBUS,  0,             "unknown 20"                       },
 619         { do_bad,               SIGBUS,  0,             "unknown 21"                       },
 620         { do_bad,               SIGBUS,  0,             "unknown 22"                       },
 621         { do_bad,               SIGBUS,  0,             "unknown 23"                       },
 622         { do_bad,               SIGBUS,  0,             "unknown 24"                       },
 623         { do_bad,               SIGBUS,  0,             "unknown 25"                       },
 624         { do_bad,               SIGBUS,  0,             "unknown 26"                       },
 625         { do_bad,               SIGBUS,  0,             "unknown 27"                       },
 626         { do_bad,               SIGBUS,  0,             "unknown 28"                       },
 627         { do_bad,               SIGBUS,  0,             "unknown 29"                       },
 628         { do_bad,               SIGBUS,  0,             "unknown 30"                       },
 629         { do_bad,               SIGBUS,  0,             "unknown 31"                       },
 630 };
 631
 632 void __init
 633 hook_ifault_code(int nr, int (*fn)(unsigned long, unsigned int, struct pt_regs *),
 634                  int sig, int code, const char *name)
 635 {
 636         if (nr < 0 || nr >= ARRAY_SIZE(ifsr_info))
 637                 BUG();
 638
 639         ifsr_info[nr].fn   = fn;
 640         ifsr_info[nr].sig  = sig;
 641         ifsr_info[nr].code = code;
 642         ifsr_info[nr].name = name;
 643 }
 644
 645 asmlinkage void __exception
 646 do_PrefetchAbort(unsigned long addr, unsigned int ifsr, struct pt_regs *regs)
 647 {
 648         const struct fsr_info *inf = ifsr_info + fsr_fs(ifsr);
 649         struct siginfo info;
 650
 651         if (!inf->fn(addr, ifsr | FSR_LNX_PF, regs))
 652                 return;
 653
 654         printk(KERN_ALERT "Unhandled prefetch abort: %s (0x%03x) at 0x%08lx\n",
 655                 inf->name, ifsr, addr);
 656
 657         info.si_signo = inf->sig;
 658         info.si_errno = 0;
 659         info.si_code  = inf->code;
 660         info.si_addr  = (void __user *)addr;
 661         arm_notify_die("", regs, &info, ifsr, 0);
 662 }
 663
 664 static int __init exceptions_init(void)
 665 {
 666         if (cpu_architecture() >= CPU_ARCH_ARMv6) {
 667                 hook_fault_code(4, do_translation_fault, SIGSEGV, SEGV_MAPERR,
 668                                 "I-cache maintenance fault");
 669         }
 670
 671         if (cpu_architecture() >= CPU_ARCH_ARMv7) {
 672                 /*
 673                  * TODO: Access flag faults introduced in ARMv6K.
 674                  * Runtime check for 'K' extension is needed
 675                  */
 676                 hook_fault_code(3, do_bad, SIGSEGV, SEGV_MAPERR,
 677                                 "section access flag fault");
 678                 hook_fault_code(6, do_bad, SIGSEGV, SEGV_MAPERR,
 679                                 "section access flag fault");
 680         }
 681
 682         return 0;
 683 }
 684
 685 arch_initcall(exceptions_init);