]> git.karo-electronics.de Git - karo-tx-linux.git/blob - fs/btrfs/ctree.h
Btrfs: Optimizations for the extent_buffer code
[karo-tx-linux.git] / fs / btrfs / ctree.h
1 /*
2  * Copyright (C) 2007 Oracle.  All rights reserved.
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public
6  * License v2 as published by the Free Software Foundation.
7  *
8  * This program is distributed in the hope that it will be useful,
9  * but WITHOUT ANY WARRANTY; without even the implied warranty of
10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
11  * General Public License for more details.
12  *
13  * You should have received a copy of the GNU General Public
14  * License along with this program; if not, write to the
15  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
16  * Boston, MA 021110-1307, USA.
17  */
18
19 #ifndef __BTRFS__
20 #define __BTRFS__
21
22 #include <linux/fs.h>
23 #include <linux/workqueue.h>
24 #include <linux/completion.h>
25 #include <asm/kmap_types.h>
26 #include "bit-radix.h"
27 #include "extent_map.h"
28
29 struct btrfs_trans_handle;
30 struct btrfs_transaction;
31 extern struct kmem_cache *btrfs_trans_handle_cachep;
32 extern struct kmem_cache *btrfs_transaction_cachep;
33 extern struct kmem_cache *btrfs_bit_radix_cachep;
34 extern struct kmem_cache *btrfs_path_cachep;
35
36 #define BTRFS_MAGIC "_B2RfS_M"
37
38 #define BTRFS_ROOT_TREE_OBJECTID 1ULL
39 #define BTRFS_EXTENT_TREE_OBJECTID 2ULL
40 #define BTRFS_FS_TREE_OBJECTID 3ULL
41 #define BTRFS_ROOT_TREE_DIR_OBJECTID 4ULL
42 #define BTRFS_FIRST_FREE_OBJECTID 5ULL
43
44 /*
45  * we can actually store much bigger names, but lets not confuse the rest
46  * of linux
47  */
48 #define BTRFS_NAME_LEN 255
49
50 /* 32 bytes in various csum fields */
51 #define BTRFS_CSUM_SIZE 32
52 /* four bytes for CRC32 */
53 #define BTRFS_CRC32_SIZE 4
54 #define BTRFS_EMPTY_DIR_SIZE 6
55
56 #define BTRFS_FT_UNKNOWN        0
57 #define BTRFS_FT_REG_FILE       1
58 #define BTRFS_FT_DIR            2
59 #define BTRFS_FT_CHRDEV         3
60 #define BTRFS_FT_BLKDEV         4
61 #define BTRFS_FT_FIFO           5
62 #define BTRFS_FT_SOCK           6
63 #define BTRFS_FT_SYMLINK        7
64 #define BTRFS_FT_MAX            8
65
66 /*
67  * the key defines the order in the tree, and so it also defines (optimal)
68  * block layout.  objectid corresonds to the inode number.  The flags
69  * tells us things about the object, and is a kind of stream selector.
70  * so for a given inode, keys with flags of 1 might refer to the inode
71  * data, flags of 2 may point to file data in the btree and flags == 3
72  * may point to extents.
73  *
74  * offset is the starting byte offset for this key in the stream.
75  *
76  * btrfs_disk_key is in disk byte order.  struct btrfs_key is always
77  * in cpu native order.  Otherwise they are identical and their sizes
78  * should be the same (ie both packed)
79  */
80 struct btrfs_disk_key {
81         __le64 objectid;
82         u8 type;
83         __le64 offset;
84 } __attribute__ ((__packed__));
85
86 struct btrfs_key {
87         u64 objectid;
88         u8 type;
89         u64 offset;
90 } __attribute__ ((__packed__));
91
92 #define BTRFS_FSID_SIZE 16
93 /*
94  * every tree block (leaf or node) starts with this header.
95  */
96 struct btrfs_header {
97         u8 csum[BTRFS_CSUM_SIZE];
98         u8 fsid[BTRFS_FSID_SIZE]; /* FS specific uuid */
99         __le64 blocknr; /* which block this node is supposed to live in */
100         __le64 generation;
101         __le64 owner;
102         __le32 nritems;
103         __le16 flags;
104         u8 level;
105 } __attribute__ ((__packed__));
106
107 #define BTRFS_MAX_LEVEL 8
108 #define BTRFS_NODEPTRS_PER_BLOCK(r) (((r)->nodesize - \
109                                 sizeof(struct btrfs_header)) / \
110                                (sizeof(struct btrfs_disk_key) + sizeof(u64)))
111 #define __BTRFS_LEAF_DATA_SIZE(bs) ((bs) - sizeof(struct btrfs_header))
112 #define BTRFS_LEAF_DATA_SIZE(r) (__BTRFS_LEAF_DATA_SIZE(r->leafsize))
113 #define BTRFS_MAX_INLINE_DATA_SIZE(r) (BTRFS_LEAF_DATA_SIZE(r) - \
114                                         sizeof(struct btrfs_item) - \
115                                         sizeof(struct btrfs_file_extent_item))
116
117 /*
118  * the super block basically lists the main trees of the FS
119  * it currently lacks any block count etc etc
120  */
121 struct btrfs_super_block {
122         u8 csum[BTRFS_CSUM_SIZE];
123         /* the first 3 fields must match struct btrfs_header */
124         u8 fsid[16];    /* FS specific uuid */
125         __le64 blocknr; /* this block number */
126         __le64 magic;
127         __le64 generation;
128         __le64 root;
129         __le64 total_blocks;
130         __le64 blocks_used;
131         __le64 root_dir_objectid;
132         __le32 sectorsize;
133         __le32 nodesize;
134         __le32 leafsize;
135 } __attribute__ ((__packed__));
136
137 /*
138  * A leaf is full of items. offset and size tell us where to find
139  * the item in the leaf (relative to the start of the data area)
140  */
141 struct btrfs_item {
142         struct btrfs_disk_key key;
143         __le32 offset;
144         __le32 size;
145 } __attribute__ ((__packed__));
146
147 /*
148  * leaves have an item area and a data area:
149  * [item0, item1....itemN] [free space] [dataN...data1, data0]
150  *
151  * The data is separate from the items to get the keys closer together
152  * during searches.
153  */
154 struct btrfs_leaf {
155         struct btrfs_header header;
156         struct btrfs_item items[];
157 } __attribute__ ((__packed__));
158
159 /*
160  * all non-leaf blocks are nodes, they hold only keys and pointers to
161  * other blocks
162  */
163 struct btrfs_key_ptr {
164         struct btrfs_disk_key key;
165         __le64 blockptr;
166 } __attribute__ ((__packed__));
167
168 struct btrfs_node {
169         struct btrfs_header header;
170         struct btrfs_key_ptr ptrs[];
171 } __attribute__ ((__packed__));
172
173 /*
174  * btrfs_paths remember the path taken from the root down to the leaf.
175  * level 0 is always the leaf, and nodes[1...BTRFS_MAX_LEVEL] will point
176  * to any other levels that are present.
177  *
178  * The slots array records the index of the item or block pointer
179  * used while walking the tree.
180  */
181 struct btrfs_path {
182         struct extent_buffer *nodes[BTRFS_MAX_LEVEL];
183         int slots[BTRFS_MAX_LEVEL];
184         int reada;
185         int lowest_level;
186 };
187
188 /*
189  * items in the extent btree are used to record the objectid of the
190  * owner of the block and the number of references
191  */
192 struct btrfs_extent_item {
193         __le32 refs;
194         __le64 owner;
195 } __attribute__ ((__packed__));
196
197 struct btrfs_inode_timespec {
198         __le64 sec;
199         __le32 nsec;
200 } __attribute__ ((__packed__));
201
202 /*
203  * there is no padding here on purpose.  If you want to extent the inode,
204  * make a new item type
205  */
206 struct btrfs_inode_item {
207         __le64 generation;
208         __le64 size;
209         __le64 nblocks;
210         __le64 block_group;
211         __le32 nlink;
212         __le32 uid;
213         __le32 gid;
214         __le32 mode;
215         __le32 rdev;
216         __le16 flags;
217         __le16 compat_flags;
218         struct btrfs_inode_timespec atime;
219         struct btrfs_inode_timespec ctime;
220         struct btrfs_inode_timespec mtime;
221         struct btrfs_inode_timespec otime;
222 } __attribute__ ((__packed__));
223
224 struct btrfs_dir_item {
225         struct btrfs_disk_key location;
226         __le16 flags;
227         __le16 name_len;
228         u8 type;
229 } __attribute__ ((__packed__));
230
231 struct btrfs_root_item {
232         struct btrfs_inode_item inode;
233         __le64 root_dirid;
234         __le64 blocknr;
235         __le64 block_limit;
236         __le64 blocks_used;
237         __le32 flags;
238         __le32 refs;
239         struct btrfs_disk_key drop_progress;
240         u8 drop_level;
241 } __attribute__ ((__packed__));
242
243 #define BTRFS_FILE_EXTENT_REG 0
244 #define BTRFS_FILE_EXTENT_INLINE 1
245
246 struct btrfs_file_extent_item {
247         __le64 generation;
248         u8 type;
249         /*
250          * disk space consumed by the extent, checksum blocks are included
251          * in these numbers
252          */
253         __le64 disk_blocknr;
254         __le64 disk_num_blocks;
255         /*
256          * the logical offset in file blocks (no csums)
257          * this extent record is for.  This allows a file extent to point
258          * into the middle of an existing extent on disk, sharing it
259          * between two snapshots (useful if some bytes in the middle of the
260          * extent have changed
261          */
262         __le64 offset;
263         /*
264          * the logical number of file blocks (no csums included)
265          */
266         __le64 num_blocks;
267 } __attribute__ ((__packed__));
268
269 struct btrfs_csum_item {
270         u8 csum;
271 } __attribute__ ((__packed__));
272
273 /* tag for the radix tree of block groups in ram */
274 #define BTRFS_BLOCK_GROUP_DIRTY 0
275 #define BTRFS_BLOCK_GROUP_AVAIL 1
276 #define BTRFS_BLOCK_GROUP_SIZE (256 * 1024 * 1024)
277
278
279 #define BTRFS_BLOCK_GROUP_DATA 1
280 struct btrfs_block_group_item {
281         __le64 used;
282         u8 flags;
283 } __attribute__ ((__packed__));
284
285 struct btrfs_block_group_cache {
286         struct btrfs_key key;
287         struct btrfs_block_group_item item;
288         struct radix_tree_root *radix;
289         u64 first_free;
290         u64 last_alloc;
291         u64 pinned;
292         u64 last_prealloc;
293         int data;
294         int cached;
295 };
296
297 struct btrfs_fs_info {
298         u8 fsid[BTRFS_FSID_SIZE];
299         struct btrfs_root *extent_root;
300         struct btrfs_root *tree_root;
301         struct radix_tree_root fs_roots_radix;
302         struct radix_tree_root pending_del_radix;
303         struct radix_tree_root pinned_radix;
304         struct radix_tree_root block_group_radix;
305         struct radix_tree_root block_group_data_radix;
306         struct radix_tree_root extent_map_radix;
307         struct radix_tree_root extent_ins_radix;
308         u64 generation;
309         u64 last_trans_committed;
310         struct btrfs_transaction *running_transaction;
311         struct btrfs_super_block super_copy;
312         struct extent_buffer *sb_buffer;
313         struct super_block *sb;
314         struct inode *btree_inode;
315         struct mutex trans_mutex;
316         struct mutex fs_mutex;
317         struct list_head trans_list;
318         struct list_head dead_roots;
319         struct delayed_work trans_work;
320         struct kobject super_kobj;
321         struct completion kobj_unregister;
322         int do_barriers;
323         int closing;
324 };
325
326 /*
327  * in ram representation of the tree.  extent_root is used for all allocations
328  * and for the extent tree extent_root root.
329  */
330 struct btrfs_root {
331         struct extent_buffer *node;
332         struct extent_buffer *commit_root;
333         struct btrfs_root_item root_item;
334         struct btrfs_key root_key;
335         struct btrfs_fs_info *fs_info;
336         struct inode *inode;
337         struct kobject root_kobj;
338         struct completion kobj_unregister;
339         struct rw_semaphore snap_sem;
340         u64 objectid;
341         u64 last_trans;
342
343         /* data allocations are done in sectorsize units */
344         u32 sectorsize;
345
346         /* node allocations are done in nodesize units */
347         u32 nodesize;
348
349         /* leaf allocations are done in leafsize units */
350         u32 leafsize;
351
352         u32 type;
353         u64 highest_inode;
354         u64 last_inode_alloc;
355         int ref_cows;
356         struct btrfs_key defrag_progress;
357         int defrag_running;
358         int defrag_level;
359         char *name;
360 };
361
362 /*
363  * inode items have the data typically returned from stat and store other
364  * info about object characteristics.  There is one for every file and dir in
365  * the FS
366  */
367 #define BTRFS_INODE_ITEM_KEY            1
368
369 /* reserve 2-15 close to the inode for later flexibility */
370
371 /*
372  * dir items are the name -> inode pointers in a directory.  There is one
373  * for every name in a directory.
374  */
375 #define BTRFS_DIR_ITEM_KEY      16
376 #define BTRFS_DIR_INDEX_KEY     17
377 /*
378  * extent data is for file data
379  */
380 #define BTRFS_EXTENT_DATA_KEY   18
381 /*
382  * csum items have the checksums for data in the extents
383  */
384 #define BTRFS_CSUM_ITEM_KEY     19
385
386 /* reserve 20-31 for other file stuff */
387
388 /*
389  * root items point to tree roots.  There are typically in the root
390  * tree used by the super block to find all the other trees
391  */
392 #define BTRFS_ROOT_ITEM_KEY     32
393 /*
394  * extent items are in the extent map tree.  These record which blocks
395  * are used, and how many references there are to each block
396  */
397 #define BTRFS_EXTENT_ITEM_KEY   33
398
399 /*
400  * block groups give us hints into the extent allocation trees.  Which
401  * blocks are free etc etc
402  */
403 #define BTRFS_BLOCK_GROUP_ITEM_KEY 34
404
405 /*
406  * string items are for debugging.  They just store a short string of
407  * data in the FS
408  */
409 #define BTRFS_STRING_ITEM_KEY   253
410
411 /* some macros to generate set/get funcs for the struct fields.  This
412  * assumes there is a lefoo_to_cpu for every type, so lets make a simple
413  * one for u8:
414  */
415 #define le8_to_cpu(v) (v)
416 #define cpu_to_le8(v) (v)
417 #define __le8 u8
418
419 #define read_eb_member(eb, ptr, type, member, result) (                 \
420         read_extent_buffer(eb, (char *)(result),                        \
421                            ((unsigned long)(ptr)) +                     \
422                             offsetof(type, member),                     \
423                            sizeof(((type *)0)->member)))
424
425 #define write_eb_member(eb, ptr, type, member, result) (                \
426         write_extent_buffer(eb, (char *)(result),                       \
427                            ((unsigned long)(ptr)) +                     \
428                             offsetof(type, member),                     \
429                            sizeof(((type *)0)->member)))
430
431 #define BTRFS_SETGET_FUNCS(name, type, member, bits)                    \
432 static inline u##bits btrfs_##name(struct extent_buffer *eb,            \
433                                    type *s)                             \
434 {                                                                       \
435         int err;                                                        \
436         char *map_token;                                                \
437         char *kaddr;                                                    \
438         unsigned long map_start;                                        \
439         unsigned long map_len;                                          \
440         unsigned long offset = (unsigned long)s +                       \
441                                 offsetof(type, member);                 \
442         err = map_extent_buffer(eb, offset,                             \
443                                 sizeof(((type *)0)->member),            \
444                                 &map_token, &kaddr,                     \
445                                 &map_start, &map_len, KM_USER0);        \
446         if (!err) {                                                     \
447                 __le##bits *tmp = (__le##bits *)(kaddr + offset -       \
448                                                map_start);              \
449                 u##bits res = le##bits##_to_cpu(*tmp);                  \
450                 unmap_extent_buffer(eb, map_token, KM_USER0);           \
451                 return res;                                             \
452         } else {                                                        \
453                 __le##bits res;                                         \
454                 read_eb_member(eb, s, type, member, &res);              \
455                 return le##bits##_to_cpu(res);                          \
456         }                                                               \
457 }                                                                       \
458 static inline void btrfs_set_##name(struct extent_buffer *eb,           \
459                                     type *s, u##bits val)               \
460 {                                                                       \
461         int err;                                                        \
462         char *map_token;                                                \
463         char *kaddr;                                                    \
464         unsigned long map_start;                                        \
465         unsigned long map_len;                                          \
466         unsigned long offset = (unsigned long)s +                       \
467                                 offsetof(type, member);                 \
468         err = map_extent_buffer(eb, offset,                             \
469                                 sizeof(((type *)0)->member),            \
470                                 &map_token, &kaddr,                     \
471                                 &map_start, &map_len, KM_USER0);        \
472         if (!err) {                                                     \
473                 __le##bits *tmp = (__le##bits *)(kaddr + offset -       \
474                                                map_start);              \
475                 *tmp = cpu_to_le##bits(val);                            \
476                 unmap_extent_buffer(eb, map_token, KM_USER0);           \
477         } else {                                                        \
478                 val = cpu_to_le##bits(val);                             \
479                 write_eb_member(eb, s, type, member, &val);             \
480         }                                                               \
481 }
482
483 #define BTRFS_SETGET_HEADER_FUNCS(name, type, member, bits)             \
484 static inline u##bits btrfs_##name(struct extent_buffer *eb)            \
485 {                                                                       \
486         __le##bits res;                                                 \
487         read_eb_member(eb, NULL, type, member, &res);                   \
488         return le##bits##_to_cpu(res);                                  \
489 }                                                                       \
490 static inline void btrfs_set_##name(struct extent_buffer *eb,           \
491                                     u##bits val)                        \
492 {                                                                       \
493         val = cpu_to_le##bits(val);                                     \
494         write_eb_member(eb, NULL, type, member, &val);                  \
495 }
496
497 #define BTRFS_SETGET_STACK_FUNCS(name, type, member, bits)              \
498 static inline u##bits btrfs_##name(type *s)                             \
499 {                                                                       \
500         return le##bits##_to_cpu(s->member);                            \
501 }                                                                       \
502 static inline void btrfs_set_##name(type *s, u##bits val)               \
503 {                                                                       \
504         s->member = cpu_to_le##bits(val);                               \
505 }
506
507 /* struct btrfs_block_group_item */
508 BTRFS_SETGET_STACK_FUNCS(block_group_used, struct btrfs_block_group_item,
509                          used, 64);
510 BTRFS_SETGET_FUNCS(disk_block_group_used, struct btrfs_block_group_item,
511                          used, 64);
512
513 /* struct btrfs_inode_item */
514 BTRFS_SETGET_FUNCS(inode_generation, struct btrfs_inode_item, generation, 64);
515 BTRFS_SETGET_FUNCS(inode_size, struct btrfs_inode_item, size, 64);
516 BTRFS_SETGET_FUNCS(inode_nblocks, struct btrfs_inode_item, nblocks, 64);
517 BTRFS_SETGET_FUNCS(inode_block_group, struct btrfs_inode_item, block_group, 64);
518 BTRFS_SETGET_FUNCS(inode_nlink, struct btrfs_inode_item, nlink, 32);
519 BTRFS_SETGET_FUNCS(inode_uid, struct btrfs_inode_item, uid, 32);
520 BTRFS_SETGET_FUNCS(inode_gid, struct btrfs_inode_item, gid, 32);
521 BTRFS_SETGET_FUNCS(inode_mode, struct btrfs_inode_item, mode, 32);
522 BTRFS_SETGET_FUNCS(inode_rdev, struct btrfs_inode_item, rdev, 32);
523 BTRFS_SETGET_FUNCS(inode_flags, struct btrfs_inode_item, flags, 16);
524 BTRFS_SETGET_FUNCS(inode_compat_flags, struct btrfs_inode_item,
525                    compat_flags, 16);
526
527 static inline struct btrfs_inode_timespec *
528 btrfs_inode_atime(struct btrfs_inode_item *inode_item)
529 {
530         unsigned long ptr = (unsigned long)inode_item;
531         ptr += offsetof(struct btrfs_inode_item, atime);
532         return (struct btrfs_inode_timespec *)ptr;
533 }
534
535 static inline struct btrfs_inode_timespec *
536 btrfs_inode_mtime(struct btrfs_inode_item *inode_item)
537 {
538         unsigned long ptr = (unsigned long)inode_item;
539         ptr += offsetof(struct btrfs_inode_item, mtime);
540         return (struct btrfs_inode_timespec *)ptr;
541 }
542
543 static inline struct btrfs_inode_timespec *
544 btrfs_inode_ctime(struct btrfs_inode_item *inode_item)
545 {
546         unsigned long ptr = (unsigned long)inode_item;
547         ptr += offsetof(struct btrfs_inode_item, ctime);
548         return (struct btrfs_inode_timespec *)ptr;
549 }
550
551 static inline struct btrfs_inode_timespec *
552 btrfs_inode_otime(struct btrfs_inode_item *inode_item)
553 {
554         unsigned long ptr = (unsigned long)inode_item;
555         ptr += offsetof(struct btrfs_inode_item, otime);
556         return (struct btrfs_inode_timespec *)ptr;
557 }
558
559 BTRFS_SETGET_FUNCS(timespec_sec, struct btrfs_inode_timespec, sec, 64);
560 BTRFS_SETGET_FUNCS(timespec_nsec, struct btrfs_inode_timespec, nsec, 32);
561
562 /* struct btrfs_extent_item */
563 BTRFS_SETGET_FUNCS(extent_refs, struct btrfs_extent_item, refs, 32);
564 BTRFS_SETGET_FUNCS(extent_owner, struct btrfs_extent_item, owner, 32);
565
566 BTRFS_SETGET_STACK_FUNCS(stack_extent_refs, struct btrfs_extent_item,
567                          refs, 32);
568 BTRFS_SETGET_STACK_FUNCS(stack_extent_owner, struct btrfs_extent_item,
569                          owner, 32);
570
571 /* struct btrfs_node */
572 BTRFS_SETGET_FUNCS(key_blockptr, struct btrfs_key_ptr, blockptr, 64);
573
574 static inline u64 btrfs_node_blockptr(struct extent_buffer *eb, int nr)
575 {
576         unsigned long ptr;
577         ptr = offsetof(struct btrfs_node, ptrs) +
578                 sizeof(struct btrfs_key_ptr) * nr;
579         return btrfs_key_blockptr(eb, (struct btrfs_key_ptr *)ptr);
580 }
581
582 static inline void btrfs_set_node_blockptr(struct extent_buffer *eb,
583                                            int nr, u64 val)
584 {
585         unsigned long ptr;
586         ptr = offsetof(struct btrfs_node, ptrs) +
587                 sizeof(struct btrfs_key_ptr) * nr;
588         btrfs_set_key_blockptr(eb, (struct btrfs_key_ptr *)ptr, val);
589 }
590
591 static unsigned long btrfs_node_key_ptr_offset(int nr)
592 {
593         return offsetof(struct btrfs_node, ptrs) +
594                 sizeof(struct btrfs_key_ptr) * nr;
595 }
596
597 static void btrfs_node_key(struct extent_buffer *eb,
598                            struct btrfs_disk_key *disk_key, int nr)
599 {
600         unsigned long ptr;
601         ptr = btrfs_node_key_ptr_offset(nr);
602         read_eb_member(eb, (struct btrfs_key_ptr *)ptr,
603                        struct btrfs_key_ptr, key, disk_key);
604 }
605 static inline void btrfs_set_node_key(struct extent_buffer *eb,
606                                       struct btrfs_disk_key *disk_key, int nr)
607 {
608         unsigned long ptr;
609         ptr = btrfs_node_key_ptr_offset(nr);
610         write_eb_member(eb, (struct btrfs_key_ptr *)ptr,
611                        struct btrfs_key_ptr, key, disk_key);
612 }
613
614 /* struct btrfs_item */
615 BTRFS_SETGET_FUNCS(item_offset, struct btrfs_item, offset, 32);
616 BTRFS_SETGET_FUNCS(item_size, struct btrfs_item, size, 32);
617
618 static inline unsigned long btrfs_item_nr_offset(int nr)
619 {
620         return offsetof(struct btrfs_leaf, items) +
621                 sizeof(struct btrfs_item) * nr;
622 }
623
624 static inline struct btrfs_item *btrfs_item_nr(struct extent_buffer *eb,
625                                                int nr)
626 {
627         return (struct btrfs_item *)btrfs_item_nr_offset(nr);
628 }
629
630 static inline u32 btrfs_item_end(struct extent_buffer *eb,
631                                  struct btrfs_item *item)
632 {
633         return btrfs_item_offset(eb, item) + btrfs_item_size(eb, item);
634 }
635
636 static inline u32 btrfs_item_end_nr(struct extent_buffer *eb, int nr)
637 {
638         return btrfs_item_end(eb, btrfs_item_nr(eb, nr));
639 }
640
641 static inline u32 btrfs_item_offset_nr(struct extent_buffer *eb, int nr)
642 {
643         return btrfs_item_offset(eb, btrfs_item_nr(eb, nr));
644 }
645
646 static inline u32 btrfs_item_size_nr(struct extent_buffer *eb, int nr)
647 {
648         return btrfs_item_size(eb, btrfs_item_nr(eb, nr));
649 }
650
651 static inline void btrfs_item_key(struct extent_buffer *eb,
652                            struct btrfs_disk_key *disk_key, int nr)
653 {
654         struct btrfs_item *item = btrfs_item_nr(eb, nr);
655         read_eb_member(eb, item, struct btrfs_item, key, disk_key);
656 }
657
658 static inline void btrfs_set_item_key(struct extent_buffer *eb,
659                                struct btrfs_disk_key *disk_key, int nr)
660 {
661         struct btrfs_item *item = btrfs_item_nr(eb, nr);
662         write_eb_member(eb, item, struct btrfs_item, key, disk_key);
663 }
664
665 /* struct btrfs_dir_item */
666 BTRFS_SETGET_FUNCS(dir_flags, struct btrfs_dir_item, flags, 16);
667 BTRFS_SETGET_FUNCS(dir_type, struct btrfs_dir_item, type, 8);
668 BTRFS_SETGET_FUNCS(dir_name_len, struct btrfs_dir_item, name_len, 16);
669
670 static inline void btrfs_dir_item_key(struct extent_buffer *eb,
671                                       struct btrfs_dir_item *item,
672                                       struct btrfs_disk_key *key)
673 {
674         read_eb_member(eb, item, struct btrfs_dir_item, location, key);
675 }
676
677 static inline void btrfs_set_dir_item_key(struct extent_buffer *eb,
678                                           struct btrfs_dir_item *item,
679                                           struct btrfs_disk_key *key)
680 {
681         write_eb_member(eb, item, struct btrfs_dir_item, location, key);
682 }
683
684 /* struct btrfs_disk_key */
685 BTRFS_SETGET_STACK_FUNCS(disk_key_objectid, struct btrfs_disk_key,
686                          objectid, 64);
687 BTRFS_SETGET_STACK_FUNCS(disk_key_offset, struct btrfs_disk_key, offset, 64);
688 BTRFS_SETGET_STACK_FUNCS(disk_key_type, struct btrfs_disk_key, type, 8);
689
690 static inline void btrfs_disk_key_to_cpu(struct btrfs_key *cpu,
691                                          struct btrfs_disk_key *disk)
692 {
693         cpu->offset = le64_to_cpu(disk->offset);
694         cpu->type = disk->type;
695         cpu->objectid = le64_to_cpu(disk->objectid);
696 }
697
698 static inline void btrfs_cpu_key_to_disk(struct btrfs_disk_key *disk,
699                                          struct btrfs_key *cpu)
700 {
701         disk->offset = cpu_to_le64(cpu->offset);
702         disk->type = cpu->type;
703         disk->objectid = cpu_to_le64(cpu->objectid);
704 }
705
706 static inline void btrfs_node_key_to_cpu(struct extent_buffer *eb,
707                                   struct btrfs_key *key, int nr)
708 {
709         struct btrfs_disk_key disk_key;
710         btrfs_node_key(eb, &disk_key, nr);
711         btrfs_disk_key_to_cpu(key, &disk_key);
712 }
713
714 static inline void btrfs_item_key_to_cpu(struct extent_buffer *eb,
715                                   struct btrfs_key *key, int nr)
716 {
717         struct btrfs_disk_key disk_key;
718         btrfs_item_key(eb, &disk_key, nr);
719         btrfs_disk_key_to_cpu(key, &disk_key);
720 }
721
722 static inline void btrfs_dir_item_key_to_cpu(struct extent_buffer *eb,
723                                       struct btrfs_dir_item *item,
724                                       struct btrfs_key *key)
725 {
726         struct btrfs_disk_key disk_key;
727         btrfs_dir_item_key(eb, item, &disk_key);
728         btrfs_disk_key_to_cpu(key, &disk_key);
729 }
730
731
732 static inline u8 btrfs_key_type(struct btrfs_key *key)
733 {
734         return key->type;
735 }
736
737 static inline void btrfs_set_key_type(struct btrfs_key *key, u8 val)
738 {
739         key->type = val;
740 }
741
742 /* struct btrfs_header */
743 BTRFS_SETGET_HEADER_FUNCS(header_blocknr, struct btrfs_header, blocknr, 64);
744 BTRFS_SETGET_HEADER_FUNCS(header_generation, struct btrfs_header,
745                           generation, 64);
746 BTRFS_SETGET_HEADER_FUNCS(header_owner, struct btrfs_header, owner, 64);
747 BTRFS_SETGET_HEADER_FUNCS(header_nritems, struct btrfs_header, nritems, 32);
748 BTRFS_SETGET_HEADER_FUNCS(header_flags, struct btrfs_header, flags, 16);
749 BTRFS_SETGET_HEADER_FUNCS(header_level, struct btrfs_header, level, 8);
750
751 static inline u8 *btrfs_header_fsid(struct extent_buffer *eb)
752 {
753         unsigned long ptr = offsetof(struct btrfs_header, fsid);
754         return (u8 *)ptr;
755 }
756
757 static inline u8 *btrfs_super_fsid(struct extent_buffer *eb)
758 {
759         unsigned long ptr = offsetof(struct btrfs_super_block, fsid);
760         return (u8 *)ptr;
761 }
762
763 static inline u8 *btrfs_header_csum(struct extent_buffer *eb)
764 {
765         unsigned long ptr = offsetof(struct btrfs_header, csum);
766         return (u8 *)ptr;
767 }
768
769 static inline struct btrfs_node *btrfs_buffer_node(struct extent_buffer *eb)
770 {
771         return NULL;
772 }
773
774 static inline struct btrfs_leaf *btrfs_buffer_leaf(struct extent_buffer *eb)
775 {
776         return NULL;
777 }
778
779 static inline struct btrfs_header *btrfs_buffer_header(struct extent_buffer *eb)
780 {
781         return NULL;
782 }
783
784 static inline int btrfs_is_leaf(struct extent_buffer *eb)
785 {
786         return (btrfs_header_level(eb) == 0);
787 }
788
789 /* struct btrfs_root_item */
790 BTRFS_SETGET_FUNCS(disk_root_refs, struct btrfs_root_item, refs, 32);
791 BTRFS_SETGET_FUNCS(disk_root_blocknr, struct btrfs_root_item, blocknr, 64);
792
793 BTRFS_SETGET_STACK_FUNCS(root_blocknr, struct btrfs_root_item, blocknr, 64);
794 BTRFS_SETGET_STACK_FUNCS(root_dirid, struct btrfs_root_item, root_dirid, 64);
795 BTRFS_SETGET_STACK_FUNCS(root_refs, struct btrfs_root_item, refs, 32);
796 BTRFS_SETGET_STACK_FUNCS(root_flags, struct btrfs_root_item, flags, 32);
797 BTRFS_SETGET_STACK_FUNCS(root_used, struct btrfs_root_item, blocks_used, 64);
798 BTRFS_SETGET_STACK_FUNCS(root_limit, struct btrfs_root_item, block_limit, 64);
799
800 /* struct btrfs_super_block */
801 BTRFS_SETGET_STACK_FUNCS(super_blocknr, struct btrfs_super_block, blocknr, 64);
802 BTRFS_SETGET_STACK_FUNCS(super_generation, struct btrfs_super_block,
803                          generation, 64);
804 BTRFS_SETGET_STACK_FUNCS(super_root, struct btrfs_super_block, root, 64);
805 BTRFS_SETGET_STACK_FUNCS(super_total_blocks, struct btrfs_super_block,
806                    total_blocks, 64);
807 BTRFS_SETGET_STACK_FUNCS(super_blocks_used, struct btrfs_super_block,
808                    blocks_used, 64);
809 BTRFS_SETGET_STACK_FUNCS(super_sectorsize, struct btrfs_super_block,
810                          sectorsize, 32);
811 BTRFS_SETGET_STACK_FUNCS(super_nodesize, struct btrfs_super_block,
812                          nodesize, 32);
813 BTRFS_SETGET_STACK_FUNCS(super_leafsize, struct btrfs_super_block,
814                          leafsize, 32);
815 BTRFS_SETGET_STACK_FUNCS(super_root_dir, struct btrfs_super_block,
816                          root_dir_objectid, 64);
817
818 static inline unsigned long btrfs_leaf_data(struct extent_buffer *l)
819 {
820         return offsetof(struct btrfs_leaf, items);
821 }
822
823 /* struct btrfs_file_extent_item */
824 BTRFS_SETGET_FUNCS(file_extent_type, struct btrfs_file_extent_item, type, 8);
825
826 static inline unsigned long btrfs_file_extent_inline_start(struct
827                                                    btrfs_file_extent_item *e)
828 {
829         unsigned long offset = (unsigned long)e;
830         offset += offsetof(struct btrfs_file_extent_item, disk_blocknr);
831         return offset;
832 }
833
834 static inline u32 btrfs_file_extent_calc_inline_size(u32 datasize)
835 {
836         return offsetof(struct btrfs_file_extent_item, disk_blocknr) + datasize;
837 }
838
839 static inline u32 btrfs_file_extent_inline_len(struct extent_buffer *eb,
840                                                struct btrfs_item *e)
841 {
842         unsigned long offset;
843         offset = offsetof(struct btrfs_file_extent_item, disk_blocknr);
844         return btrfs_item_size(eb, e) - offset;
845 }
846
847 BTRFS_SETGET_FUNCS(file_extent_disk_blocknr, struct btrfs_file_extent_item,
848                    disk_blocknr, 64);
849 BTRFS_SETGET_FUNCS(file_extent_generation, struct btrfs_file_extent_item,
850                    generation, 64);
851 BTRFS_SETGET_FUNCS(file_extent_disk_num_blocks, struct btrfs_file_extent_item,
852                    disk_num_blocks, 64);
853 BTRFS_SETGET_FUNCS(file_extent_offset, struct btrfs_file_extent_item,
854                   offset, 64);
855 BTRFS_SETGET_FUNCS(file_extent_num_blocks, struct btrfs_file_extent_item,
856                    num_blocks, 64);
857
858 static inline struct btrfs_root *btrfs_sb(struct super_block *sb)
859 {
860         return sb->s_fs_info;
861 }
862
863 static inline int btrfs_set_root_name(struct btrfs_root *root,
864                                       const char *name, int len)
865 {
866         /* if we already have a name just free it */
867         if (root->name)
868                 kfree(root->name);
869
870         root->name = kmalloc(len+1, GFP_KERNEL);
871         if (!root->name)
872                 return -ENOMEM;
873
874         memcpy(root->name, name, len);
875         root->name[len] ='\0';
876
877         return 0;
878 }
879
880 /* helper function to cast into the data area of the leaf. */
881 #define btrfs_item_ptr(leaf, slot, type) \
882         ((type *)(btrfs_leaf_data(leaf) + \
883         btrfs_item_offset_nr(leaf, slot)))
884
885 #define btrfs_item_ptr_offset(leaf, slot) \
886         ((unsigned long)(btrfs_leaf_data(leaf) + \
887         btrfs_item_offset_nr(leaf, slot)))
888
889 /* mount option defines and helpers */
890 #define BTRFS_MOUNT_SUBVOL              0x000001
891 #define btrfs_clear_opt(o, opt)         o &= ~BTRFS_MOUNT_##opt
892 #define btrfs_set_opt(o, opt)           o |= BTRFS_MOUNT_##opt
893 #define btrfs_test_opt(sb, opt)         (BTRFS_SB(sb)->s_mount_opt & \
894                                          BTRFS_MOUNT_##opt)
895 /* extent-tree.c */
896 int btrfs_extent_post_op(struct btrfs_trans_handle *trans,
897                          struct btrfs_root *root);
898 int btrfs_copy_pinned(struct btrfs_root *root, struct radix_tree_root *copy);
899 struct btrfs_block_group_cache *btrfs_lookup_block_group(struct
900                                                          btrfs_fs_info *info,
901                                                          u64 blocknr);
902 struct btrfs_block_group_cache *btrfs_find_block_group(struct btrfs_root *root,
903                                                  struct btrfs_block_group_cache
904                                                  *hint, u64 search_start,
905                                                  int data, int owner);
906 int btrfs_inc_root_ref(struct btrfs_trans_handle *trans,
907                        struct btrfs_root *root);
908 struct extent_buffer *btrfs_alloc_free_block(struct btrfs_trans_handle *trans,
909                                             struct btrfs_root *root, u64 hint,
910                                             u64 empty_size);
911 int btrfs_alloc_extent(struct btrfs_trans_handle *trans,
912                        struct btrfs_root *root, u64 owner,
913                        u64 num_blocks, u64 empty_size, u64 search_start,
914                        u64 search_end, struct btrfs_key *ins, int data);
915 int btrfs_inc_ref(struct btrfs_trans_handle *trans, struct btrfs_root *root,
916                   struct extent_buffer *buf);
917 int btrfs_free_extent(struct btrfs_trans_handle *trans, struct btrfs_root
918                       *root, u64 blocknr, u64 num_blocks, int pin);
919 int btrfs_finish_extent_commit(struct btrfs_trans_handle *trans,
920                                struct btrfs_root *root,
921                                struct radix_tree_root *unpin_radix);
922 int btrfs_inc_extent_ref(struct btrfs_trans_handle *trans,
923                                 struct btrfs_root *root,
924                                 u64 blocknr, u64 num_blocks);
925 int btrfs_write_dirty_block_groups(struct btrfs_trans_handle *trans,
926                                     struct btrfs_root *root);
927 int btrfs_free_block_groups(struct btrfs_fs_info *info);
928 int btrfs_read_block_groups(struct btrfs_root *root);
929 /* ctree.c */
930 int btrfs_cow_block(struct btrfs_trans_handle *trans,
931                     struct btrfs_root *root, struct extent_buffer *buf,
932                     struct extent_buffer *parent, int parent_slot,
933                     struct extent_buffer **cow_ret);
934 int btrfs_extend_item(struct btrfs_trans_handle *trans, struct btrfs_root
935                       *root, struct btrfs_path *path, u32 data_size);
936 int btrfs_truncate_item(struct btrfs_trans_handle *trans,
937                         struct btrfs_root *root,
938                         struct btrfs_path *path,
939                         u32 new_size);
940 int btrfs_search_slot(struct btrfs_trans_handle *trans, struct btrfs_root
941                       *root, struct btrfs_key *key, struct btrfs_path *p, int
942                       ins_len, int cow);
943 int btrfs_realloc_node(struct btrfs_trans_handle *trans,
944                        struct btrfs_root *root, struct extent_buffer *parent,
945                        int cache_only, u64 *last_ret);
946 void btrfs_release_path(struct btrfs_root *root, struct btrfs_path *p);
947 struct btrfs_path *btrfs_alloc_path(void);
948 void btrfs_free_path(struct btrfs_path *p);
949 void btrfs_init_path(struct btrfs_path *p);
950 int btrfs_del_item(struct btrfs_trans_handle *trans, struct btrfs_root *root,
951                    struct btrfs_path *path);
952 int btrfs_insert_item(struct btrfs_trans_handle *trans, struct btrfs_root
953                       *root, struct btrfs_key *key, void *data, u32 data_size);
954 int btrfs_insert_empty_item(struct btrfs_trans_handle *trans, struct btrfs_root
955                             *root, struct btrfs_path *path, struct btrfs_key
956                             *cpu_key, u32 data_size);
957 int btrfs_next_leaf(struct btrfs_root *root, struct btrfs_path *path);
958 int btrfs_leaf_free_space(struct btrfs_root *root, struct extent_buffer *leaf);
959 int btrfs_drop_snapshot(struct btrfs_trans_handle *trans, struct btrfs_root
960                         *root);
961 /* root-item.c */
962 int btrfs_del_root(struct btrfs_trans_handle *trans, struct btrfs_root *root,
963                    struct btrfs_key *key);
964 int btrfs_insert_root(struct btrfs_trans_handle *trans, struct btrfs_root
965                       *root, struct btrfs_key *key, struct btrfs_root_item
966                       *item);
967 int btrfs_update_root(struct btrfs_trans_handle *trans, struct btrfs_root
968                       *root, struct btrfs_key *key, struct btrfs_root_item
969                       *item);
970 int btrfs_find_last_root(struct btrfs_root *root, u64 objectid, struct
971                          btrfs_root_item *item, struct btrfs_key *key);
972 int btrfs_find_dead_roots(struct btrfs_root *root, u64 objectid,
973                           struct btrfs_root *latest_root);
974 /* dir-item.c */
975 int btrfs_insert_dir_item(struct btrfs_trans_handle *trans, struct btrfs_root
976                           *root, const char *name, int name_len, u64 dir,
977                           struct btrfs_key *location, u8 type);
978 struct btrfs_dir_item *btrfs_lookup_dir_item(struct btrfs_trans_handle *trans,
979                                              struct btrfs_root *root,
980                                              struct btrfs_path *path, u64 dir,
981                                              const char *name, int name_len,
982                                              int mod);
983 struct btrfs_dir_item *
984 btrfs_lookup_dir_index_item(struct btrfs_trans_handle *trans,
985                             struct btrfs_root *root,
986                             struct btrfs_path *path, u64 dir,
987                             u64 objectid, const char *name, int name_len,
988                             int mod);
989 struct btrfs_dir_item *btrfs_match_dir_item_name(struct btrfs_root *root,
990                               struct btrfs_path *path,
991                               const char *name, int name_len);
992 int btrfs_delete_one_dir_name(struct btrfs_trans_handle *trans,
993                               struct btrfs_root *root,
994                               struct btrfs_path *path,
995                               struct btrfs_dir_item *di);
996 /* inode-map.c */
997 int btrfs_find_free_objectid(struct btrfs_trans_handle *trans,
998                              struct btrfs_root *fs_root,
999                              u64 dirid, u64 *objectid);
1000 int btrfs_find_highest_inode(struct btrfs_root *fs_root, u64 *objectid);
1001
1002 /* inode-item.c */
1003 int btrfs_insert_empty_inode(struct btrfs_trans_handle *trans,
1004                              struct btrfs_root *root,
1005                              struct btrfs_path *path, u64 objectid);
1006 int btrfs_lookup_inode(struct btrfs_trans_handle *trans, struct btrfs_root
1007                        *root, struct btrfs_path *path,
1008                        struct btrfs_key *location, int mod);
1009
1010 /* file-item.c */
1011 int btrfs_insert_file_extent(struct btrfs_trans_handle *trans,
1012                                struct btrfs_root *root,
1013                                u64 objectid, u64 pos, u64 offset,
1014                                u64 disk_num_blocks,
1015                                u64 num_blocks);
1016 int btrfs_lookup_file_extent(struct btrfs_trans_handle *trans,
1017                              struct btrfs_root *root,
1018                              struct btrfs_path *path, u64 objectid,
1019                              u64 blocknr, int mod);
1020 int btrfs_csum_file_block(struct btrfs_trans_handle *trans,
1021                           struct btrfs_root *root,
1022                           u64 objectid, u64 offset,
1023                           char *data, size_t len);
1024 struct btrfs_csum_item *btrfs_lookup_csum(struct btrfs_trans_handle *trans,
1025                                           struct btrfs_root *root,
1026                                           struct btrfs_path *path,
1027                                           u64 objectid, u64 offset,
1028                                           int cow);
1029 int btrfs_csum_truncate(struct btrfs_trans_handle *trans,
1030                         struct btrfs_root *root, struct btrfs_path *path,
1031                         u64 isize);
1032 /* inode.c */
1033 int btrfs_page_mkwrite(struct vm_area_struct *vma, struct page *page);
1034 int btrfs_readpage(struct file *file, struct page *page);
1035 void btrfs_delete_inode(struct inode *inode);
1036 void btrfs_read_locked_inode(struct inode *inode);
1037 int btrfs_write_inode(struct inode *inode, int wait);
1038 void btrfs_dirty_inode(struct inode *inode);
1039 struct inode *btrfs_alloc_inode(struct super_block *sb);
1040 void btrfs_destroy_inode(struct inode *inode);
1041 int btrfs_init_cachep(void);
1042 void btrfs_destroy_cachep(void);
1043 long btrfs_ioctl(struct file *file, unsigned int cmd, unsigned long arg);
1044 struct inode *btrfs_iget_locked(struct super_block *s, u64 objectid,
1045                                 struct btrfs_root *root);
1046 int btrfs_commit_write(struct file *file, struct page *page,
1047                        unsigned from, unsigned to);
1048 struct extent_map *btrfs_get_extent(struct inode *inode, struct page *page,
1049                                     size_t page_offset, u64 start, u64 end,
1050                                     int create);
1051 int btrfs_update_inode(struct btrfs_trans_handle *trans,
1052                               struct btrfs_root *root,
1053                               struct inode *inode);
1054 /* file.c */
1055 int btrfs_drop_extent_cache(struct inode *inode, u64 start, u64 end);
1056 extern struct file_operations btrfs_file_operations;
1057 int btrfs_drop_extents(struct btrfs_trans_handle *trans,
1058                        struct btrfs_root *root, struct inode *inode,
1059                        u64 start, u64 end, u64 *hint_block);
1060 /* tree-defrag.c */
1061 int btrfs_defrag_leaves(struct btrfs_trans_handle *trans,
1062                         struct btrfs_root *root, int cache_only);
1063
1064 /* sysfs.c */
1065 int btrfs_init_sysfs(void);
1066 void btrfs_exit_sysfs(void);
1067 int btrfs_sysfs_add_super(struct btrfs_fs_info *fs);
1068 int btrfs_sysfs_add_root(struct btrfs_root *root);
1069 void btrfs_sysfs_del_root(struct btrfs_root *root);
1070 void btrfs_sysfs_del_super(struct btrfs_fs_info *root);
1071
1072 #endif