]> git.karo-electronics.de Git - karo-tx-linux.git/blob - fs/xfs/xfs_trans.c
xfs: make use of xfs_calc_buf_res() in xfs_trans.c
[karo-tx-linux.git] / fs / xfs / xfs_trans.c
1 /*
2  * Copyright (c) 2000-2003,2005 Silicon Graphics, Inc.
3  * Copyright (C) 2010 Red Hat, Inc.
4  * All Rights Reserved.
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License as
8  * published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it would be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13  * GNU General Public License for more details.
14  *
15  * You should have received a copy of the GNU General Public License
16  * along with this program; if not, write the Free Software Foundation,
17  * Inc.,  51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
18  */
19 #include "xfs.h"
20 #include "xfs_fs.h"
21 #include "xfs_types.h"
22 #include "xfs_log.h"
23 #include "xfs_trans.h"
24 #include "xfs_sb.h"
25 #include "xfs_ag.h"
26 #include "xfs_mount.h"
27 #include "xfs_error.h"
28 #include "xfs_da_btree.h"
29 #include "xfs_bmap_btree.h"
30 #include "xfs_alloc_btree.h"
31 #include "xfs_ialloc_btree.h"
32 #include "xfs_dinode.h"
33 #include "xfs_inode.h"
34 #include "xfs_btree.h"
35 #include "xfs_ialloc.h"
36 #include "xfs_alloc.h"
37 #include "xfs_extent_busy.h"
38 #include "xfs_bmap.h"
39 #include "xfs_quota.h"
40 #include "xfs_qm.h"
41 #include "xfs_trans_priv.h"
42 #include "xfs_trans_space.h"
43 #include "xfs_inode_item.h"
44 #include "xfs_log_priv.h"
45 #include "xfs_buf_item.h"
46 #include "xfs_trace.h"
47
48 kmem_zone_t     *xfs_trans_zone;
49 kmem_zone_t     *xfs_log_item_desc_zone;
50
51 /*
52  * A buffer has a format structure overhead in the log in addition
53  * to the data, so we need to take this into account when reserving
54  * space in a transaction for a buffer.  Round the space required up
55  * to a multiple of 128 bytes so that we don't change the historical
56  * reservation that has been used for this overhead.
57  */
58 STATIC uint
59 xfs_buf_log_overhead(void)
60 {
61         return round_up(sizeof(struct xlog_op_header) +
62                         sizeof(struct xfs_buf_log_format), 128);
63 }
64
65 /*
66  * Calculate out transaction log reservation per item in bytes.
67  *
68  * The nbufs argument is used to indicate the number of items that
69  * will be changed in a transaction.  size is used to tell how many
70  * bytes should be reserved per item.
71  */
72 STATIC uint
73 xfs_calc_buf_res(
74         uint            nbufs,
75         uint            size)
76 {
77         return nbufs * (size + xfs_buf_log_overhead());
78 }
79
80 /*
81  * Various log reservation values.
82  *
83  * These are based on the size of the file system block because that is what
84  * most transactions manipulate.  Each adds in an additional 128 bytes per
85  * item logged to try to account for the overhead of the transaction mechanism.
86  *
87  * Note:  Most of the reservations underestimate the number of allocation
88  * groups into which they could free extents in the xfs_bmap_finish() call.
89  * This is because the number in the worst case is quite high and quite
90  * unusual.  In order to fix this we need to change xfs_bmap_finish() to free
91  * extents in only a single AG at a time.  This will require changes to the
92  * EFI code as well, however, so that the EFI for the extents not freed is
93  * logged again in each transaction.  See SGI PV #261917.
94  *
95  * Reservation functions here avoid a huge stack in xfs_trans_init due to
96  * register overflow from temporaries in the calculations.
97  */
98
99
100 /*
101  * In a write transaction we can allocate a maximum of 2
102  * extents.  This gives:
103  *    the inode getting the new extents: inode size
104  *    the inode's bmap btree: max depth * block size
105  *    the agfs of the ags from which the extents are allocated: 2 * sector
106  *    the superblock free block counter: sector size
107  *    the allocation btrees: 2 exts * 2 trees * (2 * max depth - 1) * block size
108  * And the bmap_finish transaction can free bmap blocks in a join:
109  *    the agfs of the ags containing the blocks: 2 * sector size
110  *    the agfls of the ags containing the blocks: 2 * sector size
111  *    the super block free block counter: sector size
112  *    the allocation btrees: 2 exts * 2 trees * (2 * max depth - 1) * block size
113  */
114 STATIC uint
115 xfs_calc_write_reservation(
116         struct xfs_mount        *mp)
117 {
118         return XFS_DQUOT_LOGRES(mp) +
119                 MAX((xfs_calc_buf_res(1, mp->m_sb.sb_inodesize) +
120                      xfs_calc_buf_res(XFS_BM_MAXLEVELS(mp, XFS_DATA_FORK),
121                                       XFS_FSB_TO_B(mp, 1)) +
122                      xfs_calc_buf_res(3, mp->m_sb.sb_sectsize) +
123                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 2),
124                                       XFS_FSB_TO_B(mp, 1))),
125                     (xfs_calc_buf_res(5, mp->m_sb.sb_sectsize) +
126                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 2),
127                                       XFS_FSB_TO_B(mp, 1))));
128 }
129
130 /*
131  * In truncating a file we free up to two extents at once.  We can modify:
132  *    the inode being truncated: inode size
133  *    the inode's bmap btree: (max depth + 1) * block size
134  * And the bmap_finish transaction can free the blocks and bmap blocks:
135  *    the agf for each of the ags: 4 * sector size
136  *    the agfl for each of the ags: 4 * sector size
137  *    the super block to reflect the freed blocks: sector size
138  *    worst case split in allocation btrees per extent assuming 4 extents:
139  *              4 exts * 2 trees * (2 * max depth - 1) * block size
140  *    the inode btree: max depth * blocksize
141  *    the allocation btrees: 2 trees * (max depth - 1) * block size
142  */
143 STATIC uint
144 xfs_calc_itruncate_reservation(
145         struct xfs_mount        *mp)
146 {
147         return XFS_DQUOT_LOGRES(mp) +
148                 MAX((xfs_calc_buf_res(1, mp->m_sb.sb_inodesize) +
149                      xfs_calc_buf_res(XFS_BM_MAXLEVELS(mp, XFS_DATA_FORK) + 1,
150                                       XFS_FSB_TO_B(mp, 1))),
151                     (xfs_calc_buf_res(9, mp->m_sb.sb_sectsize) +
152                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 4),
153                                       XFS_FSB_TO_B(mp, 1)) +
154                     xfs_calc_buf_res(5, 0) +
155                     xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 1),
156                                      XFS_FSB_TO_B(mp, 1)) +
157                     xfs_calc_buf_res(2 + XFS_IALLOC_BLOCKS(mp) +
158                                      mp->m_in_maxlevels, 0)));
159 }
160
161 /*
162  * In renaming a files we can modify:
163  *    the four inodes involved: 4 * inode size
164  *    the two directory btrees: 2 * (max depth + v2) * dir block size
165  *    the two directory bmap btrees: 2 * max depth * block size
166  * And the bmap_finish transaction can free dir and bmap blocks (two sets
167  *      of bmap blocks) giving:
168  *    the agf for the ags in which the blocks live: 3 * sector size
169  *    the agfl for the ags in which the blocks live: 3 * sector size
170  *    the superblock for the free block count: sector size
171  *    the allocation btrees: 3 exts * 2 trees * (2 * max depth - 1) * block size
172  */
173 STATIC uint
174 xfs_calc_rename_reservation(
175         struct xfs_mount        *mp)
176 {
177         return XFS_DQUOT_LOGRES(mp) +
178                 MAX((xfs_calc_buf_res(4, mp->m_sb.sb_inodesize) +
179                      xfs_calc_buf_res(2 * XFS_DIROP_LOG_COUNT(mp),
180                                       XFS_FSB_TO_B(mp, 1))),
181                     (xfs_calc_buf_res(7, mp->m_sb.sb_sectsize) +
182                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 3),
183                                       XFS_FSB_TO_B(mp, 1))));
184 }
185
186 /*
187  * For creating a link to an inode:
188  *    the parent directory inode: inode size
189  *    the linked inode: inode size
190  *    the directory btree could split: (max depth + v2) * dir block size
191  *    the directory bmap btree could join or split: (max depth + v2) * blocksize
192  * And the bmap_finish transaction can free some bmap blocks giving:
193  *    the agf for the ag in which the blocks live: sector size
194  *    the agfl for the ag in which the blocks live: sector size
195  *    the superblock for the free block count: sector size
196  *    the allocation btrees: 2 trees * (2 * max depth - 1) * block size
197  */
198 STATIC uint
199 xfs_calc_link_reservation(
200         struct xfs_mount        *mp)
201 {
202         return XFS_DQUOT_LOGRES(mp) +
203                 MAX((xfs_calc_buf_res(2, mp->m_sb.sb_inodesize) +
204                      xfs_calc_buf_res(XFS_DIROP_LOG_COUNT(mp),
205                                       XFS_FSB_TO_B(mp, 1))),
206                     (xfs_calc_buf_res(3, mp->m_sb.sb_sectsize) +
207                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 1),
208                                       XFS_FSB_TO_B(mp, 1))));
209 }
210
211 /*
212  * For removing a directory entry we can modify:
213  *    the parent directory inode: inode size
214  *    the removed inode: inode size
215  *    the directory btree could join: (max depth + v2) * dir block size
216  *    the directory bmap btree could join or split: (max depth + v2) * blocksize
217  * And the bmap_finish transaction can free the dir and bmap blocks giving:
218  *    the agf for the ag in which the blocks live: 2 * sector size
219  *    the agfl for the ag in which the blocks live: 2 * sector size
220  *    the superblock for the free block count: sector size
221  *    the allocation btrees: 2 exts * 2 trees * (2 * max depth - 1) * block size
222  */
223 STATIC uint
224 xfs_calc_remove_reservation(
225         struct xfs_mount        *mp)
226 {
227         return XFS_DQUOT_LOGRES(mp) +
228                 MAX((xfs_calc_buf_res(2, mp->m_sb.sb_inodesize) +
229                      xfs_calc_buf_res(XFS_DIROP_LOG_COUNT(mp),
230                                       XFS_FSB_TO_B(mp, 1))),
231                     (xfs_calc_buf_res(5, mp->m_sb.sb_sectsize) +
232                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 2),
233                                       XFS_FSB_TO_B(mp, 1))));
234 }
235
236 /*
237  * For symlink we can modify:
238  *    the parent directory inode: inode size
239  *    the new inode: inode size
240  *    the inode btree entry: 1 block
241  *    the directory btree: (max depth + v2) * dir block size
242  *    the directory inode's bmap btree: (max depth + v2) * block size
243  *    the blocks for the symlink: 1 kB
244  * Or in the first xact we allocate some inodes giving:
245  *    the agi and agf of the ag getting the new inodes: 2 * sectorsize
246  *    the inode blocks allocated: XFS_IALLOC_BLOCKS * blocksize
247  *    the inode btree: max depth * blocksize
248  *    the allocation btrees: 2 trees * (2 * max depth - 1) * block size
249  */
250 STATIC uint
251 xfs_calc_symlink_reservation(
252         struct xfs_mount        *mp)
253 {
254         return XFS_DQUOT_LOGRES(mp) +
255                 MAX((xfs_calc_buf_res(2, mp->m_sb.sb_inodesize) +
256                      xfs_calc_buf_res(1, XFS_FSB_TO_B(mp, 1)) +
257                      xfs_calc_buf_res(XFS_DIROP_LOG_COUNT(mp),
258                                       XFS_FSB_TO_B(mp, 1)) +
259                      xfs_calc_buf_res(1, 1024)),
260                     (xfs_calc_buf_res(2, mp->m_sb.sb_sectsize) +
261                      xfs_calc_buf_res(XFS_IALLOC_BLOCKS(mp),
262                                       XFS_FSB_TO_B(mp, 1)) +
263                      xfs_calc_buf_res(mp->m_in_maxlevels,
264                                       XFS_FSB_TO_B(mp, 1)) +
265                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 1),
266                                       XFS_FSB_TO_B(mp, 1))));
267 }
268
269 /*
270  * For create we can modify:
271  *    the parent directory inode: inode size
272  *    the new inode: inode size
273  *    the inode btree entry: block size
274  *    the superblock for the nlink flag: sector size
275  *    the directory btree: (max depth + v2) * dir block size
276  *    the directory inode's bmap btree: (max depth + v2) * block size
277  * Or in the first xact we allocate some inodes giving:
278  *    the agi and agf of the ag getting the new inodes: 2 * sectorsize
279  *    the superblock for the nlink flag: sector size
280  *    the inode blocks allocated: XFS_IALLOC_BLOCKS * blocksize
281  *    the inode btree: max depth * blocksize
282  *    the allocation btrees: 2 trees * (max depth - 1) * block size
283  */
284 STATIC uint
285 xfs_calc_create_reservation(
286         struct xfs_mount        *mp)
287 {
288         return XFS_DQUOT_LOGRES(mp) +
289                 MAX((xfs_calc_buf_res(2, mp->m_sb.sb_inodesize) +
290                      xfs_calc_buf_res(1, mp->m_sb.sb_sectsize) +
291                      (uint)XFS_FSB_TO_B(mp, 1) +
292                      xfs_calc_buf_res(XFS_DIROP_LOG_COUNT(mp),
293                                       XFS_FSB_TO_B(mp, 1))),
294                     (xfs_calc_buf_res(2, mp->m_sb.sb_sectsize) +
295                      mp->m_sb.sb_sectsize +
296                      xfs_calc_buf_res(XFS_IALLOC_BLOCKS(mp),
297                                       XFS_FSB_TO_B(mp, 1)) +
298                      xfs_calc_buf_res(mp->m_in_maxlevels,
299                                       XFS_FSB_TO_B(mp, 1)) +
300                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 1),
301                                       XFS_FSB_TO_B(mp, 1))));
302 }
303
304 /*
305  * Making a new directory is the same as creating a new file.
306  */
307 STATIC uint
308 xfs_calc_mkdir_reservation(
309         struct xfs_mount        *mp)
310 {
311         return xfs_calc_create_reservation(mp);
312 }
313
314 /*
315  * In freeing an inode we can modify:
316  *    the inode being freed: inode size
317  *    the super block free inode counter: sector size
318  *    the agi hash list and counters: sector size
319  *    the inode btree entry: block size
320  *    the on disk inode before ours in the agi hash list: inode cluster size
321  *    the inode btree: max depth * blocksize
322  *    the allocation btrees: 2 trees * (max depth - 1) * block size
323  */
324 STATIC uint
325 xfs_calc_ifree_reservation(
326         struct xfs_mount        *mp)
327 {
328         return XFS_DQUOT_LOGRES(mp) +
329                 xfs_calc_buf_res(1, mp->m_sb.sb_inodesize) +
330                 xfs_calc_buf_res(2, mp->m_sb.sb_sectsize) +
331                 xfs_calc_buf_res(1, XFS_FSB_TO_B(mp, 1)) +
332                 MAX((__uint16_t)XFS_FSB_TO_B(mp, 1),
333                     XFS_INODE_CLUSTER_SIZE(mp)) +
334                 xfs_calc_buf_res(1, 0) +
335                 xfs_calc_buf_res(2 + XFS_IALLOC_BLOCKS(mp) +
336                                  mp->m_in_maxlevels, 0) +
337                 xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 1),
338                                  XFS_FSB_TO_B(mp, 1));
339 }
340
341 /*
342  * When only changing the inode we log the inode and possibly the superblock
343  * We also add a bit of slop for the transaction stuff.
344  */
345 STATIC uint
346 xfs_calc_ichange_reservation(
347         struct xfs_mount        *mp)
348 {
349         return XFS_DQUOT_LOGRES(mp) +
350                 mp->m_sb.sb_inodesize +
351                 mp->m_sb.sb_sectsize +
352                 512;
353
354 }
355
356 /*
357  * Growing the data section of the filesystem.
358  *      superblock
359  *      agi and agf
360  *      allocation btrees
361  */
362 STATIC uint
363 xfs_calc_growdata_reservation(
364         struct xfs_mount        *mp)
365 {
366         return xfs_calc_buf_res(3, mp->m_sb.sb_sectsize) +
367                 xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 1),
368                                  XFS_FSB_TO_B(mp, 1));
369 }
370
371 /*
372  * Growing the rt section of the filesystem.
373  * In the first set of transactions (ALLOC) we allocate space to the
374  * bitmap or summary files.
375  *      superblock: sector size
376  *      agf of the ag from which the extent is allocated: sector size
377  *      bmap btree for bitmap/summary inode: max depth * blocksize
378  *      bitmap/summary inode: inode size
379  *      allocation btrees for 1 block alloc: 2 * (2 * maxdepth - 1) * blocksize
380  */
381 STATIC uint
382 xfs_calc_growrtalloc_reservation(
383         struct xfs_mount        *mp)
384 {
385         return xfs_calc_buf_res(2, mp->m_sb.sb_sectsize) +
386                 xfs_calc_buf_res(XFS_BM_MAXLEVELS(mp, XFS_DATA_FORK),
387                                  XFS_FSB_TO_B(mp, 1)) +
388                 xfs_calc_buf_res(1, mp->m_sb.sb_inodesize) +
389                 xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 1),
390                                  XFS_FSB_TO_B(mp, 1));
391 }
392
393 /*
394  * Growing the rt section of the filesystem.
395  * In the second set of transactions (ZERO) we zero the new metadata blocks.
396  *      one bitmap/summary block: blocksize
397  */
398 STATIC uint
399 xfs_calc_growrtzero_reservation(
400         struct xfs_mount        *mp)
401 {
402         return xfs_calc_buf_res(1, mp->m_sb.sb_blocksize);
403 }
404
405 /*
406  * Growing the rt section of the filesystem.
407  * In the third set of transactions (FREE) we update metadata without
408  * allocating any new blocks.
409  *      superblock: sector size
410  *      bitmap inode: inode size
411  *      summary inode: inode size
412  *      one bitmap block: blocksize
413  *      summary blocks: new summary size
414  */
415 STATIC uint
416 xfs_calc_growrtfree_reservation(
417         struct xfs_mount        *mp)
418 {
419         return xfs_calc_buf_res(1, mp->m_sb.sb_sectsize) +
420                 xfs_calc_buf_res(2, mp->m_sb.sb_inodesize) +
421                 xfs_calc_buf_res(1, mp->m_sb.sb_blocksize) +
422                 xfs_calc_buf_res(1, mp->m_rsumsize);
423 }
424
425 /*
426  * Logging the inode modification timestamp on a synchronous write.
427  *      inode
428  */
429 STATIC uint
430 xfs_calc_swrite_reservation(
431         struct xfs_mount        *mp)
432 {
433         return xfs_calc_buf_res(1, mp->m_sb.sb_inodesize);
434 }
435
436 /*
437  * Logging the inode mode bits when writing a setuid/setgid file
438  *      inode
439  */
440 STATIC uint
441 xfs_calc_writeid_reservation(xfs_mount_t *mp)
442 {
443         return xfs_calc_buf_res(1, mp->m_sb.sb_inodesize);
444 }
445
446 /*
447  * Converting the inode from non-attributed to attributed.
448  *      the inode being converted: inode size
449  *      agf block and superblock (for block allocation)
450  *      the new block (directory sized)
451  *      bmap blocks for the new directory block
452  *      allocation btrees
453  */
454 STATIC uint
455 xfs_calc_addafork_reservation(
456         struct xfs_mount        *mp)
457 {
458         return XFS_DQUOT_LOGRES(mp) +
459                 xfs_calc_buf_res(1, mp->m_sb.sb_inodesize) +
460                 xfs_calc_buf_res(2, mp->m_sb.sb_sectsize) +
461                 xfs_calc_buf_res(1, mp->m_dirblksize) +
462                 xfs_calc_buf_res(XFS_DAENTER_BMAP1B(mp, XFS_DATA_FORK) + 1,
463                                  XFS_FSB_TO_B(mp, 1)) +
464                 xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 1),
465                                  XFS_FSB_TO_B(mp, 1));
466 }
467
468 /*
469  * Removing the attribute fork of a file
470  *    the inode being truncated: inode size
471  *    the inode's bmap btree: max depth * block size
472  * And the bmap_finish transaction can free the blocks and bmap blocks:
473  *    the agf for each of the ags: 4 * sector size
474  *    the agfl for each of the ags: 4 * sector size
475  *    the super block to reflect the freed blocks: sector size
476  *    worst case split in allocation btrees per extent assuming 4 extents:
477  *              4 exts * 2 trees * (2 * max depth - 1) * block size
478  */
479 STATIC uint
480 xfs_calc_attrinval_reservation(
481         struct xfs_mount        *mp)
482 {
483         return MAX((xfs_calc_buf_res(1, mp->m_sb.sb_inodesize) +
484                     xfs_calc_buf_res(XFS_BM_MAXLEVELS(mp, XFS_ATTR_FORK),
485                                      XFS_FSB_TO_B(mp, 1))),
486                    (xfs_calc_buf_res(9, mp->m_sb.sb_sectsize) +
487                     xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 4),
488                                      XFS_FSB_TO_B(mp, 1))));
489 }
490
491 /*
492  * Setting an attribute.
493  *      the inode getting the attribute
494  *      the superblock for allocations
495  *      the agfs extents are allocated from
496  *      the attribute btree * max depth
497  *      the inode allocation btree
498  * Since attribute transaction space is dependent on the size of the attribute,
499  * the calculation is done partially at mount time and partially at runtime.
500  */
501 STATIC uint
502 xfs_calc_attrset_reservation(
503         struct xfs_mount        *mp)
504 {
505         return XFS_DQUOT_LOGRES(mp) +
506                 xfs_calc_buf_res(1, mp->m_sb.sb_inodesize) +
507                 xfs_calc_buf_res(1, mp->m_sb.sb_sectsize) +
508                 xfs_calc_buf_res(XFS_DA_NODE_MAXDEPTH, XFS_FSB_TO_B(mp, 1));
509 }
510
511 /*
512  * Removing an attribute.
513  *    the inode: inode size
514  *    the attribute btree could join: max depth * block size
515  *    the inode bmap btree could join or split: max depth * block size
516  * And the bmap_finish transaction can free the attr blocks freed giving:
517  *    the agf for the ag in which the blocks live: 2 * sector size
518  *    the agfl for the ag in which the blocks live: 2 * sector size
519  *    the superblock for the free block count: sector size
520  *    the allocation btrees: 2 exts * 2 trees * (2 * max depth - 1) * block size
521  */
522 STATIC uint
523 xfs_calc_attrrm_reservation(
524         struct xfs_mount        *mp)
525 {
526         return XFS_DQUOT_LOGRES(mp) +
527                 MAX((xfs_calc_buf_res(1, mp->m_sb.sb_inodesize) +
528                      xfs_calc_buf_res(XFS_DA_NODE_MAXDEPTH,
529                                       XFS_FSB_TO_B(mp, 1)) +
530                      (uint)XFS_FSB_TO_B(mp,
531                                         XFS_BM_MAXLEVELS(mp, XFS_ATTR_FORK)) +
532                      xfs_calc_buf_res(XFS_BM_MAXLEVELS(mp, XFS_DATA_FORK), 0)),
533                     (xfs_calc_buf_res(5, mp->m_sb.sb_sectsize) +
534                      xfs_calc_buf_res(XFS_ALLOCFREE_LOG_COUNT(mp, 2),
535                                       XFS_FSB_TO_B(mp, 1))));
536 }
537
538 /*
539  * Clearing a bad agino number in an agi hash bucket.
540  */
541 STATIC uint
542 xfs_calc_clear_agi_bucket_reservation(
543         struct xfs_mount        *mp)
544 {
545         return xfs_calc_buf_res(1, mp->m_sb.sb_sectsize);
546 }
547
548 /*
549  * Initialize the precomputed transaction reservation values
550  * in the mount structure.
551  */
552 void
553 xfs_trans_init(
554         struct xfs_mount        *mp)
555 {
556         struct xfs_trans_reservations *resp = &mp->m_reservations;
557
558         resp->tr_write = xfs_calc_write_reservation(mp);
559         resp->tr_itruncate = xfs_calc_itruncate_reservation(mp);
560         resp->tr_rename = xfs_calc_rename_reservation(mp);
561         resp->tr_link = xfs_calc_link_reservation(mp);
562         resp->tr_remove = xfs_calc_remove_reservation(mp);
563         resp->tr_symlink = xfs_calc_symlink_reservation(mp);
564         resp->tr_create = xfs_calc_create_reservation(mp);
565         resp->tr_mkdir = xfs_calc_mkdir_reservation(mp);
566         resp->tr_ifree = xfs_calc_ifree_reservation(mp);
567         resp->tr_ichange = xfs_calc_ichange_reservation(mp);
568         resp->tr_growdata = xfs_calc_growdata_reservation(mp);
569         resp->tr_swrite = xfs_calc_swrite_reservation(mp);
570         resp->tr_writeid = xfs_calc_writeid_reservation(mp);
571         resp->tr_addafork = xfs_calc_addafork_reservation(mp);
572         resp->tr_attrinval = xfs_calc_attrinval_reservation(mp);
573         resp->tr_attrset = xfs_calc_attrset_reservation(mp);
574         resp->tr_attrrm = xfs_calc_attrrm_reservation(mp);
575         resp->tr_clearagi = xfs_calc_clear_agi_bucket_reservation(mp);
576         resp->tr_growrtalloc = xfs_calc_growrtalloc_reservation(mp);
577         resp->tr_growrtzero = xfs_calc_growrtzero_reservation(mp);
578         resp->tr_growrtfree = xfs_calc_growrtfree_reservation(mp);
579 }
580
581 /*
582  * This routine is called to allocate a transaction structure.
583  * The type parameter indicates the type of the transaction.  These
584  * are enumerated in xfs_trans.h.
585  *
586  * Dynamically allocate the transaction structure from the transaction
587  * zone, initialize it, and return it to the caller.
588  */
589 xfs_trans_t *
590 xfs_trans_alloc(
591         xfs_mount_t     *mp,
592         uint            type)
593 {
594         xfs_trans_t     *tp;
595
596         sb_start_intwrite(mp->m_super);
597         tp = _xfs_trans_alloc(mp, type, KM_SLEEP);
598         tp->t_flags |= XFS_TRANS_FREEZE_PROT;
599         return tp;
600 }
601
602 xfs_trans_t *
603 _xfs_trans_alloc(
604         xfs_mount_t     *mp,
605         uint            type,
606         xfs_km_flags_t  memflags)
607 {
608         xfs_trans_t     *tp;
609
610         WARN_ON(mp->m_super->s_writers.frozen == SB_FREEZE_COMPLETE);
611         atomic_inc(&mp->m_active_trans);
612
613         tp = kmem_zone_zalloc(xfs_trans_zone, memflags);
614         tp->t_magic = XFS_TRANS_MAGIC;
615         tp->t_type = type;
616         tp->t_mountp = mp;
617         INIT_LIST_HEAD(&tp->t_items);
618         INIT_LIST_HEAD(&tp->t_busy);
619         return tp;
620 }
621
622 /*
623  * Free the transaction structure.  If there is more clean up
624  * to do when the structure is freed, add it here.
625  */
626 STATIC void
627 xfs_trans_free(
628         struct xfs_trans        *tp)
629 {
630         xfs_extent_busy_sort(&tp->t_busy);
631         xfs_extent_busy_clear(tp->t_mountp, &tp->t_busy, false);
632
633         atomic_dec(&tp->t_mountp->m_active_trans);
634         if (tp->t_flags & XFS_TRANS_FREEZE_PROT)
635                 sb_end_intwrite(tp->t_mountp->m_super);
636         xfs_trans_free_dqinfo(tp);
637         kmem_zone_free(xfs_trans_zone, tp);
638 }
639
640 /*
641  * This is called to create a new transaction which will share the
642  * permanent log reservation of the given transaction.  The remaining
643  * unused block and rt extent reservations are also inherited.  This
644  * implies that the original transaction is no longer allowed to allocate
645  * blocks.  Locks and log items, however, are no inherited.  They must
646  * be added to the new transaction explicitly.
647  */
648 xfs_trans_t *
649 xfs_trans_dup(
650         xfs_trans_t     *tp)
651 {
652         xfs_trans_t     *ntp;
653
654         ntp = kmem_zone_zalloc(xfs_trans_zone, KM_SLEEP);
655
656         /*
657          * Initialize the new transaction structure.
658          */
659         ntp->t_magic = XFS_TRANS_MAGIC;
660         ntp->t_type = tp->t_type;
661         ntp->t_mountp = tp->t_mountp;
662         INIT_LIST_HEAD(&ntp->t_items);
663         INIT_LIST_HEAD(&ntp->t_busy);
664
665         ASSERT(tp->t_flags & XFS_TRANS_PERM_LOG_RES);
666         ASSERT(tp->t_ticket != NULL);
667
668         ntp->t_flags = XFS_TRANS_PERM_LOG_RES |
669                        (tp->t_flags & XFS_TRANS_RESERVE) |
670                        (tp->t_flags & XFS_TRANS_FREEZE_PROT);
671         /* We gave our writer reference to the new transaction */
672         tp->t_flags &= ~XFS_TRANS_FREEZE_PROT;
673         ntp->t_ticket = xfs_log_ticket_get(tp->t_ticket);
674         ntp->t_blk_res = tp->t_blk_res - tp->t_blk_res_used;
675         tp->t_blk_res = tp->t_blk_res_used;
676         ntp->t_rtx_res = tp->t_rtx_res - tp->t_rtx_res_used;
677         tp->t_rtx_res = tp->t_rtx_res_used;
678         ntp->t_pflags = tp->t_pflags;
679
680         xfs_trans_dup_dqinfo(tp, ntp);
681
682         atomic_inc(&tp->t_mountp->m_active_trans);
683         return ntp;
684 }
685
686 /*
687  * This is called to reserve free disk blocks and log space for the
688  * given transaction.  This must be done before allocating any resources
689  * within the transaction.
690  *
691  * This will return ENOSPC if there are not enough blocks available.
692  * It will sleep waiting for available log space.
693  * The only valid value for the flags parameter is XFS_RES_LOG_PERM, which
694  * is used by long running transactions.  If any one of the reservations
695  * fails then they will all be backed out.
696  *
697  * This does not do quota reservations. That typically is done by the
698  * caller afterwards.
699  */
700 int
701 xfs_trans_reserve(
702         xfs_trans_t     *tp,
703         uint            blocks,
704         uint            logspace,
705         uint            rtextents,
706         uint            flags,
707         uint            logcount)
708 {
709         int             error = 0;
710         int             rsvd = (tp->t_flags & XFS_TRANS_RESERVE) != 0;
711
712         /* Mark this thread as being in a transaction */
713         current_set_flags_nested(&tp->t_pflags, PF_FSTRANS);
714
715         /*
716          * Attempt to reserve the needed disk blocks by decrementing
717          * the number needed from the number available.  This will
718          * fail if the count would go below zero.
719          */
720         if (blocks > 0) {
721                 error = xfs_icsb_modify_counters(tp->t_mountp, XFS_SBS_FDBLOCKS,
722                                           -((int64_t)blocks), rsvd);
723                 if (error != 0) {
724                         current_restore_flags_nested(&tp->t_pflags, PF_FSTRANS);
725                         return (XFS_ERROR(ENOSPC));
726                 }
727                 tp->t_blk_res += blocks;
728         }
729
730         /*
731          * Reserve the log space needed for this transaction.
732          */
733         if (logspace > 0) {
734                 bool    permanent = false;
735
736                 ASSERT(tp->t_log_res == 0 || tp->t_log_res == logspace);
737                 ASSERT(tp->t_log_count == 0 || tp->t_log_count == logcount);
738
739                 if (flags & XFS_TRANS_PERM_LOG_RES) {
740                         tp->t_flags |= XFS_TRANS_PERM_LOG_RES;
741                         permanent = true;
742                 } else {
743                         ASSERT(tp->t_ticket == NULL);
744                         ASSERT(!(tp->t_flags & XFS_TRANS_PERM_LOG_RES));
745                 }
746
747                 if (tp->t_ticket != NULL) {
748                         ASSERT(flags & XFS_TRANS_PERM_LOG_RES);
749                         error = xfs_log_regrant(tp->t_mountp, tp->t_ticket);
750                 } else {
751                         error = xfs_log_reserve(tp->t_mountp, logspace,
752                                                 logcount, &tp->t_ticket,
753                                                 XFS_TRANSACTION, permanent,
754                                                 tp->t_type);
755                 }
756
757                 if (error)
758                         goto undo_blocks;
759
760                 tp->t_log_res = logspace;
761                 tp->t_log_count = logcount;
762         }
763
764         /*
765          * Attempt to reserve the needed realtime extents by decrementing
766          * the number needed from the number available.  This will
767          * fail if the count would go below zero.
768          */
769         if (rtextents > 0) {
770                 error = xfs_mod_incore_sb(tp->t_mountp, XFS_SBS_FREXTENTS,
771                                           -((int64_t)rtextents), rsvd);
772                 if (error) {
773                         error = XFS_ERROR(ENOSPC);
774                         goto undo_log;
775                 }
776                 tp->t_rtx_res += rtextents;
777         }
778
779         return 0;
780
781         /*
782          * Error cases jump to one of these labels to undo any
783          * reservations which have already been performed.
784          */
785 undo_log:
786         if (logspace > 0) {
787                 int             log_flags;
788
789                 if (flags & XFS_TRANS_PERM_LOG_RES) {
790                         log_flags = XFS_LOG_REL_PERM_RESERV;
791                 } else {
792                         log_flags = 0;
793                 }
794                 xfs_log_done(tp->t_mountp, tp->t_ticket, NULL, log_flags);
795                 tp->t_ticket = NULL;
796                 tp->t_log_res = 0;
797                 tp->t_flags &= ~XFS_TRANS_PERM_LOG_RES;
798         }
799
800 undo_blocks:
801         if (blocks > 0) {
802                 xfs_icsb_modify_counters(tp->t_mountp, XFS_SBS_FDBLOCKS,
803                                          (int64_t)blocks, rsvd);
804                 tp->t_blk_res = 0;
805         }
806
807         current_restore_flags_nested(&tp->t_pflags, PF_FSTRANS);
808
809         return error;
810 }
811
812 /*
813  * Record the indicated change to the given field for application
814  * to the file system's superblock when the transaction commits.
815  * For now, just store the change in the transaction structure.
816  *
817  * Mark the transaction structure to indicate that the superblock
818  * needs to be updated before committing.
819  *
820  * Because we may not be keeping track of allocated/free inodes and
821  * used filesystem blocks in the superblock, we do not mark the
822  * superblock dirty in this transaction if we modify these fields.
823  * We still need to update the transaction deltas so that they get
824  * applied to the incore superblock, but we don't want them to
825  * cause the superblock to get locked and logged if these are the
826  * only fields in the superblock that the transaction modifies.
827  */
828 void
829 xfs_trans_mod_sb(
830         xfs_trans_t     *tp,
831         uint            field,
832         int64_t         delta)
833 {
834         uint32_t        flags = (XFS_TRANS_DIRTY|XFS_TRANS_SB_DIRTY);
835         xfs_mount_t     *mp = tp->t_mountp;
836
837         switch (field) {
838         case XFS_TRANS_SB_ICOUNT:
839                 tp->t_icount_delta += delta;
840                 if (xfs_sb_version_haslazysbcount(&mp->m_sb))
841                         flags &= ~XFS_TRANS_SB_DIRTY;
842                 break;
843         case XFS_TRANS_SB_IFREE:
844                 tp->t_ifree_delta += delta;
845                 if (xfs_sb_version_haslazysbcount(&mp->m_sb))
846                         flags &= ~XFS_TRANS_SB_DIRTY;
847                 break;
848         case XFS_TRANS_SB_FDBLOCKS:
849                 /*
850                  * Track the number of blocks allocated in the
851                  * transaction.  Make sure it does not exceed the
852                  * number reserved.
853                  */
854                 if (delta < 0) {
855                         tp->t_blk_res_used += (uint)-delta;
856                         ASSERT(tp->t_blk_res_used <= tp->t_blk_res);
857                 }
858                 tp->t_fdblocks_delta += delta;
859                 if (xfs_sb_version_haslazysbcount(&mp->m_sb))
860                         flags &= ~XFS_TRANS_SB_DIRTY;
861                 break;
862         case XFS_TRANS_SB_RES_FDBLOCKS:
863                 /*
864                  * The allocation has already been applied to the
865                  * in-core superblock's counter.  This should only
866                  * be applied to the on-disk superblock.
867                  */
868                 ASSERT(delta < 0);
869                 tp->t_res_fdblocks_delta += delta;
870                 if (xfs_sb_version_haslazysbcount(&mp->m_sb))
871                         flags &= ~XFS_TRANS_SB_DIRTY;
872                 break;
873         case XFS_TRANS_SB_FREXTENTS:
874                 /*
875                  * Track the number of blocks allocated in the
876                  * transaction.  Make sure it does not exceed the
877                  * number reserved.
878                  */
879                 if (delta < 0) {
880                         tp->t_rtx_res_used += (uint)-delta;
881                         ASSERT(tp->t_rtx_res_used <= tp->t_rtx_res);
882                 }
883                 tp->t_frextents_delta += delta;
884                 break;
885         case XFS_TRANS_SB_RES_FREXTENTS:
886                 /*
887                  * The allocation has already been applied to the
888                  * in-core superblock's counter.  This should only
889                  * be applied to the on-disk superblock.
890                  */
891                 ASSERT(delta < 0);
892                 tp->t_res_frextents_delta += delta;
893                 break;
894         case XFS_TRANS_SB_DBLOCKS:
895                 ASSERT(delta > 0);
896                 tp->t_dblocks_delta += delta;
897                 break;
898         case XFS_TRANS_SB_AGCOUNT:
899                 ASSERT(delta > 0);
900                 tp->t_agcount_delta += delta;
901                 break;
902         case XFS_TRANS_SB_IMAXPCT:
903                 tp->t_imaxpct_delta += delta;
904                 break;
905         case XFS_TRANS_SB_REXTSIZE:
906                 tp->t_rextsize_delta += delta;
907                 break;
908         case XFS_TRANS_SB_RBMBLOCKS:
909                 tp->t_rbmblocks_delta += delta;
910                 break;
911         case XFS_TRANS_SB_RBLOCKS:
912                 tp->t_rblocks_delta += delta;
913                 break;
914         case XFS_TRANS_SB_REXTENTS:
915                 tp->t_rextents_delta += delta;
916                 break;
917         case XFS_TRANS_SB_REXTSLOG:
918                 tp->t_rextslog_delta += delta;
919                 break;
920         default:
921                 ASSERT(0);
922                 return;
923         }
924
925         tp->t_flags |= flags;
926 }
927
928 /*
929  * xfs_trans_apply_sb_deltas() is called from the commit code
930  * to bring the superblock buffer into the current transaction
931  * and modify it as requested by earlier calls to xfs_trans_mod_sb().
932  *
933  * For now we just look at each field allowed to change and change
934  * it if necessary.
935  */
936 STATIC void
937 xfs_trans_apply_sb_deltas(
938         xfs_trans_t     *tp)
939 {
940         xfs_dsb_t       *sbp;
941         xfs_buf_t       *bp;
942         int             whole = 0;
943
944         bp = xfs_trans_getsb(tp, tp->t_mountp, 0);
945         sbp = XFS_BUF_TO_SBP(bp);
946
947         /*
948          * Check that superblock mods match the mods made to AGF counters.
949          */
950         ASSERT((tp->t_fdblocks_delta + tp->t_res_fdblocks_delta) ==
951                (tp->t_ag_freeblks_delta + tp->t_ag_flist_delta +
952                 tp->t_ag_btree_delta));
953
954         /*
955          * Only update the superblock counters if we are logging them
956          */
957         if (!xfs_sb_version_haslazysbcount(&(tp->t_mountp->m_sb))) {
958                 if (tp->t_icount_delta)
959                         be64_add_cpu(&sbp->sb_icount, tp->t_icount_delta);
960                 if (tp->t_ifree_delta)
961                         be64_add_cpu(&sbp->sb_ifree, tp->t_ifree_delta);
962                 if (tp->t_fdblocks_delta)
963                         be64_add_cpu(&sbp->sb_fdblocks, tp->t_fdblocks_delta);
964                 if (tp->t_res_fdblocks_delta)
965                         be64_add_cpu(&sbp->sb_fdblocks, tp->t_res_fdblocks_delta);
966         }
967
968         if (tp->t_frextents_delta)
969                 be64_add_cpu(&sbp->sb_frextents, tp->t_frextents_delta);
970         if (tp->t_res_frextents_delta)
971                 be64_add_cpu(&sbp->sb_frextents, tp->t_res_frextents_delta);
972
973         if (tp->t_dblocks_delta) {
974                 be64_add_cpu(&sbp->sb_dblocks, tp->t_dblocks_delta);
975                 whole = 1;
976         }
977         if (tp->t_agcount_delta) {
978                 be32_add_cpu(&sbp->sb_agcount, tp->t_agcount_delta);
979                 whole = 1;
980         }
981         if (tp->t_imaxpct_delta) {
982                 sbp->sb_imax_pct += tp->t_imaxpct_delta;
983                 whole = 1;
984         }
985         if (tp->t_rextsize_delta) {
986                 be32_add_cpu(&sbp->sb_rextsize, tp->t_rextsize_delta);
987                 whole = 1;
988         }
989         if (tp->t_rbmblocks_delta) {
990                 be32_add_cpu(&sbp->sb_rbmblocks, tp->t_rbmblocks_delta);
991                 whole = 1;
992         }
993         if (tp->t_rblocks_delta) {
994                 be64_add_cpu(&sbp->sb_rblocks, tp->t_rblocks_delta);
995                 whole = 1;
996         }
997         if (tp->t_rextents_delta) {
998                 be64_add_cpu(&sbp->sb_rextents, tp->t_rextents_delta);
999                 whole = 1;
1000         }
1001         if (tp->t_rextslog_delta) {
1002                 sbp->sb_rextslog += tp->t_rextslog_delta;
1003                 whole = 1;
1004         }
1005
1006         if (whole)
1007                 /*
1008                  * Log the whole thing, the fields are noncontiguous.
1009                  */
1010                 xfs_trans_log_buf(tp, bp, 0, sizeof(xfs_dsb_t) - 1);
1011         else
1012                 /*
1013                  * Since all the modifiable fields are contiguous, we
1014                  * can get away with this.
1015                  */
1016                 xfs_trans_log_buf(tp, bp, offsetof(xfs_dsb_t, sb_icount),
1017                                   offsetof(xfs_dsb_t, sb_frextents) +
1018                                   sizeof(sbp->sb_frextents) - 1);
1019 }
1020
1021 /*
1022  * xfs_trans_unreserve_and_mod_sb() is called to release unused reservations
1023  * and apply superblock counter changes to the in-core superblock.  The
1024  * t_res_fdblocks_delta and t_res_frextents_delta fields are explicitly NOT
1025  * applied to the in-core superblock.  The idea is that that has already been
1026  * done.
1027  *
1028  * This is done efficiently with a single call to xfs_mod_incore_sb_batch().
1029  * However, we have to ensure that we only modify each superblock field only
1030  * once because the application of the delta values may not be atomic. That can
1031  * lead to ENOSPC races occurring if we have two separate modifcations of the
1032  * free space counter to put back the entire reservation and then take away
1033  * what we used.
1034  *
1035  * If we are not logging superblock counters, then the inode allocated/free and
1036  * used block counts are not updated in the on disk superblock. In this case,
1037  * XFS_TRANS_SB_DIRTY will not be set when the transaction is updated but we
1038  * still need to update the incore superblock with the changes.
1039  */
1040 void
1041 xfs_trans_unreserve_and_mod_sb(
1042         xfs_trans_t     *tp)
1043 {
1044         xfs_mod_sb_t    msb[9]; /* If you add cases, add entries */
1045         xfs_mod_sb_t    *msbp;
1046         xfs_mount_t     *mp = tp->t_mountp;
1047         /* REFERENCED */
1048         int             error;
1049         int             rsvd;
1050         int64_t         blkdelta = 0;
1051         int64_t         rtxdelta = 0;
1052         int64_t         idelta = 0;
1053         int64_t         ifreedelta = 0;
1054
1055         msbp = msb;
1056         rsvd = (tp->t_flags & XFS_TRANS_RESERVE) != 0;
1057
1058         /* calculate deltas */
1059         if (tp->t_blk_res > 0)
1060                 blkdelta = tp->t_blk_res;
1061         if ((tp->t_fdblocks_delta != 0) &&
1062             (xfs_sb_version_haslazysbcount(&mp->m_sb) ||
1063              (tp->t_flags & XFS_TRANS_SB_DIRTY)))
1064                 blkdelta += tp->t_fdblocks_delta;
1065
1066         if (tp->t_rtx_res > 0)
1067                 rtxdelta = tp->t_rtx_res;
1068         if ((tp->t_frextents_delta != 0) &&
1069             (tp->t_flags & XFS_TRANS_SB_DIRTY))
1070                 rtxdelta += tp->t_frextents_delta;
1071
1072         if (xfs_sb_version_haslazysbcount(&mp->m_sb) ||
1073              (tp->t_flags & XFS_TRANS_SB_DIRTY)) {
1074                 idelta = tp->t_icount_delta;
1075                 ifreedelta = tp->t_ifree_delta;
1076         }
1077
1078         /* apply the per-cpu counters */
1079         if (blkdelta) {
1080                 error = xfs_icsb_modify_counters(mp, XFS_SBS_FDBLOCKS,
1081                                                  blkdelta, rsvd);
1082                 if (error)
1083                         goto out;
1084         }
1085
1086         if (idelta) {
1087                 error = xfs_icsb_modify_counters(mp, XFS_SBS_ICOUNT,
1088                                                  idelta, rsvd);
1089                 if (error)
1090                         goto out_undo_fdblocks;
1091         }
1092
1093         if (ifreedelta) {
1094                 error = xfs_icsb_modify_counters(mp, XFS_SBS_IFREE,
1095                                                  ifreedelta, rsvd);
1096                 if (error)
1097                         goto out_undo_icount;
1098         }
1099
1100         /* apply remaining deltas */
1101         if (rtxdelta != 0) {
1102                 msbp->msb_field = XFS_SBS_FREXTENTS;
1103                 msbp->msb_delta = rtxdelta;
1104                 msbp++;
1105         }
1106
1107         if (tp->t_flags & XFS_TRANS_SB_DIRTY) {
1108                 if (tp->t_dblocks_delta != 0) {
1109                         msbp->msb_field = XFS_SBS_DBLOCKS;
1110                         msbp->msb_delta = tp->t_dblocks_delta;
1111                         msbp++;
1112                 }
1113                 if (tp->t_agcount_delta != 0) {
1114                         msbp->msb_field = XFS_SBS_AGCOUNT;
1115                         msbp->msb_delta = tp->t_agcount_delta;
1116                         msbp++;
1117                 }
1118                 if (tp->t_imaxpct_delta != 0) {
1119                         msbp->msb_field = XFS_SBS_IMAX_PCT;
1120                         msbp->msb_delta = tp->t_imaxpct_delta;
1121                         msbp++;
1122                 }
1123                 if (tp->t_rextsize_delta != 0) {
1124                         msbp->msb_field = XFS_SBS_REXTSIZE;
1125                         msbp->msb_delta = tp->t_rextsize_delta;
1126                         msbp++;
1127                 }
1128                 if (tp->t_rbmblocks_delta != 0) {
1129                         msbp->msb_field = XFS_SBS_RBMBLOCKS;
1130                         msbp->msb_delta = tp->t_rbmblocks_delta;
1131                         msbp++;
1132                 }
1133                 if (tp->t_rblocks_delta != 0) {
1134                         msbp->msb_field = XFS_SBS_RBLOCKS;
1135                         msbp->msb_delta = tp->t_rblocks_delta;
1136                         msbp++;
1137                 }
1138                 if (tp->t_rextents_delta != 0) {
1139                         msbp->msb_field = XFS_SBS_REXTENTS;
1140                         msbp->msb_delta = tp->t_rextents_delta;
1141                         msbp++;
1142                 }
1143                 if (tp->t_rextslog_delta != 0) {
1144                         msbp->msb_field = XFS_SBS_REXTSLOG;
1145                         msbp->msb_delta = tp->t_rextslog_delta;
1146                         msbp++;
1147                 }
1148         }
1149
1150         /*
1151          * If we need to change anything, do it.
1152          */
1153         if (msbp > msb) {
1154                 error = xfs_mod_incore_sb_batch(tp->t_mountp, msb,
1155                         (uint)(msbp - msb), rsvd);
1156                 if (error)
1157                         goto out_undo_ifreecount;
1158         }
1159
1160         return;
1161
1162 out_undo_ifreecount:
1163         if (ifreedelta)
1164                 xfs_icsb_modify_counters(mp, XFS_SBS_IFREE, -ifreedelta, rsvd);
1165 out_undo_icount:
1166         if (idelta)
1167                 xfs_icsb_modify_counters(mp, XFS_SBS_ICOUNT, -idelta, rsvd);
1168 out_undo_fdblocks:
1169         if (blkdelta)
1170                 xfs_icsb_modify_counters(mp, XFS_SBS_FDBLOCKS, -blkdelta, rsvd);
1171 out:
1172         ASSERT(error == 0);
1173         return;
1174 }
1175
1176 /*
1177  * Add the given log item to the transaction's list of log items.
1178  *
1179  * The log item will now point to its new descriptor with its li_desc field.
1180  */
1181 void
1182 xfs_trans_add_item(
1183         struct xfs_trans        *tp,
1184         struct xfs_log_item     *lip)
1185 {
1186         struct xfs_log_item_desc *lidp;
1187
1188         ASSERT(lip->li_mountp == tp->t_mountp);
1189         ASSERT(lip->li_ailp == tp->t_mountp->m_ail);
1190
1191         lidp = kmem_zone_zalloc(xfs_log_item_desc_zone, KM_SLEEP | KM_NOFS);
1192
1193         lidp->lid_item = lip;
1194         lidp->lid_flags = 0;
1195         list_add_tail(&lidp->lid_trans, &tp->t_items);
1196
1197         lip->li_desc = lidp;
1198 }
1199
1200 STATIC void
1201 xfs_trans_free_item_desc(
1202         struct xfs_log_item_desc *lidp)
1203 {
1204         list_del_init(&lidp->lid_trans);
1205         kmem_zone_free(xfs_log_item_desc_zone, lidp);
1206 }
1207
1208 /*
1209  * Unlink and free the given descriptor.
1210  */
1211 void
1212 xfs_trans_del_item(
1213         struct xfs_log_item     *lip)
1214 {
1215         xfs_trans_free_item_desc(lip->li_desc);
1216         lip->li_desc = NULL;
1217 }
1218
1219 /*
1220  * Unlock all of the items of a transaction and free all the descriptors
1221  * of that transaction.
1222  */
1223 void
1224 xfs_trans_free_items(
1225         struct xfs_trans        *tp,
1226         xfs_lsn_t               commit_lsn,
1227         int                     flags)
1228 {
1229         struct xfs_log_item_desc *lidp, *next;
1230
1231         list_for_each_entry_safe(lidp, next, &tp->t_items, lid_trans) {
1232                 struct xfs_log_item     *lip = lidp->lid_item;
1233
1234                 lip->li_desc = NULL;
1235
1236                 if (commit_lsn != NULLCOMMITLSN)
1237                         IOP_COMMITTING(lip, commit_lsn);
1238                 if (flags & XFS_TRANS_ABORT)
1239                         lip->li_flags |= XFS_LI_ABORTED;
1240                 IOP_UNLOCK(lip);
1241
1242                 xfs_trans_free_item_desc(lidp);
1243         }
1244 }
1245
1246 static inline void
1247 xfs_log_item_batch_insert(
1248         struct xfs_ail          *ailp,
1249         struct xfs_ail_cursor   *cur,
1250         struct xfs_log_item     **log_items,
1251         int                     nr_items,
1252         xfs_lsn_t               commit_lsn)
1253 {
1254         int     i;
1255
1256         spin_lock(&ailp->xa_lock);
1257         /* xfs_trans_ail_update_bulk drops ailp->xa_lock */
1258         xfs_trans_ail_update_bulk(ailp, cur, log_items, nr_items, commit_lsn);
1259
1260         for (i = 0; i < nr_items; i++)
1261                 IOP_UNPIN(log_items[i], 0);
1262 }
1263
1264 /*
1265  * Bulk operation version of xfs_trans_committed that takes a log vector of
1266  * items to insert into the AIL. This uses bulk AIL insertion techniques to
1267  * minimise lock traffic.
1268  *
1269  * If we are called with the aborted flag set, it is because a log write during
1270  * a CIL checkpoint commit has failed. In this case, all the items in the
1271  * checkpoint have already gone through IOP_COMMITED and IOP_UNLOCK, which
1272  * means that checkpoint commit abort handling is treated exactly the same
1273  * as an iclog write error even though we haven't started any IO yet. Hence in
1274  * this case all we need to do is IOP_COMMITTED processing, followed by an
1275  * IOP_UNPIN(aborted) call.
1276  *
1277  * The AIL cursor is used to optimise the insert process. If commit_lsn is not
1278  * at the end of the AIL, the insert cursor avoids the need to walk
1279  * the AIL to find the insertion point on every xfs_log_item_batch_insert()
1280  * call. This saves a lot of needless list walking and is a net win, even
1281  * though it slightly increases that amount of AIL lock traffic to set it up
1282  * and tear it down.
1283  */
1284 void
1285 xfs_trans_committed_bulk(
1286         struct xfs_ail          *ailp,
1287         struct xfs_log_vec      *log_vector,
1288         xfs_lsn_t               commit_lsn,
1289         int                     aborted)
1290 {
1291 #define LOG_ITEM_BATCH_SIZE     32
1292         struct xfs_log_item     *log_items[LOG_ITEM_BATCH_SIZE];
1293         struct xfs_log_vec      *lv;
1294         struct xfs_ail_cursor   cur;
1295         int                     i = 0;
1296
1297         spin_lock(&ailp->xa_lock);
1298         xfs_trans_ail_cursor_last(ailp, &cur, commit_lsn);
1299         spin_unlock(&ailp->xa_lock);
1300
1301         /* unpin all the log items */
1302         for (lv = log_vector; lv; lv = lv->lv_next ) {
1303                 struct xfs_log_item     *lip = lv->lv_item;
1304                 xfs_lsn_t               item_lsn;
1305
1306                 if (aborted)
1307                         lip->li_flags |= XFS_LI_ABORTED;
1308                 item_lsn = IOP_COMMITTED(lip, commit_lsn);
1309
1310                 /* item_lsn of -1 means the item needs no further processing */
1311                 if (XFS_LSN_CMP(item_lsn, (xfs_lsn_t)-1) == 0)
1312                         continue;
1313
1314                 /*
1315                  * if we are aborting the operation, no point in inserting the
1316                  * object into the AIL as we are in a shutdown situation.
1317                  */
1318                 if (aborted) {
1319                         ASSERT(XFS_FORCED_SHUTDOWN(ailp->xa_mount));
1320                         IOP_UNPIN(lip, 1);
1321                         continue;
1322                 }
1323
1324                 if (item_lsn != commit_lsn) {
1325
1326                         /*
1327                          * Not a bulk update option due to unusual item_lsn.
1328                          * Push into AIL immediately, rechecking the lsn once
1329                          * we have the ail lock. Then unpin the item. This does
1330                          * not affect the AIL cursor the bulk insert path is
1331                          * using.
1332                          */
1333                         spin_lock(&ailp->xa_lock);
1334                         if (XFS_LSN_CMP(item_lsn, lip->li_lsn) > 0)
1335                                 xfs_trans_ail_update(ailp, lip, item_lsn);
1336                         else
1337                                 spin_unlock(&ailp->xa_lock);
1338                         IOP_UNPIN(lip, 0);
1339                         continue;
1340                 }
1341
1342                 /* Item is a candidate for bulk AIL insert.  */
1343                 log_items[i++] = lv->lv_item;
1344                 if (i >= LOG_ITEM_BATCH_SIZE) {
1345                         xfs_log_item_batch_insert(ailp, &cur, log_items,
1346                                         LOG_ITEM_BATCH_SIZE, commit_lsn);
1347                         i = 0;
1348                 }
1349         }
1350
1351         /* make sure we insert the remainder! */
1352         if (i)
1353                 xfs_log_item_batch_insert(ailp, &cur, log_items, i, commit_lsn);
1354
1355         spin_lock(&ailp->xa_lock);
1356         xfs_trans_ail_cursor_done(ailp, &cur);
1357         spin_unlock(&ailp->xa_lock);
1358 }
1359
1360 /*
1361  * Commit the given transaction to the log.
1362  *
1363  * XFS disk error handling mechanism is not based on a typical
1364  * transaction abort mechanism. Logically after the filesystem
1365  * gets marked 'SHUTDOWN', we can't let any new transactions
1366  * be durable - ie. committed to disk - because some metadata might
1367  * be inconsistent. In such cases, this returns an error, and the
1368  * caller may assume that all locked objects joined to the transaction
1369  * have already been unlocked as if the commit had succeeded.
1370  * Do not reference the transaction structure after this call.
1371  */
1372 int
1373 xfs_trans_commit(
1374         struct xfs_trans        *tp,
1375         uint                    flags)
1376 {
1377         struct xfs_mount        *mp = tp->t_mountp;
1378         xfs_lsn_t               commit_lsn = -1;
1379         int                     error = 0;
1380         int                     log_flags = 0;
1381         int                     sync = tp->t_flags & XFS_TRANS_SYNC;
1382
1383         /*
1384          * Determine whether this commit is releasing a permanent
1385          * log reservation or not.
1386          */
1387         if (flags & XFS_TRANS_RELEASE_LOG_RES) {
1388                 ASSERT(tp->t_flags & XFS_TRANS_PERM_LOG_RES);
1389                 log_flags = XFS_LOG_REL_PERM_RESERV;
1390         }
1391
1392         /*
1393          * If there is nothing to be logged by the transaction,
1394          * then unlock all of the items associated with the
1395          * transaction and free the transaction structure.
1396          * Also make sure to return any reserved blocks to
1397          * the free pool.
1398          */
1399         if (!(tp->t_flags & XFS_TRANS_DIRTY))
1400                 goto out_unreserve;
1401
1402         if (XFS_FORCED_SHUTDOWN(mp)) {
1403                 error = XFS_ERROR(EIO);
1404                 goto out_unreserve;
1405         }
1406
1407         ASSERT(tp->t_ticket != NULL);
1408
1409         /*
1410          * If we need to update the superblock, then do it now.
1411          */
1412         if (tp->t_flags & XFS_TRANS_SB_DIRTY)
1413                 xfs_trans_apply_sb_deltas(tp);
1414         xfs_trans_apply_dquot_deltas(tp);
1415
1416         error = xfs_log_commit_cil(mp, tp, &commit_lsn, flags);
1417         if (error == ENOMEM) {
1418                 xfs_force_shutdown(mp, SHUTDOWN_LOG_IO_ERROR);
1419                 error = XFS_ERROR(EIO);
1420                 goto out_unreserve;
1421         }
1422
1423         current_restore_flags_nested(&tp->t_pflags, PF_FSTRANS);
1424         xfs_trans_free(tp);
1425
1426         /*
1427          * If the transaction needs to be synchronous, then force the
1428          * log out now and wait for it.
1429          */
1430         if (sync) {
1431                 if (!error) {
1432                         error = _xfs_log_force_lsn(mp, commit_lsn,
1433                                       XFS_LOG_SYNC, NULL);
1434                 }
1435                 XFS_STATS_INC(xs_trans_sync);
1436         } else {
1437                 XFS_STATS_INC(xs_trans_async);
1438         }
1439
1440         return error;
1441
1442 out_unreserve:
1443         xfs_trans_unreserve_and_mod_sb(tp);
1444
1445         /*
1446          * It is indeed possible for the transaction to be not dirty but
1447          * the dqinfo portion to be.  All that means is that we have some
1448          * (non-persistent) quota reservations that need to be unreserved.
1449          */
1450         xfs_trans_unreserve_and_mod_dquots(tp);
1451         if (tp->t_ticket) {
1452                 commit_lsn = xfs_log_done(mp, tp->t_ticket, NULL, log_flags);
1453                 if (commit_lsn == -1 && !error)
1454                         error = XFS_ERROR(EIO);
1455         }
1456         current_restore_flags_nested(&tp->t_pflags, PF_FSTRANS);
1457         xfs_trans_free_items(tp, NULLCOMMITLSN, error ? XFS_TRANS_ABORT : 0);
1458         xfs_trans_free(tp);
1459
1460         XFS_STATS_INC(xs_trans_empty);
1461         return error;
1462 }
1463
1464 /*
1465  * Unlock all of the transaction's items and free the transaction.
1466  * The transaction must not have modified any of its items, because
1467  * there is no way to restore them to their previous state.
1468  *
1469  * If the transaction has made a log reservation, make sure to release
1470  * it as well.
1471  */
1472 void
1473 xfs_trans_cancel(
1474         xfs_trans_t             *tp,
1475         int                     flags)
1476 {
1477         int                     log_flags;
1478         xfs_mount_t             *mp = tp->t_mountp;
1479
1480         /*
1481          * See if the caller is being too lazy to figure out if
1482          * the transaction really needs an abort.
1483          */
1484         if ((flags & XFS_TRANS_ABORT) && !(tp->t_flags & XFS_TRANS_DIRTY))
1485                 flags &= ~XFS_TRANS_ABORT;
1486         /*
1487          * See if the caller is relying on us to shut down the
1488          * filesystem.  This happens in paths where we detect
1489          * corruption and decide to give up.
1490          */
1491         if ((tp->t_flags & XFS_TRANS_DIRTY) && !XFS_FORCED_SHUTDOWN(mp)) {
1492                 XFS_ERROR_REPORT("xfs_trans_cancel", XFS_ERRLEVEL_LOW, mp);
1493                 xfs_force_shutdown(mp, SHUTDOWN_CORRUPT_INCORE);
1494         }
1495 #ifdef DEBUG
1496         if (!(flags & XFS_TRANS_ABORT) && !XFS_FORCED_SHUTDOWN(mp)) {
1497                 struct xfs_log_item_desc *lidp;
1498
1499                 list_for_each_entry(lidp, &tp->t_items, lid_trans)
1500                         ASSERT(!(lidp->lid_item->li_type == XFS_LI_EFD));
1501         }
1502 #endif
1503         xfs_trans_unreserve_and_mod_sb(tp);
1504         xfs_trans_unreserve_and_mod_dquots(tp);
1505
1506         if (tp->t_ticket) {
1507                 if (flags & XFS_TRANS_RELEASE_LOG_RES) {
1508                         ASSERT(tp->t_flags & XFS_TRANS_PERM_LOG_RES);
1509                         log_flags = XFS_LOG_REL_PERM_RESERV;
1510                 } else {
1511                         log_flags = 0;
1512                 }
1513                 xfs_log_done(mp, tp->t_ticket, NULL, log_flags);
1514         }
1515
1516         /* mark this thread as no longer being in a transaction */
1517         current_restore_flags_nested(&tp->t_pflags, PF_FSTRANS);
1518
1519         xfs_trans_free_items(tp, NULLCOMMITLSN, flags);
1520         xfs_trans_free(tp);
1521 }
1522
1523 /*
1524  * Roll from one trans in the sequence of PERMANENT transactions to
1525  * the next: permanent transactions are only flushed out when
1526  * committed with XFS_TRANS_RELEASE_LOG_RES, but we still want as soon
1527  * as possible to let chunks of it go to the log. So we commit the
1528  * chunk we've been working on and get a new transaction to continue.
1529  */
1530 int
1531 xfs_trans_roll(
1532         struct xfs_trans        **tpp,
1533         struct xfs_inode        *dp)
1534 {
1535         struct xfs_trans        *trans;
1536         unsigned int            logres, count;
1537         int                     error;
1538
1539         /*
1540          * Ensure that the inode is always logged.
1541          */
1542         trans = *tpp;
1543         xfs_trans_log_inode(trans, dp, XFS_ILOG_CORE);
1544
1545         /*
1546          * Copy the critical parameters from one trans to the next.
1547          */
1548         logres = trans->t_log_res;
1549         count = trans->t_log_count;
1550         *tpp = xfs_trans_dup(trans);
1551
1552         /*
1553          * Commit the current transaction.
1554          * If this commit failed, then it'd just unlock those items that
1555          * are not marked ihold. That also means that a filesystem shutdown
1556          * is in progress. The caller takes the responsibility to cancel
1557          * the duplicate transaction that gets returned.
1558          */
1559         error = xfs_trans_commit(trans, 0);
1560         if (error)
1561                 return (error);
1562
1563         trans = *tpp;
1564
1565         /*
1566          * transaction commit worked ok so we can drop the extra ticket
1567          * reference that we gained in xfs_trans_dup()
1568          */
1569         xfs_log_ticket_put(trans->t_ticket);
1570
1571
1572         /*
1573          * Reserve space in the log for th next transaction.
1574          * This also pushes items in the "AIL", the list of logged items,
1575          * out to disk if they are taking up space at the tail of the log
1576          * that we want to use.  This requires that either nothing be locked
1577          * across this call, or that anything that is locked be logged in
1578          * the prior and the next transactions.
1579          */
1580         error = xfs_trans_reserve(trans, 0, logres, 0,
1581                                   XFS_TRANS_PERM_LOG_RES, count);
1582         /*
1583          *  Ensure that the inode is in the new transaction and locked.
1584          */
1585         if (error)
1586                 return error;
1587
1588         xfs_trans_ijoin(trans, dp, 0);
1589         return 0;
1590 }