Knowledge (XXG)

Successive over-relaxation

Source 📝

973: 554: 968:{\displaystyle D={\begin{bmatrix}a_{11}&0&\cdots &0\\0&a_{22}&\cdots &0\\\vdots &\vdots &\ddots &\vdots \\0&0&\cdots &a_{nn}\end{bmatrix}},\quad L={\begin{bmatrix}0&0&\cdots &0\\a_{21}&0&\cdots &0\\\vdots &\vdots &\ddots &\vdots \\a_{n1}&a_{n2}&\cdots &0\end{bmatrix}},\quad U={\begin{bmatrix}0&a_{12}&\cdots &a_{1n}\\0&0&\cdots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\0&0&\cdots &0\end{bmatrix}}.} 472: 127: 1936: 2731: 467:{\displaystyle A={\begin{bmatrix}a_{11}&a_{12}&\cdots &a_{1n}\\a_{21}&a_{22}&\cdots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\a_{n1}&a_{n2}&\cdots &a_{nn}\end{bmatrix}},\qquad \mathbf {x} ={\begin{bmatrix}x_{1}\\x_{2}\\\vdots \\x_{n}\end{bmatrix}},\qquad \mathbf {b} ={\begin{bmatrix}b_{1}\\b_{2}\\\vdots \\b_{n}\end{bmatrix}}.} 4135: 1712: 2532: 1290: 1925: 2875: 3147: 3804: 6972: 7459: 7098: 1445: 7310: 2726:{\displaystyle \rho (C_{\omega })={\begin{cases}{\frac {1}{4}}\left(\omega \mu +{\sqrt {\omega ^{2}\mu ^{2}-4(\omega -1)}}\right)^{2}\,,&0<\omega \leq \omega _{\text{opt}}\\\omega -1\,,&\omega _{\text{opt}}<\omega <2\end{cases}}} 2452: 3418: 3783: 1105: 1758: 3692: 1071: 2986: 3247: 4216:. According to the successive over-relaxation algorithm, the following table is obtained, representing an exemplary iteration with approximations, which ideally, but not necessarily, finds the exact solution, 2742: 4130:{\displaystyle {\begin{aligned}4x_{1}-x_{2}-6x_{3}+0x_{4}&=2,\\-5x_{1}-4x_{2}+10x_{3}+8x_{4}&=21,\\0x_{1}+9x_{2}+4x_{3}-2x_{4}&=-12,\\1x_{1}+0x_{2}-7x_{3}+5x_{4}&=-6.\end{aligned}}} 66:, requiring some expertise to ensure convergence to the solution which made them inapplicable for programming on digital computers. These aspects are discussed in the thesis of David M. Young Jr. 3011: 3809: 6868: 2492: 2317: 54:
in 1950 for the purpose of automatically solving linear systems on digital computers. Over-relaxation methods had been used before the work of Young and Frankel. An example is the method of
7325: 2042: 1707:{\displaystyle x_{i}^{(k+1)}=(1-\omega )x_{i}^{(k)}+{\frac {\omega }{a_{ii}}}\left(b_{i}-\sum _{j<i}a_{ij}x_{j}^{(k+1)}-\sum _{j>i}a_{ij}x_{j}^{(k)}\right),\quad i=1,2,\ldots ,n.} 116: 2263: 2520: 6983: 2124: 1395: 7187: 1973: 1328: 2156: 7176: 2206: 4214: 3316: 2362: 3428:
Since elements can be overwritten as they are computed in this algorithm, only one storage vector is needed, and vector indexing is omitted. The algorithm goes as follows:
7892: 7553: 7527: 1750: 1421: 1354: 4164: 2000: 6847: 7501: 2904: 543: 7580: 3321: 3006: 2357: 4337: 4309: 4281: 4253: 3267: 2074: 3697: 8013: 7582:
based on the observed behavior of the converging process. Usually they help to reach a super-linear convergence for some problems but fail for the others.
1285:{\displaystyle \mathbf {x} ^{(k+1)}=(D+\omega L)^{-1}{\big (}\omega \mathbf {b} -\mathbf {x} ^{(k)}{\big )}=L_{\omega }\mathbf {x} ^{(k)}+\mathbf {c} ,} 1920:{\displaystyle \mathbf {x} ^{(k+1)}=(1-\omega )\mathbf {x} ^{(k)}+\omega D^{-1}{\big (}\mathbf {b} -L\mathbf {x} ^{(k+1)}-U\mathbf {x} ^{(k)}{\big )}.} 8038: 3610: 8064: 8033: 7885: 984: 7734: 7701: 7661: 6854: 2913: 2158:. Thus, convergence of the iteration process follows, but we are generally interested in faster convergence rather than just convergence. 7319:
is considered to be the complete vector. If this formulation is used instead, the equation for calculating the next vector will look like
3159: 7864: 7859: 2870:{\displaystyle \omega _{\text{opt}}:=1+\left({\frac {\mu }{1+{\sqrt {1-\mu ^{2}}}}}\right)^{2}=1+{\frac {\mu ^{2}}{4}}+O(\mu ^{3})\,.} 7315:
However, the formulation presented above, used for solving systems of linear equations, is not a special case of this formulation if
8059: 7992: 7878: 7783: 8023: 7950: 3142:{\displaystyle \rho (C_{\omega })={\frac {1-{\sqrt {1-\mu ^{2}}}}{1+{\sqrt {1-\mu ^{2}}}}}={\frac {\mu ^{2}}{4}}+O(\mu ^{3})} 6967:{\displaystyle P=\left({\frac {D}{\omega }}+L\right){\frac {\omega }{2-\omega }}D^{-1}\left({\frac {D}{\omega }}+U\right),} 7982: 7454:{\displaystyle \mathbf {x} ^{(k+1)}=(1-\omega )\mathbf {x} ^{(k)}+\omega L_{*}^{-1}(\mathbf {b} -U\mathbf {x} ^{(k)}),} 2457: 2274: 7936: 36: 7987: 2005: 7555:
are often used to help establish convergence of a diverging iterative process or speed up the convergence of an
7093:{\displaystyle \mathbf {x} ^{k+1}=\mathbf {x} ^{k}-\gamma ^{k}P^{-1}(A\mathbf {x} ^{k}-\mathbf {b} ),\ k\geq 0.} 88: 7901: 7115: 2216: 2081: 20: 2907: 2497: 32: 2087: 7305:{\displaystyle x_{n+1}^{\mathrm {SOR} }=(1-\omega )x_{n}^{\mathrm {SOR} }+\omega f(x_{n}^{\mathrm {SOR} }).} 1359: 7754: 7946: 1942: 1298: 2447:{\displaystyle \operatorname {det} (\lambda D+zL+{\tfrac {1}{z}}U)=\operatorname {det} (\lambda D+L+U)} 2166:
The convergence rate for the SOR method can be analytically derived. One needs to assume the following
2129: 7126: 2173: 1717:
This can again be written analytically in matrix-vector form without the need of inverting the matrix
7941: 7808: 4169: 1436: 59: 55: 7792: 3272: 2563: 7920: 6318:
convergence_criteria: The maximum discrepancy acceptable to regard the current solution as fitting.
2053: 7532: 7506: 1720: 1404: 1337: 7843: 7771: 7596: 7120:
A similar technique can be used for any iterative method. If the original iteration had the form
7104: 4143: 3153: 1978: 47: 7556: 6815: 3413:{\displaystyle \operatorname {det} (\lambda D+L+U)=\operatorname {det} (Z(\lambda D+L+U)Z^{-1})} 7467: 2883: 2052:
is not necessarily easy, and depends upon the properties of the coefficient matrix. In 1947,
7779: 7730: 7697: 7657: 507: 490: 7565: 2991: 2324: 7956: 7833: 7722: 7689: 7601: 2077: 1088: 40: 7651: 4315: 4287: 4259: 4231: 7997: 7625: 482: 39:, resulting in faster convergence. A similar method can be used for any slowly converging 7827: 7915: 7621: 3778:{\displaystyle \phi _{i}+\omega \left({\frac {b_{i}-\sigma }{a_{ii}}}-\phi _{i}\right)} 3252: 2059: 63: 2002:. The plot shows the dependence on the spectral radius of the Jacobi iteration matrix 8053: 7961: 7591: 6300:
This is an implementation of the pseudo-code provided in the Knowledge (XXG) article.
2268: 2210: 51: 7820: 7815: 4916:"Creates and returns a vector of the SIZE with all elements set to 0." 7529:
are used to speed up convergence of a slow-converging process, while values of
7693: 4460:;; Set the default floating-point format to "long-float" in order to 1935: 7830:'s copy of "Templates for the Solution of Linear Systems", by Barrett et al. 7627:
Iterative methods for solving partial difference equations of elliptical type
3687:{\displaystyle (1-\omega )\phi _{i}+{\frac {\omega }{a_{ii}}}(b_{i}-\sigma )} 7977: 7797: 7726: 5135:
iteration's ascension to the ``+MAXIMUM-NUMBER-OF-ITERATIONS+'',
3149:, which shows SOR is roughly four times more efficient than Gauss–Seidel. 7870: 7758: 5084:"Implements the successive over-relaxation (SOR) method, applied upon 4493:"The number of iterations beyond which the algorithm should cease its 4455:
A simple implementation of the algorithm in Common Lisp is offered below.
4589:
Let resultVectorSize = min(computedSolution.length, exactSolution.length)
1066:{\displaystyle (D+\omega L)\mathbf {x} =\omega \mathbf {b} -\mathbf {x} } 7812:, Journal of Computational and Applied Mathematics 123 (2000), 177–199. 7562:
There are various methods that adaptively set the relaxation parameter
4562:"For each component of the COMPUTED-SOLUTION vector, retrieves its 7686:
Iterative Solution of Large Sparse Systems of Equations | SpringerLink
6315:
initial_guess: An initial solution guess for the solver to start with.
8028: 8018: 6651:# An example case that mirrors the one in the Knowledge (XXG) article 5126:
which returns T, signifying the immediate termination, upon achieving
4565:
error with respect to the expected EXACT-SOLUTION vector, returning a
2981:{\displaystyle \rho (C_{\omega })=\mu ^{2}=\rho (C_{\text{Jac}})^{2}} 5087:
the linear equations defined by the matrix A and the right-hand side
3242:{\displaystyle Z(\lambda D+L+U)Z^{-1}=\lambda D+zL+{\tfrac {1}{z}}U} 4739:"Checks whether the convergence is reached with respect to the 4574:
While both input vectors should be equal in size, this condition is
4499:
iterations might provide a more accurate result, but imposes higher
6229:
A simple Python implementation of the pseudo-code provided above.
5132:
its default configuration, the CONVERGENCE-CHECK simply abides the
5129:
convergence, or NIL, signaling continuant operation, otherwise. In
5117:
The terminating condition is implemented by the CONVERGENCE-CHECK,
5108:
vector will be destructively modified. In any case, the PHI vector
4742:
ERRORS vector which registers the discrepancy betwixt the computed
1934: 5102:
represented by the optional keyword parameter PHI, which defaults
4757:
For all e in ERRORS, it holds: abs(e) <= errorTolerance."
4496:
operation, regardless of its current solution. A higher number of
7762: 5099:
The first algorithm step, the choice of an initial guess PHI, is
4754:
component is less than or equal to the ERROR-TOLERANCE, that is:
3785:, thus saving one multiplication in each iteration of the outer 7874: 4751:
The convergence is fulfilled if and only if each absolute error
4577:
not checked and the shortest of the twain determines the output
7840:, Second ed. (of 1962 Prentice Hall edition), Springer-Verlag. 5105:
to a zero-vector of the same structure as B. If supplied, this
5090:
vector B, employing the relaxation factor OMEGA, returning the
1099:
on the right hand side. Analytically, this may be written as:
2719: 1423:. However, by taking advantage of the triangular form of ( 62:. However, these methods were designed for computation by 7656:(1 ed.). Springer Berlin, Heidelberg. p. 180. 4463:;; ensure correct operation on a wider range of numbers. 5138:
ignoring the achieved accuracy of the vector PHI."
4140:
To solve the equations, we choose a relaxation factor
3225: 2394: 1091:
that solves the left hand side of this expression for
840: 703: 569: 405: 332: 142: 7568: 7535: 7509: 7470: 7328: 7190: 7129: 6986: 6871: 6818: 5822:;; Summon the function with the exemplary parameters. 4592:
Let resultVector = new vector of resultVectorSize
4318: 4290: 4262: 4234: 4172: 4146: 3807: 3700: 3613: 3324: 3275: 3255: 3162: 3014: 2994: 2916: 2886: 2745: 2535: 2500: 2460: 2365: 2327: 2277: 2219: 2176: 2132: 2090: 2062: 2008: 1981: 1945: 1761: 1723: 1448: 1407: 1362: 1340: 1301: 1108: 987: 557: 510: 130: 91: 978:
The system of linear equations may be rewritten as:
8006: 7970: 7929: 7908: 7809:
Successive overrelaxation (SOR) and related methods
4222: 2736:where the optimal relaxation parameter is given by 7849:, Academic Press, 1971. (reprinted by Dover, 2003) 7721:. Frontiers in Applied Mathematics. Vol. 17. 7574: 7547: 7521: 7495: 7453: 7304: 7170: 7092: 6966: 6841: 4331: 4303: 4275: 4247: 4208: 4158: 4129: 3777: 3686: 3412: 3310: 3261: 3241: 3141: 3000: 2980: 2898: 2869: 2725: 2514: 2486: 2446: 2351: 2311: 2257: 2200: 2150: 2118: 2068: 2036: 1994: 1967: 1919: 1744: 1706: 1415: 1389: 1348: 1322: 1284: 1065: 967: 537: 466: 110: 7776:Nonnegative Matrices in the Mathematical Sciences 7653:Numerische Mathematik für Ingenieure und Physiker 7753:This article incorporates text from the article 2487:{\displaystyle z\in \mathbb {C} \setminus \{0\}} 2312:{\displaystyle \mu :=\rho (C_{\text{Jac}})<1} 7688:. Applied Mathematical Sciences. Vol. 95. 5123:lambda(iteration phi) => generalized-boolean 4598:resultVector = exactSolution - computedSolution 1087:The method of successive over-relaxation is an 2526:Then the convergence rate can be expressed as 16:Method of solving a linear system of equations 7886: 1909: 1843: 1235: 1166: 8: 7719:Iterative Methods for Solving Linear Systems 5111:constitutes the function's result value. 2481: 2475: 7821:Iterative Methods for Sparse Linear Systems 3597:-loop) check if convergence is reached 2037:{\displaystyle \mu :=\rho (C_{\text{Jac}})} 1975:of the iteration matrix for the SOR method 7893: 7879: 7871: 7847:Iterative Solution of Large Linear Systems 111:{\displaystyle A\mathbf {x} =\mathbf {b} } 7567: 7534: 7508: 7475: 7469: 7433: 7428: 7416: 7404: 7399: 7377: 7372: 7335: 7330: 7327: 7283: 7282: 7277: 7248: 7247: 7242: 7207: 7206: 7195: 7189: 7159: 7134: 7128: 7103:The SOR and SSOR methods are credited to 7067: 7058: 7053: 7037: 7027: 7014: 7009: 6993: 6988: 6985: 6940: 6926: 6904: 6883: 6870: 6838: 6829: 6817: 4586:The established formula is the following: 4323: 4317: 4295: 4289: 4267: 4261: 4239: 4233: 4171: 4145: 4104: 4088: 4072: 4056: 4023: 4007: 3991: 3975: 3945: 3929: 3913: 3897: 3864: 3848: 3832: 3819: 3808: 3806: 3764: 3746: 3729: 3722: 3705: 3699: 3669: 3651: 3642: 3633: 3612: 3398: 3323: 3296: 3280: 3274: 3254: 3224: 3194: 3161: 3130: 3106: 3100: 3086: 3074: 3058: 3046: 3037: 3025: 3013: 2993: 2972: 2962: 2943: 2927: 2915: 2885: 2863: 2854: 2830: 2824: 2809: 2794: 2782: 2770: 2750: 2744: 2698: 2688: 2669: 2647: 2641: 2607: 2597: 2591: 2566: 2558: 2546: 2534: 2508: 2507: 2499: 2468: 2467: 2459: 2393: 2364: 2326: 2294: 2276: 2258:{\displaystyle C_{\text{Jac}}:=I-D^{-1}A} 2243: 2224: 2218: 2175: 2170:the relaxation parameter is appropriate: 2131: 2101: 2089: 2061: 2025: 2007: 1986: 1980: 1956: 1944: 1908: 1907: 1895: 1890: 1865: 1860: 1848: 1842: 1841: 1832: 1810: 1805: 1768: 1763: 1760: 1722: 1653: 1648: 1635: 1619: 1594: 1589: 1576: 1560: 1547: 1527: 1518: 1503: 1498: 1458: 1453: 1447: 1408: 1406: 1369: 1364: 1361: 1341: 1339: 1308: 1303: 1300: 1274: 1259: 1254: 1247: 1234: 1233: 1221: 1216: 1174: 1165: 1164: 1155: 1115: 1110: 1107: 1058: 1017: 1006: 986: 901: 869: 852: 835: 798: 783: 732: 698: 671: 610: 576: 564: 556: 509: 447: 426: 412: 400: 392: 374: 353: 339: 327: 319: 298: 278: 263: 224: 207: 195: 178: 161: 149: 137: 129: 103: 95: 90: 2515:{\displaystyle \lambda \in \mathbb {C} } 8024:Basic Linear Algebra Subprograms (BLAS) 7755:Successive_over-relaxation_method_-_SOR 7613: 2472: 2119:{\displaystyle \rho (L_{\omega })<1} 4595:For i from 0 to (resultVectorSize - 1) 7684:Hackbusch, Wolfgang (2016). "4.6.2". 3152:The last assumption is satisfied for 7: 7181:then the modified version would use 6855:Symmetric Successive Over-Relaxation 6801:Symmetric successive over-relaxation 6324:phi: solution vector of dimension n. 1390:{\displaystyle \mathbf {x} ^{(k+1)}} 6805:The version for symmetric matrices 6176:"~&~d. errors = ~a" 5759:;; Check if convergence is reached. 5747:"~&~d. solution = ~a" 3798:We are presented the linear system 1435:can be computed sequentially using 491:strictly lower and upper triangular 7793:"Successive Overrelaxation Method" 7791:Black, Noel & Moore, Shirley. 7290: 7287: 7284: 7255: 7252: 7249: 7214: 7211: 7208: 1968:{\displaystyle \rho (C_{\omega })} 1323:{\displaystyle \mathbf {x} ^{(k)}} 14: 2151:{\displaystyle 0<\omega <2} 1334:th approximation or iteration of 46:It was devised simultaneously by 7865:Tridiagonal linear system solver 7717:Greenbaum, Anne (1997). "10.1". 7633:, PhD thesis, Harvard University 7429: 7417: 7373: 7331: 7171:{\displaystyle x_{n+1}=f(x_{n})} 7110:Other applications of the method 7068: 7054: 7010: 6989: 4580:vector's number of elements. 2201:{\displaystyle \omega \in (0,2)} 2048:The choice of relaxation factor 1891: 1861: 1849: 1806: 1764: 1409: 1365: 1342: 1304: 1275: 1255: 1217: 1175: 1111: 1059: 1018: 1007: 393: 320: 104: 96: 4502:performance requirements." 4209:{\displaystyle \phi =(0,0,0,0)} 1673: 1095:, using the previous value for 828: 691: 391: 318: 58:, and the methods developed by 8065:Relaxation (iterative methods) 7445: 7440: 7434: 7413: 7384: 7378: 7368: 7356: 7348: 7336: 7296: 7270: 7235: 7223: 7165: 7152: 7072: 7046: 6309:b: n dimensional numpy vector. 6221:+MAXIMUM-NUMBER-OF-ITERATIONS+ 5078:+MAXIMUM-NUMBER-OF-ITERATIONS+ 4745:and the exact solution vector. 4535:+MAXIMUM-NUMBER-OF-ITERATIONS+ 4487:+MAXIMUM-NUMBER-OF-ITERATIONS+ 4203: 4179: 3681: 3662: 3626: 3614: 3407: 3391: 3370: 3364: 3352: 3331: 3311:{\displaystyle Z_{ii}=z^{i-1}} 3187: 3166: 3136: 3123: 3031: 3018: 2969: 2955: 2933: 2920: 2860: 2847: 2631: 2619: 2552: 2539: 2441: 2420: 2408: 2372: 2300: 2287: 2195: 2183: 2107: 2094: 2031: 2018: 1962: 1949: 1902: 1896: 1878: 1866: 1817: 1811: 1801: 1789: 1781: 1769: 1739: 1724: 1660: 1654: 1607: 1595: 1510: 1504: 1491: 1479: 1471: 1459: 1382: 1370: 1315: 1309: 1266: 1260: 1228: 1222: 1212: 1206: 1194: 1182: 1152: 1136: 1128: 1116: 1055: 1049: 1037: 1025: 1003: 988: 78:linear equations with unknown 1: 7548:{\displaystyle \omega <1} 7522:{\displaystyle \omega >1} 6977:and the iterative method is 4166:and an initial guess vector 2359:satisfies the property that 1745:{\displaystyle (D+\omega L)} 1416:{\displaystyle \mathbf {x} } 1349:{\displaystyle \mathbf {x} } 7597:Gaussian Belief Propagation 5093:calculated solution vector. 4472:*read-default-float-format* 4159:{\displaystyle \omega =0.5} 1995:{\displaystyle C_{\omega }} 8081: 7937:System of linear equations 7113: 6842:{\displaystyle U=L^{T},\,} 6005:successive-over-relaxation 4982:successive-over-relaxation 37:linear system of equations 25:successive over-relaxation 7988:Cache-oblivious algorithm 7860:Module for the SOR Method 7838:Matrix Iterative Analysis 7824:, 1st edition, PWS, 1996. 7694:10.1007/978-3-319-28483-5 7496:{\displaystyle L_{*}=L+D} 6312:omega: relaxation factor. 4601:Return resultVector" 2899:{\displaystyle \omega =1} 2321:the matrix decomposition 2265:has only real eigenvalues 481:can be decomposed into a 74:Given a square system of 8060:Numerical linear algebra 8039:General purpose software 7902:Numerical linear algebra 7116:Richardson extrapolation 6231: 4457: 3447:Choose an initial guess 538:{\displaystyle A=D+L+U,} 21:numerical linear algebra 7727:10.1137/1.9781611970937 7575:{\displaystyle \omega } 4568:vector of error values. 3001:{\displaystyle \omega } 2352:{\displaystyle A=D+L+U} 7576: 7549: 7523: 7497: 7455: 7306: 7172: 7094: 6968: 6843: 4333: 4305: 4277: 4249: 4210: 4160: 4131: 3779: 3688: 3455:until convergence 3414: 3312: 3263: 3243: 3143: 3002: 2982: 2900: 2871: 2727: 2516: 2488: 2448: 2353: 2313: 2259: 2202: 2152: 2120: 2070: 2045: 2038: 1996: 1969: 1921: 1746: 1708: 1417: 1391: 1350: 1324: 1286: 1067: 969: 539: 468: 112: 31:) is a variant of the 8034:Specialized libraries 7947:Matrix multiplication 7942:Matrix decompositions 7577: 7550: 7524: 7498: 7456: 7307: 7173: 7095: 6969: 6844: 5120:an optional predicate 4334: 4332:{\displaystyle x_{4}} 4306: 4304:{\displaystyle x_{3}} 4278: 4276:{\displaystyle x_{2}} 4250: 4248:{\displaystyle x_{1}} 4211: 4161: 4132: 3780: 3689: 3415: 3313: 3264: 3244: 3144: 3003: 2983: 2901: 2872: 2728: 2517: 2489: 2449: 2354: 2314: 2260: 2203: 2153: 2121: 2071: 2039: 1997: 1970: 1938: 1922: 1747: 1709: 1418: 1392: 1351: 1325: 1287: 1068: 970: 540: 469: 113: 7867:based on SOR, in C++ 7566: 7533: 7507: 7468: 7326: 7188: 7127: 6984: 6869: 6816: 6780:residual_convergence 6654:residual_convergence 6396:convergence_criteria 6306:A: nxn numpy matrix. 6291:convergence_criteria 4316: 4288: 4260: 4232: 4170: 4144: 3805: 3698: 3694:can also be written 3611: 3322: 3273: 3253: 3160: 3154:tridiagonal matrices 3012: 2992: 2914: 2884: 2743: 2533: 2498: 2458: 2363: 2325: 2275: 2217: 2174: 2130: 2088: 2060: 2006: 1979: 1943: 1759: 1721: 1446: 1437:forward substitution 1405: 1360: 1338: 1299: 1106: 985: 555: 508: 128: 89: 56:Lewis Fry Richardson 7921:Numerical stability 7412: 7295: 7260: 7219: 6672:# Relaxation factor 4889:error-is-acceptable 4823:error-is-acceptable 4218:(3, −2, 2, 1) 3545:-loop) set 2880:In particular, for 1664: 1611: 1514: 1475: 1431:), the elements of 1089:iterative technique 1080:> 1, called the 33:Gauss–Seidel method 7844:David M. Young Jr. 7772:Robert J. Plemmons 7761:that is under the 7572: 7545: 7519: 7493: 7451: 7395: 7302: 7273: 7238: 7191: 7168: 7105:David M. Young Jr. 7090: 6964: 6852:is referred to as 6839: 6384:# Initial residual 6327:""" 6297:""" 6017::convergence-check 4329: 4301: 4273: 4245: 4206: 4156: 4127: 4125: 3775: 3684: 3410: 3308: 3259: 3239: 3234: 3139: 2998: 2988:. For the optimal 2978: 2896: 2867: 2723: 2718: 2512: 2484: 2444: 2403: 2349: 2309: 2255: 2198: 2148: 2116: 2066: 2046: 2034: 1992: 1965: 1917: 1742: 1704: 1644: 1630: 1585: 1571: 1494: 1449: 1413: 1387: 1346: 1320: 1282: 1063: 965: 956: 819: 682: 535: 464: 455: 382: 309: 108: 52:Stanley P. Frankel 48:David M. Young Jr. 8047: 8046: 7736:978-0-89871-396-1 7703:978-3-319-28481-1 7663:978-3-642-96508-1 7080: 6948: 6920: 6891: 5858::initial-contents 5774:convergence-check 5321:convergence-check 5027:convergence-check 4703:computed-solution 4631:computed-solution 4553:computed-solution 4453: 4452: 4392:−1.6696789 4372:−2.2448974 3755: 3660: 3262:{\displaystyle Z} 3233: 3115: 3095: 3092: 3064: 2965: 2839: 2803: 2800: 2753: 2701: 2672: 2634: 2574: 2402: 2297: 2227: 2213:iteration matrix 2082:positive-definite 2069:{\displaystyle A} 2028: 1615: 1556: 1536: 1401:+ 1 iteration of 1082:relaxation factor 64:human calculators 41:iterative process 8072: 7957:Matrix splitting 7895: 7888: 7881: 7872: 7834:Richard S. Varga 7803: 7802: 7770:Abraham Berman, 7741: 7740: 7714: 7708: 7707: 7681: 7675: 7674: 7672: 7670: 7647: 7641: 7640: 7639: 7638: 7632: 7618: 7602:Matrix splitting 7581: 7579: 7578: 7573: 7554: 7552: 7551: 7546: 7528: 7526: 7525: 7520: 7502: 7500: 7499: 7494: 7480: 7479: 7460: 7458: 7457: 7452: 7444: 7443: 7432: 7420: 7411: 7403: 7388: 7387: 7376: 7352: 7351: 7334: 7318: 7311: 7309: 7308: 7303: 7294: 7293: 7281: 7259: 7258: 7246: 7218: 7217: 7205: 7177: 7175: 7174: 7169: 7164: 7163: 7145: 7144: 7099: 7097: 7096: 7091: 7078: 7071: 7063: 7062: 7057: 7045: 7044: 7032: 7031: 7019: 7018: 7013: 7004: 7003: 6992: 6973: 6971: 6970: 6965: 6960: 6956: 6949: 6941: 6934: 6933: 6921: 6919: 6905: 6903: 6899: 6892: 6884: 6848: 6846: 6845: 6840: 6834: 6833: 6796: 6793: 6790: 6787: 6784: 6781: 6778: 6775: 6772: 6769: 6766: 6763: 6760: 6757: 6754: 6751: 6748: 6745: 6742: 6739: 6736: 6733: 6730: 6727: 6724: 6721: 6718: 6715: 6712: 6709: 6706: 6703: 6700: 6697: 6694: 6691: 6688: 6685: 6682: 6679: 6676: 6673: 6670: 6667: 6664: 6661: 6658: 6655: 6652: 6649: 6646: 6643: 6640: 6637: 6634: 6631: 6628: 6625: 6622: 6619: 6616: 6613: 6610: 6607: 6604: 6601: 6598: 6595: 6592: 6589: 6586: 6583: 6580: 6577: 6574: 6571: 6568: 6565: 6562: 6559: 6556: 6553: 6550: 6547: 6544: 6541: 6538: 6535: 6532: 6529: 6526: 6523: 6520: 6517: 6514: 6511: 6508: 6505: 6502: 6499: 6496: 6493: 6490: 6487: 6484: 6481: 6478: 6475: 6472: 6469: 6466: 6463: 6460: 6457: 6454: 6451: 6448: 6445: 6442: 6439: 6436: 6433: 6430: 6427: 6424: 6421: 6418: 6415: 6412: 6409: 6406: 6403: 6400: 6397: 6394: 6391: 6388: 6385: 6382: 6379: 6376: 6373: 6370: 6367: 6364: 6361: 6358: 6355: 6352: 6349: 6346: 6343: 6340: 6337: 6334: 6331: 6328: 6325: 6322: 6319: 6316: 6313: 6310: 6307: 6304: 6301: 6298: 6295: 6292: 6289: 6286: 6283: 6280: 6277: 6274: 6271: 6268: 6265: 6262: 6259: 6256: 6253: 6250: 6247: 6244: 6241: 6238: 6235: 6225: 6222: 6219: 6216: 6213: 6210: 6207: 6204: 6203::error-tolerance 6201: 6198: 6195: 6192: 6189: 6186: 6183: 6180: 6177: 6174: 6171: 6168: 6165: 6162: 6159: 6156: 6153: 6150: 6147: 6144: 6141: 6138: 6135: 6132: 6129: 6126: 6123: 6120: 6117: 6114: 6111: 6108: 6105: 6102: 6099: 6096: 6093: 6090: 6087: 6084: 6081: 6078: 6075: 6072: 6069: 6066: 6063: 6060: 6057: 6054: 6051: 6048: 6045: 6042: 6039: 6036: 6033: 6030: 6027: 6024: 6021: 6018: 6015: 6012: 6009: 6006: 6003: 6000: 5997: 5994: 5991: 5988: 5985: 5982: 5979: 5976: 5973: 5970: 5967: 5964: 5961: 5958: 5955: 5952: 5949: 5946: 5943: 5940: 5937: 5934: 5931: 5928: 5925: 5922: 5919: 5916: 5913: 5910: 5907: 5904: 5901: 5898: 5895: 5892: 5889: 5886: 5883: 5880: 5877: 5874: 5871: 5868: 5865: 5862: 5859: 5856: 5853: 5850: 5847: 5844: 5841: 5838: 5835: 5832: 5829: 5826: 5823: 5820: 5817: 5814: 5811: 5808: 5805: 5802: 5799: 5796: 5793: 5790: 5787: 5784: 5781: 5778: 5775: 5772: 5769: 5766: 5763: 5760: 5757: 5754: 5751: 5748: 5745: 5742: 5739: 5736: 5733: 5730: 5727: 5724: 5721: 5718: 5715: 5712: 5709: 5706: 5703: 5700: 5697: 5694: 5691: 5688: 5685: 5682: 5679: 5676: 5673: 5670: 5667: 5664: 5661: 5658: 5655: 5652: 5649: 5646: 5643: 5640: 5637: 5634: 5631: 5628: 5625: 5622: 5619: 5616: 5613: 5610: 5607: 5604: 5601: 5598: 5595: 5592: 5589: 5586: 5583: 5580: 5577: 5574: 5571: 5568: 5565: 5562: 5559: 5556: 5553: 5550: 5547: 5544: 5541: 5538: 5535: 5532: 5529: 5526: 5523: 5520: 5517: 5514: 5511: 5508: 5505: 5502: 5499: 5496: 5493: 5490: 5487: 5484: 5481: 5478: 5475: 5472: 5469: 5466: 5463: 5460: 5457: 5454: 5451: 5448: 5445: 5442: 5439: 5436: 5433: 5430: 5427: 5424: 5421: 5418: 5415: 5412: 5409: 5406: 5403: 5400: 5397: 5394: 5391: 5388: 5385: 5382: 5379: 5376: 5373: 5370: 5367: 5364: 5361: 5358: 5355: 5352: 5349: 5346: 5343: 5340: 5337: 5334: 5331: 5328: 5325: 5322: 5319: 5316: 5313: 5310: 5307: 5304: 5301: 5298: 5295: 5292: 5289: 5286: 5283: 5280: 5277: 5274: 5271: 5268: 5265: 5262: 5259: 5256: 5253: 5250: 5247: 5244: 5241: 5238: 5235: 5232: 5229: 5226: 5223: 5220: 5217: 5214: 5211: 5208: 5205: 5202: 5199: 5196: 5193: 5190: 5187: 5184: 5181: 5178: 5175: 5172: 5169: 5166: 5163: 5160: 5157: 5154: 5151: 5148: 5145: 5142: 5139: 5136: 5133: 5130: 5127: 5124: 5121: 5118: 5115: 5112: 5109: 5106: 5103: 5100: 5097: 5094: 5091: 5088: 5085: 5082: 5079: 5076: 5073: 5070: 5067: 5064: 5061: 5058: 5055: 5052: 5049: 5046: 5043: 5040: 5037: 5034: 5031: 5028: 5025: 5022: 5019: 5016: 5013: 5010: 5009:make-zero-vector 5007: 5004: 5001: 4998: 4995: 4992: 4989: 4986: 4983: 4980: 4977: 4974: 4971: 4968: 4965: 4962: 4961::initial-element 4959: 4956: 4953: 4950: 4947: 4944: 4941: 4938: 4935: 4932: 4929: 4926: 4923: 4920: 4917: 4914: 4911: 4908: 4905: 4904:make-zero-vector 4902: 4899: 4896: 4893: 4890: 4887: 4884: 4881: 4878: 4875: 4872: 4869: 4866: 4863: 4860: 4857: 4854: 4851: 4848: 4845: 4842: 4839: 4836: 4833: 4830: 4827: 4824: 4821: 4818: 4815: 4812: 4809: 4806: 4803: 4800: 4797: 4794: 4791: 4788: 4785: 4782: 4779: 4776: 4773: 4770: 4767: 4764: 4761: 4758: 4755: 4752: 4749: 4746: 4743: 4740: 4737: 4734: 4731: 4728: 4725: 4722: 4719: 4716: 4713: 4710: 4707: 4704: 4701: 4698: 4695: 4692: 4689: 4686: 4683: 4680: 4677: 4674: 4671: 4668: 4665: 4662: 4659: 4656: 4653: 4650: 4647: 4644: 4641: 4638: 4635: 4632: 4629: 4626: 4623: 4620: 4617: 4614: 4611: 4608: 4605: 4602: 4599: 4596: 4593: 4590: 4587: 4584: 4581: 4578: 4575: 4572: 4569: 4566: 4563: 4560: 4557: 4554: 4551: 4548: 4545: 4542: 4539: 4536: 4533: 4530: 4527: 4524: 4521: 4518: 4515: 4512: 4509: 4506: 4503: 4500: 4497: 4494: 4491: 4488: 4485: 4482: 4479: 4476: 4473: 4470: 4467: 4464: 4461: 4385: 4365: 4345: 4338: 4336: 4335: 4330: 4328: 4327: 4310: 4308: 4307: 4302: 4300: 4299: 4282: 4280: 4279: 4274: 4272: 4271: 4254: 4252: 4251: 4246: 4244: 4243: 4223: 4219: 4215: 4213: 4212: 4207: 4165: 4163: 4162: 4157: 4136: 4134: 4133: 4128: 4126: 4109: 4108: 4093: 4092: 4077: 4076: 4061: 4060: 4028: 4027: 4012: 4011: 3996: 3995: 3980: 3979: 3950: 3949: 3934: 3933: 3918: 3917: 3902: 3901: 3869: 3868: 3853: 3852: 3837: 3836: 3824: 3823: 3784: 3782: 3781: 3776: 3774: 3770: 3769: 3768: 3756: 3754: 3753: 3741: 3734: 3733: 3723: 3710: 3709: 3693: 3691: 3690: 3685: 3674: 3673: 3661: 3659: 3658: 3643: 3638: 3637: 3596: 3589: 3553: 3544: 3534: 3515: 3508: 3504: 3495: 3485: 3478: 3471: 3461: 3451:to the solution 3450: 3446: 3442: 3438: 3434: 3419: 3417: 3416: 3411: 3406: 3405: 3317: 3315: 3314: 3309: 3307: 3306: 3288: 3287: 3268: 3266: 3265: 3260: 3248: 3246: 3245: 3240: 3235: 3226: 3202: 3201: 3148: 3146: 3145: 3140: 3135: 3134: 3116: 3111: 3110: 3101: 3096: 3094: 3093: 3091: 3090: 3075: 3066: 3065: 3063: 3062: 3047: 3038: 3030: 3029: 3007: 3005: 3004: 2999: 2987: 2985: 2984: 2979: 2977: 2976: 2967: 2966: 2963: 2948: 2947: 2932: 2931: 2910:) it holds that 2905: 2903: 2902: 2897: 2876: 2874: 2873: 2868: 2859: 2858: 2840: 2835: 2834: 2825: 2814: 2813: 2808: 2804: 2802: 2801: 2799: 2798: 2783: 2771: 2755: 2754: 2751: 2732: 2730: 2729: 2724: 2722: 2721: 2703: 2702: 2699: 2674: 2673: 2670: 2646: 2645: 2640: 2636: 2635: 2612: 2611: 2602: 2601: 2592: 2575: 2567: 2551: 2550: 2521: 2519: 2518: 2513: 2511: 2493: 2491: 2490: 2485: 2471: 2453: 2451: 2450: 2445: 2404: 2395: 2358: 2356: 2355: 2350: 2318: 2316: 2315: 2310: 2299: 2298: 2295: 2264: 2262: 2261: 2256: 2251: 2250: 2229: 2228: 2225: 2207: 2205: 2204: 2199: 2162:Convergence Rate 2157: 2155: 2154: 2149: 2125: 2123: 2122: 2117: 2106: 2105: 2075: 2073: 2072: 2067: 2043: 2041: 2040: 2035: 2030: 2029: 2026: 2001: 1999: 1998: 1993: 1991: 1990: 1974: 1972: 1971: 1966: 1961: 1960: 1939:Spectral radius 1926: 1924: 1923: 1918: 1913: 1912: 1906: 1905: 1894: 1882: 1881: 1864: 1852: 1847: 1846: 1840: 1839: 1821: 1820: 1809: 1785: 1784: 1767: 1751: 1749: 1748: 1743: 1713: 1711: 1710: 1705: 1669: 1665: 1663: 1652: 1643: 1642: 1629: 1610: 1593: 1584: 1583: 1570: 1552: 1551: 1537: 1535: 1534: 1519: 1513: 1502: 1474: 1457: 1422: 1420: 1419: 1414: 1412: 1396: 1394: 1393: 1388: 1386: 1385: 1368: 1355: 1353: 1352: 1347: 1345: 1329: 1327: 1326: 1321: 1319: 1318: 1307: 1291: 1289: 1288: 1283: 1278: 1270: 1269: 1258: 1252: 1251: 1239: 1238: 1232: 1231: 1220: 1178: 1170: 1169: 1163: 1162: 1132: 1131: 1114: 1072: 1070: 1069: 1064: 1062: 1021: 1010: 974: 972: 971: 966: 961: 960: 909: 908: 877: 876: 857: 856: 824: 823: 806: 805: 791: 790: 737: 736: 687: 686: 679: 678: 615: 614: 581: 580: 544: 542: 541: 536: 473: 471: 470: 465: 460: 459: 452: 451: 431: 430: 417: 416: 396: 387: 386: 379: 378: 358: 357: 344: 343: 323: 314: 313: 306: 305: 286: 285: 271: 270: 232: 231: 212: 211: 200: 199: 186: 185: 166: 165: 154: 153: 117: 115: 114: 109: 107: 99: 23:, the method of 8080: 8079: 8075: 8074: 8073: 8071: 8070: 8069: 8050: 8049: 8048: 8043: 8002: 7998:Multiprocessing 7966: 7962:Sparse problems 7925: 7904: 7899: 7856: 7806:A. Hadjidimos, 7790: 7789: 7750: 7745: 7744: 7737: 7716: 7715: 7711: 7704: 7683: 7682: 7678: 7668: 7666: 7664: 7650:Törnig, Willi. 7649: 7648: 7644: 7636: 7634: 7630: 7624:(May 1, 1950), 7622:Young, David M. 7620: 7619: 7615: 7610: 7588: 7564: 7563: 7531: 7530: 7505: 7504: 7471: 7466: 7465: 7427: 7371: 7329: 7324: 7323: 7316: 7186: 7185: 7155: 7130: 7125: 7124: 7118: 7112: 7052: 7033: 7023: 7008: 6987: 6982: 6981: 6939: 6935: 6922: 6909: 6882: 6878: 6867: 6866: 6825: 6814: 6813: 6803: 6798: 6797: 6794: 6791: 6788: 6785: 6782: 6779: 6776: 6773: 6770: 6767: 6764: 6761: 6758: 6755: 6752: 6749: 6746: 6743: 6740: 6737: 6734: 6731: 6728: 6725: 6722: 6719: 6716: 6713: 6710: 6707: 6704: 6701: 6698: 6695: 6692: 6689: 6686: 6683: 6680: 6677: 6674: 6671: 6668: 6665: 6662: 6659: 6656: 6653: 6650: 6647: 6644: 6641: 6638: 6635: 6632: 6629: 6626: 6623: 6620: 6617: 6614: 6611: 6608: 6605: 6602: 6599: 6596: 6593: 6590: 6587: 6584: 6581: 6578: 6575: 6572: 6569: 6566: 6563: 6560: 6557: 6554: 6551: 6548: 6545: 6542: 6539: 6536: 6533: 6530: 6527: 6524: 6521: 6518: 6515: 6512: 6509: 6506: 6503: 6500: 6497: 6494: 6491: 6488: 6485: 6482: 6479: 6476: 6473: 6470: 6467: 6464: 6461: 6458: 6455: 6452: 6449: 6446: 6443: 6440: 6437: 6434: 6431: 6428: 6425: 6422: 6419: 6416: 6413: 6410: 6407: 6404: 6401: 6398: 6395: 6392: 6389: 6386: 6383: 6380: 6377: 6374: 6371: 6368: 6365: 6362: 6359: 6356: 6353: 6350: 6347: 6344: 6341: 6338: 6335: 6332: 6329: 6326: 6323: 6320: 6317: 6314: 6311: 6308: 6305: 6302: 6299: 6296: 6293: 6290: 6287: 6284: 6281: 6278: 6275: 6272: 6269: 6266: 6263: 6260: 6257: 6254: 6251: 6248: 6245: 6242: 6239: 6236: 6233: 6227: 6226: 6223: 6220: 6217: 6214: 6211: 6208: 6205: 6202: 6199: 6196: 6193: 6190: 6187: 6184: 6181: 6178: 6175: 6172: 6169: 6166: 6163: 6160: 6157: 6154: 6151: 6148: 6145: 6142: 6139: 6136: 6133: 6130: 6127: 6124: 6121: 6118: 6115: 6112: 6109: 6106: 6103: 6100: 6097: 6094: 6091: 6088: 6085: 6082: 6079: 6076: 6073: 6070: 6067: 6064: 6061: 6058: 6055: 6052: 6049: 6046: 6043: 6040: 6037: 6034: 6031: 6028: 6025: 6022: 6019: 6016: 6013: 6010: 6007: 6004: 6001: 5998: 5995: 5992: 5989: 5986: 5983: 5980: 5977: 5974: 5971: 5968: 5965: 5962: 5959: 5956: 5953: 5950: 5947: 5944: 5941: 5938: 5935: 5932: 5929: 5926: 5923: 5920: 5917: 5914: 5911: 5908: 5905: 5902: 5899: 5896: 5893: 5890: 5887: 5884: 5881: 5878: 5875: 5872: 5869: 5866: 5863: 5860: 5857: 5854: 5851: 5848: 5845: 5842: 5839: 5836: 5833: 5830: 5827: 5824: 5821: 5818: 5815: 5812: 5809: 5806: 5803: 5800: 5797: 5794: 5791: 5788: 5785: 5782: 5779: 5776: 5773: 5770: 5767: 5764: 5761: 5758: 5755: 5752: 5749: 5746: 5743: 5740: 5737: 5734: 5731: 5728: 5725: 5722: 5719: 5716: 5713: 5710: 5707: 5704: 5701: 5698: 5695: 5692: 5689: 5686: 5683: 5680: 5677: 5674: 5671: 5668: 5665: 5662: 5659: 5656: 5653: 5650: 5647: 5644: 5641: 5638: 5635: 5632: 5629: 5626: 5623: 5620: 5617: 5614: 5611: 5608: 5605: 5602: 5599: 5596: 5593: 5590: 5587: 5584: 5581: 5578: 5575: 5572: 5569: 5566: 5563: 5560: 5557: 5554: 5551: 5548: 5545: 5542: 5539: 5536: 5533: 5530: 5527: 5524: 5521: 5518: 5515: 5512: 5509: 5506: 5503: 5500: 5497: 5494: 5491: 5488: 5485: 5482: 5479: 5476: 5473: 5470: 5467: 5464: 5461: 5458: 5455: 5452: 5449: 5446: 5443: 5440: 5437: 5434: 5431: 5428: 5425: 5422: 5419: 5416: 5413: 5410: 5407: 5404: 5401: 5398: 5395: 5392: 5389: 5386: 5383: 5380: 5377: 5374: 5371: 5368: 5365: 5362: 5359: 5356: 5353: 5350: 5347: 5344: 5342:array-dimension 5341: 5338: 5335: 5332: 5329: 5326: 5323: 5320: 5317: 5314: 5311: 5308: 5305: 5302: 5299: 5296: 5293: 5290: 5287: 5284: 5281: 5278: 5275: 5272: 5269: 5266: 5263: 5260: 5257: 5254: 5251: 5248: 5245: 5242: 5239: 5236: 5233: 5230: 5227: 5224: 5221: 5218: 5215: 5212: 5209: 5206: 5203: 5200: 5197: 5194: 5191: 5188: 5185: 5182: 5179: 5176: 5173: 5170: 5167: 5164: 5161: 5158: 5155: 5152: 5149: 5146: 5143: 5140: 5137: 5134: 5131: 5128: 5125: 5122: 5119: 5116: 5113: 5110: 5107: 5104: 5101: 5098: 5095: 5092: 5089: 5086: 5083: 5080: 5077: 5074: 5071: 5068: 5065: 5062: 5059: 5056: 5053: 5050: 5047: 5044: 5041: 5038: 5035: 5032: 5029: 5026: 5023: 5020: 5017: 5014: 5011: 5008: 5005: 5002: 4999: 4996: 4993: 4990: 4987: 4984: 4981: 4978: 4975: 4972: 4969: 4966: 4963: 4960: 4957: 4954: 4951: 4948: 4945: 4942: 4939: 4936: 4933: 4930: 4927: 4924: 4921: 4918: 4915: 4912: 4909: 4906: 4903: 4900: 4897: 4894: 4891: 4888: 4885: 4882: 4879: 4876: 4874:error-tolerance 4873: 4870: 4867: 4864: 4861: 4858: 4855: 4852: 4849: 4846: 4843: 4840: 4837: 4834: 4831: 4828: 4825: 4822: 4819: 4816: 4813: 4810: 4808:error-tolerance 4807: 4804: 4801: 4798: 4795: 4792: 4789: 4786: 4783: 4780: 4777: 4774: 4771: 4768: 4765: 4762: 4759: 4756: 4753: 4750: 4747: 4744: 4741: 4738: 4735: 4732: 4730:error-tolerance 4729: 4726: 4723: 4720: 4717: 4714: 4711: 4708: 4705: 4702: 4699: 4696: 4693: 4690: 4687: 4684: 4681: 4678: 4675: 4672: 4669: 4666: 4663: 4660: 4657: 4654: 4651: 4648: 4645: 4642: 4639: 4636: 4633: 4630: 4627: 4624: 4621: 4618: 4615: 4612: 4609: 4606: 4603: 4600: 4597: 4594: 4591: 4588: 4585: 4582: 4579: 4576: 4573: 4570: 4567: 4564: 4561: 4558: 4555: 4552: 4549: 4546: 4543: 4540: 4537: 4534: 4531: 4528: 4525: 4522: 4519: 4516: 4513: 4510: 4507: 4504: 4501: 4498: 4495: 4492: 4489: 4486: 4483: 4480: 4477: 4475:'long-float 4474: 4471: 4468: 4465: 4462: 4459: 4383: 4363: 4352:−2.78125 4343: 4319: 4314: 4313: 4291: 4286: 4285: 4263: 4258: 4257: 4235: 4230: 4229: 4220:, in 38 steps. 4217: 4168: 4167: 4142: 4141: 4124: 4123: 4110: 4100: 4084: 4068: 4052: 4046: 4045: 4029: 4019: 4003: 3987: 3971: 3965: 3964: 3951: 3941: 3925: 3909: 3893: 3884: 3883: 3870: 3860: 3844: 3828: 3815: 3803: 3802: 3796: 3760: 3742: 3725: 3724: 3721: 3717: 3701: 3696: 3695: 3665: 3647: 3629: 3609: 3608: 3602: 3594: 3587: 3576: 3565: 3555: 3551: 3546: 3542: 3532: 3526: 3517: 3513: 3506: 3502: 3493: 3483: 3476: 3469: 3459: 3448: 3444: 3440: 3436: 3432: 3426: 3394: 3320: 3319: 3292: 3276: 3271: 3270: 3251: 3250: 3190: 3158: 3157: 3126: 3102: 3082: 3067: 3054: 3039: 3021: 3010: 3009: 2990: 2989: 2968: 2958: 2939: 2923: 2912: 2911: 2882: 2881: 2850: 2826: 2790: 2775: 2766: 2765: 2746: 2741: 2740: 2717: 2716: 2694: 2692: 2676: 2675: 2665: 2651: 2603: 2593: 2581: 2577: 2576: 2559: 2542: 2531: 2530: 2496: 2495: 2456: 2455: 2361: 2360: 2323: 2322: 2290: 2273: 2272: 2271:is convergent: 2269:Jacobi's method 2239: 2220: 2215: 2214: 2172: 2171: 2164: 2128: 2127: 2097: 2086: 2085: 2058: 2057: 2056:proved that if 2021: 2004: 2003: 1982: 1977: 1976: 1952: 1941: 1940: 1933: 1889: 1859: 1828: 1804: 1762: 1757: 1756: 1719: 1718: 1631: 1572: 1543: 1542: 1538: 1523: 1444: 1443: 1403: 1402: 1397:is the next or 1363: 1358: 1357: 1336: 1335: 1302: 1297: 1296: 1253: 1243: 1215: 1151: 1109: 1104: 1103: 1076:for a constant 983: 982: 955: 954: 949: 944: 939: 933: 932: 927: 922: 917: 911: 910: 897: 895: 890: 885: 879: 878: 865: 863: 858: 848: 846: 836: 818: 817: 812: 807: 794: 792: 779: 776: 775: 770: 765: 760: 754: 753: 748: 743: 738: 728: 725: 724: 719: 714: 709: 699: 681: 680: 667: 665: 660: 655: 649: 648: 643: 638: 633: 627: 626: 621: 616: 606: 604: 598: 597: 592: 587: 582: 572: 565: 553: 552: 506: 505: 454: 453: 443: 440: 439: 433: 432: 422: 419: 418: 408: 401: 381: 380: 370: 367: 366: 360: 359: 349: 346: 345: 335: 328: 308: 307: 294: 292: 287: 274: 272: 259: 256: 255: 250: 245: 240: 234: 233: 220: 218: 213: 203: 201: 191: 188: 187: 174: 172: 167: 157: 155: 145: 138: 126: 125: 87: 86: 72: 60:R. V. Southwell 17: 12: 11: 5: 8078: 8076: 8068: 8067: 8062: 8052: 8051: 8045: 8044: 8042: 8041: 8036: 8031: 8026: 8021: 8016: 8010: 8008: 8004: 8003: 8001: 8000: 7995: 7990: 7985: 7980: 7974: 7972: 7968: 7967: 7965: 7964: 7959: 7954: 7944: 7939: 7933: 7931: 7927: 7926: 7924: 7923: 7918: 7916:Floating point 7912: 7910: 7906: 7905: 7900: 7898: 7897: 7890: 7883: 7875: 7869: 7868: 7862: 7855: 7854:External links 7852: 7851: 7850: 7841: 7831: 7825: 7813: 7804: 7787: 7778:, 1994, SIAM. 7767: 7766: 7749: 7746: 7743: 7742: 7735: 7709: 7702: 7676: 7662: 7642: 7612: 7611: 7609: 7606: 7605: 7604: 7599: 7594: 7587: 7584: 7571: 7544: 7541: 7538: 7518: 7515: 7512: 7492: 7489: 7486: 7483: 7478: 7474: 7462: 7461: 7450: 7447: 7442: 7439: 7436: 7431: 7426: 7423: 7419: 7415: 7410: 7407: 7402: 7398: 7394: 7391: 7386: 7383: 7380: 7375: 7370: 7367: 7364: 7361: 7358: 7355: 7350: 7347: 7344: 7341: 7338: 7333: 7313: 7312: 7301: 7298: 7292: 7289: 7286: 7280: 7276: 7272: 7269: 7266: 7263: 7257: 7254: 7251: 7245: 7241: 7237: 7234: 7231: 7228: 7225: 7222: 7216: 7213: 7210: 7204: 7201: 7198: 7194: 7179: 7178: 7167: 7162: 7158: 7154: 7151: 7148: 7143: 7140: 7137: 7133: 7114:Main article: 7111: 7108: 7101: 7100: 7089: 7086: 7083: 7077: 7074: 7070: 7066: 7061: 7056: 7051: 7048: 7043: 7040: 7036: 7030: 7026: 7022: 7017: 7012: 7007: 7002: 6999: 6996: 6991: 6975: 6974: 6963: 6959: 6955: 6952: 6947: 6944: 6938: 6932: 6929: 6925: 6918: 6915: 6912: 6908: 6902: 6898: 6895: 6890: 6887: 6881: 6877: 6874: 6850: 6849: 6837: 6832: 6828: 6824: 6821: 6802: 6799: 6232: 6128:exact-solution 5978:exact-solution 4700:exact-solution 4664:exact-solution 4556:exact-solution 4458: 4451: 4450: 4447: 4444: 4441: 4438: 4434: 4433: 4430: 4427: 4424: 4421: 4417: 4416: 4413: 4410: 4407: 4404: 4400: 4399: 4396: 4393: 4390: 4387: 4380: 4379: 4376: 4373: 4370: 4367: 4360: 4359: 4356: 4353: 4350: 4347: 4340: 4339: 4326: 4322: 4311: 4298: 4294: 4283: 4270: 4266: 4255: 4242: 4238: 4227: 4205: 4202: 4199: 4196: 4193: 4190: 4187: 4184: 4181: 4178: 4175: 4155: 4152: 4149: 4138: 4137: 4122: 4119: 4116: 4113: 4111: 4107: 4103: 4099: 4096: 4091: 4087: 4083: 4080: 4075: 4071: 4067: 4064: 4059: 4055: 4051: 4048: 4047: 4044: 4041: 4038: 4035: 4032: 4030: 4026: 4022: 4018: 4015: 4010: 4006: 4002: 3999: 3994: 3990: 3986: 3983: 3978: 3974: 3970: 3967: 3966: 3963: 3960: 3957: 3954: 3952: 3948: 3944: 3940: 3937: 3932: 3928: 3924: 3921: 3916: 3912: 3908: 3905: 3900: 3896: 3892: 3889: 3886: 3885: 3882: 3879: 3876: 3873: 3871: 3867: 3863: 3859: 3856: 3851: 3847: 3843: 3840: 3835: 3831: 3827: 3822: 3818: 3814: 3811: 3810: 3795: 3792: 3791: 3790: 3773: 3767: 3763: 3759: 3752: 3749: 3745: 3740: 3737: 3732: 3728: 3720: 3716: 3713: 3708: 3704: 3683: 3680: 3677: 3672: 3668: 3664: 3657: 3654: 3650: 3646: 3641: 3636: 3632: 3628: 3625: 3622: 3619: 3616: 3606: 3585: 3574: 3563: 3549: 3530: 3524: 3430: 3425: 3422: 3409: 3404: 3401: 3397: 3393: 3390: 3387: 3384: 3381: 3378: 3375: 3372: 3369: 3366: 3363: 3360: 3357: 3354: 3351: 3348: 3345: 3342: 3339: 3336: 3333: 3330: 3327: 3305: 3302: 3299: 3295: 3291: 3286: 3283: 3279: 3258: 3238: 3232: 3229: 3223: 3220: 3217: 3214: 3211: 3208: 3205: 3200: 3197: 3193: 3189: 3186: 3183: 3180: 3177: 3174: 3171: 3168: 3165: 3138: 3133: 3129: 3125: 3122: 3119: 3114: 3109: 3105: 3099: 3089: 3085: 3081: 3078: 3073: 3070: 3061: 3057: 3053: 3050: 3045: 3042: 3036: 3033: 3028: 3024: 3020: 3017: 2997: 2975: 2971: 2961: 2957: 2954: 2951: 2946: 2942: 2938: 2935: 2930: 2926: 2922: 2919: 2895: 2892: 2889: 2878: 2877: 2866: 2862: 2857: 2853: 2849: 2846: 2843: 2838: 2833: 2829: 2823: 2820: 2817: 2812: 2807: 2797: 2793: 2789: 2786: 2781: 2778: 2774: 2769: 2764: 2761: 2758: 2749: 2734: 2733: 2720: 2715: 2712: 2709: 2706: 2697: 2693: 2691: 2687: 2684: 2681: 2678: 2677: 2668: 2664: 2661: 2658: 2655: 2652: 2650: 2644: 2639: 2633: 2630: 2627: 2624: 2621: 2618: 2615: 2610: 2606: 2600: 2596: 2590: 2587: 2584: 2580: 2573: 2570: 2565: 2564: 2562: 2557: 2554: 2549: 2545: 2541: 2538: 2524: 2523: 2510: 2506: 2503: 2483: 2480: 2477: 2474: 2470: 2466: 2463: 2443: 2440: 2437: 2434: 2431: 2428: 2425: 2422: 2419: 2416: 2413: 2410: 2407: 2401: 2398: 2392: 2389: 2386: 2383: 2380: 2377: 2374: 2371: 2368: 2348: 2345: 2342: 2339: 2336: 2333: 2330: 2319: 2308: 2305: 2302: 2293: 2289: 2286: 2283: 2280: 2266: 2254: 2249: 2246: 2242: 2238: 2235: 2232: 2223: 2208: 2197: 2194: 2191: 2188: 2185: 2182: 2179: 2163: 2160: 2147: 2144: 2141: 2138: 2135: 2115: 2112: 2109: 2104: 2100: 2096: 2093: 2065: 2033: 2024: 2020: 2017: 2014: 2011: 1989: 1985: 1964: 1959: 1955: 1951: 1948: 1932: 1929: 1928: 1927: 1916: 1911: 1904: 1901: 1898: 1893: 1888: 1885: 1880: 1877: 1874: 1871: 1868: 1863: 1858: 1855: 1851: 1845: 1838: 1835: 1831: 1827: 1824: 1819: 1816: 1813: 1808: 1803: 1800: 1797: 1794: 1791: 1788: 1783: 1780: 1777: 1774: 1771: 1766: 1741: 1738: 1735: 1732: 1729: 1726: 1715: 1714: 1703: 1700: 1697: 1694: 1691: 1688: 1685: 1682: 1679: 1676: 1672: 1668: 1662: 1659: 1656: 1651: 1647: 1641: 1638: 1634: 1628: 1625: 1622: 1618: 1614: 1609: 1606: 1603: 1600: 1597: 1592: 1588: 1582: 1579: 1575: 1569: 1566: 1563: 1559: 1555: 1550: 1546: 1541: 1533: 1530: 1526: 1522: 1517: 1512: 1509: 1506: 1501: 1497: 1493: 1490: 1487: 1484: 1481: 1478: 1473: 1470: 1467: 1464: 1461: 1456: 1452: 1411: 1384: 1381: 1378: 1375: 1372: 1367: 1344: 1317: 1314: 1311: 1306: 1293: 1292: 1281: 1277: 1273: 1268: 1265: 1262: 1257: 1250: 1246: 1242: 1237: 1230: 1227: 1224: 1219: 1214: 1211: 1208: 1205: 1202: 1199: 1196: 1193: 1190: 1187: 1184: 1181: 1177: 1173: 1168: 1161: 1158: 1154: 1150: 1147: 1144: 1141: 1138: 1135: 1130: 1127: 1124: 1121: 1118: 1113: 1074: 1073: 1061: 1057: 1054: 1051: 1048: 1045: 1042: 1039: 1036: 1033: 1030: 1027: 1024: 1020: 1016: 1013: 1009: 1005: 1002: 999: 996: 993: 990: 976: 975: 964: 959: 953: 950: 948: 945: 943: 940: 938: 935: 934: 931: 928: 926: 923: 921: 918: 916: 913: 912: 907: 904: 900: 896: 894: 891: 889: 886: 884: 881: 880: 875: 872: 868: 864: 862: 859: 855: 851: 847: 845: 842: 841: 839: 834: 831: 827: 822: 816: 813: 811: 808: 804: 801: 797: 793: 789: 786: 782: 778: 777: 774: 771: 769: 766: 764: 761: 759: 756: 755: 752: 749: 747: 744: 742: 739: 735: 731: 727: 726: 723: 720: 718: 715: 713: 710: 708: 705: 704: 702: 697: 694: 690: 685: 677: 674: 670: 666: 664: 661: 659: 656: 654: 651: 650: 647: 644: 642: 639: 637: 634: 632: 629: 628: 625: 622: 620: 617: 613: 609: 605: 603: 600: 599: 596: 593: 591: 588: 586: 583: 579: 575: 571: 570: 568: 563: 560: 546: 545: 534: 531: 528: 525: 522: 519: 516: 513: 475: 474: 463: 458: 450: 446: 442: 441: 438: 435: 434: 429: 425: 421: 420: 415: 411: 407: 406: 404: 399: 395: 390: 385: 377: 373: 369: 368: 365: 362: 361: 356: 352: 348: 347: 342: 338: 334: 333: 331: 326: 322: 317: 312: 304: 301: 297: 293: 291: 288: 284: 281: 277: 273: 269: 266: 262: 258: 257: 254: 251: 249: 246: 244: 241: 239: 236: 235: 230: 227: 223: 219: 217: 214: 210: 206: 202: 198: 194: 190: 189: 184: 181: 177: 173: 171: 168: 164: 160: 156: 152: 148: 144: 143: 141: 136: 133: 119: 118: 106: 102: 98: 94: 71: 68: 35:for solving a 15: 13: 10: 9: 6: 4: 3: 2: 8077: 8066: 8063: 8061: 8058: 8057: 8055: 8040: 8037: 8035: 8032: 8030: 8027: 8025: 8022: 8020: 8017: 8015: 8012: 8011: 8009: 8005: 7999: 7996: 7994: 7991: 7989: 7986: 7984: 7981: 7979: 7976: 7975: 7973: 7969: 7963: 7960: 7958: 7955: 7952: 7948: 7945: 7943: 7940: 7938: 7935: 7934: 7932: 7928: 7922: 7919: 7917: 7914: 7913: 7911: 7907: 7903: 7896: 7891: 7889: 7884: 7882: 7877: 7876: 7873: 7866: 7863: 7861: 7858: 7857: 7853: 7848: 7845: 7842: 7839: 7835: 7832: 7829: 7826: 7823: 7822: 7817: 7814: 7811: 7810: 7805: 7800: 7799: 7794: 7788: 7785: 7784:0-89871-321-8 7781: 7777: 7773: 7769: 7768: 7764: 7760: 7756: 7752: 7751: 7747: 7738: 7732: 7728: 7724: 7720: 7713: 7710: 7705: 7699: 7695: 7691: 7687: 7680: 7677: 7665: 7659: 7655: 7654: 7646: 7643: 7629: 7628: 7623: 7617: 7614: 7607: 7603: 7600: 7598: 7595: 7593: 7592:Jacobi method 7590: 7589: 7585: 7583: 7569: 7560: 7558: 7542: 7539: 7536: 7516: 7513: 7510: 7490: 7487: 7484: 7481: 7476: 7472: 7448: 7437: 7424: 7421: 7408: 7405: 7400: 7396: 7392: 7389: 7381: 7365: 7362: 7359: 7353: 7345: 7342: 7339: 7322: 7321: 7320: 7299: 7278: 7274: 7267: 7264: 7261: 7243: 7239: 7232: 7229: 7226: 7220: 7202: 7199: 7196: 7192: 7184: 7183: 7182: 7160: 7156: 7149: 7146: 7141: 7138: 7135: 7131: 7123: 7122: 7121: 7117: 7109: 7107: 7106: 7087: 7084: 7081: 7075: 7064: 7059: 7049: 7041: 7038: 7034: 7028: 7024: 7020: 7015: 7005: 7000: 6997: 6994: 6980: 6979: 6978: 6961: 6957: 6953: 6950: 6945: 6942: 6936: 6930: 6927: 6923: 6916: 6913: 6910: 6906: 6900: 6896: 6893: 6888: 6885: 6879: 6875: 6872: 6865: 6864: 6863: 6861: 6857: 6856: 6835: 6830: 6826: 6822: 6819: 6812: 6811: 6810: 6808: 6800: 6774:initial_guess 6720:initial_guess 6345:initial_guess 6285:initial_guess 6230: 6197:is-convergent 4967::element-type 4715:is-convergent 4456: 4448: 4445: 4442: 4439: 4436: 4435: 4431: 4428: 4425: 4422: 4419: 4418: 4414: 4411: 4408: 4405: 4402: 4401: 4397: 4394: 4391: 4388: 4382: 4381: 4377: 4374: 4371: 4368: 4362: 4361: 4357: 4354: 4351: 4348: 4342: 4341: 4324: 4320: 4312: 4296: 4292: 4284: 4268: 4264: 4256: 4240: 4236: 4228: 4225: 4224: 4221: 4200: 4197: 4194: 4191: 4188: 4185: 4182: 4176: 4173: 4153: 4150: 4147: 4120: 4117: 4114: 4112: 4105: 4101: 4097: 4094: 4089: 4085: 4081: 4078: 4073: 4069: 4065: 4062: 4057: 4053: 4049: 4042: 4039: 4036: 4033: 4031: 4024: 4020: 4016: 4013: 4008: 4004: 4000: 3997: 3992: 3988: 3984: 3981: 3976: 3972: 3968: 3961: 3958: 3955: 3953: 3946: 3942: 3938: 3935: 3930: 3926: 3922: 3919: 3914: 3910: 3906: 3903: 3898: 3894: 3890: 3887: 3880: 3877: 3874: 3872: 3865: 3861: 3857: 3854: 3849: 3845: 3841: 3838: 3833: 3829: 3825: 3820: 3816: 3812: 3801: 3800: 3799: 3793: 3788: 3771: 3765: 3761: 3757: 3750: 3747: 3743: 3738: 3735: 3730: 3726: 3718: 3714: 3711: 3706: 3702: 3678: 3675: 3670: 3666: 3655: 3652: 3648: 3644: 3639: 3634: 3630: 3623: 3620: 3617: 3607: 3604: 3603: 3600: 3592: 3588: 3581: 3577: 3570: 3566: 3559: 3552: 3540: 3537: 3533: 3527: 3520: 3511: 3501: 3498: 3492: 3488: 3482: 3479:to 0 3474: 3468: 3464: 3458: 3454: 3429: 3423: 3421: 3402: 3399: 3395: 3388: 3385: 3382: 3379: 3376: 3373: 3367: 3361: 3358: 3355: 3349: 3346: 3343: 3340: 3337: 3334: 3328: 3325: 3303: 3300: 3297: 3293: 3289: 3284: 3281: 3277: 3269:with entries 3256: 3249:for diagonal 3236: 3230: 3227: 3221: 3218: 3215: 3212: 3209: 3206: 3203: 3198: 3195: 3191: 3184: 3181: 3178: 3175: 3172: 3169: 3163: 3155: 3150: 3131: 3127: 3120: 3117: 3112: 3107: 3103: 3097: 3087: 3083: 3079: 3076: 3071: 3068: 3059: 3055: 3051: 3048: 3043: 3040: 3034: 3026: 3022: 3015: 2995: 2973: 2959: 2952: 2949: 2944: 2940: 2936: 2928: 2924: 2917: 2909: 2893: 2890: 2887: 2864: 2855: 2851: 2844: 2841: 2836: 2831: 2827: 2821: 2818: 2815: 2810: 2805: 2795: 2791: 2787: 2784: 2779: 2776: 2772: 2767: 2762: 2759: 2756: 2747: 2739: 2738: 2737: 2713: 2710: 2707: 2704: 2695: 2689: 2685: 2682: 2679: 2666: 2662: 2659: 2656: 2653: 2648: 2642: 2637: 2628: 2625: 2622: 2616: 2613: 2608: 2604: 2598: 2594: 2588: 2585: 2582: 2578: 2571: 2568: 2560: 2555: 2547: 2543: 2536: 2529: 2528: 2527: 2504: 2501: 2478: 2464: 2461: 2438: 2435: 2432: 2429: 2426: 2423: 2417: 2414: 2411: 2405: 2399: 2396: 2390: 2387: 2384: 2381: 2378: 2375: 2369: 2366: 2346: 2343: 2340: 2337: 2334: 2331: 2328: 2320: 2306: 2303: 2291: 2284: 2281: 2278: 2270: 2267: 2252: 2247: 2244: 2240: 2236: 2233: 2230: 2221: 2212: 2209: 2192: 2189: 2186: 2180: 2177: 2169: 2168: 2167: 2161: 2159: 2145: 2142: 2139: 2136: 2133: 2113: 2110: 2102: 2098: 2091: 2083: 2079: 2063: 2055: 2051: 2022: 2015: 2012: 2009: 1987: 1983: 1957: 1953: 1946: 1937: 1930: 1914: 1899: 1886: 1883: 1875: 1872: 1869: 1856: 1853: 1836: 1833: 1829: 1825: 1822: 1814: 1798: 1795: 1792: 1786: 1778: 1775: 1772: 1755: 1754: 1753: 1736: 1733: 1730: 1727: 1701: 1698: 1695: 1692: 1689: 1686: 1683: 1680: 1677: 1674: 1670: 1666: 1657: 1649: 1645: 1639: 1636: 1632: 1626: 1623: 1620: 1616: 1612: 1604: 1601: 1598: 1590: 1586: 1580: 1577: 1573: 1567: 1564: 1561: 1557: 1553: 1548: 1544: 1539: 1531: 1528: 1524: 1520: 1515: 1507: 1499: 1495: 1488: 1485: 1482: 1476: 1468: 1465: 1462: 1454: 1450: 1442: 1441: 1440: 1438: 1434: 1430: 1426: 1400: 1379: 1376: 1373: 1333: 1312: 1279: 1271: 1263: 1248: 1244: 1240: 1225: 1209: 1203: 1200: 1197: 1191: 1188: 1185: 1179: 1171: 1159: 1156: 1148: 1145: 1142: 1139: 1133: 1125: 1122: 1119: 1102: 1101: 1100: 1098: 1094: 1090: 1085: 1083: 1079: 1052: 1046: 1043: 1040: 1034: 1031: 1028: 1022: 1014: 1011: 1000: 997: 994: 991: 981: 980: 979: 962: 957: 951: 946: 941: 936: 929: 924: 919: 914: 905: 902: 898: 892: 887: 882: 873: 870: 866: 860: 853: 849: 843: 837: 832: 829: 825: 820: 814: 809: 802: 799: 795: 787: 784: 780: 772: 767: 762: 757: 750: 745: 740: 733: 729: 721: 716: 711: 706: 700: 695: 692: 688: 683: 675: 672: 668: 662: 657: 652: 645: 640: 635: 630: 623: 618: 611: 607: 601: 594: 589: 584: 577: 573: 566: 561: 558: 551: 550: 549: 532: 529: 526: 523: 520: 517: 514: 511: 504: 503: 502: 500: 496: 492: 488: 484: 480: 461: 456: 448: 444: 436: 427: 423: 413: 409: 402: 397: 388: 383: 375: 371: 363: 354: 350: 340: 336: 329: 324: 315: 310: 302: 299: 295: 289: 282: 279: 275: 267: 264: 260: 252: 247: 242: 237: 228: 225: 221: 215: 208: 204: 196: 192: 182: 179: 175: 169: 162: 158: 150: 146: 139: 134: 131: 124: 123: 122: 100: 92: 85: 84: 83: 81: 77: 69: 67: 65: 61: 57: 53: 49: 44: 42: 38: 34: 30: 26: 22: 7909:Key concepts 7846: 7837: 7819: 7807: 7796: 7775: 7718: 7712: 7685: 7679: 7667:. Retrieved 7652: 7645: 7635:, retrieved 7626: 7616: 7561: 7557:overshooting 7503:. Values of 7463: 7314: 7180: 7119: 7102: 6976: 6862:), in which 6859: 6853: 6851: 6806: 6804: 6228: 4484:defparameter 4454: 4139: 3797: 3786: 3598: 3590: 3583: 3579: 3572: 3568: 3561: 3557: 3547: 3538: 3535: 3528: 3522: 3518: 3509: 3499: 3496: 3490: 3486: 3480: 3472: 3466: 3462: 3456: 3452: 3427: 3151: 2908:Gauss-Seidel 2879: 2735: 2525: 2165: 2049: 2047: 1716: 1432: 1428: 1424: 1398: 1331: 1294: 1096: 1092: 1086: 1081: 1077: 1075: 977: 547: 498: 494: 486: 478: 476: 120: 79: 75: 73: 45: 28: 24: 18: 7816:Yousef Saad 6809:, in which 6609:"Step 4970:'number 4443:−2.0 4426:−2.0 4398:0.76172125 1931:Convergence 493:components 70:Formulation 8054:Categories 7951:algorithms 7748:References 7637:2009-06-15 6750:sor_solver 6615:Residual: 6303:Arguments: 6261:sor_solver 6122:get-errors 5840:make-array 4955:make-array 4547:get-errors 4423:2.9999998 4395:1.5904881 4378:0.9108547 4375:1.9687712 4369:1.2490234 4358:0.5152344 4355:1.6289062 4226:Iteration 485:component 7978:CPU cache 7798:MathWorld 7570:ω 7559:process. 7537:ω 7511:ω 7477:∗ 7422:− 7406:− 7401:∗ 7393:ω 7366:ω 7363:− 7265:ω 7233:ω 7230:− 7085:≥ 7065:− 7039:− 7025:γ 7021:− 6946:ω 6928:− 6917:ω 6914:− 6907:ω 6889:ω 6218:iteration 6179:iteration 6068:iteration 6032:iteration 5777:iteration 5750:iteration 5396:iteration 5075:iteration 5042:iteration 4389:2.070478 4174:ϕ 4148:ω 4118:− 4079:− 4037:− 4014:− 3904:− 3888:− 3839:− 3826:− 3762:ϕ 3758:− 3739:σ 3736:− 3715:ω 3703:ϕ 3679:σ 3676:− 3645:ω 3631:ϕ 3624:ω 3621:− 3601:(repeat) 3424:Algorithm 3400:− 3374:λ 3362:⁡ 3335:λ 3329:⁡ 3301:− 3207:λ 3196:− 3170:λ 3128:μ 3104:μ 3084:μ 3080:− 3056:μ 3052:− 3044:− 3027:ω 3016:ρ 2996:ω 2953:ρ 2941:μ 2929:ω 2918:ρ 2888:ω 2852:μ 2828:μ 2792:μ 2788:− 2773:μ 2748:ω 2708:ω 2696:ω 2683:− 2680:ω 2667:ω 2663:≤ 2660:ω 2626:− 2623:ω 2614:− 2605:μ 2595:ω 2586:μ 2583:ω 2548:ω 2537:ρ 2505:∈ 2502:λ 2473:∖ 2465:∈ 2424:λ 2418:⁡ 2376:λ 2370:⁡ 2285:ρ 2279:μ 2245:− 2237:− 2181:∈ 2178:ω 2140:ω 2103:ω 2092:ρ 2078:symmetric 2054:Ostrowski 2016:ρ 2010:μ 1988:ω 1958:ω 1947:ρ 1884:− 1854:− 1834:− 1826:ω 1799:ω 1796:− 1734:ω 1693:… 1617:∑ 1613:− 1558:∑ 1554:− 1521:ω 1489:ω 1486:− 1249:ω 1201:− 1198:ω 1186:ω 1180:− 1172:ω 1157:− 1146:ω 1044:− 1041:ω 1029:ω 1023:− 1015:ω 998:ω 947:⋯ 930:⋮ 925:⋱ 920:⋮ 915:⋮ 893:⋯ 861:⋯ 810:⋯ 773:⋮ 768:⋱ 763:⋮ 758:⋮ 746:⋯ 717:⋯ 663:⋯ 646:⋮ 641:⋱ 636:⋮ 631:⋮ 619:⋯ 590:⋯ 437:⋮ 364:⋮ 290:⋯ 253:⋮ 248:⋱ 243:⋮ 238:⋮ 216:⋯ 170:⋯ 8007:Software 7971:Hardware 7930:Problems 7765:license. 7759:CFD-Wiki 7586:See also 6639:residual 6618:{:10.6g} 6558:residual 6390:residual 6348:residual 6321:Returns: 5282:function 4997:&key 4724:&key 3505:≠ 3443:Output: 3431:Inputs: 2454:for any 2211:Jacobi's 483:diagonal 6137:declare 6077:declare 6056:integer 6044:declare 5771:funcall 5468:declare 5369:integer 5357:declare 5288:integer 5270:declare 5237:declare 5216:declare 5183:declare 5144:declare 5054:declare 4934:integer 4922:declare 4838:declare 4796:declare 4763:declare 4640:declare 4607:declare 4523:integer 4511:declaim 3794:Example 3008:we get 1429:ωL 1330:is the 121:where: 50:and by 8029:LAPACK 8019:MATLAB 7828:Netlib 7782:  7733:  7700:  7669:20 May 7660:  7464:where 7079:  6858:, or ( 6645:return 6627:format 6621:" 6564:linalg 6354:linalg 6255:linalg 6252:import 6234:import 6224:)))))) 6200:errors 6182:errors 6170:format 6161:errors 6152:number 6149:vector 6116:errors 6092:number 6089:vector 6026:lambda 6020:#' 5984:vector 5945:vector 5807:number 5804:vector 5789:return 5741:format 5735:)))))) 5477:number 5306:number 5303:vector 5252:number 5249:vector 5225:number 5198:number 5195:vector 5159:number 5060:ignore 5036:lambda 5030:#' 5015:length 4892:errors 4886:#' 4847:number 4805:number 4787:errors 4778:number 4775:vector 4721:errors 4694:#' 4685:number 4682:vector 4655:number 4652:vector 4622:number 4619:vector 3789:-loop. 3536:end if 3453:repeat 3156:since 2050:ω 1295:where 1078:ω 548:where 489:, and 8014:ATLAS 7836:2002 7631:(PDF) 7608:Notes 6786:print 6768:omega 6732:zeros 6714:array 6687:array 6663:omega 6603:print 6552:sigma 6528:omega 6510:omega 6480:sigma 6459:shape 6447:range 6429:sigma 6423:shape 6411:range 6387:while 6279:omega 6249:scipy 6237:numpy 6215:>= 6014:omega 5966:omega 5861:' 5690:omega 5657:omega 5612:))))) 5504:below 5432:below 5228:omega 5156:array 5072:>= 4994:omega 4979:defun 4901:defun 4883:every 4868:error 4859:<= 4850:error 4829:error 4733:0.001 4712:defun 4676:' 4544:defun 4349:0.25 3556:(1 − 3491:until 3467:until 2084:then 477:Then 7993:SIMD 7780:ISBN 7763:GFDL 7731:ISBN 7698:ISBN 7671:2024 7658:ISBN 7540:< 7514:> 6860:SSOR 6660:1e-8 6633:step 6594:step 6570:norm 6393:> 6360:norm 6330:step 6246:from 6143:type 6083:type 6050:type 5933:)))) 5846:list 5792:)))) 5765:when 5720:aref 5696:aref 5666:aref 5624:aref 5618:setf 5594:incf 5579:aref 5555:aref 5522:when 5498:from 5489:loop 5474:type 5426:from 5417:loop 5399:from 5390:loop 5363:type 5276:type 5243:type 5222:type 5189:type 5150:type 5081:)))) 4958:size 4946:size 4928:type 4910:size 4844:type 4817:flet 4802:type 4769:type 4646:type 4613:type 4517:type 4469:setf 4449:1.0 4446:2.0 4440:3.0 4432:1.0 4429:2.0 4415:... 4412:... 4409:... 4406:... 4403:... 3605:Note 3582:) / 3512:set 3510:then 3487:from 3475:set 3463:from 3318:and 2711:< 2705:< 2657:< 2494:and 2304:< 2143:< 2137:< 2126:for 2111:< 2080:and 1624:> 1565:< 1356:and 497:and 7983:TLB 7757:on 7723:doi 7690:doi 6792:phi 6744:phi 6669:0.5 6648:phi 6582:phi 6519:phi 6495:phi 6492:phi 6438:for 6402:for 6372:phi 6339:phi 6258:def 6206:0.0 6131:))) 6125:phi 6110:let 6101:phi 6035:phi 5999:))) 5969:0.5 5954:-12 5828:let 5816:phi 5798:the 5780:phi 5753:phi 5732:rho 5669:phi 5627:phi 5609:phi 5597:rho 5588:))) 5582:phi 5573:phi 5543:let 5492:for 5480:rho 5456:rho 5450:let 5420:for 5393:for 5351:))) 5330:let 5261:phi 5114:--- 5096:--- 5063:phi 5045:phi 5021:))) 5003:phi 4964:0.0 4895:))) 4877:))) 4865:abs 4748:--- 4673:map 4583:--- 4571:--- 4490:100 4437:38 4420:37 4154:0.5 3787:for 3599:end 3591:end 3554:to 3539:end 3516:to 3481:for 3457:for 3359:det 3326:det 2964:Jac 2752:opt 2700:opt 2671:opt 2415:det 2367:det 2296:Jac 2226:Jac 2076:is 2027:Jac 29:SOR 19:In 8056:: 7818:, 7795:. 7774:, 7729:. 7696:. 7088:0. 6726:np 6717:() 6708:np 6699:]) 6690:(, 6681:np 6642:)) 6612:{} 6597:+= 6483:+= 6471:!= 6465:if 6462:): 6444:in 6426:): 6408:in 6294:): 6243:np 6240:as 6191:or 6164:)) 6113:(( 6104:)) 6071:)) 5990:-2 5960:)) 5957:-6 5951:21 5927:-7 5912:-2 5891:10 5888:-4 5885:-5 5873:-6 5870:-1 5864:(( 5831:(( 5819:)) 5708:)) 5675:)) 5567:)) 5546:(( 5528:/= 5516:do 5510:by 5483:)) 5462:)) 5453:(( 5444:do 5438:by 5411:do 5405:by 5384:)) 5333:(( 5324:)) 5312:)) 5285:(( 5264:)) 5231:)) 5210:)) 5177:)) 5171:)) 5066:)) 4973:)) 4949:)) 4853:)) 4820:(( 4811:)) 4790:)) 4736:)) 4706:)) 4667:)) 4634:)) 4538:)) 4386:3 4366:2 4346:1 4121:6. 4040:12 3959:21 3923:10 3586:ii 3578:− 3567:+ 3525:ij 3521:+ 3500:if 3497:do 3489:1 3473:do 3465:1 3439:, 3435:, 3420:. 2757::= 2282::= 2231::= 2013::= 1752:: 1439:: 1084:. 854:12 734:21 612:22 578:11 501:: 209:22 197:21 163:12 151:11 82:: 43:. 7953:) 7949:( 7894:e 7887:t 7880:v 7801:. 7786:. 7739:. 7725:: 7706:. 7692:: 7673:. 7543:1 7517:1 7491:D 7488:+ 7485:L 7482:= 7473:L 7449:, 7446:) 7441:) 7438:k 7435:( 7430:x 7425:U 7418:b 7414:( 7409:1 7397:L 7390:+ 7385:) 7382:k 7379:( 7374:x 7369:) 7360:1 7357:( 7354:= 7349:) 7346:1 7343:+ 7340:k 7337:( 7332:x 7317:x 7300:. 7297:) 7291:R 7288:O 7285:S 7279:n 7275:x 7271:( 7268:f 7262:+ 7256:R 7253:O 7250:S 7244:n 7240:x 7236:) 7227:1 7224:( 7221:= 7215:R 7212:O 7209:S 7203:1 7200:+ 7197:n 7193:x 7166:) 7161:n 7157:x 7153:( 7150:f 7147:= 7142:1 7139:+ 7136:n 7132:x 7082:k 7076:, 7073:) 7069:b 7060:k 7055:x 7050:A 7047:( 7042:1 7035:P 7029:k 7016:k 7011:x 7006:= 7001:1 6998:+ 6995:k 6990:x 6962:, 6958:) 6954:U 6951:+ 6943:D 6937:( 6931:1 6924:D 6911:2 6901:) 6897:L 6894:+ 6886:D 6880:( 6876:= 6873:P 6836:, 6831:T 6827:L 6823:= 6820:U 6807:A 6795:) 6789:( 6783:) 6777:, 6771:, 6765:, 6762:b 6759:, 6756:A 6753:( 6747:= 6741:) 6738:4 6735:( 6729:. 6723:= 6711:. 6705:= 6702:b 6696:, 6693:, 6684:. 6678:= 6675:A 6666:= 6657:= 6636:, 6630:( 6624:. 6606:( 6600:1 6591:) 6588:b 6585:- 6579:@ 6576:A 6573:( 6567:. 6561:= 6555:) 6549:- 6546:b 6543:( 6540:* 6537:) 6534:A 6531:/ 6525:( 6522:+ 6516:* 6513:) 6507:- 6504:1 6501:( 6498:= 6489:* 6486:A 6477:: 6474:i 6468:j 6456:. 6453:A 6450:( 6441:j 6435:0 6432:= 6420:. 6417:A 6414:( 6405:i 6399:: 6381:) 6378:b 6375:- 6369:@ 6366:A 6363:( 6357:. 6351:= 6342:= 6336:0 6333:= 6288:, 6282:, 6276:, 6273:b 6270:, 6267:A 6264:( 6212:( 6209:) 6194:( 6188:( 6185:) 6173:T 6167:( 6158:) 6155:* 6146:( 6140:( 6134:( 6119:( 6107:( 6098:) 6095:* 6086:( 6080:( 6074:( 6065:) 6062:* 6059:0 6053:( 6047:( 6041:( 6038:) 6029:( 6023:( 6011:b 6008:A 6002:( 5996:1 5993:2 5987:3 5981:( 5975:( 5972:) 5963:( 5948:2 5942:( 5939:b 5936:( 5930:5 5924:0 5921:1 5918:( 5915:) 5909:4 5906:9 5903:0 5900:( 5897:) 5894:8 5882:( 5879:) 5876:0 5867:4 5855:) 5852:4 5849:4 5843:( 5837:( 5834:A 5825:( 5813:) 5810:* 5801:( 5795:( 5786:( 5783:) 5768:( 5762:( 5756:) 5744:T 5738:( 5729:) 5726:i 5723:b 5717:( 5714:- 5711:( 5705:i 5702:i 5699:A 5693:( 5687:/ 5684:( 5681:* 5678:( 5672:i 5663:( 5660:) 5654:1 5651:- 5648:( 5645:* 5642:( 5639:+ 5636:( 5633:) 5630:i 5621:( 5615:( 5606:a 5603:* 5600:( 5591:( 5585:j 5576:( 5570:( 5564:j 5561:i 5558:A 5552:( 5549:a 5540:( 5537:) 5534:i 5531:j 5525:( 5519:( 5513:1 5507:n 5501:0 5495:j 5486:( 5471:( 5465:( 5459:0 5447:( 5441:1 5435:n 5429:0 5423:i 5414:( 5408:1 5402:1 5387:( 5381:n 5378:) 5375:* 5372:0 5366:( 5360:( 5354:( 5348:0 5345:A 5339:( 5336:n 5327:( 5318:) 5315:* 5309:* 5300:( 5297:) 5294:* 5291:1 5279:( 5273:( 5267:( 5258:) 5255:* 5246:( 5240:( 5234:( 5219:( 5213:( 5207:b 5204:) 5201:* 5192:( 5186:( 5180:( 5174:A 5168:* 5165:* 5162:( 5153:( 5147:( 5141:( 5069:( 5057:( 5051:( 5048:) 5039:( 5033:( 5024:( 5018:b 5012:( 5006:( 5000:( 4991:b 4988:A 4985:( 4976:( 4952:( 4943:) 4940:* 4937:0 4931:( 4925:( 4919:( 4913:) 4907:( 4898:( 4880:( 4871:) 4862:( 4856:( 4841:( 4835:( 4832:) 4826:( 4814:( 4799:( 4793:( 4784:) 4781:* 4772:( 4766:( 4760:( 4727:( 4718:( 4709:( 4697:- 4691:) 4688:* 4679:( 4670:( 4661:) 4658:* 4649:( 4643:( 4637:( 4628:) 4625:* 4616:( 4610:( 4604:( 4559:) 4550:( 4541:( 4532:) 4529:* 4526:0 4520:( 4514:( 4508:( 4505:) 4481:( 4478:) 4466:( 4384:0 4364:0 4344:0 4325:4 4321:x 4297:3 4293:x 4269:2 4265:x 4241:1 4237:x 4204:) 4201:0 4198:, 4195:0 4192:, 4189:0 4186:, 4183:0 4180:( 4177:= 4151:= 4115:= 4106:4 4102:x 4098:5 4095:+ 4090:3 4086:x 4082:7 4074:2 4070:x 4066:0 4063:+ 4058:1 4054:x 4050:1 4043:, 4034:= 4025:4 4021:x 4017:2 4009:3 4005:x 4001:4 3998:+ 3993:2 3989:x 3985:9 3982:+ 3977:1 3973:x 3969:0 3962:, 3956:= 3947:4 3943:x 3939:8 3936:+ 3931:3 3927:x 3920:+ 3915:2 3911:x 3907:4 3899:1 3895:x 3891:5 3881:, 3878:2 3875:= 3866:4 3862:x 3858:0 3855:+ 3850:3 3846:x 3842:6 3834:2 3830:x 3821:1 3817:x 3813:4 3772:) 3766:i 3751:i 3748:i 3744:a 3731:i 3727:b 3719:( 3712:+ 3707:i 3682:) 3671:i 3667:b 3663:( 3656:i 3653:i 3649:a 3640:+ 3635:i 3627:) 3618:1 3615:( 3595:i 3593:( 3584:a 3580:σ 3575:i 3573:b 3571:( 3569:ω 3564:i 3562:φ 3560:) 3558:ω 3550:i 3548:φ 3543:j 3541:( 3531:j 3529:φ 3523:a 3519:σ 3514:σ 3507:i 3503:j 3494:n 3484:j 3477:σ 3470:n 3460:i 3449:φ 3445:φ 3441:ω 3437:b 3433:A 3408:) 3403:1 3396:Z 3392:) 3389:U 3386:+ 3383:L 3380:+ 3377:D 3371:( 3368:Z 3365:( 3356:= 3353:) 3350:U 3347:+ 3344:L 3341:+ 3338:D 3332:( 3304:1 3298:i 3294:z 3290:= 3285:i 3282:i 3278:Z 3257:Z 3237:U 3231:z 3228:1 3222:+ 3219:L 3216:z 3213:+ 3210:D 3204:= 3199:1 3192:Z 3188:) 3185:U 3182:+ 3179:L 3176:+ 3173:D 3167:( 3164:Z 3137:) 3132:3 3124:( 3121:O 3118:+ 3113:4 3108:2 3098:= 3088:2 3077:1 3072:+ 3069:1 3060:2 3049:1 3041:1 3035:= 3032:) 3023:C 3019:( 2974:2 2970:) 2960:C 2956:( 2950:= 2945:2 2937:= 2934:) 2925:C 2921:( 2906:( 2894:1 2891:= 2865:. 2861:) 2856:3 2848:( 2845:O 2842:+ 2837:4 2832:2 2822:+ 2819:1 2816:= 2811:2 2806:) 2796:2 2785:1 2780:+ 2777:1 2768:( 2763:+ 2760:1 2714:2 2690:, 2686:1 2654:0 2649:, 2643:2 2638:) 2632:) 2629:1 2620:( 2617:4 2609:2 2599:2 2589:+ 2579:( 2572:4 2569:1 2561:{ 2556:= 2553:) 2544:C 2540:( 2522:. 2509:C 2482:} 2479:0 2476:{ 2469:C 2462:z 2442:) 2439:U 2436:+ 2433:L 2430:+ 2427:D 2421:( 2412:= 2409:) 2406:U 2400:z 2397:1 2391:+ 2388:L 2385:z 2382:+ 2379:D 2373:( 2347:U 2344:+ 2341:L 2338:+ 2335:D 2332:= 2329:A 2307:1 2301:) 2292:C 2288:( 2253:A 2248:1 2241:D 2234:I 2222:C 2196:) 2193:2 2190:, 2187:0 2184:( 2146:2 2134:0 2114:1 2108:) 2099:L 2095:( 2064:A 2044:. 2032:) 2023:C 2019:( 1984:C 1963:) 1954:C 1950:( 1915:. 1910:) 1903:) 1900:k 1897:( 1892:x 1887:U 1879:) 1876:1 1873:+ 1870:k 1867:( 1862:x 1857:L 1850:b 1844:( 1837:1 1830:D 1823:+ 1818:) 1815:k 1812:( 1807:x 1802:) 1793:1 1790:( 1787:= 1782:) 1779:1 1776:+ 1773:k 1770:( 1765:x 1740:) 1737:L 1731:+ 1728:D 1725:( 1702:. 1699:n 1696:, 1690:, 1687:2 1684:, 1681:1 1678:= 1675:i 1671:, 1667:) 1661:) 1658:k 1655:( 1650:j 1646:x 1640:j 1637:i 1633:a 1627:i 1621:j 1608:) 1605:1 1602:+ 1599:k 1596:( 1591:j 1587:x 1581:j 1578:i 1574:a 1568:i 1562:j 1549:i 1545:b 1540:( 1532:i 1529:i 1525:a 1516:+ 1511:) 1508:k 1505:( 1500:i 1496:x 1492:) 1483:1 1480:( 1477:= 1472:) 1469:1 1466:+ 1463:k 1460:( 1455:i 1451:x 1433:x 1427:+ 1425:D 1410:x 1399:k 1383:) 1380:1 1377:+ 1374:k 1371:( 1366:x 1343:x 1332:k 1316:) 1313:k 1310:( 1305:x 1280:, 1276:c 1272:+ 1267:) 1264:k 1261:( 1256:x 1245:L 1241:= 1236:) 1229:) 1226:k 1223:( 1218:x 1213:] 1210:D 1207:) 1204:1 1195:( 1192:+ 1189:U 1183:[ 1176:b 1167:( 1160:1 1153:) 1149:L 1143:+ 1140:D 1137:( 1134:= 1129:) 1126:1 1123:+ 1120:k 1117:( 1112:x 1097:x 1093:x 1060:x 1056:] 1053:D 1050:) 1047:1 1038:( 1035:+ 1032:U 1026:[ 1019:b 1012:= 1008:x 1004:) 1001:L 995:+ 992:D 989:( 963:. 958:] 952:0 942:0 937:0 906:n 903:2 899:a 888:0 883:0 874:n 871:1 867:a 850:a 844:0 838:[ 833:= 830:U 826:, 821:] 815:0 803:2 800:n 796:a 788:1 785:n 781:a 751:0 741:0 730:a 722:0 712:0 707:0 701:[ 696:= 693:L 689:, 684:] 676:n 673:n 669:a 658:0 653:0 624:0 608:a 602:0 595:0 585:0 574:a 567:[ 562:= 559:D 533:, 530:U 527:+ 524:L 521:+ 518:D 515:= 512:A 499:U 495:L 487:D 479:A 462:. 457:] 449:n 445:b 428:2 424:b 414:1 410:b 403:[ 398:= 394:b 389:, 384:] 376:n 372:x 355:2 351:x 341:1 337:x 330:[ 325:= 321:x 316:, 311:] 303:n 300:n 296:a 283:2 280:n 276:a 268:1 265:n 261:a 229:n 226:2 222:a 205:a 193:a 183:n 180:1 176:a 159:a 147:a 140:[ 135:= 132:A 105:b 101:= 97:x 93:A 80:x 76:n 27:(

Index

numerical linear algebra
Gauss–Seidel method
linear system of equations
iterative process
David M. Young Jr.
Stanley P. Frankel
Lewis Fry Richardson
R. V. Southwell
human calculators
diagonal
strictly lower and upper triangular
iterative technique
forward substitution

Ostrowski
symmetric
positive-definite
Jacobi's
Jacobi's method
Gauss-Seidel
tridiagonal matrices
Symmetric Successive Over-Relaxation
David M. Young Jr.
Richardson extrapolation
overshooting
Jacobi method
Gaussian Belief Propagation
Matrix splitting
Young, David M.
Iterative methods for solving partial difference equations of elliptical type

Text is available under the Creative Commons Attribution-ShareAlike License. Additional terms may apply.