Knowledge (XXG)

Broyden's method

Source 📝

1956: 2584: 1711: 2166: 1457: 2293: 819: 1951:{\displaystyle \mathbf {J} _{n}^{-1}=\mathbf {J} _{n-1}^{-1}+{\frac {\Delta \mathbf {x} _{n}-\mathbf {J} _{n-1}^{-1}\Delta \mathbf {f} _{n}}{\Delta \mathbf {x} _{n}^{\mathrm {T} }\mathbf {J} _{n-1}^{-1}\Delta \mathbf {f} _{n}}}\Delta \mathbf {x} _{n}^{\mathrm {T} }\mathbf {J} _{n-1}^{-1}.} 1982: 967: 1297: 1642: 2579:{\displaystyle \mathbf {J} _{k+1}=\mathbf {J} _{k}-{\frac {\mathbf {J} _{k}s_{k}s_{k}^{T}\mathbf {J} _{k}}{s_{k}^{T}\mathbf {J} _{k}s_{k}}}+{\frac {y_{k}y_{k}^{T}}{y_{k}^{T}s_{k}}}+\phi _{k}\left(s_{k}^{T}\mathbf {J} _{k}s_{k}\right)v_{k}v_{k}^{T},} 585: 2672: 1252: 271: 2256: 1181: 1109: 2161:{\displaystyle \mathbf {J} _{n}^{-1}=\mathbf {J} _{n-1}^{-1}+{\frac {\Delta \mathbf {x} _{n}-\mathbf {J} _{n-1}^{-1}\Delta \mathbf {f} _{n}}{\|\Delta \mathbf {f} _{n}\|^{2}}}\Delta \mathbf {f} _{n}^{\mathrm {T} }.} 79:
the number of variables can be in the hundreds of thousands. The idea behind Broyden's method is to compute the whole Jacobian at most only at the first iteration, and to do rank-one updates at other iterations.
383: 843: 1534: 2261:
In his original paper Broyden could not get the bad method to work, but there are cases where it does for which several explanations have been proposed. Many other quasi-Newton schemes have been suggested in
1037: 579: 2737: 1452:{\displaystyle \mathbf {J} _{n}=\mathbf {J} _{n-1}+{\frac {\Delta \mathbf {f} _{n}-\mathbf {J} _{n-1}\Delta \mathbf {x} _{n}}{\|\Delta \mathbf {x} _{n}\|^{2}}}\Delta \mathbf {x} _{n}^{\mathrm {T} }.} 473: 3104: 2926: 1545: 2891: 3041: 3840: 2997: 2970: 1671: 1699: 814:{\displaystyle \mathbf {f} (\mathbf {x} )={\big (}f_{1}(x_{1},x_{2},\dotsc ,x_{k}),f_{2}(x_{1},x_{2},\dotsc ,x_{k}),\dotsc ,f_{k}(x_{1},x_{2},\dotsc ,x_{k}){\big )}.} 1701:. The initial Jacobian can be taken as a diagonal, unit matrix, although more common is to scale it based upon the first step. Broyden also suggested using the 426: 2589: 1192: 71:, at every iteration. However, computing this Jacobian can be a difficult and expensive operation; for large problems such as those involving solving the 1279:, and then improving upon it by requiring that the new form is a solution to the most recent secant equation, and that there is minimal modification to 3099: 3007: 145: 2177: 1115: 1043: 3833: 3797: 3412: 962:{\displaystyle \mathbf {J} _{n}(\mathbf {x} _{n}-\mathbf {x} _{n-1})\simeq \mathbf {f} (\mathbf {x} _{n})-\mathbf {f} (\mathbf {x} _{n-1}),} 286: 4038: 1471: 3964: 3094: 984: 495: 3768: 3741: 824:
For such problems, Broyden gives a variation of the one-dimensional Newton's method, replacing the derivative with an approximate
3826: 2676: 4028: 825: 62: 434: 2286:
In addition to the two methods described above, Broyden defined a wider class of related methods. In general, methods in the
3813: 4059: 1702: 3010:, which is the only member of this class being published before the two methods defined by Broyden. For the DFP method, 3992: 3997: 2263: 3658: 2742: 3066: 3053: 3982: 3926: 2896: 1637:{\displaystyle \mathbf {x} _{n+1}=\mathbf {x} _{n}-\alpha \mathbf {J} _{n}^{-1}\mathbf {f} (\mathbf {x} _{n}).} 72: 4007: 3941: 3885: 3857: 3849: 3059:
A limited memory method by Srivastava for the root finding problem which only uses a few recent iterations.
3931: 3129: 1258: 38: 28: 4023: 1539:
One then updates the variables using the approximate Jacobian, what is called a quasi-Newton approach.
4002: 3977: 3987: 3908: 3089: 24: 3541:"Efficient iterative schemes for ab initio total-energy calculations using a plane-wave basis set" 3468: 3729: 3155: 3013: 4033: 3954: 3898: 3893: 3579: 3509: 3084: 277: 44: 3760: 2975: 2931: 2270:, where one seeks a maximum or minimum by finding zeros of the first derivatives (zeros of the 1650: 3949: 3793: 3764: 3737: 3703: 3683: 3640: 3599: 3560: 3490: 3449: 3408: 3372: 3326: 3260: 3221: 1267:
is greater than one. Broyden suggested using the most recent estimate of the Jacobian matrix,
136: 76: 3618: 1684: 3865: 3785: 3695: 3630: 3591: 3552: 3521: 3480: 3441: 3400: 3364: 3318: 3287: 3252: 3241:"Adjustment of an Inverse Matrix Corresponding to a Change in One Element of a Given Matrix" 3213: 3182: 3145: 100:
steps, although like all quasi-Newton methods, it may not converge for nonlinear systems.
3779: 3753: 3725: 3399:. Springer Series in Operations Research and Financial Engineering. Springer New York. 2667:{\displaystyle y_{k}:=\mathbf {f} (\mathbf {x} _{k+1})-\mathbf {f} (\mathbf {x} _{k}),} 2275: 411: 3485: 3469:"Modification of a quasi-Newton method for nonlinear equations with a sparse Jacobian" 3322: 3150: 3133: 1247:{\displaystyle \mathbf {J} _{n}\Delta \mathbf {x} _{n}\simeq \Delta \mathbf {f} _{n}.} 4053: 3972: 3921: 3619:"On Using Quasi-Newton Algorithms of the Broyden Class for Model-to-Test Correlation" 3595: 3540: 3525: 3394: 3079: 3049:
Schubert's or sparse Broyden algorithm – a modification for sparse Jacobian matrices.
114: 83:
In 1979 Gay proved that when Broyden's method is applied to a linear system of size
3870: 3306: 1678: 3240: 3046:
Anderson's iterative method, which uses a least squares approach to the Jacobian.
1964:
A similar technique can be derived by using a slightly different modification to
3348: 1674: 1463: 3699: 3429: 3368: 3875: 3556: 3404: 3256: 3201: 3707: 3644: 3603: 3564: 3494: 3453: 3376: 3330: 3264: 3225: 266:{\displaystyle f'(x_{n})\simeq {\frac {f(x_{n})-f(x_{n-1})}{x_{n}-x_{n-1}}},} 3789: 3684:"Computing the self-consistent field in Kohn–Sham density functional theory" 3510:"Convergence acceleration of iterative sequences. the case of scf iteration" 2251:{\displaystyle \|\mathbf {J} _{n}^{-1}-\mathbf {J} _{n-1}^{-1}\|_{\rm {F}}.} 1176:{\displaystyle \Delta \mathbf {f} _{n}=\mathbf {f} _{n}-\mathbf {f} _{n-1},} 1104:{\displaystyle \Delta \mathbf {x} _{n}=\mathbf {x} _{n}-\mathbf {x} _{n-1},} 3818: 3635: 3445: 3002:
Other methods in the Broyden class have been introduced by other authors.
2271: 833:. The approximate Jacobian matrix is determined iteratively based on the 3734:
Numerical Methods for Unconstrained Optimization and Nonlinear Equations
3291: 3217: 3159: 3173:
Gay, D. M. (1979). "Some convergence properties of Broyden's method".
3580:"Broyden's method for self-consistent field convergence acceleration" 1976:. This yields a second method, the so-called "bad Broyden's method": 3186: 2274:
in multiple dimensions). The Jacobian of the gradient is called the
1961:
This first method is commonly known as the "good Broyden's method."
378:{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f^{\prime }(x_{n})}}} 2278:
and is symmetric, adding further constraints to its approximation.
1705:
to directly update the inverse of the approximate Jacobian matrix:
1529:{\displaystyle \|\mathbf {J} _{n}-\mathbf {J} _{n-1}\|_{\rm {F}}.} 3134:"A Class of Methods for Solving Nonlinear Simultaneous Equations" 2267: 1032:{\displaystyle \mathbf {f} _{n}=\mathbf {f} (\mathbf {x} _{n}),} 3822: 574:{\displaystyle \mathbf {x} =(x_{1},x_{2},x_{3},\dotsc ,x_{k}),} 3307:"Practical quasi-Newton methods for solving nonlinear systems" 3759:(Second ed.). New York: John Wiley & Sons. pp.  3062:
Klement (2014) – uses fewer iterations to solve some systems.
351: 2732:{\displaystyle s_{k}:=\mathbf {x} _{k+1}-\mathbf {x} _{k},} 16:
Quasi-Newton root-finding method for the multivariable case
3659:"Broyden class methods – File Exchange – MATLAB Central" 468:{\displaystyle \mathbf {f} (\mathbf {x} )=\mathbf {0} ,} 3814:
Simple basic explanation: The story of the blind archer
3430:"Iterative Procedures for Nonlinear Integral Equations" 3736:. Englewood Cliffs: Prentice Hall. pp. 168–193. 3016: 2978: 2934: 2899: 2745: 2679: 2592: 2296: 2180: 1985: 1714: 1687: 1653: 1548: 1474: 1300: 1195: 1118: 1046: 987: 846: 588: 498: 437: 414: 289: 148: 3781:
Iterative Methods for Linear and Nonlinear Equations
4016: 3963: 3940: 3907: 3884: 3856: 3784:. Society for Industrial and Applied Mathematics. 3752: 3035: 2991: 2964: 2920: 2885: 2731: 2666: 2578: 2250: 2160: 1950: 1693: 1665: 1636: 1528: 1451: 1246: 1175: 1103: 1031: 961: 813: 573: 467: 420: 377: 265: 3278:Kvaalen, Eric (1991). "A faster Broyden method". 3311:Journal of Computational and Applied Mathematics 3202:"Matrix conditioning and nonlinear optimization" 3623:Journal of Aerospace Technology and Management 3584:Journal of Physics A: Mathematical and General 3388: 3386: 3144:(92). American Mathematical Society: 577–593. 3124: 3122: 3120: 3105:Broyden–Fletcher–Goldfarb–Shanno (BFGS) method 3834: 3239:Sherman, Jack; Morrison, Winifred J. (1950). 803: 610: 8: 3682:Woods, N D; Payne, M C; Hasnip, P J (2019). 2234: 2181: 2121: 2102: 1512: 1475: 1412: 1393: 978:is the iteration index. For clarity, define 3393:Nocedal, Jorge; Wright, Stephen J. (2006). 3841: 3827: 3819: 2171:This minimizes a different Frobenius norm 109:Solving single-variable nonlinear equation 37:variables. It was originally described by 3634: 3484: 3149: 3021: 3015: 2983: 2977: 2933: 2921:{\displaystyle \phi _{k}\in \mathbb {R} } 2914: 2913: 2904: 2898: 2866: 2856: 2851: 2844: 2839: 2827: 2817: 2812: 2808: 2796: 2786: 2781: 2770: 2764: 2750: 2744: 2720: 2715: 2699: 2694: 2684: 2678: 2652: 2647: 2638: 2620: 2615: 2606: 2597: 2591: 2567: 2562: 2552: 2537: 2527: 2522: 2515: 2510: 2495: 2479: 2469: 2464: 2452: 2447: 2437: 2430: 2418: 2408: 2403: 2396: 2391: 2379: 2374: 2367: 2362: 2352: 2342: 2337: 2333: 2324: 2319: 2303: 2298: 2295: 2238: 2237: 2224: 2213: 2208: 2195: 2190: 2185: 2179: 2148: 2147: 2142: 2137: 2124: 2114: 2109: 2094: 2089: 2076: 2065: 2060: 2050: 2045: 2038: 2026: 2015: 2010: 1997: 1992: 1987: 1984: 1936: 1925: 1920: 1912: 1911: 1906: 1901: 1888: 1883: 1870: 1859: 1854: 1846: 1845: 1840: 1835: 1823: 1818: 1805: 1794: 1789: 1779: 1774: 1767: 1755: 1744: 1739: 1726: 1721: 1716: 1713: 1686: 1673:this is the full Newton step; commonly a 1652: 1622: 1617: 1608: 1599: 1594: 1589: 1576: 1571: 1555: 1550: 1547: 1516: 1515: 1499: 1494: 1484: 1479: 1473: 1439: 1438: 1433: 1428: 1415: 1405: 1400: 1385: 1380: 1364: 1359: 1349: 1344: 1337: 1322: 1317: 1307: 1302: 1299: 1235: 1230: 1217: 1212: 1202: 1197: 1194: 1158: 1153: 1143: 1138: 1128: 1123: 1117: 1086: 1081: 1071: 1066: 1056: 1051: 1045: 1017: 1012: 1003: 994: 989: 986: 941: 936: 927: 915: 910: 901: 883: 878: 868: 863: 853: 848: 845: 802: 801: 792: 773: 760: 747: 725: 706: 693: 680: 664: 645: 632: 619: 609: 608: 597: 589: 587: 559: 540: 527: 514: 499: 497: 457: 446: 438: 436: 413: 363: 350: 335: 322: 313: 294: 288: 245: 232: 211: 189: 176: 164: 147: 3200:Shanno, D. F.; Phua, Kang -Hoh (1978). 3116: 398:Solving a system of nonlinear equations 484:is a vector-valued function of vector 3245:The Annals of Mathematical Statistics 837:, a finite-difference approximation: 7: 3688:Journal of Physics: Condensed Matter 3539:Kresse, G.; FurthmĂŒller, J. (1996). 3342: 3340: 3008:Davidon–Fletcher–Powell (DFP) method 3347:Marks, L. D.; Luke, D. R. (2008). 3175:SIAM Journal on Numerical Analysis 3052:The Pulay approach, often used in 2239: 2149: 2133: 2105: 2085: 2041: 1913: 1897: 1879: 1847: 1831: 1814: 1770: 1517: 1440: 1424: 1396: 1376: 1340: 1226: 1208: 1119: 1047: 117:, we replace the first derivative 14: 3755:Practical Methods of Optimization 3486:10.1090/S0025-5718-1970-0258276-9 3151:10.1090/S0025-5718-1965-0198670-6 1186:so the above may be rewritten as 4039:Sidi's generalized secant method 3353:quantum mechanical calculations" 2852: 2813: 2716: 2695: 2648: 2639: 2616: 2607: 2523: 2404: 2375: 2338: 2320: 2299: 2209: 2186: 2138: 2110: 2090: 2061: 2046: 2011: 1988: 1921: 1902: 1884: 1855: 1836: 1819: 1790: 1775: 1740: 1717: 1618: 1609: 1590: 1572: 1551: 1495: 1480: 1429: 1401: 1381: 1360: 1345: 1318: 1303: 1231: 1213: 1198: 1154: 1139: 1124: 1082: 1067: 1052: 1013: 1004: 990: 937: 928: 911: 902: 879: 864: 849: 598: 590: 500: 458: 447: 439: 4029:Inverse quadratic interpolation 3100:Davidon–Fletcher–Powell formula 3095:Newton's method in optimization 3305:Martı́nez, JosĂ© Mario (2000). 2658: 2643: 2632: 2611: 1628: 1613: 1023: 1008: 953: 932: 921: 906: 895: 859: 798: 753: 731: 686: 670: 625: 602: 594: 565: 507: 451: 443: 369: 356: 341: 328: 223: 204: 195: 182: 170: 157: 1: 3323:10.1016/s0377-0427(00)00434-9 3526:10.1016/0009-2614(80)80396-4 3428:Anderson, Donald G. (1965). 2886:{\displaystyle v_{k}=\left,} 2282:The Broyden Class of Methods 3036:{\displaystyle \phi _{k}=1} 4076: 3858:Bracketing (no derivative) 3596:10.1088/0305-4470/17/6/002 3473:Mathematics of Computation 3369:10.1103/physrevb.78.075114 3138:Mathematics of Computation 1681:method is used to control 3557:10.1103/PhysRevB.54.11169 3405:10.1007/978-0-387-40065-5 3280:BIT Numerical Mathematics 3067:density functional theory 3054:density functional theory 2992:{\displaystyle \phi _{k}} 2965:{\displaystyle k=1,2,...} 1666:{\displaystyle \alpha =1} 104:Description of the method 3700:10.1088/1361-648X/ab31c0 3578:Srivastava, G P (1984). 3514:Chemical Physics Letters 3467:Schubert, L. K. (1970). 3206:Mathematical Programming 3065:Multisecant methods for 2290:are given in the form 1703:Sherman–Morrison formula 394:is the iteration index. 4008:Splitting circle method 3993:Jenkins–Traub algorithm 3850:Root-finding algorithms 3790:10.1137/1.9781611970944 3257:10.1214/aoms/1177729893 2999:determines the method. 1694:{\displaystyle \alpha } 408:nonlinear equations in 276:and proceed similar to 19:In numerical analysis, 3998:Lehmer–Schur algorithm 3778:Kelley, C. T. (1995). 3396:Numerical Optimization 3037: 2993: 2966: 2922: 2887: 2733: 2668: 2580: 2252: 2162: 1952: 1695: 1667: 1638: 1530: 1453: 1257:The above equation is 1248: 1177: 1105: 1033: 963: 815: 575: 469: 422: 379: 267: 4024:Fixed-point iteration 3751:Fletcher, R. (1987). 3636:10.5028/jatm.v6i4.373 3617:Klement, Jan (2014). 3508:Pulay, PĂ©ter (1980). 3446:10.1145/321296.321305 3038: 2994: 2967: 2923: 2888: 2734: 2669: 2581: 2253: 2163: 1953: 1696: 1668: 1639: 1531: 1454: 1249: 1178: 1106: 1034: 964: 816: 576: 470: 423: 402:Consider a system of 380: 268: 4060:Quasi-Newton methods 3983:Durand–Kerner method 3927:Newton–Krylov method 3286:(2). SIAM: 369–372. 3181:(4). SIAM: 623–630. 3014: 2976: 2932: 2897: 2743: 2677: 2590: 2294: 2178: 1983: 1712: 1685: 1651: 1546: 1472: 1298: 1193: 1116: 1044: 985: 844: 586: 496: 435: 412: 287: 146: 3932:Steffensen's method 3730:Schnabel, Robert B. 3551:(16): 11169–11186. 3349:"Robust mixing for 3090:Quasi-Newton method 2849: 2791: 2572: 2520: 2474: 2457: 2401: 2372: 2232: 2203: 2154: 2084: 2034: 2005: 1944: 1918: 1878: 1852: 1813: 1763: 1734: 1607: 1462:This minimizes the 1445: 93:, it terminates in 73:Kohn–Sham equations 25:quasi-Newton method 3965:Polynomial methods 3434:Journal of the ACM 3292:10.1007/BF01931297 3218:10.1007/BF01588962 3033: 2989: 2962: 2918: 2883: 2835: 2777: 2729: 2664: 2576: 2558: 2506: 2460: 2443: 2387: 2358: 2248: 2207: 2184: 2158: 2136: 2059: 2009: 1986: 1948: 1919: 1900: 1853: 1834: 1788: 1738: 1715: 1691: 1663: 1634: 1588: 1526: 1449: 1427: 1244: 1173: 1101: 1029: 959: 811: 571: 465: 418: 375: 263: 4047: 4046: 4003:Laguerre's method 3978:Bairstow's method 3799:978-0-89871-352-7 3663:www.mathworks.com 3545:Physical Review B 3414:978-0-387-30303-1 3357:Physical Review B 2873: 2803: 2486: 2425: 2131: 1895: 1422: 421:{\displaystyle k} 373: 258: 137:finite-difference 77:quantum mechanics 4067: 3988:Graeffe's method 3917:Broyden's method 3866:Bisection method 3843: 3836: 3829: 3820: 3803: 3774: 3758: 3747: 3712: 3711: 3679: 3673: 3672: 3670: 3669: 3655: 3649: 3648: 3638: 3614: 3608: 3607: 3590:(6): L317–L321. 3575: 3569: 3568: 3536: 3530: 3529: 3505: 3499: 3498: 3488: 3464: 3458: 3457: 3425: 3419: 3418: 3390: 3381: 3380: 3344: 3335: 3334: 3302: 3296: 3295: 3275: 3269: 3268: 3236: 3230: 3229: 3197: 3191: 3190: 3170: 3164: 3163: 3153: 3126: 3042: 3040: 3039: 3034: 3026: 3025: 2998: 2996: 2995: 2990: 2988: 2987: 2972:. The choice of 2971: 2969: 2968: 2963: 2927: 2925: 2924: 2919: 2917: 2909: 2908: 2892: 2890: 2889: 2884: 2879: 2875: 2874: 2872: 2871: 2870: 2861: 2860: 2855: 2848: 2843: 2833: 2832: 2831: 2822: 2821: 2816: 2809: 2804: 2802: 2801: 2800: 2790: 2785: 2775: 2774: 2765: 2755: 2754: 2738: 2736: 2735: 2730: 2725: 2724: 2719: 2710: 2709: 2698: 2689: 2688: 2673: 2671: 2670: 2665: 2657: 2656: 2651: 2642: 2631: 2630: 2619: 2610: 2602: 2601: 2585: 2583: 2582: 2577: 2571: 2566: 2557: 2556: 2547: 2543: 2542: 2541: 2532: 2531: 2526: 2519: 2514: 2500: 2499: 2487: 2485: 2484: 2483: 2473: 2468: 2458: 2456: 2451: 2442: 2441: 2431: 2426: 2424: 2423: 2422: 2413: 2412: 2407: 2400: 2395: 2385: 2384: 2383: 2378: 2371: 2366: 2357: 2356: 2347: 2346: 2341: 2334: 2329: 2328: 2323: 2314: 2313: 2302: 2257: 2255: 2254: 2249: 2244: 2243: 2242: 2231: 2223: 2212: 2202: 2194: 2189: 2167: 2165: 2164: 2159: 2153: 2152: 2146: 2141: 2132: 2130: 2129: 2128: 2119: 2118: 2113: 2100: 2099: 2098: 2093: 2083: 2075: 2064: 2055: 2054: 2049: 2039: 2033: 2025: 2014: 2004: 1996: 1991: 1975: 1957: 1955: 1954: 1949: 1943: 1935: 1924: 1917: 1916: 1910: 1905: 1896: 1894: 1893: 1892: 1887: 1877: 1869: 1858: 1851: 1850: 1844: 1839: 1829: 1828: 1827: 1822: 1812: 1804: 1793: 1784: 1783: 1778: 1768: 1762: 1754: 1743: 1733: 1725: 1720: 1700: 1698: 1697: 1692: 1672: 1670: 1669: 1664: 1643: 1641: 1640: 1635: 1627: 1626: 1621: 1612: 1606: 1598: 1593: 1581: 1580: 1575: 1566: 1565: 1554: 1535: 1533: 1532: 1527: 1522: 1521: 1520: 1510: 1509: 1498: 1489: 1488: 1483: 1458: 1456: 1455: 1450: 1444: 1443: 1437: 1432: 1423: 1421: 1420: 1419: 1410: 1409: 1404: 1391: 1390: 1389: 1384: 1375: 1374: 1363: 1354: 1353: 1348: 1338: 1333: 1332: 1321: 1312: 1311: 1306: 1290: 1278: 1266: 1253: 1251: 1250: 1245: 1240: 1239: 1234: 1222: 1221: 1216: 1207: 1206: 1201: 1182: 1180: 1179: 1174: 1169: 1168: 1157: 1148: 1147: 1142: 1133: 1132: 1127: 1110: 1108: 1107: 1102: 1097: 1096: 1085: 1076: 1075: 1070: 1061: 1060: 1055: 1038: 1036: 1035: 1030: 1022: 1021: 1016: 1007: 999: 998: 993: 977: 968: 966: 965: 960: 952: 951: 940: 931: 920: 919: 914: 905: 894: 893: 882: 873: 872: 867: 858: 857: 852: 832: 820: 818: 817: 812: 807: 806: 797: 796: 778: 777: 765: 764: 752: 751: 730: 729: 711: 710: 698: 697: 685: 684: 669: 668: 650: 649: 637: 636: 624: 623: 614: 613: 601: 593: 580: 578: 577: 572: 564: 563: 545: 544: 532: 531: 519: 518: 503: 489: 483: 474: 472: 471: 466: 461: 450: 442: 427: 425: 424: 419: 407: 393: 384: 382: 381: 376: 374: 372: 368: 367: 355: 354: 344: 340: 339: 323: 318: 317: 305: 304: 272: 270: 269: 264: 259: 257: 256: 255: 237: 236: 226: 222: 221: 194: 193: 177: 169: 168: 156: 134: 123: 99: 92: 70: 60: 36: 21:Broyden's method 4075: 4074: 4070: 4069: 4068: 4066: 4065: 4064: 4050: 4049: 4048: 4043: 4034:Muller's method 4012: 3959: 3955:Ridders' method 3936: 3903: 3899:Halley's method 3894:Newton's method 3880: 3852: 3847: 3810: 3800: 3777: 3771: 3750: 3744: 3724: 3721: 3719:Further reading 3716: 3715: 3681: 3680: 3676: 3667: 3665: 3657: 3656: 3652: 3616: 3615: 3611: 3577: 3576: 3572: 3538: 3537: 3533: 3507: 3506: 3502: 3466: 3465: 3461: 3427: 3426: 3422: 3415: 3392: 3391: 3384: 3346: 3345: 3338: 3317:(1–2): 97–121. 3304: 3303: 3299: 3277: 3276: 3272: 3238: 3237: 3233: 3199: 3198: 3194: 3187:10.1137/0716047 3172: 3171: 3167: 3128: 3127: 3118: 3113: 3085:Newton's method 3076: 3017: 3012: 3011: 2979: 2974: 2973: 2930: 2929: 2900: 2895: 2894: 2862: 2850: 2834: 2823: 2811: 2810: 2792: 2776: 2766: 2763: 2759: 2746: 2741: 2740: 2714: 2693: 2680: 2675: 2674: 2646: 2614: 2593: 2588: 2587: 2548: 2533: 2521: 2505: 2501: 2491: 2475: 2459: 2433: 2432: 2414: 2402: 2386: 2373: 2348: 2336: 2335: 2318: 2297: 2292: 2291: 2284: 2233: 2176: 2175: 2120: 2108: 2101: 2088: 2044: 2040: 1981: 1980: 1974: 1965: 1882: 1830: 1817: 1773: 1769: 1710: 1709: 1683: 1682: 1649: 1648: 1616: 1570: 1549: 1544: 1543: 1511: 1493: 1478: 1470: 1469: 1411: 1399: 1392: 1379: 1358: 1343: 1339: 1316: 1301: 1296: 1295: 1289: 1280: 1277: 1268: 1262: 1259:underdetermined 1229: 1211: 1196: 1191: 1190: 1152: 1137: 1122: 1114: 1113: 1080: 1065: 1050: 1042: 1041: 1011: 988: 983: 982: 973: 935: 909: 877: 862: 847: 842: 841: 835:secant equation 828: 788: 769: 756: 743: 721: 702: 689: 676: 660: 641: 628: 615: 584: 583: 555: 536: 523: 510: 494: 493: 485: 479: 433: 432: 410: 409: 403: 400: 389: 359: 346: 345: 331: 324: 309: 290: 285: 284: 278:Newton's method 241: 228: 227: 207: 185: 178: 160: 149: 144: 143: 139:approximation: 133: 125: 118: 111: 106: 94: 84: 66: 63:Jacobian matrix 48: 45:Newton's method 32: 17: 12: 11: 5: 4073: 4071: 4063: 4062: 4052: 4051: 4045: 4044: 4042: 4041: 4036: 4031: 4026: 4020: 4018: 4014: 4013: 4011: 4010: 4005: 4000: 3995: 3990: 3985: 3980: 3975: 3969: 3967: 3961: 3960: 3958: 3957: 3952: 3950:Brent's method 3946: 3944: 3942:Hybrid methods 3938: 3937: 3935: 3934: 3929: 3924: 3919: 3913: 3911: 3905: 3904: 3902: 3901: 3896: 3890: 3888: 3882: 3881: 3879: 3878: 3873: 3868: 3862: 3860: 3854: 3853: 3848: 3846: 3845: 3838: 3831: 3823: 3817: 3816: 3809: 3808:External links 3806: 3805: 3804: 3798: 3775: 3769: 3748: 3742: 3720: 3717: 3714: 3713: 3694:(45): 453001. 3674: 3650: 3629:(4): 407–414. 3609: 3570: 3531: 3520:(2): 393–398. 3500: 3479:(109): 27–30. 3459: 3440:(4): 547–560. 3420: 3413: 3382: 3336: 3297: 3270: 3251:(1): 124–127. 3231: 3212:(1): 149–160. 3192: 3165: 3130:Broyden, C. G. 3115: 3114: 3112: 3109: 3108: 3107: 3102: 3097: 3092: 3087: 3082: 3075: 3072: 3071: 3070: 3063: 3060: 3057: 3050: 3047: 3044: 3032: 3029: 3024: 3020: 2986: 2982: 2961: 2958: 2955: 2952: 2949: 2946: 2943: 2940: 2937: 2916: 2912: 2907: 2903: 2882: 2878: 2869: 2865: 2859: 2854: 2847: 2842: 2838: 2830: 2826: 2820: 2815: 2807: 2799: 2795: 2789: 2784: 2780: 2773: 2769: 2762: 2758: 2753: 2749: 2728: 2723: 2718: 2713: 2708: 2705: 2702: 2697: 2692: 2687: 2683: 2663: 2660: 2655: 2650: 2645: 2641: 2637: 2634: 2629: 2626: 2623: 2618: 2613: 2609: 2605: 2600: 2596: 2575: 2570: 2565: 2561: 2555: 2551: 2546: 2540: 2536: 2530: 2525: 2518: 2513: 2509: 2504: 2498: 2494: 2490: 2482: 2478: 2472: 2467: 2463: 2455: 2450: 2446: 2440: 2436: 2429: 2421: 2417: 2411: 2406: 2399: 2394: 2390: 2382: 2377: 2370: 2365: 2361: 2355: 2351: 2345: 2340: 2332: 2327: 2322: 2317: 2312: 2309: 2306: 2301: 2283: 2280: 2259: 2258: 2247: 2241: 2236: 2230: 2227: 2222: 2219: 2216: 2211: 2206: 2201: 2198: 2193: 2188: 2183: 2169: 2168: 2157: 2151: 2145: 2140: 2135: 2127: 2123: 2117: 2112: 2107: 2104: 2097: 2092: 2087: 2082: 2079: 2074: 2071: 2068: 2063: 2058: 2053: 2048: 2043: 2037: 2032: 2029: 2024: 2021: 2018: 2013: 2008: 2003: 2000: 1995: 1990: 1969: 1959: 1958: 1947: 1942: 1939: 1934: 1931: 1928: 1923: 1915: 1909: 1904: 1899: 1891: 1886: 1881: 1876: 1873: 1868: 1865: 1862: 1857: 1849: 1843: 1838: 1833: 1826: 1821: 1816: 1811: 1808: 1803: 1800: 1797: 1792: 1787: 1782: 1777: 1772: 1766: 1761: 1758: 1753: 1750: 1747: 1742: 1737: 1732: 1729: 1724: 1719: 1690: 1662: 1659: 1656: 1645: 1644: 1633: 1630: 1625: 1620: 1615: 1611: 1605: 1602: 1597: 1592: 1587: 1584: 1579: 1574: 1569: 1564: 1561: 1558: 1553: 1537: 1536: 1525: 1519: 1514: 1508: 1505: 1502: 1497: 1492: 1487: 1482: 1477: 1464:Frobenius norm 1460: 1459: 1448: 1442: 1436: 1431: 1426: 1418: 1414: 1408: 1403: 1398: 1395: 1388: 1383: 1378: 1373: 1370: 1367: 1362: 1357: 1352: 1347: 1342: 1336: 1331: 1328: 1325: 1320: 1315: 1310: 1305: 1284: 1272: 1255: 1254: 1243: 1238: 1233: 1228: 1225: 1220: 1215: 1210: 1205: 1200: 1184: 1183: 1172: 1167: 1164: 1161: 1156: 1151: 1146: 1141: 1136: 1131: 1126: 1121: 1111: 1100: 1095: 1092: 1089: 1084: 1079: 1074: 1069: 1064: 1059: 1054: 1049: 1039: 1028: 1025: 1020: 1015: 1010: 1006: 1002: 997: 992: 970: 969: 958: 955: 950: 947: 944: 939: 934: 930: 926: 923: 918: 913: 908: 904: 900: 897: 892: 889: 886: 881: 876: 871: 866: 861: 856: 851: 822: 821: 810: 805: 800: 795: 791: 787: 784: 781: 776: 772: 768: 763: 759: 755: 750: 746: 742: 739: 736: 733: 728: 724: 720: 717: 714: 709: 705: 701: 696: 692: 688: 683: 679: 675: 672: 667: 663: 659: 656: 653: 648: 644: 640: 635: 631: 627: 622: 618: 612: 607: 604: 600: 596: 592: 581: 570: 567: 562: 558: 554: 551: 548: 543: 539: 535: 530: 526: 522: 517: 513: 509: 506: 502: 476: 475: 464: 460: 456: 453: 449: 445: 441: 417: 399: 396: 386: 385: 371: 366: 362: 358: 353: 349: 343: 338: 334: 330: 327: 321: 316: 312: 308: 303: 300: 297: 293: 274: 273: 262: 254: 251: 248: 244: 240: 235: 231: 225: 220: 217: 214: 210: 206: 203: 200: 197: 192: 188: 184: 181: 175: 172: 167: 163: 159: 155: 152: 129: 110: 107: 105: 102: 15: 13: 10: 9: 6: 4: 3: 2: 4072: 4061: 4058: 4057: 4055: 4040: 4037: 4035: 4032: 4030: 4027: 4025: 4022: 4021: 4019: 4017:Other methods 4015: 4009: 4006: 4004: 4001: 3999: 3996: 3994: 3991: 3989: 3986: 3984: 3981: 3979: 3976: 3974: 3973:Aberth method 3971: 3970: 3968: 3966: 3962: 3956: 3953: 3951: 3948: 3947: 3945: 3943: 3939: 3933: 3930: 3928: 3925: 3923: 3922:Secant method 3920: 3918: 3915: 3914: 3912: 3910: 3906: 3900: 3897: 3895: 3892: 3891: 3889: 3887: 3883: 3877: 3874: 3872: 3869: 3867: 3864: 3863: 3861: 3859: 3855: 3851: 3844: 3839: 3837: 3832: 3830: 3825: 3824: 3821: 3815: 3812: 3811: 3807: 3801: 3795: 3791: 3787: 3783: 3782: 3776: 3772: 3770:0-471-91547-5 3766: 3762: 3757: 3756: 3749: 3745: 3743:0-13-627216-9 3739: 3735: 3731: 3727: 3726:Dennis, J. E. 3723: 3722: 3718: 3709: 3705: 3701: 3697: 3693: 3689: 3685: 3678: 3675: 3664: 3660: 3654: 3651: 3646: 3642: 3637: 3632: 3628: 3624: 3620: 3613: 3610: 3605: 3601: 3597: 3593: 3589: 3585: 3581: 3574: 3571: 3566: 3562: 3558: 3554: 3550: 3546: 3542: 3535: 3532: 3527: 3523: 3519: 3515: 3511: 3504: 3501: 3496: 3492: 3487: 3482: 3478: 3474: 3470: 3463: 3460: 3455: 3451: 3447: 3443: 3439: 3435: 3431: 3424: 3421: 3416: 3410: 3406: 3402: 3398: 3397: 3389: 3387: 3383: 3378: 3374: 3370: 3366: 3362: 3358: 3354: 3352: 3343: 3341: 3337: 3332: 3328: 3324: 3320: 3316: 3312: 3308: 3301: 3298: 3293: 3289: 3285: 3281: 3274: 3271: 3266: 3262: 3258: 3254: 3250: 3246: 3242: 3235: 3232: 3227: 3223: 3219: 3215: 3211: 3207: 3203: 3196: 3193: 3188: 3184: 3180: 3176: 3169: 3166: 3161: 3157: 3152: 3147: 3143: 3139: 3135: 3131: 3125: 3123: 3121: 3117: 3110: 3106: 3103: 3101: 3098: 3096: 3093: 3091: 3088: 3086: 3083: 3081: 3080:Secant method 3078: 3077: 3073: 3068: 3064: 3061: 3058: 3055: 3051: 3048: 3045: 3030: 3027: 3022: 3018: 3009: 3005: 3004: 3003: 3000: 2984: 2980: 2959: 2956: 2953: 2950: 2947: 2944: 2941: 2938: 2935: 2910: 2905: 2901: 2880: 2876: 2867: 2863: 2857: 2845: 2840: 2836: 2828: 2824: 2818: 2805: 2797: 2793: 2787: 2782: 2778: 2771: 2767: 2760: 2756: 2751: 2747: 2726: 2721: 2711: 2706: 2703: 2700: 2690: 2685: 2681: 2661: 2653: 2635: 2627: 2624: 2621: 2603: 2598: 2594: 2573: 2568: 2563: 2559: 2553: 2549: 2544: 2538: 2534: 2528: 2516: 2511: 2507: 2502: 2496: 2492: 2488: 2480: 2476: 2470: 2465: 2461: 2453: 2448: 2444: 2438: 2434: 2427: 2419: 2415: 2409: 2397: 2392: 2388: 2380: 2368: 2363: 2359: 2353: 2349: 2343: 2330: 2325: 2315: 2310: 2307: 2304: 2289: 2288:Broyden class 2281: 2279: 2277: 2273: 2269: 2265: 2245: 2228: 2225: 2220: 2217: 2214: 2204: 2199: 2196: 2191: 2174: 2173: 2172: 2155: 2143: 2125: 2115: 2095: 2080: 2077: 2072: 2069: 2066: 2056: 2051: 2035: 2030: 2027: 2022: 2019: 2016: 2006: 2001: 1998: 1993: 1979: 1978: 1977: 1972: 1968: 1962: 1945: 1940: 1937: 1932: 1929: 1926: 1907: 1889: 1874: 1871: 1866: 1863: 1860: 1841: 1824: 1809: 1806: 1801: 1798: 1795: 1785: 1780: 1764: 1759: 1756: 1751: 1748: 1745: 1735: 1730: 1727: 1722: 1708: 1707: 1706: 1704: 1688: 1680: 1676: 1660: 1657: 1654: 1631: 1623: 1603: 1600: 1595: 1585: 1582: 1577: 1567: 1562: 1559: 1556: 1542: 1541: 1540: 1523: 1506: 1503: 1500: 1490: 1485: 1468: 1467: 1466: 1465: 1446: 1434: 1416: 1406: 1386: 1371: 1368: 1365: 1355: 1350: 1334: 1329: 1326: 1323: 1313: 1308: 1294: 1293: 1292: 1287: 1283: 1275: 1271: 1265: 1260: 1241: 1236: 1223: 1218: 1203: 1189: 1188: 1187: 1170: 1165: 1162: 1159: 1149: 1144: 1134: 1129: 1112: 1098: 1093: 1090: 1087: 1077: 1072: 1062: 1057: 1040: 1026: 1018: 1000: 995: 981: 980: 979: 976: 956: 948: 945: 942: 924: 916: 898: 890: 887: 884: 874: 869: 854: 840: 839: 838: 836: 831: 827: 808: 793: 789: 785: 782: 779: 774: 770: 766: 761: 757: 748: 744: 740: 737: 734: 726: 722: 718: 715: 712: 707: 703: 699: 694: 690: 681: 677: 673: 665: 661: 657: 654: 651: 646: 642: 638: 633: 629: 620: 616: 605: 582: 568: 560: 556: 552: 549: 546: 541: 537: 533: 528: 524: 520: 515: 511: 504: 492: 491: 490: 488: 482: 462: 454: 431: 430: 429: 415: 406: 397: 395: 392: 364: 360: 347: 336: 332: 325: 319: 314: 310: 306: 301: 298: 295: 291: 283: 282: 281: 279: 260: 252: 249: 246: 242: 238: 233: 229: 218: 215: 212: 208: 201: 198: 190: 186: 179: 173: 165: 161: 153: 150: 142: 141: 140: 138: 132: 128: 121: 116: 115:secant method 108: 103: 101: 98: 91: 87: 81: 78: 74: 69: 64: 59: 55: 51: 46: 42: 40: 39:C. G. Broyden 35: 30: 29:finding roots 26: 22: 3916: 3909:Quasi-Newton 3871:Regula falsi 3780: 3754: 3733: 3691: 3687: 3677: 3666:. Retrieved 3662: 3653: 3626: 3622: 3612: 3587: 3583: 3573: 3548: 3544: 3534: 3517: 3513: 3503: 3476: 3472: 3462: 3437: 3433: 3423: 3395: 3360: 3356: 3350: 3314: 3310: 3300: 3283: 3279: 3273: 3248: 3244: 3234: 3209: 3205: 3195: 3178: 3174: 3168: 3141: 3137: 3001: 2287: 2285: 2266:such as the 2264:optimization 2260: 2170: 1970: 1966: 1963: 1960: 1679:trust region 1675:line search 1646: 1538: 1461: 1285: 1281: 1273: 1269: 1263: 1256: 1185: 974: 971: 834: 829: 823: 486: 480: 477: 404: 401: 390: 387: 275: 130: 126: 119: 112: 96: 89: 85: 82: 67: 57: 53: 49: 47:for solving 43: 33: 20: 18: 3886:Householder 3876:ITP method 3668:2016-02-04 3111:References 3708:0953-8984 3645:2175-9146 3604:0305-4470 3565:0163-1829 3495:0025-5718 3454:0004-5411 3377:1098-0121 3351:ab initio 3331:0377-0427 3265:0003-4851 3226:0025-5610 3019:ϕ 2981:ϕ 2928:for each 2911:∈ 2902:ϕ 2806:− 2712:− 2636:− 2493:ϕ 2331:− 2235:‖ 2226:− 2218:− 2205:− 2197:− 2182:‖ 2134:Δ 2122:‖ 2106:Δ 2103:‖ 2086:Δ 2078:− 2070:− 2057:− 2042:Δ 2028:− 2020:− 1999:− 1938:− 1930:− 1898:Δ 1880:Δ 1872:− 1864:− 1832:Δ 1815:Δ 1807:− 1799:− 1786:− 1771:Δ 1757:− 1749:− 1728:− 1689:α 1655:α 1601:− 1586:α 1583:− 1513:‖ 1504:− 1491:− 1476:‖ 1425:Δ 1413:‖ 1397:Δ 1394:‖ 1377:Δ 1369:− 1356:− 1341:Δ 1327:− 1227:Δ 1224:≃ 1209:Δ 1163:− 1150:− 1120:Δ 1091:− 1078:− 1048:Δ 946:− 925:− 899:≃ 888:− 875:− 783:… 738:… 716:… 655:… 550:… 428:unknowns 352:′ 320:− 250:− 239:− 216:− 199:− 174:≃ 135:with the 61:uses the 41:in 1965. 4054:Category 3732:(1983). 3132:(1965). 3074:See also 3069:problems 2272:gradient 826:Jacobian 154:′ 3160:2003941 2276:Hessian 113:In the 3796:  3767:  3740:  3706:  3643:  3602:  3563:  3493:  3452:  3411:  3375:  3329:  3263:  3224:  3158:  2586:where 972:where 478:where 388:where 3761:44–79 3363:(7). 3156:JSTOR 1261:when 23:is a 3794:ISBN 3765:ISBN 3738:ISBN 3704:ISSN 3641:ISSN 3600:ISSN 3561:ISSN 3491:ISSN 3450:ISSN 3409:ISBN 3373:ISSN 3327:ISSN 3261:ISSN 3222:ISSN 3006:The 2893:and 2739:and 2268:BFGS 56:) = 27:for 3786:doi 3696:doi 3631:doi 3592:doi 3553:doi 3522:doi 3481:doi 3442:doi 3401:doi 3365:doi 3319:doi 3315:124 3288:doi 3253:doi 3214:doi 3183:doi 3146:doi 1677:or 1647:If 124:at 75:in 31:in 4056:: 3792:. 3763:. 3728:; 3702:. 3692:31 3690:. 3686:. 3661:. 3639:. 3625:. 3621:. 3598:. 3588:17 3586:. 3582:. 3559:. 3549:54 3547:. 3543:. 3518:73 3516:. 3512:. 3489:. 3477:24 3475:. 3471:. 3448:. 3438:12 3436:. 3432:. 3407:. 3385:^ 3371:. 3361:78 3359:. 3355:. 3339:^ 3325:. 3313:. 3309:. 3284:31 3282:. 3259:. 3249:21 3247:. 3243:. 3220:. 3210:14 3208:. 3204:. 3179:16 3177:. 3154:. 3142:19 3140:. 3136:. 3119:^ 2691::= 2604::= 1973:−1 1291:: 1288:−1 1276:−1 280:: 95:2 88:× 65:, 3842:e 3835:t 3828:v 3802:. 3788:: 3773:. 3746:. 3710:. 3698:: 3671:. 3647:. 3633:: 3627:6 3606:. 3594:: 3567:. 3555:: 3528:. 3524:: 3497:. 3483:: 3456:. 3444:: 3417:. 3403:: 3379:. 3367:: 3333:. 3321:: 3294:. 3290:: 3267:. 3255:: 3228:. 3216:: 3189:. 3185:: 3162:. 3148:: 3056:. 3043:. 3031:1 3028:= 3023:k 2985:k 2960:. 2957:. 2954:. 2951:, 2948:2 2945:, 2942:1 2939:= 2936:k 2915:R 2906:k 2881:, 2877:] 2868:k 2864:s 2858:k 2853:J 2846:T 2841:k 2837:s 2829:k 2825:s 2819:k 2814:J 2798:k 2794:s 2788:T 2783:k 2779:y 2772:k 2768:y 2761:[ 2757:= 2752:k 2748:v 2727:, 2722:k 2717:x 2707:1 2704:+ 2701:k 2696:x 2686:k 2682:s 2662:, 2659:) 2654:k 2649:x 2644:( 2640:f 2633:) 2628:1 2625:+ 2622:k 2617:x 2612:( 2608:f 2599:k 2595:y 2574:, 2569:T 2564:k 2560:v 2554:k 2550:v 2545:) 2539:k 2535:s 2529:k 2524:J 2517:T 2512:k 2508:s 2503:( 2497:k 2489:+ 2481:k 2477:s 2471:T 2466:k 2462:y 2454:T 2449:k 2445:y 2439:k 2435:y 2428:+ 2420:k 2416:s 2410:k 2405:J 2398:T 2393:k 2389:s 2381:k 2376:J 2369:T 2364:k 2360:s 2354:k 2350:s 2344:k 2339:J 2326:k 2321:J 2316:= 2311:1 2308:+ 2305:k 2300:J 2246:. 2240:F 2229:1 2221:1 2215:n 2210:J 2200:1 2192:n 2187:J 2156:. 2150:T 2144:n 2139:f 2126:2 2116:n 2111:f 2096:n 2091:f 2081:1 2073:1 2067:n 2062:J 2052:n 2047:x 2036:+ 2031:1 2023:1 2017:n 2012:J 2007:= 2002:1 1994:n 1989:J 1971:n 1967:J 1946:. 1941:1 1933:1 1927:n 1922:J 1914:T 1908:n 1903:x 1890:n 1885:f 1875:1 1867:1 1861:n 1856:J 1848:T 1842:n 1837:x 1825:n 1820:f 1810:1 1802:1 1796:n 1791:J 1781:n 1776:x 1765:+ 1760:1 1752:1 1746:n 1741:J 1736:= 1731:1 1723:n 1718:J 1661:1 1658:= 1632:. 1629:) 1624:n 1619:x 1614:( 1610:f 1604:1 1596:n 1591:J 1578:n 1573:x 1568:= 1563:1 1560:+ 1557:n 1552:x 1524:. 1518:F 1507:1 1501:n 1496:J 1486:n 1481:J 1447:. 1441:T 1435:n 1430:x 1417:2 1407:n 1402:x 1387:n 1382:x 1372:1 1366:n 1361:J 1351:n 1346:f 1335:+ 1330:1 1324:n 1319:J 1314:= 1309:n 1304:J 1286:n 1282:J 1274:n 1270:J 1264:k 1242:. 1237:n 1232:f 1219:n 1214:x 1204:n 1199:J 1171:, 1166:1 1160:n 1155:f 1145:n 1140:f 1135:= 1130:n 1125:f 1099:, 1094:1 1088:n 1083:x 1073:n 1068:x 1063:= 1058:n 1053:x 1027:, 1024:) 1019:n 1014:x 1009:( 1005:f 1001:= 996:n 991:f 975:n 957:, 954:) 949:1 943:n 938:x 933:( 929:f 922:) 917:n 912:x 907:( 903:f 896:) 891:1 885:n 880:x 870:n 865:x 860:( 855:n 850:J 830:J 809:. 804:) 799:) 794:k 790:x 786:, 780:, 775:2 771:x 767:, 762:1 758:x 754:( 749:k 745:f 741:, 735:, 732:) 727:k 723:x 719:, 713:, 708:2 704:x 700:, 695:1 691:x 687:( 682:2 678:f 674:, 671:) 666:k 662:x 658:, 652:, 647:2 643:x 639:, 634:1 630:x 626:( 621:1 617:f 611:( 606:= 603:) 599:x 595:( 591:f 569:, 566:) 561:k 557:x 553:, 547:, 542:3 538:x 534:, 529:2 525:x 521:, 516:1 512:x 508:( 505:= 501:x 487:x 481:f 463:, 459:0 455:= 452:) 448:x 444:( 440:f 416:k 405:k 391:n 370:) 365:n 361:x 357:( 348:f 342:) 337:n 333:x 329:( 326:f 315:n 311:x 307:= 302:1 299:+ 296:n 292:x 261:, 253:1 247:n 243:x 234:n 230:x 224:) 219:1 213:n 209:x 205:( 202:f 196:) 191:n 187:x 183:( 180:f 171:) 166:n 162:x 158:( 151:f 131:n 127:x 122:â€Č 120:f 97:n 90:n 86:n 68:J 58:0 54:x 52:( 50:f 34:k

Index

quasi-Newton method
finding roots
C. G. Broyden
Newton's method
Jacobian matrix
Kohn–Sham equations
quantum mechanics
secant method
finite-difference
Newton's method
Jacobian
underdetermined
Frobenius norm
line search
trust region
Sherman–Morrison formula
optimization
BFGS
gradient
Hessian
Davidon–Fletcher–Powell (DFP) method
density functional theory
density functional theory
Secant method
Newton's method
Quasi-Newton method
Newton's method in optimization
Davidon–Fletcher–Powell formula
Broyden–Fletcher–Goldfarb–Shanno (BFGS) method

Text is available under the Creative Commons Attribution-ShareAlike License. Additional terms may apply.

↑