6512:
22:
6843:
2571:
3490:
6065:
6548:
2258:
5862:
6507:{\displaystyle \|f\|_{\mathcal {H}}^{2}={\Big \langle }\sum _{i=1}^{n}\alpha _{i}^{*}k(\cdot ,x_{i}),\sum _{j=1}^{n}\alpha _{j}^{*}k(\cdot ,x_{j}){\Big \rangle }_{\mathcal {H}}=\sum _{i=1}^{n}\sum _{j=1}^{n}\alpha _{i}^{*}\alpha _{j}^{*}{\big \langle }k(\cdot ,x_{i}),k(\cdot ,x_{j}){\big \rangle }_{\mathcal {H}}=\sum _{i=1}^{n}\sum _{j=1}^{n}\alpha _{i}^{*}\alpha _{j}^{*}k(x_{i},x_{j}),}
3177:
3107:
6838:{\displaystyle \alpha ^{*}={\underset {\alpha \in \mathbb {R} ^{n}}{\operatorname {argmin} }}\left\{\sum _{i=1}^{n}\left(y_{i}-\sum _{j=1}^{n}\alpha _{j}k(x_{i},x_{j})\right)^{2}+\lambda \|f\|_{\mathcal {H}}^{2}\right\}={\underset {\alpha \in \mathbb {R} ^{n}}{\operatorname {argmin} }}\left\{\|y-A\alpha \|^{2}+\lambda \alpha ^{\intercal }A\alpha \right\}.}
926:
2566:{\displaystyle {\begin{aligned}g\left(\lVert f\rVert \right)&=g\left(\lVert \sum _{i=1}^{n}\alpha _{i}\varphi (x_{i})+v\rVert \right)\\&=g\left({\sqrt {\lVert \sum _{i=1}^{n}\alpha _{i}\varphi (x_{i})\rVert ^{2}+\lVert v\rVert ^{2}}}\right)\\&\geq g\left(\lVert \sum _{i=1}^{n}\alpha _{i}\varphi (x_{i})\rVert \right).\end{aligned}}}
5521:
7104:
4617:
2080:
3485:{\displaystyle {\tilde {f}}^{*}=\operatorname {argmin} \left\lbrace E\left((x_{1},y_{1},{\tilde {f}}(x_{1})),\ldots ,(x_{n},y_{n},{\tilde {f}}(x_{n}))\right)+g\left(\lVert f\rVert \right)\mid {\tilde {f}}=f+h\in H_{k}\oplus \operatorname {span} \lbrace \psi _{p}\mid 1\leq p\leq M\rbrace \right\rbrace ,\quad (\dagger )}
2829:
7481:
5208:
can then be obtained by applying any standard function minimization algorithm. Consequently, representer theorems provide the theoretical basis for the reduction of the general machine learning problem to algorithms that can actually be implemented on computers in practice.
704:
3987:
693:
5857:{\displaystyle f^{*}={\underset {f\in {\mathcal {H}}}{\operatorname {argmin} }}{\Big \{}E+g(\|f\|_{\mathcal {H}}){\Big \}}={\underset {f\in {\mathcal {H}}}{\operatorname {argmin} }}\left\{\sum _{i=1}^{n}(y_{i}-f(x_{i}))^{2}+\lambda \|f\|_{\mathcal {H}}^{2}\right\}}
1205:
6976:
4408:
2807:
1874:
4400:
484:
7241:
1650:
3656:
1426:
6058:
4322:
354:
3102:{\displaystyle {\begin{aligned}E\left((x_{1},y_{1},f(x_{1})),\ldots ,(x_{n},y_{n},f(x_{n}))\right)&={\frac {1}{n}}\sum _{i=1}^{n}(f(x_{i})-y_{i})^{2},\\g(\lVert f\rVert )&=\lambda \lVert f\rVert ^{2}\end{aligned}}}
5186:
3170:
It is possible to generalize further by augmenting the regularized empirical risk functional through the addition of unpenalized offset terms. For example, Schölkopf, Herbrich, and Smola also consider the minimization
4721:
1030:
7331:
197:
4953:
will have a representer theorem. In particular, this shows that a broad class of regularized risk minimizations (much broader than those originally considered by
Kimeldorf and Wahba) have representer theorems.
5966:
1735:
921:{\displaystyle f^{*}={\underset {f\in H_{k}}{\operatorname {argmin} }}\left\lbrace E\left((x_{1},y_{1},f(x_{1})),\ldots ,(x_{n},y_{n},f(x_{n}))\right)+g\left(\lVert f\rVert \right)\right\rbrace ,\quad (*)}
2230:
5441:
4038:
3835:
4837:
4152:
2834:
2263:
1792:
1119:
403:
3745:
523:
3138:. Schölkopf, Herbrich, and Smola generalized this result by relaxing the assumption of the squared-loss cost and allowing the regularizer to be any strictly monotonically increasing function
1290:
1114:
7099:{\displaystyle \alpha ^{*}={\underset {\alpha \in \mathbb {R} ^{n}}{\operatorname {argmin} }}\left\{\alpha ^{\intercal }(A^{\intercal }A+\lambda A)\alpha -2\alpha ^{\intercal }Ay\right\}.}
4220:
1461:
4612:{\displaystyle f^{*}={\underset {f\in H_{k}}{\operatorname {argmin} }}\left\lbrace E\left((x_{1},y_{1},f(x_{1})),\ldots ,(x_{n},y_{n},f(x_{n}))\right)+R(f)\right\rbrace \quad (\ddagger )}
4759:
2075:{\displaystyle f(x_{j})=\left\langle \sum _{i=1}^{n}\alpha _{i}\varphi (x_{i})+v,\varphi (x_{j})\right\rangle =\sum _{i=1}^{n}\alpha _{i}\langle \varphi (x_{i}),\varphi (x_{j})\rangle ,}
1068:
7146:
2661:
4893:
1258:
6969:
4327:
411:
6911:
5057:
7324:
1537:
5488:
5212:
The following provides an example of how to solve for the minimizer whose existence is guaranteed by the representer theorem. This method works for any positive definite kernel
7151:
3801:
3534:
4098:
1575:
221:
5514:
5093:
4791:
3136:
1100:
7288:
6541:
4990:
4951:
4065:
3827:
3567:
1570:
4925:
3682:
3165:
51:
5206:
3592:
5017:
4179:
2820:
The
Theorem stated above is a particular example of a family of results that are collectively referred to as "representer theorems"; here we describe several such.
2627:
1866:
1488:
515:
248:
123:
2653:
2600:
7574:
7261:
5230:
5113:
4118:
3765:
3587:
2250:
2163:
2143:
2123:
2103:
1839:
1812:
1310:
5973:
4225:
257:
5232:, and allows us to transform a complicated (possibly infinite dimensional) optimization problem into a simple linear system that can be solved numerically.
5059:, and therefore the search (as written) does not admit implementation on finite-memory and finite-precision computers. In contrast, the representation of
1318:
5118:
7555:
Argyriou, Andreas; Micchelli, Charles A.; Pontil, Massimiliano (2009). "When Is There a
Representer Theorem? Vector Versus Matrix Regularizers".
7678:
7476:{\displaystyle \nabla _{\alpha }F=2(A^{\intercal }A+\lambda A)\alpha ^{*}-2Ay=0\Longrightarrow \alpha ^{*}=(A^{\intercal }A+\lambda A)^{-1}Ay,}
4628:
937:
7683:
7659:
7540:
154:
4070:
The conditions under which a representer theorem exists were investigated by
Argyriou, Micchelli, and Pontil, who proved the following:
5871:
1658:
73:
1818:
130:
5095:
afforded by a representer theorem reduces the original (infinite-dimensional) minimization problem to a search for the optimal
2168:
3982:{\displaystyle {\tilde {f}}^{*}(\cdot )=\sum _{i=1}^{n}\alpha _{i}k(\cdot ,x_{i})+\sum _{p=1}^{M}\beta _{p}\psi _{p}(\cdot )}
133:
can be represented as a finite linear combination of kernel products evaluated on the input points in the training set data.
5240:
3995:
688:{\displaystyle f\mapsto E\left((x_{1},y_{1},f(x_{1})),\ldots ,(x_{n},y_{n},f(x_{n}))\right)+g\left(\lVert f\rVert \right).}
4796:
4123:
1743:
362:
3687:
1200:{\displaystyle {\begin{aligned}\varphi \colon {\mathcal {X}}&\to H_{k}\\\varphi (x)&=k(\cdot ,x)\end{aligned}}}
34:
4963:
126:
91:
44:
38:
30:
1263:
4184:
1434:
2802:{\displaystyle f^{*}(\cdot )=\sum _{i=1}^{n}\alpha _{i}\varphi (x_{i})=\sum _{i=1}^{n}\alpha _{i}k(\cdot ,x_{i}),}
4729:
2602:
does not affect the first term of (*), while it strictly decreases the second term. Consequently, any minimizer
1038:
55:
7112:
4962:
Representer theorems are useful from a practical standpoint because they dramatically simplify the regularized
4395:{\displaystyle E\colon ({\mathcal {X}}\times \mathbb {R} ^{2})^{m}\to \mathbb {R} \cup \lbrace \infty \rbrace }
479:{\displaystyle E\colon ({\mathcal {X}}\times \mathbb {R} ^{2})^{n}\to \mathbb {R} \cup \lbrace \infty \rbrace }
4845:
1213:
7688:
6916:
6851:
5022:
7637:
7293:
2823:
The first statement of a representer theorem was due to
Kimeldorf and Wahba for the special case in which
7236:{\displaystyle F(\alpha )=\alpha ^{\intercal }(A^{\intercal }A+\lambda A)\alpha -2\alpha ^{\intercal }Ay}
1496:
5448:
4898:
Effectively, this result provides a necessary and sufficient condition on a differentiable regularizer
1645:{\displaystyle \operatorname {span} \left\lbrace \varphi (x_{1}),\ldots ,\varphi (x_{n})\right\rbrace }
142:
3770:
3498:
7527:. Lecture Notes in Computer Science. Vol. 2111. Berlin, Heidelberg: Springer. pp. 416–426.
4079:
202:
7642:
7494:
5493:
5062:
4764:
3115:
1073:
7632:
Schölkopf, Bernhard; Herbrich, Ralf; Smola, Alex J. (2001). "A Generalized
Representer Theorem".
7266:
6519:
4969:
4930:
4043:
3806:
3651:{\displaystyle \lbrace \psi _{p}\colon {\mathcal {X}}\to \mathbb {R} \mid 1\leq p\leq M\rbrace }
3539:
1542:
7607:"A correspondence between Bayesian estimation on stochastic processes and smoothing by splines"
4901:
3661:
3141:
7655:
7536:
7520:
5191:
7647:
7618:
7583:
7528:
87:
7597:
4995:
4157:
2605:
1844:
1466:
493:
226:
101:
7593:
2632:
2579:
6053:{\displaystyle \alpha ^{*}=(\alpha _{1}^{*},\dots ,\alpha _{n}^{*})\in \mathbb {R} ^{n}}
4317:{\displaystyle (x_{1},y_{1}),\ldots ,(x_{n},y_{n})\in {\mathcal {X}}\times \mathbb {R} }
349:{\displaystyle (x_{1},y_{1}),\dotsc ,(x_{n},y_{n})\in {\mathcal {X}}\times \mathbb {R} }
7499:
7246:
7148:
is positive definite, there is indeed a single global minimum for this expression. Let
5215:
5098:
4103:
3750:
3572:
2235:
2148:
2128:
2108:
2088:
1824:
1797:
1295:
3589:
is an unpenalized function lying in the span of a finite set of real-valued functions
7672:
7588:
7569:
1421:{\displaystyle \varphi (x)(x')=k(x',x)=\langle \varphi (x'),\varphi (x)\rangle ,}
7623:
7606:
7651:
7532:
5181:{\displaystyle \alpha =(\alpha _{1},\ldots ,\alpha _{n})\in \mathbb {R} ^{n}}
490:
which together define the following regularized empirical risk functional on
7326:. Recalling that all positive definite matrices are invertible, we see that
4222:
be a differentiable regularization function. Then given a training sample
4716:{\displaystyle f^{*}(\cdot )=\sum _{i=1}^{n}\alpha _{i}k(\cdot ,x_{i}),}
1025:{\displaystyle f^{*}(\cdot )=\sum _{i=1}^{n}\alpha _{i}k(\cdot ,x_{i}),}
7636:. Lecture Notes in Computer Science. Vol. 2111. pp. 416–426.
4927:
under which the corresponding regularized empirical risk minimization
4622:
of the regularized empirical risk admits a representation of the form
192:{\displaystyle k:{\mathcal {X}}\times {\mathcal {X}}\to \mathbb {R} }
5961:{\displaystyle f^{*}(x)=\sum _{i=1}^{n}\alpha _{i}^{*}k(x,x_{i})}
5019:
for the minimization will be an infinite-dimensional subspace of
1730:{\displaystyle f=\sum _{i=1}^{n}\alpha _{i}\varphi (x_{i})+v,}
15:
7519:
Schölkopf, Bernhard; Herbrich, Ralf; Smola, Alex J. (2001).
6729:
6388:
6237:
6081:
5838:
5741:
5708:
5552:
5041:
4342:
4301:
4139:
4129:
4085:
3614:
1269:
1130:
426:
333:
208:
176:
166:
141:
The following
Representer Theorem and its proof are due to
98:
is any of several related results stating that a minimizer
5235:
Assume that we are using a least squares error function
2225:{\displaystyle \sum _{i=1}^{n}\alpha _{i}\varphi (x_{i})}
2145:. For the second term (the regularization term), since
4992:. In most interesting applications, the search domain
4793:, if and only if there exists a nondecreasing function
5436:{\displaystyle E:=\sum _{i=1}^{n}(y_{i}-f(x_{i}))^{2}}
4033:{\displaystyle \alpha _{i},\beta _{p}\in \mathbb {R} }
223:
with a corresponding reproducing kernel
Hilbert space
7334:
7296:
7269:
7249:
7154:
7115:
6979:
6919:
6854:
6551:
6522:
6068:
5976:
5874:
5524:
5496:
5451:
5243:
5218:
5194:
5121:
5101:
5065:
5025:
4998:
4972:
4933:
4904:
4848:
4799:
4767:
4732:
4631:
4411:
4330:
4228:
4187:
4160:
4126:
4106:
4082:
4046:
3998:
3838:
3809:
3773:
3753:
3690:
3664:
3595:
3575:
3542:
3501:
3180:
3144:
3118:
2832:
2664:
2635:
2608:
2582:
2261:
2238:
2171:
2151:
2131:
2111:
2091:
1877:
1847:
1827:
1800:
1746:
1661:
1578:
1545:
1539:, one can use orthogonal projection to decompose any
1499:
1469:
1437:
1321:
1298:
1266:
1216:
1117:
1076:
1041:
940:
707:
526:
496:
414:
365:
260:
229:
205:
157:
104:
4154:
with corresponding reproducing kernel
Hilbert space
1652:, and the other lying in the orthogonal complement:
4832:{\displaystyle h\colon [0,\infty )\to \mathbb {R} }
4147:{\displaystyle {\mathcal {X}}\times {\mathcal {X}}}
1787:{\displaystyle \langle v,\varphi (x_{i})\rangle =0}
398:{\displaystyle g\colon [0,\infty )\to \mathbb {R} }
7485:so the minimizer may be found via a linear solve.
7475:
7318:
7282:
7255:
7235:
7140:
7098:
6963:
6905:
6837:
6535:
6506:
6052:
5960:
5856:
5508:
5482:
5435:
5224:
5200:
5180:
5107:
5087:
5051:
5011:
4984:
4945:
4919:
4887:
4831:
4785:
4753:
4715:
4611:
4394:
4316:
4214:
4173:
4146:
4112:
4092:
4059:
4032:
3981:
3821:
3795:
3759:
3740:{\displaystyle \left(\psi _{p}(x_{i})\right)_{ip}}
3739:
3676:
3650:
3581:
3561:
3528:
3484:
3159:
3130:
3101:
2801:
2647:
2621:
2594:
2565:
2244:
2224:
2157:
2137:
2117:
2097:
2074:
1860:
1833:
1806:
1786:
1729:
1644:
1564:
1531:
1482:
1455:
1420:
1304:
1284:
1252:
1199:
1094:
1062:
1024:
920:
687:
509:
478:
397:
348:
242:
215:
191:
117:
6230:
6097:
5719:
5562:
2105:. Consequently, the value of the error function
151:Consider a positive-definite real-valued kernel
43:but its sources remain unclear because it lacks
7290:, the global minimum, can be solved by setting
7523:. In Helmbold, David; Williamson, Bob (eds.).
1285:{\displaystyle {\mathcal {X}}\to \mathbb {R} }
7575:Bulletin of the American Mathematical Society
7570:"On the Mathematical Foundations of Learning"
6971:. This can be factored out and simplified to
6381:
6320:
4215:{\displaystyle R\colon H_{k}\to \mathbb {R} }
1456:{\displaystyle \langle \cdot ,\cdot \rangle }
8:
6796:
6780:
6724:
6717:
6076:
6069:
5833:
5826:
5703:
5696:
5516:. By the representer theorem, the minimizer
4876:
4870:
4389:
4383:
3645:
3596:
3461:
3430:
3373:
3367:
3086:
3079:
3063:
3057:
2548:
2495:
2462:
2455:
2443:
2389:
2362:
2303:
2280:
2274:
2066:
2022:
1775:
1747:
1450:
1438:
1412:
1377:
892:
886:
674:
668:
473:
467:
7605:Kimeldorf, George S.; Wahba, Grace (1970).
4754:{\displaystyle \alpha _{i}\in \mathbb {R} }
1817:The above orthogonal decomposition and the
1063:{\displaystyle \alpha _{i}\in \mathbb {R} }
359:a strictly increasing real-valued function
4120:a positive-definite real-valued kernel on
1572:into a sum of two functions, one lying in
698:Then, any minimizer of the empirical risk
7641:
7622:
7587:
7455:
7433:
7417:
7386:
7361:
7339:
7333:
7301:
7295:
7274:
7268:
7248:
7221:
7187:
7174:
7153:
7141:{\displaystyle A^{\intercal }A+\lambda A}
7120:
7114:
7076:
7042:
7029:
7011:
7007:
7006:
6993:
6984:
6978:
6952:
6933:
6918:
6894:
6881:
6859:
6853:
6815:
6799:
6766:
6762:
6761:
6748:
6734:
6728:
6727:
6705:
6691:
6678:
6662:
6652:
6641:
6628:
6612:
6601:
6583:
6579:
6578:
6565:
6556:
6550:
6527:
6521:
6492:
6479:
6463:
6458:
6448:
6443:
6433:
6422:
6412:
6401:
6387:
6386:
6380:
6379:
6369:
6341:
6319:
6318:
6312:
6307:
6297:
6292:
6282:
6271:
6261:
6250:
6236:
6235:
6229:
6228:
6218:
6196:
6191:
6181:
6170:
6154:
6132:
6127:
6117:
6106:
6096:
6095:
6086:
6080:
6079:
6067:
6044:
6040:
6039:
6026:
6021:
6002:
5997:
5981:
5975:
5949:
5927:
5922:
5912:
5901:
5879:
5873:
5843:
5837:
5836:
5814:
5801:
5782:
5769:
5758:
5740:
5739:
5727:
5718:
5717:
5707:
5706:
5672:
5653:
5640:
5612:
5593:
5580:
5561:
5560:
5551:
5550:
5538:
5529:
5523:
5495:
5474:
5450:
5427:
5414:
5395:
5382:
5371:
5349:
5330:
5317:
5289:
5270:
5257:
5242:
5217:
5193:
5172:
5168:
5167:
5154:
5135:
5120:
5100:
5070:
5064:
5040:
5039:
5030:
5024:
5003:
4997:
4971:
4932:
4903:
4847:
4825:
4824:
4798:
4766:
4747:
4746:
4737:
4731:
4701:
4679:
4669:
4658:
4636:
4630:
4562:
4543:
4530:
4502:
4483:
4470:
4441:
4425:
4416:
4410:
4376:
4375:
4366:
4356:
4352:
4351:
4341:
4340:
4329:
4310:
4309:
4300:
4299:
4287:
4274:
4249:
4236:
4227:
4208:
4207:
4198:
4186:
4165:
4159:
4138:
4137:
4128:
4127:
4125:
4105:
4084:
4083:
4081:
4051:
4045:
4026:
4025:
4016:
4003:
3997:
3964:
3954:
3944:
3933:
3917:
3895:
3885:
3874:
3852:
3841:
3840:
3837:
3808:
3787:
3776:
3775:
3772:
3752:
3728:
3714:
3701:
3689:
3663:
3623:
3622:
3613:
3612:
3603:
3594:
3574:
3553:
3541:
3503:
3502:
3500:
3437:
3415:
3385:
3384:
3339:
3321:
3320:
3311:
3298:
3270:
3252:
3251:
3242:
3229:
3194:
3183:
3182:
3179:
3143:
3117:
3089:
3038:
3028:
3012:
2993:
2982:
2968:
2944:
2925:
2912:
2884:
2865:
2852:
2833:
2831:
2787:
2765:
2755:
2744:
2728:
2712:
2702:
2691:
2669:
2663:
2634:
2613:
2607:
2581:
2539:
2523:
2513:
2502:
2465:
2446:
2433:
2417:
2407:
2396:
2387:
2347:
2331:
2321:
2310:
2262:
2260:
2237:
2213:
2197:
2187:
2176:
2170:
2150:
2130:
2110:
2090:
2057:
2035:
2016:
2006:
1995:
1974:
1946:
1930:
1920:
1909:
1888:
1876:
1852:
1846:
1826:
1799:
1766:
1745:
1709:
1693:
1683:
1672:
1660:
1628:
1600:
1577:
1556:
1544:
1523:
1504:
1498:
1474:
1468:
1436:
1320:
1297:
1278:
1277:
1268:
1267:
1265:
1215:
1146:
1129:
1128:
1118:
1116:
1075:
1056:
1055:
1046:
1040:
1010:
988:
978:
967:
945:
939:
858:
839:
826:
798:
779:
766:
737:
721:
712:
706:
640:
621:
608:
580:
561:
548:
525:
501:
495:
460:
459:
450:
440:
436:
435:
425:
424:
413:
391:
390:
364:
342:
341:
332:
331:
319:
306:
281:
268:
259:
234:
228:
207:
206:
204:
185:
184:
175:
174:
165:
164:
156:
109:
103:
74:Learn how and when to remove this message
4888:{\displaystyle R(f)=h(\lVert f\rVert ).}
3495:i.e., we consider functions of the form
7511:
1253:{\displaystyle \varphi (x)=k(\cdot ,x)}
6964:{\displaystyle y=(y_{1},\dots ,y_{n})}
7611:The Annals of Mathematical Statistics
7568:Cucker, Felipe; Smale, Steve (2002).
6906:{\displaystyle A_{ij}=k(x_{i},x_{j})}
5052:{\displaystyle L^{2}({\mathcal {X}})}
931:admits a representation of the form:
7:
7557:Journal of Machine Learning Research
7319:{\displaystyle \nabla _{\alpha }F=0}
5115:-dimensional vector of coefficients
3829:admits a representation of the form
7521:"A Generalized Representer Theorem"
2085:which we observe is independent of
1532:{\displaystyle x_{1},\ldots ,x_{n}}
7336:
7298:
5483:{\displaystyle g(x)=\lambda x^{2}}
4815:
4386:
2125:in (*) is likewise independent of
470:
381:
14:
3658:. Under the assumption that the
4324:and an arbitrary error function
3796:{\displaystyle {\tilde {f}}^{*}}
3529:{\displaystyle {\tilde {f}}=f+h}
131:reproducing kernel Hilbert space
20:
4599:
3767:, they show that the minimizer
3472:
2655:, i.e., it must be of the form
2252:is strictly monotonic, we have
908:
7452:
7426:
7410:
7379:
7354:
7205:
7180:
7164:
7158:
7060:
7035:
6958:
6926:
6900:
6874:
6697:
6671:
6498:
6472:
6375:
6356:
6347:
6328:
6224:
6205:
6160:
6141:
6032:
5990:
5955:
5936:
5891:
5885:
5811:
5807:
5794:
5775:
5714:
5693:
5684:
5681:
5678:
5665:
5633:
5621:
5618:
5605:
5573:
5570:
5461:
5455:
5445:and a regularization function
5424:
5420:
5407:
5388:
5361:
5358:
5355:
5342:
5310:
5298:
5295:
5282:
5250:
5247:
5160:
5128:
5082:
5076:
5046:
5036:
4979:
4973:
4940:
4934:
4914:
4908:
4879:
4867:
4858:
4852:
4821:
4818:
4806:
4707:
4688:
4648:
4642:
4606:
4600:
4591:
4585:
4571:
4568:
4555:
4523:
4511:
4508:
4495:
4463:
4372:
4363:
4337:
4293:
4267:
4255:
4229:
4204:
4093:{\displaystyle {\mathcal {X}}}
3976:
3970:
3923:
3904:
3864:
3858:
3846:
3816:
3810:
3781:
3720:
3707:
3619:
3508:
3479:
3473:
3390:
3348:
3345:
3332:
3326:
3291:
3279:
3276:
3263:
3257:
3222:
3188:
3154:
3148:
3066:
3054:
3035:
3018:
3005:
2999:
2953:
2950:
2937:
2905:
2893:
2890:
2877:
2845:
2793:
2774:
2734:
2721:
2681:
2675:
2545:
2532:
2439:
2426:
2353:
2340:
2219:
2206:
2063:
2050:
2041:
2028:
1980:
1967:
1952:
1939:
1894:
1881:
1772:
1759:
1715:
1702:
1634:
1621:
1606:
1593:
1409:
1403:
1394:
1383:
1371:
1354:
1345:
1334:
1331:
1325:
1312:is a reproducing kernel, then
1274:
1247:
1235:
1226:
1220:
1190:
1178:
1165:
1159:
1139:
1016:
997:
957:
951:
915:
909:
867:
864:
851:
819:
807:
804:
791:
759:
649:
646:
633:
601:
589:
586:
573:
541:
530:
456:
447:
421:
387:
384:
372:
325:
299:
287:
261:
216:{\displaystyle {\mathcal {X}}}
181:
1:
7679:Computational learning theory
7634:Computational Learning Theory
7589:10.1090/S0273-0979-01-00923-5
7525:Computational Learning Theory
5509:{\displaystyle \lambda >0}
5088:{\displaystyle f^{*}(\cdot )}
4786:{\displaystyle 1\leq i\leq n}
4067:are all uniquely determined.
3131:{\displaystyle \lambda >0}
2812:which is the desired result.
1095:{\displaystyle 1\leq i\leq n}
7684:Theoretical computer science
1821:together show that applying
408:an arbitrary error function
7283:{\displaystyle \alpha ^{*}}
6536:{\displaystyle \alpha ^{*}}
4985:{\displaystyle (\ddagger )}
4964:empirical risk minimization
4946:{\displaystyle (\ddagger )}
3167:of the Hilbert space norm.
92:statistical learning theory
7705:
4060:{\displaystyle \beta _{p}}
3822:{\displaystyle (\dagger )}
3562:{\displaystyle f\in H_{k}}
1565:{\displaystyle f\in H_{k}}
4920:{\displaystyle R(\cdot )}
3677:{\displaystyle n\times M}
3160:{\displaystyle g(\cdot )}
127:empirical risk functional
7652:10.1007/3-540-44581-1_27
7533:10.1007/3-540-44581-1_27
1463:is the inner product on
145:, Herbrich, and Smola:
29:This article includes a
7624:10.1214/aoms/1177697089
5201:{\displaystyle \alpha }
58:more precise citations.
7477:
7320:
7284:
7257:
7237:
7142:
7100:
6965:
6907:
6839:
6657:
6617:
6537:
6508:
6438:
6417:
6287:
6266:
6186:
6122:
6054:
5962:
5917:
5858:
5774:
5510:
5484:
5437:
5387:
5226:
5202:
5182:
5109:
5089:
5053:
5013:
4986:
4947:
4921:
4889:
4833:
4787:
4755:
4717:
4674:
4613:
4396:
4318:
4216:
4175:
4148:
4114:
4094:
4061:
4034:
3983:
3949:
3890:
3823:
3797:
3761:
3741:
3678:
3652:
3583:
3563:
3530:
3486:
3161:
3132:
3103:
2998:
2803:
2760:
2707:
2649:
2623:
2596:
2567:
2518:
2412:
2326:
2246:
2226:
2192:
2159:
2139:
2119:
2099:
2076:
2011:
1925:
1862:
1841:to any training point
1835:
1808:
1788:
1731:
1688:
1646:
1566:
1533:
1484:
1457:
1422:
1306:
1286:
1254:
1201:
1096:
1064:
1026:
983:
922:
689:
511:
480:
399:
350:
250:. Let there be given
244:
217:
193:
119:
7478:
7321:
7285:
7258:
7238:
7143:
7101:
6966:
6908:
6840:
6637:
6597:
6538:
6509:
6418:
6397:
6267:
6246:
6166:
6102:
6055:
5963:
5897:
5859:
5754:
5511:
5485:
5438:
5367:
5227:
5203:
5183:
5110:
5090:
5054:
5014:
5012:{\displaystyle H_{k}}
4987:
4948:
4922:
4890:
4834:
4788:
4756:
4718:
4654:
4614:
4397:
4319:
4217:
4176:
4174:{\displaystyle H_{k}}
4149:
4115:
4095:
4062:
4035:
3984:
3929:
3870:
3824:
3798:
3762:
3742:
3679:
3653:
3584:
3564:
3531:
3487:
3162:
3133:
3104:
2978:
2804:
2740:
2687:
2650:
2624:
2622:{\displaystyle f^{*}}
2597:
2568:
2498:
2392:
2306:
2247:
2227:
2172:
2160:
2140:
2120:
2100:
2077:
1991:
1905:
1863:
1861:{\displaystyle x_{j}}
1836:
1809:
1789:
1732:
1668:
1647:
1567:
1534:
1485:
1483:{\displaystyle H_{k}}
1458:
1423:
1307:
1287:
1255:
1202:
1097:
1065:
1027:
963:
923:
690:
512:
510:{\displaystyle H_{k}}
481:
400:
351:
245:
243:{\displaystyle H_{k}}
218:
194:
120:
118:{\displaystyle f^{*}}
7332:
7294:
7267:
7247:
7152:
7113:
6977:
6917:
6852:
6549:
6520:
6066:
5974:
5872:
5522:
5494:
5449:
5241:
5216:
5192:
5119:
5099:
5063:
5023:
4996:
4970:
4931:
4902:
4846:
4797:
4765:
4730:
4629:
4409:
4328:
4226:
4185:
4158:
4124:
4104:
4080:
4044:
3996:
3836:
3807:
3771:
3751:
3688:
3662:
3593:
3573:
3540:
3499:
3178:
3142:
3116:
2830:
2662:
2633:
2606:
2580:
2259:
2236:
2169:
2149:
2129:
2109:
2089:
1875:
1845:
1825:
1819:reproducing property
1798:
1744:
1659:
1576:
1543:
1497:
1467:
1435:
1319:
1296:
1264:
1214:
1115:
1074:
1039:
938:
705:
524:
494:
412:
363:
258:
227:
203:
155:
102:
6739:
6468:
6453:
6317:
6302:
6201:
6137:
6091:
6031:
6007:
5932:
5848:
4100:be a nonempty set,
2648:{\displaystyle v=0}
2595:{\displaystyle v=0}
199:on a non-empty set
96:representer theorem
7473:
7316:
7280:
7253:
7233:
7138:
7096:
7018:
6961:
6903:
6835:
6773:
6723:
6590:
6533:
6504:
6454:
6439:
6303:
6288:
6187:
6123:
6075:
6050:
6017:
5993:
5958:
5918:
5854:
5832:
5747:
5558:
5506:
5480:
5433:
5222:
5198:
5178:
5105:
5085:
5049:
5009:
4982:
4943:
4917:
4885:
4829:
4783:
4751:
4713:
4609:
4448:
4392:
4314:
4212:
4171:
4144:
4110:
4090:
4057:
4030:
3979:
3819:
3793:
3757:
3737:
3674:
3648:
3579:
3559:
3526:
3482:
3157:
3128:
3099:
3097:
2799:
2645:
2619:
2592:
2576:Therefore setting
2563:
2561:
2242:
2222:
2155:
2135:
2115:
2095:
2072:
1858:
1831:
1804:
1784:
1727:
1642:
1562:
1529:
1480:
1453:
1418:
1302:
1282:
1250:
1197:
1195:
1092:
1060:
1022:
918:
744:
685:
507:
476:
395:
346:
254:a training sample
240:
213:
189:
115:
31:list of references
7661:978-3-540-42343-0
7563:(Dec): 2507–2529.
7542:978-3-540-44581-4
7256:{\displaystyle F}
6994:
6749:
6566:
5728:
5539:
5225:{\displaystyle K}
5108:{\displaystyle n}
4426:
4113:{\displaystyle k}
3849:
3784:
3760:{\displaystyle M}
3582:{\displaystyle h}
3511:
3393:
3329:
3260:
3191:
2976:
2629:in (*) must have
2471:
2245:{\displaystyle g}
2165:is orthogonal to
2158:{\displaystyle v}
2138:{\displaystyle v}
2118:{\displaystyle E}
2098:{\displaystyle v}
1834:{\displaystyle f}
1807:{\displaystyle i}
1305:{\displaystyle k}
1108:Define a mapping
722:
125:of a regularized
84:
83:
76:
7696:
7665:
7645:
7628:
7626:
7601:
7591:
7564:
7547:
7546:
7516:
7495:Mercer's theorem
7482:
7480:
7479:
7474:
7463:
7462:
7438:
7437:
7422:
7421:
7391:
7390:
7366:
7365:
7344:
7343:
7325:
7323:
7322:
7317:
7306:
7305:
7289:
7287:
7286:
7281:
7279:
7278:
7263:is convex. Then
7262:
7260:
7259:
7254:
7242:
7240:
7239:
7234:
7226:
7225:
7192:
7191:
7179:
7178:
7147:
7145:
7144:
7139:
7125:
7124:
7105:
7103:
7102:
7097:
7092:
7088:
7081:
7080:
7047:
7046:
7034:
7033:
7019:
7017:
7016:
7015:
7010:
6989:
6988:
6970:
6968:
6967:
6962:
6957:
6956:
6938:
6937:
6912:
6910:
6909:
6904:
6899:
6898:
6886:
6885:
6867:
6866:
6844:
6842:
6841:
6836:
6831:
6827:
6820:
6819:
6804:
6803:
6774:
6772:
6771:
6770:
6765:
6744:
6740:
6738:
6733:
6732:
6710:
6709:
6704:
6700:
6696:
6695:
6683:
6682:
6667:
6666:
6656:
6651:
6633:
6632:
6616:
6611:
6591:
6589:
6588:
6587:
6582:
6561:
6560:
6542:
6540:
6539:
6534:
6532:
6531:
6513:
6511:
6510:
6505:
6497:
6496:
6484:
6483:
6467:
6462:
6452:
6447:
6437:
6432:
6416:
6411:
6393:
6392:
6391:
6385:
6384:
6374:
6373:
6346:
6345:
6324:
6323:
6316:
6311:
6301:
6296:
6286:
6281:
6265:
6260:
6242:
6241:
6240:
6234:
6233:
6223:
6222:
6200:
6195:
6185:
6180:
6159:
6158:
6136:
6131:
6121:
6116:
6101:
6100:
6090:
6085:
6084:
6059:
6057:
6056:
6051:
6049:
6048:
6043:
6030:
6025:
6006:
6001:
5986:
5985:
5967:
5965:
5964:
5959:
5954:
5953:
5931:
5926:
5916:
5911:
5884:
5883:
5863:
5861:
5860:
5855:
5853:
5849:
5847:
5842:
5841:
5819:
5818:
5806:
5805:
5787:
5786:
5773:
5768:
5748:
5746:
5745:
5744:
5723:
5722:
5713:
5712:
5711:
5677:
5676:
5658:
5657:
5645:
5644:
5617:
5616:
5598:
5597:
5585:
5584:
5566:
5565:
5559:
5557:
5556:
5555:
5534:
5533:
5515:
5513:
5512:
5507:
5489:
5487:
5486:
5481:
5479:
5478:
5442:
5440:
5439:
5434:
5432:
5431:
5419:
5418:
5400:
5399:
5386:
5381:
5354:
5353:
5335:
5334:
5322:
5321:
5294:
5293:
5275:
5274:
5262:
5261:
5231:
5229:
5228:
5223:
5207:
5205:
5204:
5199:
5187:
5185:
5184:
5179:
5177:
5176:
5171:
5159:
5158:
5140:
5139:
5114:
5112:
5111:
5106:
5094:
5092:
5091:
5086:
5075:
5074:
5058:
5056:
5055:
5050:
5045:
5044:
5035:
5034:
5018:
5016:
5015:
5010:
5008:
5007:
4991:
4989:
4988:
4983:
4952:
4950:
4949:
4944:
4926:
4924:
4923:
4918:
4894:
4892:
4891:
4886:
4838:
4836:
4835:
4830:
4828:
4792:
4790:
4789:
4784:
4760:
4758:
4757:
4752:
4750:
4742:
4741:
4722:
4720:
4719:
4714:
4706:
4705:
4684:
4683:
4673:
4668:
4641:
4640:
4618:
4616:
4615:
4610:
4598:
4594:
4578:
4574:
4567:
4566:
4548:
4547:
4535:
4534:
4507:
4506:
4488:
4487:
4475:
4474:
4449:
4447:
4446:
4445:
4421:
4420:
4401:
4399:
4398:
4393:
4379:
4371:
4370:
4361:
4360:
4355:
4346:
4345:
4323:
4321:
4320:
4315:
4313:
4305:
4304:
4292:
4291:
4279:
4278:
4254:
4253:
4241:
4240:
4221:
4219:
4218:
4213:
4211:
4203:
4202:
4180:
4178:
4177:
4172:
4170:
4169:
4153:
4151:
4150:
4145:
4143:
4142:
4133:
4132:
4119:
4117:
4116:
4111:
4099:
4097:
4096:
4091:
4089:
4088:
4066:
4064:
4063:
4058:
4056:
4055:
4039:
4037:
4036:
4031:
4029:
4021:
4020:
4008:
4007:
3988:
3986:
3985:
3980:
3969:
3968:
3959:
3958:
3948:
3943:
3922:
3921:
3900:
3899:
3889:
3884:
3857:
3856:
3851:
3850:
3842:
3828:
3826:
3825:
3820:
3802:
3800:
3799:
3794:
3792:
3791:
3786:
3785:
3777:
3766:
3764:
3763:
3758:
3746:
3744:
3743:
3738:
3736:
3735:
3727:
3723:
3719:
3718:
3706:
3705:
3683:
3681:
3680:
3675:
3657:
3655:
3654:
3649:
3626:
3618:
3617:
3608:
3607:
3588:
3586:
3585:
3580:
3568:
3566:
3565:
3560:
3558:
3557:
3535:
3533:
3532:
3527:
3513:
3512:
3504:
3491:
3489:
3488:
3483:
3468:
3464:
3442:
3441:
3420:
3419:
3395:
3394:
3386:
3380:
3376:
3355:
3351:
3344:
3343:
3331:
3330:
3322:
3316:
3315:
3303:
3302:
3275:
3274:
3262:
3261:
3253:
3247:
3246:
3234:
3233:
3199:
3198:
3193:
3192:
3184:
3166:
3164:
3163:
3158:
3137:
3135:
3134:
3129:
3108:
3106:
3105:
3100:
3098:
3094:
3093:
3043:
3042:
3033:
3032:
3017:
3016:
2997:
2992:
2977:
2969:
2960:
2956:
2949:
2948:
2930:
2929:
2917:
2916:
2889:
2888:
2870:
2869:
2857:
2856:
2808:
2806:
2805:
2800:
2792:
2791:
2770:
2769:
2759:
2754:
2733:
2732:
2717:
2716:
2706:
2701:
2674:
2673:
2654:
2652:
2651:
2646:
2628:
2626:
2625:
2620:
2618:
2617:
2601:
2599:
2598:
2593:
2572:
2570:
2569:
2564:
2562:
2555:
2551:
2544:
2543:
2528:
2527:
2517:
2512:
2480:
2476:
2472:
2470:
2469:
2451:
2450:
2438:
2437:
2422:
2421:
2411:
2406:
2388:
2373:
2369:
2365:
2352:
2351:
2336:
2335:
2325:
2320:
2287:
2283:
2251:
2249:
2248:
2243:
2231:
2229:
2228:
2223:
2218:
2217:
2202:
2201:
2191:
2186:
2164:
2162:
2161:
2156:
2144:
2142:
2141:
2136:
2124:
2122:
2121:
2116:
2104:
2102:
2101:
2096:
2081:
2079:
2078:
2073:
2062:
2061:
2040:
2039:
2021:
2020:
2010:
2005:
1987:
1983:
1979:
1978:
1951:
1950:
1935:
1934:
1924:
1919:
1893:
1892:
1867:
1865:
1864:
1859:
1857:
1856:
1840:
1838:
1837:
1832:
1813:
1811:
1810:
1805:
1793:
1791:
1790:
1785:
1771:
1770:
1736:
1734:
1733:
1728:
1714:
1713:
1698:
1697:
1687:
1682:
1651:
1649:
1648:
1643:
1641:
1637:
1633:
1632:
1605:
1604:
1571:
1569:
1568:
1563:
1561:
1560:
1538:
1536:
1535:
1530:
1528:
1527:
1509:
1508:
1489:
1487:
1486:
1481:
1479:
1478:
1462:
1460:
1459:
1454:
1427:
1425:
1424:
1419:
1393:
1364:
1344:
1311:
1309:
1308:
1303:
1291:
1289:
1288:
1283:
1281:
1273:
1272:
1260:is itself a map
1259:
1257:
1256:
1251:
1206:
1204:
1203:
1198:
1196:
1151:
1150:
1134:
1133:
1101:
1099:
1098:
1093:
1069:
1067:
1066:
1061:
1059:
1051:
1050:
1031:
1029:
1028:
1023:
1015:
1014:
993:
992:
982:
977:
950:
949:
927:
925:
924:
919:
904:
900:
899:
895:
874:
870:
863:
862:
844:
843:
831:
830:
803:
802:
784:
783:
771:
770:
745:
743:
742:
741:
717:
716:
694:
692:
691:
686:
681:
677:
656:
652:
645:
644:
626:
625:
613:
612:
585:
584:
566:
565:
553:
552:
516:
514:
513:
508:
506:
505:
485:
483:
482:
477:
463:
455:
454:
445:
444:
439:
430:
429:
404:
402:
401:
396:
394:
355:
353:
352:
347:
345:
337:
336:
324:
323:
311:
310:
286:
285:
273:
272:
249:
247:
246:
241:
239:
238:
222:
220:
219:
214:
212:
211:
198:
196:
195:
190:
188:
180:
179:
170:
169:
137:Formal statement
124:
122:
121:
116:
114:
113:
88:computer science
79:
72:
68:
65:
59:
54:this article by
45:inline citations
24:
23:
16:
7704:
7703:
7699:
7698:
7697:
7695:
7694:
7693:
7669:
7668:
7662:
7631:
7604:
7567:
7554:
7551:
7550:
7543:
7518:
7517:
7513:
7508:
7491:
7483:
7451:
7429:
7413:
7382:
7357:
7335:
7330:
7329:
7297:
7292:
7291:
7270:
7265:
7264:
7245:
7244:
7217:
7183:
7170:
7150:
7149:
7116:
7111:
7110:
7108:
7106:
7072:
7038:
7025:
7024:
7020:
7005:
6998:
6980:
6975:
6974:
6948:
6929:
6915:
6914:
6890:
6877:
6855:
6850:
6849:
6847:
6845:
6811:
6795:
6779:
6775:
6760:
6753:
6687:
6674:
6658:
6624:
6623:
6619:
6618:
6596:
6592:
6577:
6570:
6552:
6547:
6546:
6523:
6518:
6517:
6514:
6488:
6475:
6378:
6365:
6337:
6227:
6214:
6150:
6064:
6063:
6038:
5977:
5972:
5971:
5968:
5945:
5875:
5870:
5869:
5864:
5810:
5797:
5778:
5753:
5749:
5732:
5702:
5668:
5649:
5636:
5608:
5589:
5576:
5543:
5525:
5520:
5519:
5492:
5491:
5470:
5447:
5446:
5443:
5423:
5410:
5391:
5345:
5326:
5313:
5285:
5266:
5253:
5239:
5238:
5214:
5213:
5190:
5189:
5166:
5150:
5131:
5117:
5116:
5097:
5096:
5066:
5061:
5060:
5026:
5021:
5020:
4999:
4994:
4993:
4968:
4967:
4960:
4929:
4928:
4900:
4899:
4844:
4843:
4795:
4794:
4763:
4762:
4733:
4728:
4727:
4697:
4675:
4632:
4627:
4626:
4558:
4539:
4526:
4498:
4479:
4466:
4462:
4458:
4454:
4450:
4437:
4430:
4412:
4407:
4406:
4362:
4350:
4326:
4325:
4283:
4270:
4245:
4232:
4224:
4223:
4194:
4183:
4182:
4161:
4156:
4155:
4122:
4121:
4102:
4101:
4078:
4077:
4047:
4042:
4041:
4012:
3999:
3994:
3993:
3960:
3950:
3913:
3891:
3839:
3834:
3833:
3805:
3804:
3774:
3769:
3768:
3749:
3748:
3710:
3697:
3696:
3692:
3691:
3686:
3685:
3660:
3659:
3599:
3591:
3590:
3571:
3570:
3549:
3538:
3537:
3497:
3496:
3433:
3411:
3366:
3362:
3335:
3307:
3294:
3266:
3238:
3225:
3221:
3217:
3213:
3209:
3181:
3176:
3175:
3140:
3139:
3114:
3113:
3096:
3095:
3085:
3069:
3048:
3047:
3034:
3024:
3008:
2961:
2940:
2921:
2908:
2880:
2861:
2848:
2844:
2840:
2828:
2827:
2818:
2816:Generalizations
2783:
2761:
2724:
2708:
2665:
2660:
2659:
2631:
2630:
2609:
2604:
2603:
2578:
2577:
2560:
2559:
2535:
2519:
2494:
2490:
2478:
2477:
2461:
2442:
2429:
2413:
2383:
2371:
2370:
2343:
2327:
2302:
2298:
2288:
2273:
2269:
2257:
2256:
2234:
2233:
2209:
2193:
2167:
2166:
2147:
2146:
2127:
2126:
2107:
2106:
2087:
2086:
2053:
2031:
2012:
1970:
1942:
1926:
1904:
1900:
1884:
1873:
1872:
1848:
1843:
1842:
1823:
1822:
1796:
1795:
1762:
1742:
1741:
1705:
1689:
1657:
1656:
1624:
1596:
1589:
1585:
1574:
1573:
1552:
1541:
1540:
1519:
1500:
1495:
1494:
1470:
1465:
1464:
1433:
1432:
1386:
1357:
1337:
1317:
1316:
1294:
1293:
1262:
1261:
1212:
1211:
1194:
1193:
1168:
1153:
1152:
1142:
1135:
1113:
1112:
1072:
1071:
1042:
1037:
1036:
1006:
984:
941:
936:
935:
885:
881:
854:
835:
822:
794:
775:
762:
758:
754:
750:
746:
733:
726:
708:
703:
702:
667:
663:
636:
617:
604:
576:
557:
544:
540:
536:
522:
521:
497:
492:
491:
446:
434:
410:
409:
361:
360:
315:
302:
277:
264:
256:
255:
230:
225:
224:
201:
200:
153:
152:
139:
129:defined over a
105:
100:
99:
80:
69:
63:
60:
49:
35:related reading
25:
21:
12:
11:
5:
7702:
7700:
7692:
7691:
7689:Hilbert spaces
7686:
7681:
7671:
7670:
7667:
7666:
7660:
7643:10.1.1.42.8617
7629:
7617:(2): 495–502.
7602:
7565:
7549:
7548:
7541:
7510:
7509:
7507:
7504:
7503:
7502:
7500:Kernel methods
7497:
7490:
7487:
7472:
7469:
7466:
7461:
7458:
7454:
7450:
7447:
7444:
7441:
7436:
7432:
7428:
7425:
7420:
7416:
7412:
7409:
7406:
7403:
7400:
7397:
7394:
7389:
7385:
7381:
7378:
7375:
7372:
7369:
7364:
7360:
7356:
7353:
7350:
7347:
7342:
7338:
7328:
7315:
7312:
7309:
7304:
7300:
7277:
7273:
7252:
7243:and note that
7232:
7229:
7224:
7220:
7216:
7213:
7210:
7207:
7204:
7201:
7198:
7195:
7190:
7186:
7182:
7177:
7173:
7169:
7166:
7163:
7160:
7157:
7137:
7134:
7131:
7128:
7123:
7119:
7095:
7091:
7087:
7084:
7079:
7075:
7071:
7068:
7065:
7062:
7059:
7056:
7053:
7050:
7045:
7041:
7037:
7032:
7028:
7023:
7014:
7009:
7004:
7001:
6997:
6992:
6987:
6983:
6973:
6960:
6955:
6951:
6947:
6944:
6941:
6936:
6932:
6928:
6925:
6922:
6902:
6897:
6893:
6889:
6884:
6880:
6876:
6873:
6870:
6865:
6862:
6858:
6834:
6830:
6826:
6823:
6818:
6814:
6810:
6807:
6802:
6798:
6794:
6791:
6788:
6785:
6782:
6778:
6769:
6764:
6759:
6756:
6752:
6747:
6743:
6737:
6731:
6726:
6722:
6719:
6716:
6713:
6708:
6703:
6699:
6694:
6690:
6686:
6681:
6677:
6673:
6670:
6665:
6661:
6655:
6650:
6647:
6644:
6640:
6636:
6631:
6627:
6622:
6615:
6610:
6607:
6604:
6600:
6595:
6586:
6581:
6576:
6573:
6569:
6564:
6559:
6555:
6545:
6530:
6526:
6503:
6500:
6495:
6491:
6487:
6482:
6478:
6474:
6471:
6466:
6461:
6457:
6451:
6446:
6442:
6436:
6431:
6428:
6425:
6421:
6415:
6410:
6407:
6404:
6400:
6396:
6390:
6383:
6377:
6372:
6368:
6364:
6361:
6358:
6355:
6352:
6349:
6344:
6340:
6336:
6333:
6330:
6327:
6322:
6315:
6310:
6306:
6300:
6295:
6291:
6285:
6280:
6277:
6274:
6270:
6264:
6259:
6256:
6253:
6249:
6245:
6239:
6232:
6226:
6221:
6217:
6213:
6210:
6207:
6204:
6199:
6194:
6190:
6184:
6179:
6176:
6173:
6169:
6165:
6162:
6157:
6153:
6149:
6146:
6143:
6140:
6135:
6130:
6126:
6120:
6115:
6112:
6109:
6105:
6099:
6094:
6089:
6083:
6078:
6074:
6071:
6062:
6060:. Noting that
6047:
6042:
6037:
6034:
6029:
6024:
6020:
6016:
6013:
6010:
6005:
6000:
5996:
5992:
5989:
5984:
5980:
5957:
5952:
5948:
5944:
5941:
5938:
5935:
5930:
5925:
5921:
5915:
5910:
5907:
5904:
5900:
5896:
5893:
5890:
5887:
5882:
5878:
5868:
5852:
5846:
5840:
5835:
5831:
5828:
5825:
5822:
5817:
5813:
5809:
5804:
5800:
5796:
5793:
5790:
5785:
5781:
5777:
5772:
5767:
5764:
5761:
5757:
5752:
5743:
5738:
5735:
5731:
5726:
5721:
5716:
5710:
5705:
5701:
5698:
5695:
5692:
5689:
5686:
5683:
5680:
5675:
5671:
5667:
5664:
5661:
5656:
5652:
5648:
5643:
5639:
5635:
5632:
5629:
5626:
5623:
5620:
5615:
5611:
5607:
5604:
5601:
5596:
5592:
5588:
5583:
5579:
5575:
5572:
5569:
5564:
5554:
5549:
5546:
5542:
5537:
5532:
5528:
5518:
5505:
5502:
5499:
5477:
5473:
5469:
5466:
5463:
5460:
5457:
5454:
5430:
5426:
5422:
5417:
5413:
5409:
5406:
5403:
5398:
5394:
5390:
5385:
5380:
5377:
5374:
5370:
5366:
5363:
5360:
5357:
5352:
5348:
5344:
5341:
5338:
5333:
5329:
5325:
5320:
5316:
5312:
5309:
5306:
5303:
5300:
5297:
5292:
5288:
5284:
5281:
5278:
5273:
5269:
5265:
5260:
5256:
5252:
5249:
5246:
5237:
5221:
5197:
5175:
5170:
5165:
5162:
5157:
5153:
5149:
5146:
5143:
5138:
5134:
5130:
5127:
5124:
5104:
5084:
5081:
5078:
5073:
5069:
5048:
5043:
5038:
5033:
5029:
5006:
5002:
4981:
4978:
4975:
4959:
4956:
4942:
4939:
4936:
4916:
4913:
4910:
4907:
4896:
4895:
4884:
4881:
4878:
4875:
4872:
4869:
4866:
4863:
4860:
4857:
4854:
4851:
4827:
4823:
4820:
4817:
4814:
4811:
4808:
4805:
4802:
4782:
4779:
4776:
4773:
4770:
4749:
4745:
4740:
4736:
4724:
4723:
4712:
4709:
4704:
4700:
4696:
4693:
4690:
4687:
4682:
4678:
4672:
4667:
4664:
4661:
4657:
4653:
4650:
4647:
4644:
4639:
4635:
4620:
4619:
4608:
4605:
4602:
4597:
4593:
4590:
4587:
4584:
4581:
4577:
4573:
4570:
4565:
4561:
4557:
4554:
4551:
4546:
4542:
4538:
4533:
4529:
4525:
4522:
4519:
4516:
4513:
4510:
4505:
4501:
4497:
4494:
4491:
4486:
4482:
4478:
4473:
4469:
4465:
4461:
4457:
4453:
4444:
4440:
4436:
4433:
4429:
4424:
4419:
4415:
4402:, a minimizer
4391:
4388:
4385:
4382:
4378:
4374:
4369:
4365:
4359:
4354:
4349:
4344:
4339:
4336:
4333:
4312:
4308:
4303:
4298:
4295:
4290:
4286:
4282:
4277:
4273:
4269:
4266:
4263:
4260:
4257:
4252:
4248:
4244:
4239:
4235:
4231:
4210:
4206:
4201:
4197:
4193:
4190:
4168:
4164:
4141:
4136:
4131:
4109:
4087:
4054:
4050:
4028:
4024:
4019:
4015:
4011:
4006:
4002:
3990:
3989:
3978:
3975:
3972:
3967:
3963:
3957:
3953:
3947:
3942:
3939:
3936:
3932:
3928:
3925:
3920:
3916:
3912:
3909:
3906:
3903:
3898:
3894:
3888:
3883:
3880:
3877:
3873:
3869:
3866:
3863:
3860:
3855:
3848:
3845:
3818:
3815:
3812:
3790:
3783:
3780:
3756:
3734:
3731:
3726:
3722:
3717:
3713:
3709:
3704:
3700:
3695:
3673:
3670:
3667:
3647:
3644:
3641:
3638:
3635:
3632:
3629:
3625:
3621:
3616:
3611:
3606:
3602:
3598:
3578:
3556:
3552:
3548:
3545:
3525:
3522:
3519:
3516:
3510:
3507:
3493:
3492:
3481:
3478:
3475:
3471:
3467:
3463:
3460:
3457:
3454:
3451:
3448:
3445:
3440:
3436:
3432:
3429:
3426:
3423:
3418:
3414:
3410:
3407:
3404:
3401:
3398:
3392:
3389:
3383:
3379:
3375:
3372:
3369:
3365:
3361:
3358:
3354:
3350:
3347:
3342:
3338:
3334:
3328:
3325:
3319:
3314:
3310:
3306:
3301:
3297:
3293:
3290:
3287:
3284:
3281:
3278:
3273:
3269:
3265:
3259:
3256:
3250:
3245:
3241:
3237:
3232:
3228:
3224:
3220:
3216:
3212:
3208:
3205:
3202:
3197:
3190:
3187:
3156:
3153:
3150:
3147:
3127:
3124:
3121:
3110:
3109:
3092:
3088:
3084:
3081:
3078:
3075:
3072:
3070:
3068:
3065:
3062:
3059:
3056:
3053:
3050:
3049:
3046:
3041:
3037:
3031:
3027:
3023:
3020:
3015:
3011:
3007:
3004:
3001:
2996:
2991:
2988:
2985:
2981:
2975:
2972:
2967:
2964:
2962:
2959:
2955:
2952:
2947:
2943:
2939:
2936:
2933:
2928:
2924:
2920:
2915:
2911:
2907:
2904:
2901:
2898:
2895:
2892:
2887:
2883:
2879:
2876:
2873:
2868:
2864:
2860:
2855:
2851:
2847:
2843:
2839:
2836:
2835:
2817:
2814:
2810:
2809:
2798:
2795:
2790:
2786:
2782:
2779:
2776:
2773:
2768:
2764:
2758:
2753:
2750:
2747:
2743:
2739:
2736:
2731:
2727:
2723:
2720:
2715:
2711:
2705:
2700:
2697:
2694:
2690:
2686:
2683:
2680:
2677:
2672:
2668:
2644:
2641:
2638:
2616:
2612:
2591:
2588:
2585:
2574:
2573:
2558:
2554:
2550:
2547:
2542:
2538:
2534:
2531:
2526:
2522:
2516:
2511:
2508:
2505:
2501:
2497:
2493:
2489:
2486:
2483:
2481:
2479:
2475:
2468:
2464:
2460:
2457:
2454:
2449:
2445:
2441:
2436:
2432:
2428:
2425:
2420:
2416:
2410:
2405:
2402:
2399:
2395:
2391:
2386:
2382:
2379:
2376:
2374:
2372:
2368:
2364:
2361:
2358:
2355:
2350:
2346:
2342:
2339:
2334:
2330:
2324:
2319:
2316:
2313:
2309:
2305:
2301:
2297:
2294:
2291:
2289:
2286:
2282:
2279:
2276:
2272:
2268:
2265:
2264:
2241:
2221:
2216:
2212:
2208:
2205:
2200:
2196:
2190:
2185:
2182:
2179:
2175:
2154:
2134:
2114:
2094:
2083:
2082:
2071:
2068:
2065:
2060:
2056:
2052:
2049:
2046:
2043:
2038:
2034:
2030:
2027:
2024:
2019:
2015:
2009:
2004:
2001:
1998:
1994:
1990:
1986:
1982:
1977:
1973:
1969:
1966:
1963:
1960:
1957:
1954:
1949:
1945:
1941:
1938:
1933:
1929:
1923:
1918:
1915:
1912:
1908:
1903:
1899:
1896:
1891:
1887:
1883:
1880:
1855:
1851:
1830:
1803:
1783:
1780:
1777:
1774:
1769:
1765:
1761:
1758:
1755:
1752:
1749:
1738:
1737:
1726:
1723:
1720:
1717:
1712:
1708:
1704:
1701:
1696:
1692:
1686:
1681:
1678:
1675:
1671:
1667:
1664:
1640:
1636:
1631:
1627:
1623:
1620:
1617:
1614:
1611:
1608:
1603:
1599:
1595:
1592:
1588:
1584:
1581:
1559:
1555:
1551:
1548:
1526:
1522:
1518:
1515:
1512:
1507:
1503:
1477:
1473:
1452:
1449:
1446:
1443:
1440:
1429:
1428:
1417:
1414:
1411:
1408:
1405:
1402:
1399:
1396:
1392:
1389:
1385:
1382:
1379:
1376:
1373:
1370:
1367:
1363:
1360:
1356:
1353:
1350:
1347:
1343:
1340:
1336:
1333:
1330:
1327:
1324:
1301:
1280:
1276:
1271:
1249:
1246:
1243:
1240:
1237:
1234:
1231:
1228:
1225:
1222:
1219:
1208:
1207:
1192:
1189:
1186:
1183:
1180:
1177:
1174:
1171:
1169:
1167:
1164:
1161:
1158:
1155:
1154:
1149:
1145:
1141:
1138:
1136:
1132:
1127:
1124:
1121:
1120:
1091:
1088:
1085:
1082:
1079:
1058:
1054:
1049:
1045:
1033:
1032:
1021:
1018:
1013:
1009:
1005:
1002:
999:
996:
991:
987:
981:
976:
973:
970:
966:
962:
959:
956:
953:
948:
944:
929:
928:
917:
914:
911:
907:
903:
898:
894:
891:
888:
884:
880:
877:
873:
869:
866:
861:
857:
853:
850:
847:
842:
838:
834:
829:
825:
821:
818:
815:
812:
809:
806:
801:
797:
793:
790:
787:
782:
778:
774:
769:
765:
761:
757:
753:
749:
740:
736:
732:
729:
725:
720:
715:
711:
696:
695:
684:
680:
676:
673:
670:
666:
662:
659:
655:
651:
648:
643:
639:
635:
632:
629:
624:
620:
616:
611:
607:
603:
600:
597:
594:
591:
588:
583:
579:
575:
572:
569:
564:
560:
556:
551:
547:
543:
539:
535:
532:
529:
504:
500:
488:
487:
475:
472:
469:
466:
462:
458:
453:
449:
443:
438:
433:
428:
423:
420:
417:
406:
393:
389:
386:
383:
380:
377:
374:
371:
368:
357:
344:
340:
335:
330:
327:
322:
318:
314:
309:
305:
301:
298:
295:
292:
289:
284:
280:
276:
271:
267:
263:
237:
233:
210:
187:
183:
178:
173:
168:
163:
160:
138:
135:
112:
108:
82:
81:
39:external links
28:
26:
19:
13:
10:
9:
6:
4:
3:
2:
7701:
7690:
7687:
7685:
7682:
7680:
7677:
7676:
7674:
7663:
7657:
7653:
7649:
7644:
7639:
7635:
7630:
7625:
7620:
7616:
7612:
7608:
7603:
7599:
7595:
7590:
7585:
7581:
7577:
7576:
7571:
7566:
7562:
7558:
7553:
7552:
7544:
7538:
7534:
7530:
7526:
7522:
7515:
7512:
7505:
7501:
7498:
7496:
7493:
7492:
7488:
7486:
7470:
7467:
7464:
7459:
7456:
7448:
7445:
7442:
7439:
7434:
7430:
7423:
7418:
7414:
7407:
7404:
7401:
7398:
7395:
7392:
7387:
7383:
7376:
7373:
7370:
7367:
7362:
7358:
7351:
7348:
7345:
7340:
7327:
7313:
7310:
7307:
7302:
7275:
7271:
7250:
7230:
7227:
7222:
7218:
7214:
7211:
7208:
7202:
7199:
7196:
7193:
7188:
7184:
7175:
7171:
7167:
7161:
7155:
7135:
7132:
7129:
7126:
7121:
7117:
7093:
7089:
7085:
7082:
7077:
7073:
7069:
7066:
7063:
7057:
7054:
7051:
7048:
7043:
7039:
7030:
7026:
7021:
7012:
7002:
6999:
6995:
6990:
6985:
6981:
6972:
6953:
6949:
6945:
6942:
6939:
6934:
6930:
6923:
6920:
6895:
6891:
6887:
6882:
6878:
6871:
6868:
6863:
6860:
6856:
6832:
6828:
6824:
6821:
6816:
6812:
6808:
6805:
6800:
6792:
6789:
6786:
6783:
6776:
6767:
6757:
6754:
6750:
6745:
6741:
6735:
6720:
6714:
6711:
6706:
6701:
6692:
6688:
6684:
6679:
6675:
6668:
6663:
6659:
6653:
6648:
6645:
6642:
6638:
6634:
6629:
6625:
6620:
6613:
6608:
6605:
6602:
6598:
6593:
6584:
6574:
6571:
6567:
6562:
6557:
6553:
6544:
6543:has the form
6528:
6524:
6501:
6493:
6489:
6485:
6480:
6476:
6469:
6464:
6459:
6455:
6449:
6444:
6440:
6434:
6429:
6426:
6423:
6419:
6413:
6408:
6405:
6402:
6398:
6394:
6370:
6366:
6362:
6359:
6353:
6350:
6342:
6338:
6334:
6331:
6325:
6313:
6308:
6304:
6298:
6293:
6289:
6283:
6278:
6275:
6272:
6268:
6262:
6257:
6254:
6251:
6247:
6243:
6219:
6215:
6211:
6208:
6202:
6197:
6192:
6188:
6182:
6177:
6174:
6171:
6167:
6163:
6155:
6151:
6147:
6144:
6138:
6133:
6128:
6124:
6118:
6113:
6110:
6107:
6103:
6092:
6087:
6072:
6061:
6045:
6035:
6027:
6022:
6018:
6014:
6011:
6008:
6003:
5998:
5994:
5987:
5982:
5978:
5950:
5946:
5942:
5939:
5933:
5928:
5923:
5919:
5913:
5908:
5905:
5902:
5898:
5894:
5888:
5880:
5876:
5867:
5866:has the form
5850:
5844:
5829:
5823:
5820:
5815:
5802:
5798:
5791:
5788:
5783:
5779:
5770:
5765:
5762:
5759:
5755:
5750:
5736:
5733:
5729:
5724:
5699:
5690:
5687:
5673:
5669:
5662:
5659:
5654:
5650:
5646:
5641:
5637:
5630:
5627:
5624:
5613:
5609:
5602:
5599:
5594:
5590:
5586:
5581:
5577:
5567:
5547:
5544:
5540:
5535:
5530:
5526:
5517:
5503:
5500:
5497:
5475:
5471:
5467:
5464:
5458:
5452:
5428:
5415:
5411:
5404:
5401:
5396:
5392:
5383:
5378:
5375:
5372:
5368:
5364:
5350:
5346:
5339:
5336:
5331:
5327:
5323:
5318:
5314:
5307:
5304:
5301:
5290:
5286:
5279:
5276:
5271:
5267:
5263:
5258:
5254:
5244:
5236:
5233:
5219:
5210:
5195:
5173:
5163:
5155:
5151:
5147:
5144:
5141:
5136:
5132:
5125:
5122:
5102:
5079:
5071:
5067:
5031:
5027:
5004:
5000:
4976:
4965:
4957:
4955:
4937:
4911:
4905:
4882:
4873:
4864:
4861:
4855:
4849:
4842:
4841:
4840:
4812:
4809:
4803:
4800:
4780:
4777:
4774:
4771:
4768:
4743:
4738:
4734:
4710:
4702:
4698:
4694:
4691:
4685:
4680:
4676:
4670:
4665:
4662:
4659:
4655:
4651:
4645:
4637:
4633:
4625:
4624:
4623:
4603:
4595:
4588:
4582:
4579:
4575:
4563:
4559:
4552:
4549:
4544:
4540:
4536:
4531:
4527:
4520:
4517:
4514:
4503:
4499:
4492:
4489:
4484:
4480:
4476:
4471:
4467:
4459:
4455:
4451:
4442:
4438:
4434:
4431:
4427:
4422:
4417:
4413:
4405:
4404:
4403:
4380:
4367:
4357:
4347:
4334:
4331:
4306:
4296:
4288:
4284:
4280:
4275:
4271:
4264:
4261:
4258:
4250:
4246:
4242:
4237:
4233:
4199:
4195:
4191:
4188:
4166:
4162:
4134:
4107:
4075:
4071:
4068:
4052:
4048:
4022:
4017:
4013:
4009:
4004:
4000:
3973:
3965:
3961:
3955:
3951:
3945:
3940:
3937:
3934:
3930:
3926:
3918:
3914:
3910:
3907:
3901:
3896:
3892:
3886:
3881:
3878:
3875:
3871:
3867:
3861:
3853:
3843:
3832:
3831:
3830:
3813:
3788:
3778:
3754:
3732:
3729:
3724:
3715:
3711:
3702:
3698:
3693:
3671:
3668:
3665:
3642:
3639:
3636:
3633:
3630:
3627:
3609:
3604:
3600:
3576:
3554:
3550:
3546:
3543:
3523:
3520:
3517:
3514:
3505:
3476:
3469:
3465:
3458:
3455:
3452:
3449:
3446:
3443:
3438:
3434:
3427:
3424:
3421:
3416:
3412:
3408:
3405:
3402:
3399:
3396:
3387:
3381:
3377:
3370:
3363:
3359:
3356:
3352:
3340:
3336:
3323:
3317:
3312:
3308:
3304:
3299:
3295:
3288:
3285:
3282:
3271:
3267:
3254:
3248:
3243:
3239:
3235:
3230:
3226:
3218:
3214:
3210:
3206:
3203:
3200:
3195:
3185:
3174:
3173:
3172:
3168:
3151:
3145:
3125:
3122:
3119:
3090:
3082:
3076:
3073:
3071:
3060:
3051:
3044:
3039:
3029:
3025:
3021:
3013:
3009:
3002:
2994:
2989:
2986:
2983:
2979:
2973:
2970:
2965:
2963:
2957:
2945:
2941:
2934:
2931:
2926:
2922:
2918:
2913:
2909:
2902:
2899:
2896:
2885:
2881:
2874:
2871:
2866:
2862:
2858:
2853:
2849:
2841:
2837:
2826:
2825:
2824:
2821:
2815:
2813:
2796:
2788:
2784:
2780:
2777:
2771:
2766:
2762:
2756:
2751:
2748:
2745:
2741:
2737:
2729:
2725:
2718:
2713:
2709:
2703:
2698:
2695:
2692:
2688:
2684:
2678:
2670:
2666:
2658:
2657:
2656:
2642:
2639:
2636:
2614:
2610:
2589:
2586:
2583:
2556:
2552:
2540:
2536:
2529:
2524:
2520:
2514:
2509:
2506:
2503:
2499:
2491:
2487:
2484:
2482:
2473:
2466:
2458:
2452:
2447:
2434:
2430:
2423:
2418:
2414:
2408:
2403:
2400:
2397:
2393:
2384:
2380:
2377:
2375:
2366:
2359:
2356:
2348:
2344:
2337:
2332:
2328:
2322:
2317:
2314:
2311:
2307:
2299:
2295:
2292:
2290:
2284:
2277:
2270:
2266:
2255:
2254:
2253:
2239:
2214:
2210:
2203:
2198:
2194:
2188:
2183:
2180:
2177:
2173:
2152:
2132:
2112:
2092:
2069:
2058:
2054:
2047:
2044:
2036:
2032:
2025:
2017:
2013:
2007:
2002:
1999:
1996:
1992:
1988:
1984:
1975:
1971:
1964:
1961:
1958:
1955:
1947:
1943:
1936:
1931:
1927:
1921:
1916:
1913:
1910:
1906:
1901:
1897:
1889:
1885:
1878:
1871:
1870:
1869:
1853:
1849:
1828:
1820:
1815:
1801:
1781:
1778:
1767:
1763:
1756:
1753:
1750:
1724:
1721:
1718:
1710:
1706:
1699:
1694:
1690:
1684:
1679:
1676:
1673:
1669:
1665:
1662:
1655:
1654:
1653:
1638:
1629:
1625:
1618:
1615:
1612:
1609:
1601:
1597:
1590:
1586:
1582:
1579:
1557:
1553:
1549:
1546:
1524:
1520:
1516:
1513:
1510:
1505:
1501:
1491:
1475:
1471:
1447:
1444:
1441:
1415:
1406:
1400:
1397:
1390:
1387:
1380:
1374:
1368:
1365:
1361:
1358:
1351:
1348:
1341:
1338:
1328:
1322:
1315:
1314:
1313:
1299:
1244:
1241:
1238:
1232:
1229:
1223:
1217:
1187:
1184:
1181:
1175:
1172:
1170:
1162:
1156:
1147:
1143:
1137:
1125:
1122:
1111:
1110:
1109:
1107:
1103:
1089:
1086:
1083:
1080:
1077:
1052:
1047:
1043:
1019:
1011:
1007:
1003:
1000:
994:
989:
985:
979:
974:
971:
968:
964:
960:
954:
946:
942:
934:
933:
932:
912:
905:
901:
896:
889:
882:
878:
875:
871:
859:
855:
848:
845:
840:
836:
832:
827:
823:
816:
813:
810:
799:
795:
788:
785:
780:
776:
772:
767:
763:
755:
751:
747:
738:
734:
730:
727:
723:
718:
713:
709:
701:
700:
699:
682:
678:
671:
664:
660:
657:
653:
641:
637:
630:
627:
622:
618:
614:
609:
605:
598:
595:
592:
581:
577:
570:
567:
562:
558:
554:
549:
545:
537:
533:
527:
520:
519:
518:
502:
498:
464:
451:
441:
431:
418:
415:
407:
378:
375:
369:
366:
358:
338:
328:
320:
316:
312:
307:
303:
296:
293:
290:
282:
278:
274:
269:
265:
253:
252:
251:
235:
231:
171:
161:
158:
150:
146:
144:
136:
134:
132:
128:
110:
106:
97:
93:
89:
78:
75:
67:
57:
53:
47:
46:
40:
36:
32:
27:
18:
17:
7633:
7614:
7610:
7579:
7573:
7560:
7556:
7524:
7514:
7484:
7107:
6846:
6516:we see that
6515:
5969:
5865:
5444:
5234:
5211:
4961:
4958:Applications
4897:
4725:
4621:
4073:
4072:
4069:
3991:
3494:
3169:
3111:
2822:
2819:
2811:
2575:
2084:
1816:
1739:
1492:
1430:
1209:
1105:
1104:
1034:
930:
697:
489:
148:
147:
140:
95:
85:
70:
61:
50:Please help
42:
7582:(1): 1–49.
56:introducing
7673:Categories
7506:References
4839:for which
4181:, and let
1493:Given any
1292:). Since
7638:CiteSeerX
7457:−
7446:λ
7435:⊺
7419:∗
7415:α
7411:⟹
7393:−
7388:∗
7384:α
7374:λ
7363:⊺
7341:α
7337:∇
7303:α
7299:∇
7276:∗
7272:α
7223:⊺
7219:α
7212:−
7209:α
7200:λ
7189:⊺
7176:⊺
7172:α
7162:α
7133:λ
7122:⊺
7078:⊺
7074:α
7067:−
7064:α
7055:λ
7044:⊺
7031:⊺
7027:α
7003:∈
7000:α
6986:∗
6982:α
6943:…
6825:α
6817:⊺
6813:α
6809:λ
6797:‖
6793:α
6787:−
6781:‖
6758:∈
6755:α
6725:‖
6718:‖
6715:λ
6660:α
6639:∑
6635:−
6599:∑
6575:∈
6572:α
6558:∗
6554:α
6529:∗
6525:α
6465:∗
6456:α
6450:∗
6441:α
6420:∑
6399:∑
6360:⋅
6332:⋅
6314:∗
6305:α
6299:∗
6290:α
6269:∑
6248:∑
6209:⋅
6198:∗
6189:α
6168:∑
6145:⋅
6134:∗
6125:α
6104:∑
6077:‖
6070:‖
6036:∈
6028:∗
6019:α
6012:…
6004:∗
5995:α
5983:∗
5979:α
5970:for some
5929:∗
5920:α
5899:∑
5881:∗
5834:‖
5827:‖
5824:λ
5789:−
5756:∑
5737:∈
5704:‖
5697:‖
5628:…
5548:∈
5531:∗
5498:λ
5490:for some
5468:λ
5402:−
5369:∑
5305:…
5196:α
5164:∈
5152:α
5145:…
5133:α
5123:α
5080:⋅
5072:∗
4977:‡
4938:‡
4912:⋅
4877:‖
4871:‖
4822:→
4816:∞
4804::
4778:≤
4772:≤
4744:∈
4735:α
4692:⋅
4677:α
4656:∑
4646:⋅
4638:∗
4604:‡
4518:…
4435:∈
4418:∗
4387:∞
4381:∪
4373:→
4348:×
4335::
4307:×
4297:∈
4262:…
4205:→
4192::
4135:×
4049:β
4023:∈
4014:β
4001:α
3974:⋅
3962:ψ
3952:β
3931:∑
3908:⋅
3893:α
3872:∑
3862:⋅
3854:∗
3847:~
3814:†
3789:∗
3782:~
3747:has rank
3699:ψ
3669:×
3640:≤
3634:≤
3628:∣
3620:→
3610::
3601:ψ
3547:∈
3509:~
3477:†
3456:≤
3450:≤
3444:∣
3435:ψ
3428:
3422:⊕
3409:∈
3391:~
3382:∣
3374:‖
3368:‖
3327:~
3286:…
3258:~
3207:
3196:∗
3189:~
3152:⋅
3120:λ
3087:‖
3080:‖
3077:λ
3064:‖
3058:‖
3022:−
2980:∑
2900:…
2778:⋅
2763:α
2742:∑
2719:φ
2710:α
2689:∑
2679:⋅
2671:∗
2615:∗
2549:‖
2530:φ
2521:α
2500:∑
2496:‖
2485:≥
2463:‖
2456:‖
2444:‖
2424:φ
2415:α
2394:∑
2390:‖
2363:‖
2338:φ
2329:α
2308:∑
2304:‖
2281:‖
2275:‖
2204:φ
2195:α
2174:∑
2067:⟩
2048:φ
2026:φ
2023:⟨
2014:α
1993:∑
1965:φ
1937:φ
1928:α
1907:∑
1868:produces
1776:⟩
1757:φ
1748:⟨
1700:φ
1691:α
1670:∑
1619:φ
1613:…
1591:φ
1583:
1550:∈
1514:…
1451:⟩
1448:⋅
1442:⋅
1439:⟨
1413:⟩
1401:φ
1381:φ
1378:⟨
1323:φ
1275:→
1239:⋅
1218:φ
1210:(so that
1182:⋅
1157:φ
1140:→
1126::
1123:φ
1087:≤
1081:≤
1053:∈
1044:α
1001:⋅
986:α
965:∑
955:⋅
947:∗
913:∗
893:‖
887:‖
814:…
731:∈
714:∗
675:‖
669:‖
596:…
531:↦
471:∞
465:∪
457:→
432:×
419::
388:→
382:∞
370::
339:×
329:∈
294:…
182:→
172:×
143:Schölkopf
111:∗
64:June 2012
7489:See also
6382:⟩
6321:⟨
6231:⟩
6098:⟨
4966:problem
4761:for all
4074:Theorem:
4040:and the
3536:, where
1985:⟩
1902:⟨
1794:for all
1391:′
1362:′
1342:′
1070:for all
149:Theorem:
7598:1864085
3684:matrix
52:improve
7658:
7640:
7596:
7539:
7109:Since
6996:argmin
6848:where
6751:argmin
6568:argmin
5730:argmin
5541:argmin
4726:where
4428:argmin
3992:where
3204:argmin
1740:where
1431:where
1106:Proof:
1035:where
724:argmin
405:, and
90:, in
37:, or
7656:ISBN
7537:ISBN
6913:and
5501:>
4076:Let
3569:and
3425:span
3123:>
3112:for
2232:and
1580:span
94:, a
86:For
7648:doi
7619:doi
7584:doi
7529:doi
3803:in
7675::
7654:.
7646:.
7615:41
7613:.
7609:.
7594:MR
7592:.
7580:39
7578:.
7572:.
7561:10
7559:.
7535:.
5365::=
5188:;
1814:.
1490:.
1102:.
517::
41:,
33:,
7664:.
7650::
7627:.
7621::
7600:.
7586::
7545:.
7531::
7471:,
7468:y
7465:A
7460:1
7453:)
7449:A
7443:+
7440:A
7431:A
7427:(
7424:=
7408:0
7405:=
7402:y
7399:A
7396:2
7380:)
7377:A
7371:+
7368:A
7359:A
7355:(
7352:2
7349:=
7346:F
7314:0
7311:=
7308:F
7251:F
7231:y
7228:A
7215:2
7206:)
7203:A
7197:+
7194:A
7185:A
7181:(
7168:=
7165:)
7159:(
7156:F
7136:A
7130:+
7127:A
7118:A
7094:.
7090:}
7086:y
7083:A
7070:2
7061:)
7058:A
7052:+
7049:A
7040:A
7036:(
7022:{
7013:n
7008:R
6991:=
6959:)
6954:n
6950:y
6946:,
6940:,
6935:1
6931:y
6927:(
6924:=
6921:y
6901:)
6896:j
6892:x
6888:,
6883:i
6879:x
6875:(
6872:k
6869:=
6864:j
6861:i
6857:A
6833:.
6829:}
6822:A
6806:+
6801:2
6790:A
6784:y
6777:{
6768:n
6763:R
6746:=
6742:}
6736:2
6730:H
6721:f
6712:+
6707:2
6702:)
6698:)
6693:j
6689:x
6685:,
6680:i
6676:x
6672:(
6669:k
6664:j
6654:n
6649:1
6646:=
6643:j
6630:i
6626:y
6621:(
6614:n
6609:1
6606:=
6603:i
6594:{
6585:n
6580:R
6563:=
6502:,
6499:)
6494:j
6490:x
6486:,
6481:i
6477:x
6473:(
6470:k
6460:j
6445:i
6435:n
6430:1
6427:=
6424:j
6414:n
6409:1
6406:=
6403:i
6395:=
6389:H
6376:)
6371:j
6367:x
6363:,
6357:(
6354:k
6351:,
6348:)
6343:i
6339:x
6335:,
6329:(
6326:k
6309:j
6294:i
6284:n
6279:1
6276:=
6273:j
6263:n
6258:1
6255:=
6252:i
6244:=
6238:H
6225:)
6220:j
6216:x
6212:,
6206:(
6203:k
6193:j
6183:n
6178:1
6175:=
6172:j
6164:,
6161:)
6156:i
6152:x
6148:,
6142:(
6139:k
6129:i
6119:n
6114:1
6111:=
6108:i
6093:=
6088:2
6082:H
6073:f
6046:n
6041:R
6033:)
6023:n
6015:,
6009:,
5999:1
5991:(
5988:=
5956:)
5951:i
5947:x
5943:,
5940:x
5937:(
5934:k
5924:i
5914:n
5909:1
5906:=
5903:i
5895:=
5892:)
5889:x
5886:(
5877:f
5851:}
5845:2
5839:H
5830:f
5821:+
5816:2
5812:)
5808:)
5803:i
5799:x
5795:(
5792:f
5784:i
5780:y
5776:(
5771:n
5766:1
5763:=
5760:i
5751:{
5742:H
5734:f
5725:=
5720:}
5715:)
5709:H
5700:f
5694:(
5691:g
5688:+
5685:]
5682:)
5679:)
5674:n
5670:x
5666:(
5663:f
5660:,
5655:n
5651:y
5647:,
5642:n
5638:x
5634:(
5631:,
5625:,
5622:)
5619:)
5614:1
5610:x
5606:(
5603:f
5600:,
5595:1
5591:y
5587:,
5582:1
5578:x
5574:(
5571:[
5568:E
5563:{
5553:H
5545:f
5536:=
5527:f
5504:0
5476:2
5472:x
5465:=
5462:)
5459:x
5456:(
5453:g
5429:2
5425:)
5421:)
5416:i
5412:x
5408:(
5405:f
5397:i
5393:y
5389:(
5384:n
5379:1
5376:=
5373:i
5362:]
5359:)
5356:)
5351:n
5347:x
5343:(
5340:f
5337:,
5332:n
5328:y
5324:,
5319:n
5315:x
5311:(
5308:,
5302:,
5299:)
5296:)
5291:1
5287:x
5283:(
5280:f
5277:,
5272:1
5268:y
5264:,
5259:1
5255:x
5251:(
5248:[
5245:E
5220:K
5174:n
5169:R
5161:)
5156:n
5148:,
5142:,
5137:1
5129:(
5126:=
5103:n
5083:)
5077:(
5068:f
5047:)
5042:X
5037:(
5032:2
5028:L
5005:k
5001:H
4980:)
4974:(
4941:)
4935:(
4915:)
4909:(
4906:R
4883:.
4880:)
4874:f
4868:(
4865:h
4862:=
4859:)
4856:f
4853:(
4850:R
4826:R
4819:)
4813:,
4810:0
4807:[
4801:h
4781:n
4775:i
4769:1
4748:R
4739:i
4711:,
4708:)
4703:i
4699:x
4695:,
4689:(
4686:k
4681:i
4671:n
4666:1
4663:=
4660:i
4652:=
4649:)
4643:(
4634:f
4607:)
4601:(
4596:}
4592:)
4589:f
4586:(
4583:R
4580:+
4576:)
4572:)
4569:)
4564:n
4560:x
4556:(
4553:f
4550:,
4545:n
4541:y
4537:,
4532:n
4528:x
4524:(
4521:,
4515:,
4512:)
4509:)
4504:1
4500:x
4496:(
4493:f
4490:,
4485:1
4481:y
4477:,
4472:1
4468:x
4464:(
4460:(
4456:E
4452:{
4443:k
4439:H
4432:f
4423:=
4414:f
4390:}
4384:{
4377:R
4368:m
4364:)
4358:2
4353:R
4343:X
4338:(
4332:E
4311:R
4302:X
4294:)
4289:n
4285:y
4281:,
4276:n
4272:x
4268:(
4265:,
4259:,
4256:)
4251:1
4247:y
4243:,
4238:1
4234:x
4230:(
4209:R
4200:k
4196:H
4189:R
4167:k
4163:H
4140:X
4130:X
4108:k
4086:X
4053:p
4027:R
4018:p
4010:,
4005:i
3977:)
3971:(
3966:p
3956:p
3946:M
3941:1
3938:=
3935:p
3927:+
3924:)
3919:i
3915:x
3911:,
3905:(
3902:k
3897:i
3887:n
3882:1
3879:=
3876:i
3868:=
3865:)
3859:(
3844:f
3817:)
3811:(
3779:f
3755:M
3733:p
3730:i
3725:)
3721:)
3716:i
3712:x
3708:(
3703:p
3694:(
3672:M
3666:n
3646:}
3643:M
3637:p
3631:1
3624:R
3615:X
3605:p
3597:{
3577:h
3555:k
3551:H
3544:f
3524:h
3521:+
3518:f
3515:=
3506:f
3480:)
3474:(
3470:,
3466:}
3462:}
3459:M
3453:p
3447:1
3439:p
3431:{
3417:k
3413:H
3406:h
3403:+
3400:f
3397:=
3388:f
3378:)
3371:f
3364:(
3360:g
3357:+
3353:)
3349:)
3346:)
3341:n
3337:x
3333:(
3324:f
3318:,
3313:n
3309:y
3305:,
3300:n
3296:x
3292:(
3289:,
3283:,
3280:)
3277:)
3272:1
3268:x
3264:(
3255:f
3249:,
3244:1
3240:y
3236:,
3231:1
3227:x
3223:(
3219:(
3215:E
3211:{
3201:=
3186:f
3155:)
3149:(
3146:g
3126:0
3091:2
3083:f
3074:=
3067:)
3061:f
3055:(
3052:g
3045:,
3040:2
3036:)
3030:i
3026:y
3019:)
3014:i
3010:x
3006:(
3003:f
3000:(
2995:n
2990:1
2987:=
2984:i
2974:n
2971:1
2966:=
2958:)
2954:)
2951:)
2946:n
2942:x
2938:(
2935:f
2932:,
2927:n
2923:y
2919:,
2914:n
2910:x
2906:(
2903:,
2897:,
2894:)
2891:)
2886:1
2882:x
2878:(
2875:f
2872:,
2867:1
2863:y
2859:,
2854:1
2850:x
2846:(
2842:(
2838:E
2797:,
2794:)
2789:i
2785:x
2781:,
2775:(
2772:k
2767:i
2757:n
2752:1
2749:=
2746:i
2738:=
2735:)
2730:i
2726:x
2722:(
2714:i
2704:n
2699:1
2696:=
2693:i
2685:=
2682:)
2676:(
2667:f
2643:0
2640:=
2637:v
2611:f
2590:0
2587:=
2584:v
2557:.
2553:)
2546:)
2541:i
2537:x
2533:(
2525:i
2515:n
2510:1
2507:=
2504:i
2492:(
2488:g
2474:)
2467:2
2459:v
2453:+
2448:2
2440:)
2435:i
2431:x
2427:(
2419:i
2409:n
2404:1
2401:=
2398:i
2385:(
2381:g
2378:=
2367:)
2360:v
2357:+
2354:)
2349:i
2345:x
2341:(
2333:i
2323:n
2318:1
2315:=
2312:i
2300:(
2296:g
2293:=
2285:)
2278:f
2271:(
2267:g
2240:g
2220:)
2215:i
2211:x
2207:(
2199:i
2189:n
2184:1
2181:=
2178:i
2153:v
2133:v
2113:E
2093:v
2070:,
2064:)
2059:j
2055:x
2051:(
2045:,
2042:)
2037:i
2033:x
2029:(
2018:i
2008:n
2003:1
2000:=
1997:i
1989:=
1981:)
1976:j
1972:x
1968:(
1962:,
1959:v
1956:+
1953:)
1948:i
1944:x
1940:(
1932:i
1922:n
1917:1
1914:=
1911:i
1898:=
1895:)
1890:j
1886:x
1882:(
1879:f
1854:j
1850:x
1829:f
1802:i
1782:0
1779:=
1773:)
1768:i
1764:x
1760:(
1754:,
1751:v
1725:,
1722:v
1719:+
1716:)
1711:i
1707:x
1703:(
1695:i
1685:n
1680:1
1677:=
1674:i
1666:=
1663:f
1639:}
1635:)
1630:n
1626:x
1622:(
1616:,
1610:,
1607:)
1602:1
1598:x
1594:(
1587:{
1558:k
1554:H
1547:f
1525:n
1521:x
1517:,
1511:,
1506:1
1502:x
1476:k
1472:H
1445:,
1416:,
1410:)
1407:x
1404:(
1398:,
1395:)
1388:x
1384:(
1375:=
1372:)
1369:x
1366:,
1359:x
1355:(
1352:k
1349:=
1346:)
1339:x
1335:(
1332:)
1329:x
1326:(
1300:k
1279:R
1270:X
1248:)
1245:x
1242:,
1236:(
1233:k
1230:=
1227:)
1224:x
1221:(
1191:)
1188:x
1185:,
1179:(
1176:k
1173:=
1166:)
1163:x
1160:(
1148:k
1144:H
1131:X
1090:n
1084:i
1078:1
1057:R
1048:i
1020:,
1017:)
1012:i
1008:x
1004:,
998:(
995:k
990:i
980:n
975:1
972:=
969:i
961:=
958:)
952:(
943:f
916:)
910:(
906:,
902:}
897:)
890:f
883:(
879:g
876:+
872:)
868:)
865:)
860:n
856:x
852:(
849:f
846:,
841:n
837:y
833:,
828:n
824:x
820:(
817:,
811:,
808:)
805:)
800:1
796:x
792:(
789:f
786:,
781:1
777:y
773:,
768:1
764:x
760:(
756:(
752:E
748:{
739:k
735:H
728:f
719:=
710:f
683:.
679:)
672:f
665:(
661:g
658:+
654:)
650:)
647:)
642:n
638:x
634:(
631:f
628:,
623:n
619:y
615:,
610:n
606:x
602:(
599:,
593:,
590:)
587:)
582:1
578:x
574:(
571:f
568:,
563:1
559:y
555:,
550:1
546:x
542:(
538:(
534:E
528:f
503:k
499:H
486:,
474:}
468:{
461:R
452:n
448:)
442:2
437:R
427:X
422:(
416:E
392:R
385:)
379:,
376:0
373:[
367:g
356:,
343:R
334:X
326:)
321:n
317:y
313:,
308:n
304:x
300:(
297:,
291:,
288:)
283:1
279:y
275:,
270:1
266:x
262:(
236:k
232:H
209:X
186:R
177:X
167:X
162::
159:k
107:f
77:)
71:(
66:)
62:(
48:.
Text is available under the Creative Commons Attribution-ShareAlike License. Additional terms may apply.