/ / Rozdiel medzi lineárnou a nelineárnou regresiou? - strojové učenie, regresia, lineárna regresia, nelineárna regresia

Rozdiely medzi lineárnou a nelineárnou regresiou? - strojové učenie, regresia, lineárna regresia, nelineárna regresia

V strojovom vzdelávaní hovoríme, že:

  • w1X1 + w2X2 + ... + wnXn je a lineárna regresia model, kde w1, w2.... wn sú hmotnosti a x1,X2...X2 sú vlastnosti, zatiaľ čo:
  • w1X12 + w2X22 + ... + wnXn2 je a nelineárna (polynomická) regresia Model

Avšak v niektorých prednáškach som videl ľudí, ktorí tvrdia, že model je lineárny na základe hmotnosti, t. J koeficienty hmotnosti sú lineárne a stupeň vlastností nezáleží, či sú lineárne (x1) alebo polynom (x12). Je to pravda? Ako rozlišujeme lineárny a nelineárny model? Je založené na hmotnostiach alebo hodnotách funkcií?

odpovede:

2 pre odpoveď č. 1

Obidve príchute existujú.

Ak sa nachádzate v štatistickej komunite, je to zvyčajne bývalá (nelinearita vo funkciách, x ^ 2 alebo e ^ x, atď.). vidieť toto napríklad.

V komunite strojového učenia sa zameriava viac na váhy; Funkcie funkcie môžu byť čokoľvek (pozrite si napríklad trik jadra v SVMs).

Dôvodom je to, že rôzne komunitymajú rôzne prístupy na riešenie týchto podobných problémov. Štátna komunita má viac priameho a analytického prístupu. zatiaľ čo cieľ strojového učenia sa mierne líši (modelovanie komplikovaných zložitých vzorov v neznámom koncepčnom priestore).


1 pre odpoveď č. 2

Ako rozlišujeme lineárny a nelineárny model? Je založené na hmotnostiach alebo hodnotách funkcií?

Len som počul / prečítal o tom v "model je lineárny / nelineárny vzhľadom na vlastnosti" .To je zvyčajne zaujímavá vec.Nevidím, ako mať termín wja2 vo vašom modeli vám pomôže, pretože je v podstate konštantný. Počas testovania sa menia iba funkcie.

Takže lineárny model je niečo, čo môže byť vyjadrené ako

tu zadajte popis obrázku

kde wja definujte model a xja sú vaše vstupy. Rôzne wja výsledkom je iný model (všetky sú však lineárne vzhľadom na vlastnosti). Ak váš model nezodpovedá tejto schéme, váš model nie je lineárny vzhľadom na funkcie.

Teraz môžete pridávať nové funkcie, ktoré sú v podstate iba (ručne) nelineárne transformácie vstupu. Môžete napríklad vytvoriť model

tu zadajte popis obrázku

Mohli by ste tvrdiť, že ide o nelineárny model vzhľadom na vstup. Môžete však tiež tvrdiť, že ide v podstate o model

tu zadajte popis obrázku

Myslím, že dôležitou súčasťou je, že to boloručne vyrábané. Zmenili ste priestor, nie schopnosti modelu. Takže je to stále lineárny model, ale v inom priestore funkcií. Keď idete týmto spôsobom, môžete urobiť ľubovoľný model nelineárnym.

Nakoniec: Je naozaj jedno? Znie to trošku, akoby ste sa pripravovali na skúšku. Ak je to tak, navrhujem, aby som sa opýtal svojho lektora a držal sa toho, čo definuje ako lineárny / nelineárny.