Linear Algebra and Optimization Basics - 2.pdf - Linear...

This preview shows page 1 - 4 out of 10 pages.

1 50 Linear Algebra Background Reading G. Strang Linear Algebra and its Applications 2 nd Ed. Elementary Linear Algebra by Howard Anton. Taylor Series Taylor series is a series expansion of a function about a point. A one dimensional  Taylor series is an expansion of a real function f(x) about a point. If  𝑥 ൌ 0 , the  expansion is known as a Maclaurin Series. The Taylor Series for f(x) is given as 51
2 Taylor Series An animation that shows how a Taylor series  can be used to approximate a function.  The blue line shows the exponential function. The red lines show the sum of n derivatives ‐‐ that is, n+1 terms in the Taylor series.  As n gets bigger, the red line gets closer to the  blue line.  53 Taylor Series Example We use Taylor Series to get the Expansion of  𝑆𝑖𝑛ሺ𝑥ሻ at point  𝑥 0 ൌ 0 𝑓ሺ𝑥ሻ ൌ 𝑆𝑖𝑛ሺ𝑥ሻ 𝑎𝑡 𝑥 ൌ 𝑥 0 ൌ 0 𝑓ሺ𝑥ሻ ൌ 0 𝑓’ሺ𝑥ሻ ൌ 𝐶𝑜𝑠ሺ𝑥ሻ 𝑎𝑡 𝑥 ൌ 𝑥 0 ൌ 0 𝑓’ሺ𝑥ሻ ൌ 1 𝑓’’ሺ𝑥ሻ ൌ െ𝑆𝑖𝑛ሺ𝑥ሻ 𝑎𝑡 𝑥 ൌ 𝑥 0 ൌ 0 𝑓’’ሺ𝑥ሻ ൌ 0 𝑓’’’ሺ𝑥ሻ ൌ െ𝐶𝑜𝑠ሺ𝑥ሻ 𝑎𝑡 𝑥 ൌ 𝑥 0 ൌ 0 𝑓’’’ሺ𝑥ሻ ൌ െ1 𝑓’’’’ሺ𝑥ሻ ൌ 𝑆𝑖𝑛ሺ𝑥ሻ 𝑎𝑡 𝑥 ൌ 𝑥 0 ൌ 0 𝑓’’’’ሺ𝑥ሻ ൌ 0 Same Sequence is Repeated for higher derivatives. Plugging in values in the expression of Taylor Series we get ... ! 7 ! 5 ! 3 ) ( 7 5 3 x x x x x f
3 Generalized Taylor Series If we let 𝛿𝑥 ൌ 𝑥 െ 𝑥 then the Taylor Series can be written as 𝑓ሺ𝑥 ൅ 𝛿𝑥ሻ ൌ 𝑓ሺ𝑥 ሻ ൅ 𝛿𝑥𝑓′ሺ𝑥 ሻ ൅ ሺఋ௫ሻ ଶ! 𝑓′′ሺ𝑥 ሻ൅ . . . . ሺఋ௫ሻ ௡! 𝑓 ሺ𝑥 ሻ ൅ 𝑅 For a Function of Two Variables it is written as 𝑓ሺ𝑥 ൅ 𝛿𝑥, 𝑦 ൅ 𝛿𝑦ሻ ൌ 𝑓ሺ𝑥 , 𝑦 ሻ ൅ ሺ డ௙ డ௫ 𝛿𝑥 ൅ డ௙ డ௬ 𝛿𝑦ሻ ൅ ଶ! డ௫ 𝛿𝑥 ൅ 2 డ௫ డ௬ 𝛿𝑥𝜕𝑦 ൅ డ௬ 𝛿𝑦ሿ൅. . . 54 Gradient

  • Left Quote Icon

    Student Picture

  • Left Quote Icon

    Student Picture

  • Left Quote Icon

    Student Picture