ECE 370 SIGNALS AND SYSTEMS - FALL 2012
Text: These lecture notes and board notes.
Optional Texts:
H.P. Hsu, Signals & Systems. Shaum's Outline: McGraw{Hill, 1995.
This is essentially a good source of worked examples, all in the standard EE notation that
we use in ECE 370. Reasonably priced!
C.L. Phillips, J.M. Parr, and E.A. Riskin, Signals, Systems, & Transforms. 4th Edition,
Prentice-Hall, 2008. Only get this if you are inclined to read additional books!
Prerequisites:
ECE 225 Electric Circuits, MA 238 Di®erential Equations.
Course Goals:
To provide electrical engineers with physical understanding and
compe-tence in mathematical signal analysis and systems theory.
Instructor:
Robert W. Scharstein, Houser 209
phone 205-348-1761, e-mail [email protected]
O±ce hours: to be announced and by appointment.
Lecture:
12:00 noon { 12:50 pm, Mon, Wed, Fri; SERC 1013.
Problem Session:
Wednesday 7:00-8:00 pm, Houser 301, optional. Bring your questions!
Daily Homework:
Homework problems and textbook reading will be assigned for each
class.
FFF !!!THESE ARE YOUR PRIMARY RESPONSIBILITY!!! FFF
Tests will consist of homework problems, modi¯ed homework problems, new problems,
and concepts and derivations from the text and lecture. Details and discussion of the
MATLAB homework problems will appear on tests.
Tentative Grades:
All quizzes and tests are closed-book.
Eleven Friday quizzes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1/3
Test 1, Friday September 21 : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1/6
Test 2, Friday November 2 : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1/6
Final Exam, Monday December 10 11:30 am { 2:00 pm : : : : : : : : : : : : : : : : : : : : : : : : : : 1/3
Instructor may determine ¯nal course grades using any combination of the above. However,
the ¯nal exam will not be weighted less than 1/3.
Friday quiz dates: 1: Aug 24, 2: Aug 31, 3: Sept 7, 4: Sept 14, 5: Sept 28, 6: Oct 12
7:
Oct 19, 8: Oct 26, 9: Nov 9, 10: Nov 16 11: Nov 30
\Our goal is not to develop all the applications, but to prepare for them
- and that preparation can only come by understanding the theory."
Gilbert Strang Linear Algebra and Its Applications, Academic Press, 1976 page x
ECE 370 SIGNALS AND SYSTEMS - ROUGH LECTURE NOTES
Robert W. Scharstein
23 July 2012
CONTENTS
BACKGROUND AND TIME-DOMAIN SYSTEMS
Complex Numbers : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1.
A Couple of Singularity Functions : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 7.
Symmetry : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 10.
A Note on Mathematical Functions and Units/Physical Dimensions : : : : : : : : : : : : : : : : : 13.
Linear System : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 15.
Time-Invariant System : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 16.
Input/Output Relationship for a LTI System : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :17.
Convolution : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 18.
Another Convolution Example: The Convolution of Two Gaussian Pulses : : : : : : : : : : : 21.
Yet Another Convolution Example : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 22.
Causal System : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 28.
Bounded Input/Bounded Output Stability : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 28.
Singular Functions and Integrals : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 29.
Homework Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 35.
Relationship Between Impulse Response and Step Response : : : : : : : : : : : : : : : : : : : : : : : : : 37.
Time-Domain RC Circuit Analysis : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 38.
Step Response of an RC Circuit : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 41.
Step Response of Another RC Circuit : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 43.
Homework Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 45.
Step and Impulse Response of Series RLC Circuit : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 46.
Homework : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :53.
FOURIER INTEGRAL
Evaluation of an Important Integral via the Laplace Transform : : : : : : : : : : : : : : : : : : : : : : 54.
Spectral Form of the Dirac-Delta Function : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 57.
Fourier Transform : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 58.
Fourier Transform Exercises : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 59.
Tables of Integral Transforms : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 60.
Fourier Transform of the Gaussian : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 63.
Fourier Transform of the Heaviside Unit Step Function : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 65.
Duality Property of the Fourier Transform : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 68.
Half-Power Bandwidth or Pulse width : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 70.
Homework : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :73.
Uncertainty Principle for the Fourier Integral : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 74.
*Riemann-Lebesgue Lemma (two serious treatments) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 76.
Riemann-Lebesgue Lemma (one reasonable treatment) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 78.
Convergence of the Fourier Integral Representation : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :79.
System Transfer Function : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 81.
Superposition Interpretation of the System Transfer Function : : : : : : : : : : : : : : : : : : : : : : : 83.
Transfer Function for Linear Electric Circuits : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 84.
Parseval's Theorem for the Fourier Integral : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 87.
Other Conventions for the Fourier Transform Pair : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 88.
Cascade of Two LTI Systems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 90.
Linear Dispersionless Filter : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 90.
Rectangular Pulse Response of Ideal Low Pass Filter : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 91.
Ideal Band-Pass Filter : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 95.
Complex Phasors for Time-Harmonic Circuit Analysis : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :96.
Homework Problem on Uncertainty Principle : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 98.
*Approximate Analysis of Dispersion : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 99.
Fourier Integral Solution of Potential Problem : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 103.
FOURIER SERIES
Fourier Transform of the comb : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :106.
Fourier Transform of a Periodic Signal : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 107.
Periodic Signals and Fourier Series : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 110.
Orthogonality : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 110.
Kronecker delta : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 111.
Orthogonality of the Fourier basis : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 111.
Derivation of Fourier Coe±cients by Minimizing the Mean Square Error : : : : : : : : : : : : 112.
Fourier Coe±cients by a Direct Inner Product : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 114.
Trigonometric Form of the Fourier Series : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 114.
Two Standard Notations for the Trig Fourier Series : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 116.
Riemann-Lebesgue Lemma: Fourier Coe±cients : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 117.
Gibbs' Phenomenon: Example Square Wave : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 118.
Pointwise Convergence of the Fourier Series : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 119.
On the Convergence and Summation of Some Series : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 126.
Kummer Transform : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 129.
Homework Problem: Convergence of Fourier Series : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 131.
Fourier Series of Full-Wave Recti¯ed Sine Wave : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 132.
Parseval's Theorem for the Fourier Series : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 134.
Power Supply Performance : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 135.
Periodic Excitation of a Simple Parallel GLC Circuit : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 139.
Homework Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 140.
Simple Low-Pass and Hi-Pass Filter Response to a Periodic Input : : : : : : : : : : : : : : : : : : 141.
The Vibrating String : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 147.
Homework Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 150.
Poisson Sum Formula : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 151.
TRANSITION TO DISCRETE-TIME SYSTEMS
Sampling and Reconstruction : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 153.
Discrete-Time Signals, Systems, and Transforms : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 157.
Exercises : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 159.
Discrete-Time Systems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 159.
Linear Time-Invariant Discrete-Time Systems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 160.
Input/Output Relationship : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 160.
Example of a LTI Discrete-Time System : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 161.
The
Z-Transform : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 163.
Fibonacci Sequence - Di®erence Equation and
Z-Transform : : : : : : : : : : : : : : : : : : : : : : : : 165.
Convolution Theorem of the
Z-Transform : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 166.
Z-Transform of a Delayed Sequence : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 166.
System Transfer Function : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 166.
Discrete-Time Fourier Transform : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 167.
Discrete Fourier Transform : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 167.
Exercises : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 169.
DFT Approximation of the Continuous-Time Fourier Transform : : : : : : : : : : : : : : : : : : : : 170.
Numerical Example of Using the FFT to Evaluate the Fourier Integral : : : : : : : : : : : : : 171.
Example: DFT Approximation of a Fourier Sine Integral : : : : : : : : : : : : : : : : : : : : : : : : : : : 174.
Discrete-Time Approximation for the Step Response of Series RLC Circuit : : : : : : : : : 177.
* Sections marked by the asterisk are A
+
level, so put these last in your prioritized list of
study topics.
\... mathematics is learned by doing it, not by watching other people do it ... "
M. Reed and B. Simon, Functional Analysis, Academic Press, 1980, page ix.
Complex Numbers
j = +
p
¡1
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ..x
y
²
... ... ... ... ... ... ... ... ... ...Á
... ... ... ... .... .... ... ... ... ... .. ... .. .. .. .. ...... ...... ... ...r
z
complex z = x + jy plane
If z
2 C and x; y; r; Á 2 R, then we write the complex number z in rectangular and polar
form as
z = x + jy = re
jÁ
:
R
e
fzg = x
and
I
m
fzg = y
The modulus or magnitude of z is
jzj = r
and the argument or angle of z is
arg
fzg = Á:
The complex conjugate of z = x + jy = re
jÁ
is
z
¤
= x
¡ jy = re
¡jÁ
:
z + z
¤
= 2x
and
z
¡ z
¤
= 2jy
zz
¤
=
jzj
2
= r
2
Euler's identity:
e
jÁ
= cos Á + j sin Á
Taylor series for the exponential function, written as a function of the complex variable z
is
e
z
=
1
X
n=0
z
n
n!
:
Let z = jy and separate the real and imaginary parts via the even and odd powers in
e
jy
=
1
X
n=0
(jy)
n
n!
=
1
X
m=0
(jy)
2m
(2m)!
+
1
X
m=0
(jy)
2m+1
(2m + 1)!
Note that j
2m
= (
¡1)
m
and j
2m+1
= j(
¡1)
m
so that
e
jy
=
1
X
m=0
(
¡1)
m
y
2m
(2m)!
+ j
1
X
m=0
(
¡1)
m
y
2m+1
(2m + 1)!
= cos y + j sin y
There was nothing special about the real number y, and we also write
e
jÁ
= cos Á + j sin Á:
The sum of e
jÁ
and its conjugate gives
e
jÁ
+ e
¡jÁ
= 2 cos Á
and the di®erence gives
e
jÁ
¡ e
¡jÁ
= 2j sin Á
which are the important representations
cos Á =
e
jÁ
+ e
¡jÁ
2
sin Á =
e
jÁ
¡ e
¡jÁ
2j
Many (all?) of the trig identities are easily seen in complex form: Consider
1 =
je
jÁ
j
2
=
³
e
jÁ
´³
e
¡jÁ
´
=
³
cos Á + j sin Á
´³
cos Á
¡ j sin Á
´
= cos
2
Á + sin
2
Á:
Now observe
z = x + jy = re
jÁ
= r
£
cos Á + j sin Á
¤
Equating real and imaginary parts separately gives
x = r cos Á
and
y = r sin Á:
jzj
2
= zz
¤
= r
2
= (x + jy)(x
¡ jy) = x
2
+ y
2
r = +
p
x
2
+ y
2
Á = tan
¡1
³ y
x
´
Note that the two-argument arctangent function (that maintains full information about
quadrant) is required. For example, observe that
z
1
=
¡1 + j =
p
2e
j3¼=4
where
tan
¡1
μ
1
¡1
¶
=
3¼
4
is certainly di®erent from
z
2
= 1
¡ j =
p
2e
¡j¼=4
where
tan
¡1
μ
¡1
1
¶
=
¡
¼
4
Your calculator has the two-argument arctangent function as part of its
rectangular-to-polar conversion. In MATLAB, it's called atan2(y,x) just like Fortran and probably
Consider z
1
= x
1
+ jy
1
and z
2
= x
2
+ jy
2
. Then our four basic operations are:
addition
z
1
+ z
2
= x
1
+ jy
1
+ x
2
+ jy
2
= (x
1
+ x
2
) + j(y
1
+ y
2
)
multiplication by a real constant c:
cz
1
= c(x
1
+ jy
1
) = cx
1
+ jcy
1
multiplication z
1
z
2
= (x
1
+ jy
1
)(x
2
+ jy
2
) = (x
1
x
2
¡ y
1
y
2
) + j(x
1
y
2
+ x
2
y
1
)
and
z
1
z
2
= (r
1
e
jÁ
1)(r
2
e
jÁ
2) = r
1
r
2
e
j(Á
1+Á
2)
division
z
1
z
2
=
x
1
+ jy
1
x
2
+ jy
2
=
(x
1
+ jy
1
)(x
2
¡ jy
2
)
(x
2
+ jy
2
)(x
2
¡ jy
2
)
=
(x
1
x
2
+ y
1
y
2
) + j(x
2
y
1
¡ x
1
y
2
)
x
2
2
+ y
2
2
and
z
1
z
2
=
r
1
e
jÁ
1r
2
e
jÁ
2=
r
1
r
2
e
j(Á
1¡Á
2)
Generally, since the real number line is a subset of the complex plane, all of our ordinary
functions f (x) of a real variable x have extensions (or continuations) to a function f (z) of
a complex variable z. One notable di®erence between the real number line and the more
general complex plane is the lack of ordering on z: That is, there is no inequality on the
complex plane. Inequality is only de¯ned on the reals, i.e.
x
1
> x
2
;
y
1
· y
2
;
7 < 13;
etc
but something like z
1
< z
2
is meaningless.
Triangle inequalities.
jz
1
+ z
2
j · jz
1
j + jz
2
j
jz
1
¡ z
2
j ¸
¯
¯jz
1
j ¡ jz
2
j
¯
¯
Proof of the ¯rst triangle inequality:
jzj
2
= x
2
+ y
2
jzj =
p
x
2
+ y
2
¸ jxj
jzj ¸ jRe(z)j
jzj ¸ Re(z)
jz
1
z
¤
2
j ¸ Re(z
1
z
2
¤
)
(1)
jz
1
+ z
2
j
2
= (z
1
+ z
2
)(z
1
¤
+ z
¤
2
) = z
1
z
1
¤
+ z
2
z
2
¤
+ z
1
z
¤
2
+ z
1
¤
z
2
=
jz
1
j
2
+
jz
2
j
2
+ 2Re(z
1
z
2
¤
)
(2)
(
jz
1
j + jz
2
j)
2
=
jz
1
j
2
+
jz
2
j
2
+ 2
jz
1
jjz
2
j = jz
1
j
2
+
jz
2
j
2
+ 2
jz
1
z
2
¤
j
(3)
compare (2) and (3) in view of (1)
jz
1
+ z
2
j
2
· (jz
1
j + jz
2
j)
2
jz
1
+ z
2
j · jz
1
j + jz
2
j
... ... ... ... ... ... ... ... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .z
1
z
2
z
1
+ z
2
Extensions
¯
¯
¯
¯
¯
N
X
n=0
f
n
(z)
¯
¯
¯
¯
¯
·
N
X
n=0
jf
n
(z)
j
¯
¯
¯
¯
¯
¯
b
Z
a
f (t) dt
¯
¯
¯
¯
¯
¯
·
b
Z
a
jf(t)j dt
(Sometimes called the monotonicity property of the integral.)
F Prove the second triangle inequality.
Multivalued functions.
The nth roots of unity
1 = e
j2k¼
(k = 0;
§1; §2; : : : )
1
1=n
= e
j2k¼=n
(k = 0; 1; 2; : : : ; n
¡ 1) distinct roots
Examples.
1
1=2
=
½
e
j0
= 1
(k = 0)
e
j¼
=
¡1 (k = 1)
... ... .... ... ... ... ... .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . .. .. . .. .. .. .. .. ... ... ... ... ...... ...... ...... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .²
²
1
1=3
=
8
>
>
>
>
<
>
>
>
>
:
e
j0
= 1
(k = 0)
e
j2¼=3
=
¡1 + j
p
3
2
(k = 1)
e
j4¼=3
=
¡1 ¡ j
p
3
2
(k = 2)
... ... .... ... ... ... ... .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . .. .. . .. .. .. .. .. .... ... ... ... ...... ...... ...... ... ... ... ... ... .. ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .²
²
²
logarithm
ln(z) = ln
£
re
jÁ
¤
= ln
£
re
j(Á+2k¼)
¤
= ln(r) + j(Á + 2k¼)
(k = 0;
§1; §2; : : : )
powers: Let z = x + jy and w = u + jv be two complex numbers, that is z; w
2 C and
x; y; u; v
2 R.
z
w
= exp
£
ln(z
w
)
¤
= exp
£
w ln z
¤
and we know how to interpret/evaluate
e
z
= e
x+jy
= e
x
£
cos y + j sin y
¤
Example.
ln(j) = j(¼=2 + 2k¼)
j
j
= e
j
¢j(¼=2+2k¼)
= e
¡(¼=2+2k¼)
principal value is j
j
= exp(
¡¼=2) = 0:2079 ¢ ¢ ¢
Problem:
Show that
μ
Hint: use the ¯nite geometric series
n
P
¡1
k=0
a
k
on page 164
¶
n
X
¡1
k=0
e
j2¼k=n
= 0
Fundamental theorem of algebra.
The polynomial
P
n
(z) = a
n
z
n
+ a
n
¡1
z
n
¡1
+
¢ ¢ ¢ + a
2
z
2
+ a
1
z + a
0
with a
n
6
= 0 is said to be of degree n. It has exactly n roots (zeros) counting multiplicity.
Proposition:
If the coe±cients a
k
(k = 0; 1; 2; : : : ; n) of the polynomial P
n
(z) are all real,
then any complex roots must occur in complex conjugate pairs. That is, if P
n
(z) = 0 then
P
n
(z
¤
) = 0.
proof:
a
n
z
n
+ a
n
¡1
z
n
¡1
+
¢ ¢ ¢ + a
2
z
2
+ a
1
z + a
0
= 0
take the complex conjugate
A Couple of Singularity Functions
(or \Distributions" or \Generalized Functions")
... ... ... ... ... ... ...
0
t
u(t)
1
... ... ... ... ... ... .... ... ... ... ... ... ... ... .... ... ... ... ... ... ... ... .... ... ... ... ... ... ... ... .... ... ... ... ... ... ... ... ....N
0
t
±(t)
(1)
Heaviside unit-step function
u(t) =
½
0;
t < 0
1;
t > 0
=
)
u(t
¡ T ) =
½
0;
t < T
1;
t > T
:
Dirac delta-function (de¯nition)
±(t) = 0
if
t
6
= 0
AND
1
Z
¡1
±(t) dt = 1
From this strange de¯nition, the sampling or sifting property follows:
b
Z
a
f (t)±(t
¡ t
0
) dt =
½
f (t
0
);
a < t
0
< b
0;
o.w.
if f (t) is continuous at t = t
0
. This is e®ectively an operational de¯nition of the Dirac-delta.
It is under the operation of integration that the Dirac delta-function enjoys meaning, and
thus it is sometimes said that \every Dirac-delta function is begging to be integrated."
Relationship:
t
Z
¡1
±(¿ ) d¿ = u(t)
()
±(t) =
du(t)
dt
Dirac-Delta Sequences:
There are lots (
1!) of ordinary functions that satisfy, in some
limit, the two-statement de¯nition of the Dirac-delta function. Here are several:
lim
²
!0
1
²
¦
μ
t
²
¶
= ±(t)
where
¦
μ
t
T
¶
, u(t + T=2) ¡ u(t ¡ T=2) =
½
1
jtj < T=2
0
jtj > T=2
lim
²
!0
²=¼
t
2
+ ²
2
= ±(t)
Cauchy or Lorenz distribution
lim
®
!1
r
®
¼
e
¡®t
2= ±(t)
Gaussian distribution
lim
−
!1
sin −t
¼t
= lim
−
!1
1
2¼
−
Z
¡−
e
§j!t
d! = ±(t)
Dirichlet kernel
Study the time behavior of the above \Dirac-delta sequences" to see how they approach
the ideal delta function. Also examine the Heaviside unit-step sequence
lim
®
!1
1
2
[1 + tanh ®t] = u(t)
and its time-derivative.
Note:
we don't ever try to evaluate ±(0). You might want to, and some books might say
that \±(0) =
1 ", but I would prefer we avoid this point. We don't ever have to attach a
value to the Dirac delta function when its argument is zero. But, in the words of Lennon
& McCartney, it's \nothin' to get hung about" from Strawberry Fields Forever.
Another note:
(along the same line) If a Dirac-delta function appears in the integrand
of some integral, the integral is evaluated from the sampling property.
Warning:
the integration limits cannot \split" a Dirac-delta function \down the middle,"
for example
1
Z
0
±(t) dt
should be either
1
Z
0
¡±(t) dt = 1
or
1
Z
0
+±(t) dt = 0:
You either capture all of the delta-function or you don't get any of it. It cannot be divided.
Or you will have to agree on some scheme to cut it up while minimizing bloodshed.
Proof of the SAMPLING PROPERTY:
No harm is done in taking t
0
= 0, so that
we want to show
b
Z
a
f (t)±(t) dt =
½
f (0);
a < 0 < b
0;
o.w.
for f (t) continuous in a neighborhood of t = 0. For de¯niteness, use the limit of the
rectangular pulse to represent
±(t) = lim
²
!0
1
²
¦
μ
t
²
¶
and represent the continuous f (t) by its Taylor series about t = 0:
f (t) = f (0) + tf
0
(0) +
t
2
2!
f
00
(0) +
t
3
3!
f
000
(0) +
O(t
4
):
Then the integral of interest is, for a < 0 < b,
b
Z
a
f (t)±(t) dt = lim
²
!0
1
²
²=2
Z
¡²=2
·
f (0) + tf
0
(0) +
t
2
2!
f
00
(0) + : : :
¸
dt:
Note
²=2
Z
¡²=2
dt = ²;
²=2
Z
¡²=2
t dt = 0;
²=2
Z
¡²=2
t
2
dt =
²
3
12
and so
b
Z
a
f (t)±(t) dt = lim
²
!0
1
²
·
²f (0) +
²
3
24
f
00
(0) +
O(²
5
)
¸
= f (0):
If, for a < b, either 0 < a or b < 0, then the integral is zero since ±(t) = 0 for t
6
= 0.
¥
F Provide an alternate proof of the sampling property by appealing to the mean value
theorem of the integral.
\Heavy formalism is not required to get across fundamental ideas. If it can't be said simply,
it's not worth being said at all."
Bernard H. Lavenda, Statistical Physics, 1991, p. viii.
\The pursuit of excellence is gratifying and healthy. The pursuit of perfection is frustrating,
neurotic, and a terrible waste of time."
Symmetry
1
symmetric or even f
e
(
¡x) = f
e
(x)
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .x
cos(x)
......... ... ... ... ... ... ... ... ... ... ... ...... ...... ... ...... ...... ...... ... ...... ......... ... ... ... ... ... ... ... ... ... ... ...... ...... ...... ...... ...... ...... ... ...... ... ... ... ... ... ... ... ... ... ... ... ... ...... ...... ...... ...... ... ...... ...... .........asymmetric or odd f
o
(
¡x) = ¡f
o
(x)
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .x
sin(x)
...... ...... ...... ...... ...... ...... ... ... ... ... ... ... ... ... ... ... ... ... ... ...... ...... ...... ...... ...... ...... ...... ... ... ... ... ... ... ... ... ... ... ... ... ...... ... ...... ...... ...... ...... ...... ......... ... ... ... ... ... ... ... ... ... ... ... ...... ...... ...... ...... ...... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .x
x
2
¡ 25
...... ...... ... ...... ...... ...... ...... ...... ... ...... ......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .x
x
... ... ... ... ... ... ... ... ... ... ... ... ... ... .. ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .x
1
8
(35x
4
¡ 30x
2
+ 3)
...... ...... ... ...... ... ...... ...... ...... ... ... ... ... ... ... ...... ...... ... ......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .x
1
2
(5x
3
¡ 3x)
... ... ... ... ... ... ... ... ... ... ... ... ...... ...... ......... ... ... ... ... ... ... ... ... ... ...If a function f (x) is continuous to all orders (the function f (x) and all of its nth derivatives
f
(1)
(x); f
(2)
(x); : : : are continuous) then f (x) can be represented by a Taylor series about
the origin
f (x) =
1
X
n=0
f
(n)
(0)
n!
x
n
:
The Taylor series of an even function will have only even powers of x
f
e
(x) =
1
X
n=0
f
(2n)
(0)
(2n)!
x
2n
and therefore all of its odd derivatives (at the origin) vanish
f
e
(2n+1)
(0) =
d
2n+1
f (x)
dx
2n+1
¯
¯
¯
¯
x=0
= 0:
In particular, note that f
e
0
(0) = 0 (if f
e
(x) is continuous and di®erentiable at the origin).
Similarly, the Taylor series of an odd function will have only odd powers of x
f
o
(x) =
1
X
n=0
f
(2n+1)
(0)
(2n + 1)!
x
2n+1
and therefore all of its even derivatives (at the origin) vanish
f
o
(2n)
(0) =
d
2n
f (x)
dx
2n
¯
¯
¯
¯
x=0
= 0:
In particular, note that f
o
(0) = 0 (if f
o
(x) is continuous at the origin).
Even-Order Derivatives Preserve Symmetry and Odd-Order Derivatives
Re-verse Symmetry
f
0
(t) = lim
¢t
!0
f (t + ¢t=2)
¡ f(t ¡ ¢t=2)
¢t
f
0
(
¡t) = lim
¢t
!0
f (
¡t + ¢t=2) ¡ f(¡t ¡ ¢t=2)
¢t
Even function f
e
(t) = f
e
(
¡t)
f
e
0
(t) = lim
¢t
!0
f
e
(t + ¢t=2)
¡ f
e
(t
¡ ¢t=2)
¢t
f
e
0
(
¡t) = lim
¢t
!0
f
e
(
¡t + ¢t=2) ¡ f
e
(
¡t ¡ ¢t=2)
¢t
= lim
¢t
!0
f
e
(t
¡ ¢t=2) ¡ f
e
(t + ¢t=2)
¢t
=
¡ lim
¢t
!0
f
e
(t + ¢t=2)
¡ f
e
(t
¡ ¢t=2)
¢t
=
¡f
0
e
(t) =
)
d
dt
f
e
(t) is odd.
Similarly,
d
dt
f
o
(t) is even where f
o
(
¡t) = ¡f
o
(t) is an odd function.
Consider the integral of f (t) between limits that are symmetrically disposed about the
origin, that is look at
T
Z
¡T
f (t) dt
where T is some ¯xed, positive constant.
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .
t
f
o
(t)
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .¡T
...... ... ... ... ... ... ... ... ... ... ... ... ...T
T
Z
¡T
f
o
(t) dt = 0
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .t
f
e
(t)
... ... ... ... ... ... ... ... ... ...... ... ...... ...... ...... ...... ... ... ... ... ... ... ...¡T
... ... ... ... ... ... ...T
T
Z
¡T
f
e
(t) dt = 2
T
Z
0
f
e
(t) dt
Any function f (t) (neither symmetric nor antisymmetric) can always be decomposed into
a linear combination of a symmetric plus an antisymmetric part since
f (t) =
f (t) + f (
¡t)
2
+
f (t)
¡ f(¡t)
2
= f
e
(t) + f
o
(t):
Example.
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...t
0
T
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...¡T
T
... ... ... ... ... ... ... .. ... ... ... ... ... ... ... .. ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... .. ... ... ... ... ... ... ..¡T
T
=
+
t
t
F Homework. Decompose the Heaviside unit step function u(t) into the sum of a
symmetric plus antisymmetric signal.
A Note on Mathematical Functions and Units/Physical Dimensions
Consider almost any \ordinary" or \regular" function
2
of an independent variable x, such
as
f (x) = cos(x)
or
sin
2
(x)
or
3x
2
¡ 7x or e
x
:
The argument or independent variable x is always dimensionless. To see this, examine the
Taylor series expansion, such as
f (x) = cos(x) = 1
¡
x
2
2!
+
x
4
4!
¡ : : : :
If x has units such as meters (m), then the sum would be nonsense since the ¯rst term is
dimensionless, the second term has units (m)
2
, the third term has units (m)
4
, etc. Also
note that the function f (x) itself is dimensionless, too.
This may seem strange and somewhat contrary to your previous experience. For example,
you have dealt with a time-domain voltage signal such as
v(t) = 12 cos(t + 45
±
)
or
12 cos(t + ¼=4):
If the time variable t is measured in (s), then there really is a transparent (or hidden)
frequency ! = 1 (s
¡1
) multiplying the t so that
v(t) = V
0
cos(!t + Á):
Now the argument !t + Á of the cosine is clearly dimensionless. The constant V
0
= 12 (V)
carries the dimensions of the voltage signal v(t). Also note that we often say ! has units
of (rad/s), but a radian is not dimensioned: Its use in (rad/s) is simply a reminder that
we are using the angular frequency ! and not the common experimentalist's frequency
f = !=2¼ (cycle/s=Hz).
The operators di®erentiation and integration impart units:
Consider the
time-domain current signal
i(t) = I
0
cos(!t):
In our standard mksC (SI) units, the current amplitude I
0
is in (A), the frequency ! is in
(s
¡1
), and the time t is in (s). Di®erentiation with respect to the dimensioned variable t
imparts the units of 1=t or (s
¡1
) since
di(t)
dt
=
¡!I
0
sin(!t):
We can also see that the di®erential operator has to have units of inverse time by appealing
to the de¯nition of the derivative
df (t)
dt
= lim
¢t
!0
f (t + ¢t)
¡ f(t)
¢t
:
The (s
¡1
) comes from the denominator ¢t that is in (s).
Integration with respect to the dimensioned variable t imparts the units of t or (s) since
t
Z
t
0i(¿ ) d¿ =
t
Z
t
0I
0
cos(!¿ ) d¿ =
I
0
!
£
sin(!t)
¡ sin(!t
0
)
¤
:
Note the good practice of using a dummy time variable for the integration, to avoid
con-fusion with the ¯nal time that is the upper integration limit. We can also see that the
integral operator has to have units of time by appealing to the de¯nition of the integral in
terms of a limit on the Riemann sum
b
Z
a
f (t) dt = lim
N
!1
N
X
n=1
f (t
n
)¢t
n
:
The prime notation for derivatives.
When dealing with a generic function such as
f (t) or g(x), we commonly denote derivatives using the prime
df (t)
dt
= f
0
(t)
and
dg(x)
dx
= g
0
(x):
The prime denotes di®erentiation to the entire argument of the function, as in
f
0
(») =
df (»)
d»
or
f
0
(
~) =
df (
~)
d
~
:
Note that
d
dt
f (») =
df (»)
d»
d»
dt
= f
0
(»)
d»
dt
:
Linear System
x(t)
y(t)
T
... ... ... ... ... ... ... ... ... ... ... ... ... ... .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... ... ... ... ... ... ... ... ... ... ... ... ...Assume the zero-state response y(t) of a system to the input x(t) is described by an
operator T , such that
y(t) = T
fx(t)g:
Another name for T is system transformation rule. Examples might be
T
1
fx(t)g = Ax(t);
T
2
fx(t)g = x(t ¡ t
0
);
T
3
fx(t)g =
d
dt
x(t)
T
4
fx(t)g =
μ
c
2
d
2
dt
2
+ c
1
d
dt
+ c
0
¶
x(t);
T
5
fx(t)g =
t
Z
¡1
x(¿ ) d¿
T
6
fx(t)g = x
2
(t);
T
7
fx(t)g = Ax(t) + B:
Linear System:
If the input/output relationship or system operator or system
transfor-mation rule satis¯es the superposition principle
T
fc
1
x
1
(t) + c
2
x
2
(t)
g = c
1
T
fx
1
(t)
g + c
2
T
fx
2
(t)
g;
then the system is said to be linear.
Time-Invariant System:
x(t)
y(t)
T
... ... ... ... ... ... ... ... ... ... ... ... ... ... .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... ... ... ... ... ... ... ... ... ... ... ... ...x(t
¡ t
0
)
y(t
¡ t
0
)
T
... ... ... ... ... ... ... ... ... ... ... ... ... ... .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... ... ... ... ... ... ... ... ... ... ... ... ...Let the response of a system to the input signal x(t) be the output signal y(t). If the
response to the delayed input x(t
¡ t
0
) is the delayed response y(t
¡ t
0
), the characteristics
of the system did not change in time, and the system is said to be time-invariant.
Note:
In our linear RLC circuit analysis, the equation-of-motion is typically a linear
integrodi®erential equation, with constant coe±cients, such as
... ... ... ... ... ... ... ... ... ..................... ... ... ... ... ... ... ... ... ... ... .. .. .. .. .. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. .. ... ... ...... ...
+
¡
v
g
(t)
R
L
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...C
... ... ... .. .. .. .. .. .. .. .. .. . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. .. .. .. .. .. ... ... ...... ...... ... ... ... ... ... ... . . . . . . . ... .i(t)
... ... ... ... ... ... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...v
g
(t)
i(t)
L
di(t)
dt
+ Ri(t) +
1
C
t
Z
¡1
i(¿ ) d¿ = v
g
(t)
which is easily converted to an ordinary di®erential equation by di®erentiating w.r.t. t so
that
L
d
2
i(t)
dt
2
+ R
di(t)
dt
+
1
C
i(t) = v
0
g
(t):
Again, note the constant coe±cients L, R, and 1=C. If the equation-of-motion of a system
is a di®erential equation with non-constant (i.e. time varying) coe±cients, then the system
is a time-variant system.
Input/Output Relationship for a LTI System
(zero-state or driven response)
x(t)
T
y(t) = T
fx(t)g
... ... ... ... ... ... ... ... ... ... ... ... ... .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... ... ... ... ... ... ... ... ... ... ... ... ...This fundamental concept is easy to see and derive, starting with a little \trick" by way
of the notation. First, invoke the sampling property of the Dirac-delta function to write
x(t) =
1
Z
¡1
x(¿ )±(t
¡ ¿) d¿:
Now exploit the linearity of the operator T and note that T
f¢g operates only on functions
of time t. In particular, T treats x(¿ ) as a constant, and acts only on the time-domain
function ±(t
¡ ¿)
y(t) = T
fx(t)g = T
8
<
:
1
Z
¡1
x(¿ )±(t
¡ ¿) d¿
9
=
;
=
1
Z
¡1
x(¿ )T
f±(t ¡ ¿)g d¿:
The response of our system to the Dirac-delta function or impulse function is called the
system impulse response
and it is denoted by the signal h(t). It is a fundamental
characterization of any linear, time-invariant system.
±(t)
h(t)
T
... ... ... ... ... ... ... ... ... ... ... ... ... ... .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... ... ... ... ... ... ... ... ... ... ... ... ...±(t
¡ ¿)
h(t
¡ ¿)
T
... ... ... ... ... ... ... ... ... ... ... ... ... ... .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... ... ... ... ... ... ... ... ... ... ... ... ...Since the system is also time-invariant,
T
f±(t ¡ ¿)g = h(t ¡ ¿)
and the result above is
y(t) =
1
Z
¡1
x(¿ )h(t
¡ ¿) d¿:
This integral operator that takes two functions of time x(t) and h(t), and produces a third
function of time y(t), is called the convolution integral; we write
Convolution
The convolution operation is not restricted to our above LTI system application. It can
operate on any two (reasonably) arbitrary signals, say f (t) and g(t):
f (t)
~ g(t) =
1
Z
¡1
f (¿ )g(t
¡ ¿) d¿:
Example.
Evaluate s(t) = f (t)
~ g(t) where f and g are causal, decaying exponential
signals
f (t) = e
¡at
u(t)
and
g(t) = e
¡bt
u(t)
with
0 < a < b:
case: t < 0
......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...¿
0
f (¿ ) = e
¡a¿
u(¿ )
...... ... ...... ...... ...... ... ......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...¿
0
g(t
¡ ¿) = e
¡b(t¡¿)
u(t
¡ ¿)
... ... ... ... ... ... ...... ... ... ... ... ... ... ... ... .t
......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...¿
0
f (¿ )g(t
¡ ¿)
... .t
s(t) =
1
Z
¡1
f (¿ )g(t
¡ ¿) d¿ =
1
Z
¡1
0 d¿ = 0
case: t > 0
......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...¿
0
f (¿ ) = e
¡a¿
u(¿ )
...... ...... ...... ...... ...... ......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...¿
0
g(t
¡ ¿) = e
¡b(t¡¿)
u(t
¡ ¿)
... ... ... ... ... ... ...... ... ... ... ... ... ... ... ...t
......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...¿
0
f (¿ )g(t
¡ ¿)
... ... ... ... ... ... ... ... ...t
s(t) =
1
Z
¡1
f (¿ )g(t
¡ ¿) d¿
=
0
Z
¡1
0 d¿ +
t
Z
0
e
¡a¿
e
¡b(t¡¿)
d¿ +
1
Z
t
0 d¿
= e
¡bt
t
Z
0
e
(b
¡a)¿
d¿ =
e
¡at
¡ e
¡bt
b
¡ a
Now combine both expressions (¯rst one for t < 0 and second one for t > 0) into a single
equation valid for all t
s(t) =
e
¡at
¡ e
¡bt
b
¡ a
u(t):
......... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...t
0
s(t)
... ... ... ... ... ... ... ...... ...... ... ...... ...... ... ... ... ... ... ... ... ... ... ... ...t
m
Let's look for the maximum of s(t) analytically: The derivative
s
0
(t) =
be
¡bt
¡ ae
¡at
b
¡ a
u(t) +
e
¡at
¡ e
¡bt
b
¡ a
±(t)
=
be
¡bt
¡ ae
¡at
b
¡ a
u(t)
since
e
¡at
¡ e
¡bt
b
¡ a
¯
¯
¯
¯
t=0
= 0:
Recall that Ã(t)±(t) = Ã(0)±(t). The derivative vanishes at time t = t
m
, so write s
0
(t
m
) = 0
so that
ae
¡at
m= be
¡bt
me
(b
¡a)t
m=
b
a
t
m
=
ln(b=a)
b
¡ a
Another Convolution Example: The Convolution of Two Gaussian Pulses
Evaluate z(t) = f (t)
~ g(t) with f(t) = exp(¡at
2
) and g(t) = exp(
¡bt
2
).
Both f (t) and g(t) are \on" for all time, so we don't have to worry about sketching them
to see when they turn on or o®.
z(t) =
1
Z
¡1
f (¿ )g(t
¡ ¿) d¿ =
1
Z
¡1
e
¡a¿
2e
¡b(t¡¿)
2d¿
= e
¡bt
21
Z
¡1
e
¡[(a+b)¿
2¡2bt¿]
d¿
complete the square
(a + b)¿
2
¡ 2bt¿ =
μp
a + b¿
¡
p
bt
a + b
¶
2
¡
(bt)
2
a + b
z(t) = exp
·μ
b
2
a + b
¡ b
¶
t
2
¸
Z
1
¡1
exp
"
¡
μp
a + b¿
¡
p
bt
a + b
¶
2
#
d¿
let
x =
p
a + b¿
¡
p
bt
a + b
dx =
p
a + b d¿
¿ =
§1
¡!
x =
§1
recall or use (\and it is a trick!"see page 63)
1
Z
¡1
e
¡x
2dx =
p
¼
z(t) = exp
·μ
b
2
a + b
¡ b
¶
t
2
¸
Z
1
¡1
e
¡x
2p
dx
a + b
=
r
¼
a + b
exp
·
¡
μ
b
¡
b
2
a + b
¶
t
2
¸
=
r
¼
a + b
exp
·
¡
ab
a + b
t
2
¸
Yet Another Convolution Example
Evaluate s(t) = f (t)
~ g(t) where f(t) and g(t) are the given rectangular pulses:
f (t) = u(t)
¡ u(t ¡ a) =
½
1;
0 < t < a
0;
t < 0
or
t > a
g(t) = u(t)
¡ u(t ¡ b) =
½
1;
0 < t < b
0;
t < 0
or
t > b
Here the pulse width a of f (t) has been arbitrarily selected to be greater than the pulse
width b of g(t).
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... . ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...... ... ... ... ... ... ... ...t
0
a
1
f (t)
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... . ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...... ... ... ... ... ... ... ...t
0
b
1
g(t)
s(t) = f (t)
~ g(t) =
1
Z
¡1
f (¿ )g(t
¡ ¿) d¿
Since the arguments of our individual signals are ¿ (and a shifted, rotated version of ¿ )
in the convolution integral, let's redraw our functions f and g as functions of the dummy
variable ¿ .
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... . ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...... ... ... ... ... ... ... ...¿
0
a
1
f (¿ )
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... . ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...... ... ... ... ... ... ... ...¿
0
b
1
g(¿ )
Let's leave f (¿ ) alone (as in the version of the convolution integral above), and shift and
rotate g(¿ ) (as it appears in the version of the convolution integral above).
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... . ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...... ... ... ... ... ... ... ...
