返回課程列表
[ELEC2600]神龟
課程時間:2019年S季
授課教授:SHI, Bertram Emil我覺得教授:不知道
評分標準:assignment 10% + midterm 35% + final 55%
這門課的Grade:Grade神/較好内容:
看看notes,tuto,extreme question的题。教材上的题可以做一做,比他给的还是要难一些。midterm和final考接近满分就有A+
[ELEC2600]大部分内容属于直觉
課程時間:2019年Spring
授課教授: SHI, Bertram Emil
我覺得教授:讲课很无聊,完全念notes,notes还是神龟写的。我甚至有点怀疑bert并没有怎么提前准备上课内容。去了几次就没去过了。期末前翻看lecture video,发现一样无聊,于是放弃bert选择自学。
評分標準:assignment 10%(4*2.5%)+ midterm 35% + final 55%
這門課的Grade:还行,期中期末都是90分左右(满分100),作业扣分可以忽略不计。拿了A。
整个课程就只有最后的随机过程是不能靠直觉做题的。但随机过程也不怎么考,因为他也没怎么讲。
[ELEC2600]Probability and Random Processes in Engineering
課程時間:2016年F季
授課教授:SONG Shenghui
我覺得教授 超赞
授课TA:ZHANG Xuning
這門課的Grade:Grade神
我覺得這門課
主要讲概率和Random Process的,前半学期讲单变元的概率(离散的和连续的),后半学期讲多变元和Random Process。
期中期末都是选择题+解答题,期中一个半小时课上考,期末三个小时。期中允许单面A4的hand written cheat sheet,期末允许双面的(所以直接把期中的找出来在背面继续写就好了)。解答题全是tutorial notes上面题的改编,tutorial notes上面有很详细的解答格式,按照解答格式去考midterm和final就好。选择题都是单选考概念,所以考前把所有lecture notes里面所有的definition(不包括example里面的definition)全看一遍就好,能记住的都记住。
至于教授,SONG和honor堂的MCKAY都是用hand written notes,而且SONG会每节课发一个outline给大家,可以按照他上课讲的去填充outline里面的空。个人很喜欢SONG的课,他是第一个让我能一个半小时课不玩手机的professor(大雾)。另外ppt也会发,不过两个professor上课都不用,可以作为预习材料看看。
ZHANG Xuning是个超负责任的TA,课后很快就会把hand written notes发到canvas上面并且发announcement提醒。而且在她的带领下,这个课判卷超快。下午一点半考完midterm,傍晚六点出成绩;中午十一点半考完final,下午补觉在四点五十醒来时恰好收到final出成绩的邮件。。。
[ELEC2600]九点堂竟然还可以保持精神。。。
課程時間:2018年fall季
授課教授:Prof Song
我覺得教授:不用说了吧,人生导师,每次上堂都有人生道理分享,下堂后还会分享点小文章给大家;非常nice,有不懂的地方可以随便预约去找他问问题,解释得非常清晰
評分標準:年年都差不多一样,重点是absolute grading
這門課的Grade:Grade神,一堆A+1.由于读的是2600,非H,没有任何证明题,考试可以说是非常轻松
2.考试内容与assignment极为相似,完全没必要多刷pp,小心一点就足够完事了
3. assignment年年都有变化,这点可以说是很厉害了(考试前可以去刷往年的assignment,有奇效);相反,exam sample 还是8年前的版本,完全没有参考价值
4.可以做cheat sheet;这点可以说是非常友善了,可以少背很多东西
5.关于MC,其实别瞎担心,有上课基本会做八成
6.改卷速度真的是我见过最快的,不超过24小时
[ELEC2600H]没考proof
課程時間:2016年Fall季
授課教授:MCKAY, Matthew Robert
ZHANG, Xuning
這門課的Grade:好 因为这是 EE department 的课; grading scheme里homework 增加了10%, final 减少了10%; 这门课在开学前说总评一样的话给的grade会至少和2600一样好,2600是宋胜辉教的
我覺得這門課和2600区别在homework和final上。进度快,期中的时候和2600试卷一样,考前两part,但已讲完Lecture 12
Part III: Multiple Random Variables
Lecture 10: Pairs of Discrete Random Variable
Lecture 11: Pairs of Continuous Random Variable
Lecture 12: Independence, Joint Moments
Lecture 13: Conditional Probability, Conditional Expectation
Lecture 14: Function of 2 Random Variables
Lecture 15: Multiple Random Variable and Expectation
Lecture 16: Jointly Gaussian Random Variables
Lecture 17: Laws of Large Numbers
Lecture 18: Central Limit Theorem and Characteristic Function
Part IV: Stochastic Process
Lecture 20: Definition of a Random Process
Lecture 21: Mean and Autocorrelation of Random Process
Lecture 22: Discrete Time Random Process
Lecture 23: Continuous Time Random Process
Lecture 24: Stationary Random Process, Ergodic Process
这个东西在期末考了,试卷上没给
判卷速度很快,是comp2711的两倍,11:30AM考完, 接近6:00PM出的分。(不过math3121更快,三小时之内出分)。判错题的情况还是很可能遇上的,所以最好check paper。 homework也可能判错
[ELEC2600]非常值得上的概率课
課程時間:2016年Spring季
授課教授:ZHANG, Jun
我覺得教授 可爱的大陆口音教授
授课TA:ZHANG, Xuning
TA极好,是难得的好TA
這門課的Grade:Grade神
我覺得這門課
这门课比MATH2411高到不知道哪里去了,我是CSE专业的,这门课虽然是ELEC,但其内容个人觉得对整个Enginering非常有用。虽然难度不大,但一些非常实用的概念都提到了。我觉得这门课的真正意义在于,它可以被非常容易地运用到其他工科课程里,如果你搞研究,比如UROP涉及到一定量的数据处理,误差分析,你都会发现这门课给力你许多重要帮助。
先从误差的概率分析说起,在工程问题中,如果你要设计一个算法,去测量某个参数,你必须考虑采样的过程。比如我根据接受的信号强度衰减量dR测信号源距离D,dR和D其实是有一个确定的已知关系D=f(dR)的,我必须考虑dR的测量误差。小白们会说,多发几次信号取dR的平均值即可。而学了ELEC2600的同学应该会这样说:
假设:X是一个随机变量,其值为每次试验所测到的信号强度衰减量, 真实信号强度衰减量为dR,则 X=dR+N, N为随机变量,代表环境噪音。N 是iid(independent identical distrubution),即每次试验中的N互相独立
依据中心极限定理,假设N服从正态分布,平均值为0,方差为s^2
那么假设我们做了m次试验,结果为X1,X2,...Xm
定义 L(d)=P(D=d|X1,X2,X3,...Xm) 就是在测得结果为X1,...Xm的条件下,距离D=d的概率,我们要找到一个d使得L(d)最大
由于D=f(dR)
定义L(dR')=P(dR=dR'|X1,X2,X3,...Xm) 就是在测得结果为X1,...Xm的条件下,距离dR=dR'的概率,我们要找到一个dR'使得L(dR')最大,这个问题等价为上一个问题。
L(dR')=P(dR=dR'|X1,...,Xm)=P(X1,...,Xm|dR=dR')P(dR=dR')/P(X1,...,Xm),由于P(X1,...,Xm)与dR'无关
最大化L(dR')等价于最大化P(X1,...,Xm|dR=dR')P(dR=dR'),由于根据假设Xi=dR+Ni,所以在dR=dR'的条件下
P(X1,...,Xm|dR=dR')P(dR=dR')=P(X1=dR'+N1,X2=dR'+N2,...,Xm=dR'+Nm)P(dR=dR')=P(N1=X1-dR',...,Nm=Xm-dR')P(dR=dR'),由于假设了N 是iid,所以
P(N1=X1-dR',...,Nm=Xm-dR')P(dR=dR')=P(N1=X1-dR')P(N2=X1-dR')...P(Nm=X1-dR')P(dR=dR'),由于P(dR=dR')是常数,因为在没有任何条件的情况下,dR等于任何数的情况相同。所以,最大化L(dR')等价于最大化P(N1=X1-dR')P(N2=X1-dR')...P(Nm=Xm-dR')
根据假设P(Ni=Xi-dR')=1/((2pi)^0.5*s)*exp(-(Xi-dR')^2/(2s^2)) 写的比较难看,总之就是高斯分布那条啦。
两边取自然对数得
ln(L(dR'))=ln(P(N1=X1-dR'))+...+P(Nm=Xm-dR')=mln(1/((2pi)^0.5*s))-((X1-dR')^2/(2s^2)+...+(Xm-dR')^2/(2s^2))
所以我们要最小化(X1-dR')^2+...+(Xm-dR')^2=X1^2+...Xm^2+mdR'^2-(2dR'X1+2dR'X2+...+2dR'Xm)
ln(L(dR')对dR'求导并令导数为0得2mdR'-2X1-2X2-...-2Xm=0 =>dR'=(X1+X2+...+Xm)/m
到这了,ELEC2600的同学放下笔,微笑着说,当取dR'=(X1+X2+...+Xm)/m时,dR'是真实值的概率最高,小白正要一巴掌扇过去的时候,
ELEC2600的同学又拿起了笔说,我再帮你推推m要多大的时候,我们有99%的信心说|(X1+X2+...+Xm)/m-dR|<0.01
还是假设N服从正态分布 N~N(0,s^2)
令S(m)=(X1+X2+...+Xm)则S(m)=(mdR+N1+N2+...+Nm)
求S(m)的期望E(S(m))=E(mdR+N1+N2+...+Nm)=mdR+E(N1)+...+E(Nm)=mdR
求S(m)的方差var(S(m))=var(mdR+N1+N2+...+Nm)=var(N1+N2+...+Nm)由于根据假设Ni 为iid COV(Ni,Nj)=0 (i!=j)
所以var(S(m))=var(N1)+...+var(Nm)=m*s^2
令M(m)=S(m)/m
则E(M(m))=dR, var(M(m))=s^2/m
利用中心极限定理,M(m)是一系列iid分布的叠加,那它自己接近正态分布,所以M(m)~N(dR,s^2/m)
我们要求
P(|(X1+X2+...+Xm)/m-dR|<0.01)>=0.99
P(|M(m)-dR|<0.01)=P(-0.01<m(m)-dR<0.01)
由于(M(m)-dR)/(s/m^0.5)~N(0,1) 我们可以用Qfunction去解,即
P(-0.01/(s/m^0.5)<(M(m)-dR)/(s/m^0.5)<0.01/(s/m^0.5))=1-2*Q(0.01/(s/m^0.5))))>=0.99
Q(0.01/(s/m^0.5)))<=0.005 近似地0.01/(s/m^0.5))>=2.65
到这了,ELEC2600的同学放下笔,微笑着说, 所以,m>=(70225s^2), 即样本数为噪音方差的70225倍的时候可以满足刚才的要求,
小白正要一巴掌扇过去的时候,ELEC2600的同学又拿起了笔说我们用了中心极限定理,假设了M(m)服从正态分布,但如果假设不成立,M(m)不服从正态分布呢?我们来看看当M(m)为任意分布的时候,m的取值:
还是有E(M(m))=dR,var(M(m))=s^2/m
我们要求
P(|(X1+X2+...+Xm)/m-dR|<0.01)>=0.99
根据ChebyshevInequality
P(|M(m)-dR|>=a)<=s^2/m/(a^2)
P(|M(m)-dR|1-s^2/m/(a^2)
所以P(|M(m)-dR|<0.01)>1-s^2/0.0001m>=0.99
m>=1000000s^2
到这了,ELEC2600的同学放下笔,微笑着说, 所以,m>=(1000000s^2), 即样本数为噪音方差的1000000倍的时候可以满足刚才的要求,
小白崩溃,立志要上ELEC2600
当然上面只涉及到ELEC2600的一小部分,也是比较有用的一部分,其中的maximizelikelihood思想广泛运用在机械学习领域中。
如果我的推导有误,欢迎指正哈!
ELEC2600的课本也是非常理想的习题资源,可以当练习刷。考试可以带cheatsheet,当然理解例题的思路十分重要。
这个课的TA非常好,每次tuto都能见识到很多超好用的技巧,非常值得上,我有时一周两节相同的tuto都跑去听,那些习题很有代表性,值得反复捉摸。教授讲课也还可以,会做很多课堂推导,只是语气比较沉闷,我有几次睡着了。。。当然课件讲的比较清晰,课后可以补。作业量比较大,但占的比重少,偶尔错一点点也没太大关系。
[ELEC2600]令人感动的教授
课程时间:2014年秋季
授课教授:Song Shenghui
我觉得教授:真是好
这门课的Grade:Grade神/较好
Song Shenghui 素有'送神龟'美名,ELEC又向来好龟,总结起来这门课的成绩好到可想而知。A+感觉至少有个10%?
当然推荐这门课不完全因为龟好,毕竟科大可以刷龟的课真的很多。
首先,这门课教的是 'Probability and Random Processes in Engineering',也就是基础的统计和概率。感觉深度、广度都非常适中,从非常基础的relative frequency一直讲到最后的random process,给概率学打下了很好的基础。作为上过商院ISOM2500, ISOM3540,工院ELEC2600,旁听过理院MATH2411,2421的人来说,觉得这门课的教授应该是讲的最好也是最清楚的。对于必须要读ISOM3540这门神坑课的RMBI和qfin,比较建议学了这门课再去。
其次,教授每节课的准备真的是非常用心。光是Lecture就有3份notes - 一份是PPT,包括例题、公式等;一份是每节课的概要,会留白给你上课做笔记;还有一份是课后上传的Handwritten notes,既教授notes的扫描版,也就是他上课在黑板上的板书。基本有了这三份,对于课程的理解以及课前的预习复习就完全可以上手了。老宋跟我们说,他所有概率的推导部分上课前都会自己做三遍,真的是如谭书豪所说的‘科大最负责的教授’了。
最后,课程的节奏和结构做的很好 - 整个course基本被切成了4大部分,然后每个部分讲完的时候会有一份Assignment,基本上好好做完就能完全理解啦。建议作业出来答案之后大家对一对自己的答案,有时候可能会有不同的解法。
哦对了,课程的一些部分会有一些Multivariable calculus的运用,没有学过的话稍微自学一下,只要会double intergral就可以了。
[ELEC2600]令人感动的教授
课程时间:2014年秋季
授课教授:Song Shenghui
我觉得教授:真是好
这门课的Grade:Grade神/较好
Song Shenghui 素有'送神龟'美名,ELEC又向来好龟,总结起来这门课的成绩好到可想而知。A+感觉至少有个10%?
当然推荐这门课不完全因为龟好,毕竟科大可以刷龟的课真的很多。
首先,这门课教的是 'Probability and Random Processes in Engineering',也就是基础的统计和概率。感觉深度、广度都非常适中,从非常基础的relative frequency一直讲到最后的random process,给概率学打下了很好的基础。作为上过商院ISOM2500, ISOM3540,工院ELEC2600,旁听过理院MATH2411,2421的人来说,觉得这门课的教授应该是讲的最好也是最清楚的。对于必须要读ISOM3540这门神坑课的RMBI和qfin,比较建议学了这门课再去。
其次,教授每节课的准备真的是非常用心。光是Lecture就有3份notes - 一份是PPT,包括例题、公式等;一份是每节课的概要,会留白给你上课做笔记;还有一份是课后上传的Handwritten notes,既教授notes的扫描版,也就是他上课在黑板上的板书。基本有了这三份,对于课程的理解以及课前的预习复习就完全可以上手了。老宋跟我们说,他所有概率的推导部分上课前都会自己做三遍,真的是如谭书豪所说的‘科大最负责的教授’了。
最后,课程的节奏和结构做的很好 - 整个course基本被切成了4大部分,然后每个部分讲完的时候会有一份Assignment,基本上好好做完就能完全理解啦。建议作业出来答案之后大家对一对自己的答案,有时候可能会有不同的解法。
哦对了,课程的一些部分会有一些Multivariable calculus的运用,没有学过的话稍微自学一下,只要会double intergral就可以了。
[ELEC2600]Probability
课程时间:2014年Fall季
授课教授:宋胜辉
我觉得教授超级好
这门课的Grade:Grade神
上面同学说了Lecture 1只有个位数出席,我们这堂可是每堂都爆满的!原因如下:
1. 每堂都有教授准备的lecture notes(要自己填空的)
2. 讲课不用 PPT,全用白板讲课,而且准备的非常充分
3. 课后会有他讲课用的手写讲义,很有用
重点在于老宋人简直好,真的太平易近人的教授了,就像一个超好的学长。这是我上老宋的第三门课了,为了enroll他的堂拖到year 3才上这门课(宋堂一向比较难enroll)
这门课难易适中,4次homework,1次midterm,1次final,很好的一门课。强烈推荐宋堂
[ELEC2600]Probability and Random Processes in Engineering
课程时间:2014年Fall
授课教授:Raymond Louie
我觉得教授 很好
这门课的Grade:Grade神/较好
这是数学课,内容包括probability, single random variable, multiple random variable, random process。不知道宋胜辉的那个堂什么情况,反正这个堂的lecture长期只有个位数的人出席,上得非常爽。考试是若干选择和若干大题。选择题考概念,大题的题型和难度都和作业差不多。教授和TA都很负责。4分课,但workload一点都不大,能学到东西。
[ELEC2600]非常负责的教授
课程时间:2012年Fall季
授课教授:Song Shenghui
Grade:Grade较好
Prof.是我见过最负责的,教会了我非常多的东西
课程因为学期短内容比较少,比较可惜。
听说下一年就没有了,真心地感到遗憾
[ELEC2600]Probability and Random Process
课程时间:2008年f季
授课教授:Albert Wong K.S.
Grade:Grade神
这个prof人不错,巨能写,你给他发一个问题他就能写一篇essay回给你,然后过几个小时你又能收到他意犹未尽的第二篇essay...不过可惜的是整个学期都没什么同学愿意这样提问...lecture讲得很慢很慢很细很细,我们这年到最后连markov chain都来不及讲就匆匆收尾...囧...但是平心而论,还是讲得不错的...而且grade给得很好...Quiz两次,没midterm,Final可以带Cheat Sheet
[ELEC2600]Probability and Random Processes in Engineering
课程时间:200X年X季
授课教授:Bert SHI
Grade:不详(不太好评价)
个人觉得是很重要的课,是后面很多关于communication课的基础,需要好好学(IC design的可以不选这个课吧).最好在year1上掉. 不但要看notes, 也需要看一下书, 数学内容(微积分)较多.考试openbook
PS:Bert的英语很性感很好听:)