快速傅里叶变换(FFT)学习

首先,在写这篇博客之前,我还没有完全学会FFT。
先把会的部分打好,加深一下记忆(也可以说是做笔记吧)。
初三了,还不会FFT,要退役喽……


多项式乘法

点开这篇博客之前,你就应该知道,FFT是用来求多项式乘法的。
什么是多项式,什么是多项式乘法?
不讲。初一内容。
如果要求多项式乘法,有一个非常显然的做法,就是暴力。
时间复杂度是O(N2)O(N^2)的,很朴素。
然而FFT这个东西可以将其复杂度优化到O(NlgN)O(Nlg N)


点值表示法

对s于一个多项式A(x)A(x),最朴素的表示方法长这样:
A(x)=i=0naixiA(x)=sum_{i=0}^n a_i*x^i
然后,有另一种点值表示法,就是用nn个点来表示。
对于一个点(x,y)(x,y),可以理解成,将xx带入多项式中,求得的结果是yy
其实这nn个点不一定是真实存在的,因为在FFT中我们用的是复数……
那么,我们可以通过这nn个点的坐标,然后推出原来的式子。
证明?我觉得这个感性理解一下就好了。
可以看作用nn个点,定一个nn次函数。

然后,对于两个多项式相乘,假设两个点为(x,y1)(x,y_1)(x,y2)(x,y_2)
那么它们相乘的结果就是(x,y1y2)(x,y_1*y_2)
这个其实也挺好理解,因为这些多项式可以看成函数。


算法的大概流程

一、点值运算

就是将多项式的形式转化成点值表示法。

二、逐项相乘

三、插值运算

将多项式由点值表示法转化回去。


nn次单位根

定义

有一个方程:
xn=1x^n=1
这个方程,人们看到了,肯定会毫不犹豫地想到x=1x=1。如果nn是偶数,还可以是1-1
但是,如果我们把范围延伸到复数,那么,就有nn个根。
我们可以画一个图看一下。
在这里插入图片描述
(图片摘自YL的PPT。吐槽一下,为什么和我认识的顺序相反?不过……也没有多大关系,本质上是一样的。
我们可以发现,这些根围成了一个圆。
这个圆被划分成了nn等分。
那么它们究竟是多少呢?

首先,
我说一说复数的乘法:
对于一个复数a+bia+bi,其实有另一种写法:l(cosθ+isinθ)l(cos heta +isin heta)
这种写法被称为三角表示法,可以用图形理解一下,
ll叫模长,表示这个点到原点的距离。
θ heta是原点发出经过它的射线和xx洲的正半轴的夹角(逆时针)。
然后,对于两个复数相乘,就相当于是模长相乘,夹角相加
证明?我不会证。

当初,在某一位大佬讲FFT时,我问怎么证,他简单地化了一下式子,我问最后一步是为什么,怎么证。他说,很简单,用泰勒级数展开就行了。
我:……

总之就这么用就好了。

那么我们可以发现,如果模长都为11,乘起来是不会变的,只是夹角相加。所以有的时候,它会在转若干次的时候转到(1,0)(1,0)
所以说,我们可以发现上面的这些点统统可以用ωkomega^k来表示。
因为它们围成了一个圆,上一个绕着原点转到某一个固定的角度,就得到下一个。从(1,0)(1,0)开始,转nn次,就会回来。
我们记ωn=ωn1omega_n=omega_n^1,为nn次单位根

性质

1.群的性质ωnjωnk=ωn(j+k)mod  nomega_n^jomega_n^k=omega_n^{(j+k)mod n}

这条性质比较显然。因为ωn0=ωnnomega_n^0=omega_n^n
也可以通过图来理解一下。

2.消去引理ωdndk=ωnkomega_{dn}^{dk}=omega_{n}^{k}

这个东西也可以通过图来理解一下。

3.折半引理ωnk+n2=ωnkomega_n^{k+frac{n}{2}}=-omega_n^k

这个东西还是可以画图理解一下,当然其实也很好证明。
只需要将等式的两边分别平方一下,易得它们的平方相等。
又显然它们不相等(嗯,的确显然)
所以它们一定互为相反数。
好草率的证明啊……

4.求和引理:nkn mid kj=0n1(ωnk)j=0sum_{j=0}^{n-1}{left(omega_n^k ight)}^j=0,否则j=0n1(ωnk)j=nsum_{j=0}^{n-1}{left(omega_n^k ight)}^j=n

这个有点复杂,当然,也仅仅是有点复杂……
等比数列求和在复数显然也适用,所以我们直接简单粗暴地强行搬过来:
j=0n1(ωnk)j=(ωnk)n1ωnk1=(ωnn)k1ωnk1=0sum_{j=0}^{n-1}{left(omega_n^k ight)}^j \ =frac{{left(omega_n^k ight)}^n-1}{omega_n^k-1} \ =frac{{left(omega_n^n ight)}^k-1}{omega_n^k-1} \ =0

用处

用处?
多亏了它奇怪的性质,所以才可以用来玩FFT。
这个性质有什么用,看看后面就知道了。
据说,NTT似乎和FFT的原理差不多,只不过用的是某些模数的特殊性质。所以常数很小。


DFT

先不要说FFT,从简单的入手。
之前说过这个东西是用来将普通的性质转换成点值表示法。
我们可以将(ωn0,ωn1,......,ωnn1)(omega_n^0,omega_n^1,......,omega_n^{n-1})带入A(x)=i=0n1aixiA(x)=sum_{i=0}^{n-1}a_i x^i
得到(y0,y1,......,yn1)(y_0,y_1,......,y_{n-1})
显然,yk=i=0n1aiωkiy_k=sum_{i=0}^{n-1}a_iomega^{ki}

IDFT

再讲IDFTIDFT
我们现在已经知道了A(x)=i=0n1aixiA(x)=sum_{i=0}^{n-1}a_i x^i的DFT为(y0,y1,......,yn1)(y_0,y_1,......,y_{n-1})
我们再设B(x)=i=0n1yixiB(x)=sum_{i=0}^{n-1}y_i*x^i
我们将(ωn0,ωn1,.....,ωn(n1))({omega_n^0,omega_{n}^{-1},.....,omega_{n}^{-(n-1)}})带入B(x)B(x),又得到一个DFT:(z0,z1,......,zn1)(z_0,z_1,......,z_{n-1})
然后推一波式子:
zk=i=0n1yi(ωnk)i=i=0n1(j=0n1aj(ωni)j)(ωnk)i=j=0n1aj(i=0n1(ωnjk)i)=nakz_k=sum_{i=0}^{n-1}y_i left(omega_n^{-k} ight)^i \ =sum_{i=0}^{n-1}left(sum_{j=0}^{n-1}a_j left(omega_n^i ight)^j ight) left(omega_n^{-k} ight)^i\ =sum_{j=0}^{n-1} a_j left(sum_{i=0}^{n-1}left(omega_n^{j-k} ight)^i ight) \ =n a_k
其中最后一步用了前面所说的求和引理。
所以ak=zkna_k=frac{z_k}{n}
你们现在说,为什么要用这些奇奇怪怪的nn次单位根?如果没有这些奇妙的性质,那么在这时候转换就很不方便了。
我们发现,DFT和IDFT的求法实际上是差不多的(可以套用同一个板子),只是要带进去的东西不同。

FFT

其实FFT是DFT的优化。
DFT的时间复杂度是O(n2)O(n^2)的,很慢(人家傅里叶才懒得帮你算时间复杂度呢!)。
所以我们可以用分治的方法来将其优化到O(nlgn)O(nlg n)
对于一个多项式A(x)=i=0n1aixiA(x)=sum_{i=0}^{n-1}a_i x^i,我们考虑用分治的方式来计算它的DFT。
A0(x)=a0+a2x+......+an2xn21,A1(x)=a1+a3x+......+an1xn21A_0(x)=a_0+a_2*x+......+a_{n-2}*x^{frac{n}{2}-1},A_1(x)=a_1+a_3*x+......+a_{n-1}*x^{frac{n}{2}-1}
那么我们可以得到A(x)=A0(x2)+xA1(x2)A(x)=A_0(x^2)+xA_1(x^2)
k<n2k<frac{n}{2},则
A(ωnk)=A0(ωn2k)+ωnkA1(ωn2k)=A0(ωn2k)+ωnkA1(ωn2k)A(ωnk+n2)=A0(ωn2k+n)+ωnk+n2A1(ωn2k+n)=A0(ωn2k)+ωnk+n2A1(ωn2k)=A0(ωn2k)ωnkA1(ωn2k)A(omega_n^k)=A_0(omega_n^{2k})+omega_n^k A_1(omega_n^{2k}) \ =A_0(omega_frac{n}{2}^k)+omega_n^k A_1(omega_{frac{n}{2}}^k) \ A(omega_n^{k+frac{n}{2}})=A_0(omega_n^{2k+n})+omega_n^{k+frac{n}{2}}A_1(omega_n^{2k+n}) \ =A_0(omega_n^{2k})+omega_n^{k+frac{n}{2}}A_1(omega_n^{2k})\ =A_0(omega_{frac{n}{2}}^k)-omega_n^kA_1(omega_{frac{n}{2}}^k)
我们可以递归地求下去,每次将其分成两半。那么这样子显然是O(nlgn)O(n lg n)的。
(当然,在一开始就要将nn补成2次幂的形式,不然会出现不能分成两个相等的部分的尴尬情况。)

FFT的常数优化

如果真的像上面一样递归处理,那就T飞了。
常数太大了啊!
所以说,我们要对它进行优化。

FFT中位置的变换

设一开始的编号为0,1,2,3,4,5,6,7,变换后的编号为0,4,2,6,1,5,3,7
可以将所有的东西用二进制来搞一搞,然后你就会发现:
对应的位置的二进制形式居然是相反的!
是不是很神奇?
接下来我来简略的证明一下(当然还是感性理解):
每一次将一大块的东西分成两个小块分别处理。
这时候相当于将编号的第00位为00的放左边,为11的放右边。
可以思考一下,如果将这个新的顺序重新编号,那么,左边的最高位都是00,右边的最高位都是11
所以相当于是最低位和最高位换了一下。
然后再递归向下处理,后面的东西也是一样的。
其实还挺理性的,不是吗?
那么我们可以通过这个结论,来搞一个自底向上的算法,然后就不需要递归,多么舒服!

蝴蝶变换

好高大上的一个名字,是不是?
但实际上,它就是我们再前面讲过的东西:
A(ωnk)=A0(ωn2k)+ωnkA1(ωn2k)A(ωnk+n2)=A0(ωn2k)ωnkA1(ωn2k)A(omega_n^k) =A_0(omega_frac{n}{2}^k)+omega_n^k A_1(omega_{frac{n}{2}}^k) \ A(omega_n^{k+frac{n}{2}}) =A_0(omega_{frac{n}{2}}^k)-omega_n^kA_1(omega_{frac{n}{2}}^k)
可以发现,对于左边的两个东西,转移到它们的两个量是可以一起用的。
如果你画一张图来理解一下,那么你就会发现,这个东西真的很像蝴蝶。
真的好像哟……
这个东西在程序实现的时候直接用上就好了。
在我的印象中,蝴蝶变换本来就是FFT的转移,所以告诉我,为什么还有不用蝴蝶变换的非递归FFT程序?可能是我智商太低,理解不了更差的解法(手动滑稽)。


补充

二进制形式相反的怎么弄?

不要想得太多,直接预处理,暴力不会爆炸。
时间复杂度还是一样的……

nn次单位根怎么算?

数形结合……
因为这个半径为11的圆被划成了nn等分。
所以每个角就是2πnfrac{2pi}{n}
那么ωn=cos2πn+itan2πnomega_n=cosfrac{2pi}{n}+i anfrac{2pi}{n}
这是一种比较好理解的方法。
但是还有一种很变态,很奇怪,很强大的方法:
ωn=e2πinomega_n=e^{frac{2pi i}{n}}
这是什么鬼???
据说脑洞数学家欧拉,他研究出来这么一个玩意:exi=cosx+itanxe^{x i}=cos x+i an x
所以说e2πin=cos2πn+itan2πne^{frac{2pi i}{n}}=cos frac{2pi}{n}+i an frac{2pi}{n}对吧……
可是原理是什么……还有,如果直接打上这种东西,那么你要用C++自带的<complex>啊!

复数的实现

刚刚还提起过,C++自带了一个叫<complex>的库。
其实自己重载运算符打得更加舒服……吧!
至少我相信手打绝对比自带的快!

注意精度问题

这个不用说了吧……


代码实现(易懂&常数大版)

using namespace std;
#include <cstdio>
#include <cstring>
#include <algorithm>
#include <cmath>
#define N 1000000
#define PI 3.14159265358979
struct com{
	double a,b;
	com(double _a=0,double _b=0){a=_a,b=_b;}
};
inline com operator+(const com &x,const com &y){return com(x.a+y.a,x.b+y.b);}
inline com operator-(const com &x,const com &y){return com(x.a-y.a,x.b-y.b);}
inline com operator*(const com &x,const com &y){return com(x.a*y.a-x.b*y.b,x.a*y.b+x.b*y.a);}
inline com operator/(const com &x,const double y){return com(x.a/y,x.b/y);}
int n,m,an,bn;
com a[1<<21],b[1<<21],c[1<<21];
int re[1<<21];
inline void init();
inline void fft(com*,int);
int main(){
	scanf("%d%d",&an,&bn);
	for (int i=0;i<=an;++i){
		int tmp;
		scanf("%d",&tmp);
		a[i]=com(tmp,0);
	}
	for (int i=0;i<=bn;++i){
		int tmp;
		scanf("%d",&tmp);
		b[i]=com(tmp,0);
	}
	for (n=1,m=0;n<=an+bn;n<<=1,m++);//开够足够的n
	init();
	fft(a,1);
	fft(b,1);
	for (int i=0;i<n;++i)
		c[i]=a[i]*b[i];
	fft(c,-1);
	for (int i=0;i<=an+bn;++i)
		printf("%d ",int(c[i].a+0.5));//精度问题……你会发现有一种很尴尬的情况中,输出实数会出现-0
	return 0;
}
inline void init(){//计算每个编号用二进制翻转过来是是什么(想不到什么直接用位运算的巧妙方法)
	for (int i=0;i<n;++i){
		int tmp=0;
		for (int j=0,k=i;j<m;++j,k>>=1)
			tmp=(tmp<<1)+(k&1);
		re[i]=tmp;
	}
}
inline void fft(com* a,int flag){
	for (int i=0;i<n;++i)
		if (i<re[i])
			swap(a[i],a[re[i]]);
	for (int i=1;i<n;i<<=1){//i表示从长度为i的区间转移到长度为i*2的区间
		com wn(cos(flag*PI/i),sin(flag*PI/i));//求主i*2次单位根(注意是i*2次!)
		for (int j=0;j<n;j+=i<<1){//分段来枚举
			com wnk(1,0);
			for (int k=j;k<j+i;++k,wnk=wnk*wn){
				//以下为蝴蝶变换
				com x=a[k],y=wnk*a[k+i];
				a[k]=x+y;
				a[k+i]=x-y;
			}
		}
	}
	if (flag==-1)
		for (int i=0;i<n;++i)
			a[i]=a[i]/n;
}

至于常数小的代码,我真的不会码……
我的这个代码在洛谷的模板题上跑2000+ms,而题目说最好在1000ms以内通过。
审视了半天,没有发现什么优化了之后有特别大的作用的修改方法。
然后,我试着用YL标程里的方法打一遍。YL的标程中FFT的枚举方式和我的不太一样。
我也是着这样打一遍,然后我就发现更慢了……可能是因为他在枚举的过程中没有一个紧接着一个枚举(因为有高速缓存,所以顺序访问数组自然会比跳着访问数组要快)
自己打的程序常数终究是比人家的大啊……


参考资料

FFT详解 - 总理同学的编程尝试 - CSDN博客
小学生都能看懂的FFT!!! - 胡小兔 - 博客园

原文地址:https://www.cnblogs.com/jz-597/p/11145253.html