Informer 논문, 코드보며 이해해보기

논문

 

 

코드

1) ProbSparse self-attention

parser.add_argument('--attn', type=str, default='prob', help='attention used in encoder, options:[prob, full]')

2) Self-attention distilling

conv1d, maxpooling 사용하여 more focused feature map 형성

parser.add_argument('--distil', action='store_false', help='whether to use distilling in encoder, using this argument means not using distilling', default=True)

3) Generative Inference

모델이 decoder에서 결과를 만들 때 label_len만큼 이전 데이터를 참고한다

parser.add_argument('--label_len', type=int, default=48, help='start token length of Informer decoder')

parser.add_argument('--embed', type=str, default='timeF', help='time features encoding, options:[timeF, fixed, learned]')

 

추가 변경해야 하는 코드

1. data features 개수, target, ...

2. data split 기준 (border1s, border2s)

3. 데이터 간격이 15분이면 freq='t'; 1시간이면 freq='h'

4. 이외 hyperparameters...